10代は
長唄と
三味線の師匠として、深川の芸者に稽古をつける。長唄名は二代目
杵屋勝丸(きねや かつまる)。1954年のアメリカ巡業中に、撮影所で紹介された
ジェームス・ディーンに感化されて映画俳優になることを決意し、転向。23歳の時に
大映京都撮影所と契約、
1954年の『花の白虎隊』で
デビュー。大映社長
永田雅一は勝を可愛がり、白塗りの
二枚目として
市川雷蔵に次ぐ役者として熱心に主要な役を与え続けたが、さっぱり人気は出なかった。同年代の雷蔵、
山本富士子、
若尾文子が早々と大スターとなり君臨する中、憧れの
長谷川一夫そっくりのメイクも板につかず、客があまりに入らないので映画館の館主達からは「いい加減に勝を主役にした映画を作るのはやめてくれ」と苦情が絶えなかったほどだった。
しかし、
1960年の『
不知火検校』で野心的な悪僧を演じ好評を得、本領を発揮しはじめる。翌
1961年、中村玉緒と婚約。一匹狼のやくざ・朝吉役で主演した『
悪名』(
田中徳三監督、
今東光原作、
依田義賢脚本、
田宮二郎共演)で共演。その中ですき焼き屋の女中・お絹役の玉緒に朝吉が「きっと妻にします」と一札を入れるシーンがある。この映画が最初の大ヒットとなりシリーズ化。1962年3月5日、永田の媒酌で結婚。続く『
座頭市物語』『
兵隊やくざ』で絶大なる人気を獲得し、1963年には、長谷川、山本が大映を退社する中、勝は一躍大映の大黒柱の一人となる。特に一連の
座頭市シリーズでの演技は評価が高く、日本のみならずアジア各地でも上映され、勝の代表作にまでなる。
当時、経営が傾いていた大映が飛びついていた若者向けの暴力・エロ・グロ路線とは一線を画し、
三隅研次、
安田公義、
森一生、
増村保造ら大映出身の監督たちと時代劇の伝統を絶やさぬよう製作を続け、
勅使河原宏、
斎藤耕一、
黒木和雄らアバンギャルドな異才とも製作で手を組んだ。また『
男一匹ガキ大将』、実兄・
若山富三郎主演の『
子連れ狼』、自身も主演した『
御用牙(米国ではのタイトルでDVDが発売されている)』など、マンガ・劇画を映画化するという新機軸の中にはヒットしたものもあり、
テレビドラマ製作にも進出。1970年代前半には映画製作者として一時代を築き、日本のみならず東南アジアの映画マニアに影響を与えた。