Enfant du Bronx, Leo est doué pour la musique. Il étudie le violon et semble pouvoir envisager une carrière de musicien professionnel, mais une fracture du poignet ruine ses espoirs. il se consacre alors à l'harmonica. Il termine ses études au Lycée en 1929, et rêvant de devenir acteur, quitte sa famille pour Hollywood.

Il devient membre du " Boorah Minevitch and His Harmonica Rascals " auquel la Paramount consacre un court métrage " Boyhood Days ". Mais, en l'absence d'engagement, Leo retourne à New York, où il joue dans des dramatiques radiophoniques le jour, et apprend la comptabilité à l'université la nuit.

Il tente à nouveau sa chance en 1931. Ne trouvant pas d'emploi à Hollywood, il devient acteur dans la troupe professionnelle du théâtre de Pasadena (Californie) où il fera son apprentissage jusqu'en 1933.

Nouveau retour à New York où il décroche un rôle à Broadway dans une adaptation de "Crime et Châtiment " de Dostoïevski. La pièce ne tiendra l'affiche que le temps de 15 représentations.

Lee J. Cobb en 1935 intègre le "Group Theatre" qui a pour ambition de présenter des pièces à contenu social se démarquant des simples divertissements. Le "Group Theatre" fondé en 1931 forme ses acteurs à la "méthode Stalinavski " et promeut des auteurs politiquement progressistes, voire gauchistes, tels Clifford Odets et William Saroyan. Lee J. Cobb y partagera la scène avec Elia Kazan, Julius Garfinkel (qui deviendra John Garfield) et Martin Ritt. Il y rencontrera Lee Strasberg et Stella Adler qui deviendront deux des plus célèbres professeurs d'art dramatique américains.

En 1937 la pièce d'Odets "Golden Boy" obtient un tel succès qu'Hollywood envisage d'en faire une adaptation et s'intéresse à Lee J. Cobb qui y tenait le rôle de M. Carp.

Harry Sherman qui produit une série de westerns à petit budget ayant pour héros Hopalong Cassidy interprété par William Boyd, lui offre ses premiers rôles dans deux de ses films. Mais c'est la Columbia qui le fera connaitre en 1939 avec l'adaptation du succès " Golden Boy " (L'esclave aux mains d'or) réalisé par Rouben Mamoulian.

Entre 1939 et 1943, Cobb se partagera entre la scène et l'écran. Sa filmographie est assez terne, hormis " La nuit sans lune " d'Irving Pichel (1943), film de guerre adapté d'un roman de John Steinbeck , et " Le chant de Bernadette " d'Henry King (1943), un biopic sur Bernadette Soubirou, où Lee J. Cobb joue le Dr Dozous qui attesta le miracle de Lourdes.

En 1943 Lee J. Cobb est enrôlé dans l'US Air Force. Ses talents d'acteur lui vaudront de servir dans une unité de production de radio en Californie, jusqu'à sa démobilisation qui le ramènera à Hollywood.

Lee J. Cobb interprètera quelques seconds rôles majeurs dans des films prestigieux. Son physique intimidant le prédispose aux personnages de patriarches ou de notables arrogants ou corrompus.

En 1947 Elia Kazan dans " Boomerang " réunit Arthur Kennedy et Lee J. Cobb, issu de la même formation de théâtre, et deux purs produits hollywoodiens, Dana Andrews et Jane Wyatt. La vérité et la force du jeu de Kennedy et Cobb supplantent leurs partenaires, et les scènes où ils s'opposent tous les deux sont de véritables performances.

En 1949, c'est au théâtre et toujours dirigé par Elia Kazan, à Broadway, que Lee J. Cobb atteint le sommet de son art et une reconnaissance unanime de la critique pour la création de la pièce "Mort d'un commis voyageur". Son interprétation de Willy Loman, rôle spécialement écrit pour lui par Arthur Miller, deviendra aussi légendaire que celle de John Barrymore">John Barrymore dans "Hamlet".

La même année au cinéma Jules Dassin dans "Les bas-fonds de Frisco", permet à Cobb de donner la mesure de son talent dans le rôle d'un " boss " grossiste en fruits et légumes, crapule intégrale usant de toutes les vilenies pour assouvir sa cupidité criminelle.

1951, c'est la guerre froide, le Maccarthysme, la " chasse aux sorcières ". Comme Elia Kazan et John Garfield, Lee J. Cobb est appelé à témoigner devant la redoutable " Commission sur les activités anti-américaines " (HUAC). Les activités du "Group Theatre" sont éminemment suspectes aux yeux de la Commission qui traque toutes les sympathies communistes réelles ou supposées. Lors des auditions la Commission soutire aux suspects qui doivent prouver leur "loyauté" des dénonciations parmi leurs connaissances. Kazan, en avril 52 donnera 8 noms d'artistes communistes, John Garfield refuse et est aussitôt "blacklisté", c'est-à-dire soumis à diverses persécutions et privé de travail. Lee J. Cobb se taira aussi, mais il n'en supportera pas les conséquences. Sa femme, Helen Beverley, internée suite à une dépression demande le divorce en 1952. Il doit subvenir aux besoins de leurs deux enfants. Il reviendra témoigner devant la Commission en 1953 et donnera 20 noms de partisans communistes.

Elia Kazan réalise l'année suivante "Sur les quais" dont le scénario dû à Budd Schulberg, un autre "informateur" de la HUAC, témoigne des relations entre les Américains pendant la "chasse aux sorcières". Les docks sont divisés entre les syndicalistes corrompus et les travailleurs exploités, rackettés par les premiers. Après la mort "accidentelle" de Joey Doyle, Terry Malloy (joué par un Marlon Brando messianique) hésite entre le silence pour protéger ses "amis" du syndicat conduit par Johnny Friendly, dont Lee J. Cobb interprète la figure tutélaire de patriarche implacable, et le témoignage contre eux pour soutenir les dockers. Terry Malloy trahira son groupe en témoignant devant la "Commission du crime" contre le syndicat, institution originairement socialiste, mais pervertie par l'attrait du pouvoir et l'appât du gain. Ce film fort, unique dans l'histoire du cinéma sera controversé, en ce qu'il apparaitra comme une justification par Kazan de sa "trahison" des artistes communistes, sous-entendant que les artistes du cinéma américain seraient pervertis par l'argent d'Hollywood. Marlon Brando et Elia Kazan remporteront chacun un Oscar (sur les 8 attribués au film), Lee J. Cobb sera nominé.

Puis Lee J. Cobb enchainera les seconds rôles durant une vingtaine d'années.

Il est le juré n°3 dans "12 hommes en colère" de Sidney Lumet (1957), dont la confrontation avec Henry Fonda (Juré n°8) porte la plus grande part de la tension qui fit le succès du film.

Âgé seulement de 47 ans, il endosse de manière fascinante le rôle du vieux patriarche Fyodor débauché et tyrannique, dont la dépravation physique est à l'image de sa corruption morale, dans "Les frères Karamazov" de Richard Brooks (1958).

Il sera de la distribution des deux grands films fresques du début des années soixante : "Exodus " d'Otto Preminger (1960), Ode à la naissance d'Israël, où il joue le rôle du père du héros Ari Ben Canaan (Paul Newman), et la "Conquête de l'Ouest ", (1962) épopée de la naissance de la nation américaine, où au cours du dernier segment (les Hors-la-loi) dirigé par Henry Hathaway, il interprète le Marshall Ramsey, qui ne peut aider son ami le shérif Zeb Rawling (George Peppard) à poursuivre son meilleur ennemi Charlie Gant (Eli Wallach) réfugié hors de son district !

La télévision lui permettra de reprendre en 1966 le rôle de Willy Loman, qu'Hollywood avait préféré confier à Fredric March pour son adaptation de la "Mort d'un commis voyageur" en 1951.

En 1968, Broadway lui fera un triomphe au cours des 72 représentations de son interprétation du "Roi Lear".

Mais le cinéma ne lui propose désormais plus que des films moins ambitieux. Sa dernière apparition dans un film mémorable sera pour le grand succès du cinéma d'effroi "L'exorciste" de William Friedkin (1973) où sous les traits de l'inspecteur de police Kinderman, Lee J. Cobb n'a pas grand-chose à faire.

Il meurt d'une crise cardiaque le 11 février 1976, à l'âge de 64 ans, à Woodland Hills (Californie). Il est enterré au cimetière du Mont Sinaï à Los Angeles.