Avec son physique un peu lourd, un manque flagrant d'élégance, vulgaire à tout bout de champ : une mauvaise image à circuler. A ses débuts, il est employé uniquement comme second rôle, dans des films de séries B et des comédies musicales pour les studios RKO, MGM, Fox, Paramount et Universal.

Malgré ses débuts légèrement discrets, il travaille avec Fred Astaire et Ginger Rogers dans "Amanda" (1936), Cary Grant et Katharine Hepburn dans "L'Impossible Mr. Bébé" (1938) d'Howard Hawks, "Mariage Incognito" (1938) de George Stevens avec Ginger Rogers et James Stewart, Marlène Dietrich dans "Femme Ou Démon" (1939) de George Marshall et James Stewart dans "Mr. Smith Au Sénat" (1939) de Frank Capra.

A partir de la Seconde Guerre mondiale, Jack devient un premier. Il apparait dans "Joies Matrimoniales" (1941) d'Alfred Hitchcock avec Carole Lombard, Robert Montgomery et Gene Raymond et dans "The Strawberry Blonde" (1941) de Raoul Walsh, avec Rita Hayworth et James Cagney.

En parallèle, il participe à l'effort de guerre en récoltant des fonds pour les soldats avec "Arsenic Et Vieilles Dentelles" (1944) tout comme Cary Grant qui versera ses gains. Bien qu'il interprète un policier dans un coin tranquille rêve uniquement de monter sa pièce de théâtre sur sa propre vie. Il voit en Cary Grant le moyen d'y parvenir alors que lui cache des cadavres dans la maison.

Après la guerre, Jack délaisse son personnage et développe son potentiel en interprétant des individus ordinaires souvent peu recommandables, des qualités dramatiques insoupçonnées. Son interprétation du rôle de Wally Fay, l'associé aux dents longues de Joan Crawford dans" Le Roman De Mildred Pierce" (1945) lui vaut les louanges des critiques.

En 1954, il peut incarner un rôle intéressant : celui de Libby, l'attaché de presse sans scrupules de James Mason puis de Judy Garland dans le remake de George Cukor : "Une Étoile Est Née". En 1957, il interprète le mécanicien Jiggs avec Rock Hudson, Robert Stack et Dorothy Malone dans "La Ronde De L'Aube".

En 1958, il est le partenaire de Paul Newman et Joanne Woodward dans "La Brune Brûlante" de Léo McCarey. Mais se sera le rôle de Gooper, le frère aîné niais et vénal de Paul Newman dans "La Chatte Sur Un Toit Brûlant" avec Elizabeth Taylor.

Malgré tout on ne lui pardonna jamais son manque de classe et d'élégance comme c'était de rigueur à cette époque.

Son Étoile se trouve au Walk of Fame au numéro 1560 sur Vine Street.