Tone étudia à l'Université Cornell où il fut Président du Club Dramatique et élu à la Sphinx Head Society. Il abandonna la compagnie familiale pour une carrière d'acteur au théâtre. Après le diplôme il déménagea à Greenwich Village, New York, et obtint son premier rôle à Broadway dans la production de The Age of Innocence monté en 1929 par Katharine Cornell.

L'année suivante il rejoint The Theatre Guild et joue Curly dans leur production de Green Grow the Lilacs. (qui deviendra plus tard la fameuse comédie musicale Oklahoma!) Il devient ensuite un membre fondateur du renommé Group Theatre, aux côtés de Harold Clurman, Cheryl Crawford, Lee Strasberg, Stella Adler, Clifford Odets, et d'autres, la plupart ayant travaillé avec The Theatre Guild. Ce furent des années productives et intenses pour lui : parmi les productions du Groupe il joua dans (1931), 1931 (1931) et Success Story (1932). Franchot Tone était considéré par les critiques comme l'un des acteurs les plus prometteurs de sa génération. Gary Cooper nomma Tone le meilleur acteur avec lequel il ait travaillé.

Cette même année Tone fut le premier du groupe à tourner le dos au théâtre pour rejoindre Hollywood lorsque la MGM lui offrit un contrat de cinéma; toutefois il a toujours considéré le cinéma comme très inférieur au théâtre et se rappelait avec nostalgie ses années sur les planches. Il a souvent soutenu financièrement le Group Theatre (et refaisait de la scène occasionnellement). Ses débuts à l'écran eurent lieu en 1932 dans The Wiser Sex. Il devient célèbre en 1933, lorsqu'il tourna sept films en une seule année, dont Après nous le déluge, écrit par William Faulkner, où il rencontra sa future femme Joan Crawford, Mademoiselle volcan, avec Jean Harlow (avec laquelle il jouera dans trois autres films), et le succès Le Tourbillon de la danse, encore avec Crawford et Clark Gable. En 1935, sans doute son année de la chance, il joue dans Les Révoltés du Bounty (pour lequel il fut nommé à l'oscar du meilleur acteur), Les Trois lanciers du Bengale et L'Intruse face à Bette Davis, avec laquelle on lui prêta une liaison.

Il se marie le 11 octobre 1935 dans le New Jersey à l'actrice Joan Crawford; ils divorceront en 1939 après avoir tourné sept films ensemble : Après nous le déluge (1933), Le Tourbillon de la danse (1933), Vivre et aimer (1934), La Femme de sa vie (1935), The Gorgeous Hussy (1936), Love On The Run (1936) et L'Inconnue du palace (1937).

Il va se marier et divorcer à trois autres reprises : au mannequin devenu actrice Jean Wallace (1941–48, deux fils; elle épousera ensuite Cornel Wilde), l'actrice Barbara Payton (1951–52) (un amour éphémère qui lui vaudra une célèbre bagarre avec l'acteur Tom Neal), et finalement avec la jeune actrice Dolores Dorn (1956–59).

Il travailla régulièrement durant les années 1940 sans devenir une star de premier plan : son rôle se limite souvent à celui du riche play-boy et très peu de films de cette période sont notables. L'exception étant Les Cinq secrets du désert (1943), le troisième film du jeune Billy Wilder, une brillante histoire de guerre et d'espionnage, où il partage l'affiche avec Akim Tamiroff et Erich von Stroheim incarnant le général allemand Erwin Rommel.

Dans les années 1950 il travaille pour la télévision et retourne à Broadway. Il réapparaît à l'écran dans la série médicale Ben Casey en 1965-1966 dans le rôle du supérieur de Casey. Il joue ensuite dans le seul film qu'il réalisera et produira, l'adaptation de la pièce Oncle Vania d'Anton Tchekhov (1957) avec son épouse Dolores Dorn.

Gros fumeur, il meurt d'un cancer des poumons à New York à 63 ans. Joan Crawford, émue par le sort de son ex-mari pendant sa maladie, l'aurait pris en charge à son domicile pour s'occuper de lui. Selon un visiteur qui demanda qui était l'homme dans le fauteuil roulant, Crawford répondit : "Him? That's Franchot". Son corps fut incinéré et ses cendres furent dispersées.

Son étoile se trouve au Walk of Fame, 6558 Hollywood Boulevard.