Il a passé une grande partie de son enfance à Great Neck, avec son frère aîné, John, qui travaillait dans le secteur du courtage en houblon, Fred, devenu scénariste, et Nick futur acteur, quand à sa sœur Greta elle est décédée d’une pneumonie avant sa naissance.

A l’âge de 8 ans il s’amuse à divertir les enfants du voisinage en faisant des tours de magie.

Au décès de son père en 1947, la famille s’installe à New-York où l’adolescent suit ses études dans un pensionnat en Pennsylvanie, puis obtient son diplôme en Arts du spectacle et théâtre en 1955 à l'Université Columbia.

Ayant appris très jeune le ukulélé et surtout le banjo, il fait parti d’un groupe de jazz, composé d'amis du nom de « Bruno Linch and His Imperial Band ».

Après avoir brièvement servi dans l’armée américaine, il s'inscrit à l'Actors Studio et étudie le théâtre avec Lee Strasberg et Uta Hagen et monte sur les planches dans une production off-Broadway « Don Juan » de Molière, et dans la pièce d’Eugene O'Neill « Le marchand de glace est passé » avec Jason Robards, suivi d’« Antoine et Cléopâtre » au Shakespeare Festival avant de connaître un triomphe à Broadway dans « The Premise » une revue satirique.

Il se fait remarquer dans quelques séries télévisées dont un rôle récurrent dans la série documentaire « Armstrong Circle Theatre » (1960-1962) qui lui permet de signer un contrat avec les studios Columbia Picture. Premier rôle dans le drame médical « Les blouses blanches » (1961) de Phil Karlson dans lequel il joue le Dr. Howard avec Fredric March et Ben Gazzara.

En 1961, il interprète un ranger américain dans la fresque épique sur le débarquement de Normandie « Le jour le plus long » (1962) de Ken Annakin, entre autres, une superproduction qui rassemble une pléiade de vedettes.

En 1965, Bryan Forbes, lui offre un rôle de crapule dans « Un Caïd » celui d’un vil prisonnier, le cynique caporal américain King qui règne sur un camp de prisonniers au Japon en organisant un marché noir très florissant.

Suivi du drame de guerre « Les Centurions » (1966) de Mark Robson, le lieutenant Raspeguy (Anthony Quinn) est chargé de retrouver le chef de la rébellion algérienne, Ben Mahidi (George Segal), mais il tombe amoureux d’Aïcha, (Claudia Cardinale) qui n'est autre que la sœur de Mahidi avec Alain Delon et Maurice Ronet.

L'acteur est ensuite prêté à la Warner pour jouer Nick un professeur de biologie, dans « Qui a Peur de Virginia Woolf ? » (1967) de Mike Nichols, un couple universitaire (Richard Burton et Elizabeth Taylor) invite Nick et son épouse (Sandy Dennis) pour une soirée sympathique entre amis, mais celle-ci va vite dégénérer en règlement de comptes généralisé. Son interprétation du personnage de Nick lui vaut une nomination à l'Oscar du meilleur second rôle mais ne gagne pas la statuette.

Dans le film d'espionnage « Le secret du rapport Quiller » (1966) de Michael Anderson, Quiller (George Segal), un agent secret britannique, est envoyé à Berlin pour infiltrer un réseau néo-nazi du IIIème Reich, un écheveau qui devra démêler, au péril de sa vie, pour découvrir leur repaire secret, avec Max von Sydow, et Senta Berger.

Dans un drame historique, « L’affaire Al Capone » (1967) de Roger Corman, basé sur de faite réels à l'époque de la prohibition, le réalisateur relate les événements qui ont conduit à la célèbre fusillade lors de la St Valentin entre des gangs rivaux celui d’Al Capone (Jason Robards) et celui de Bugs Moran (Ralph Meeker), George Segal tient le rôle de Pete Gusenberg, membre du gang Moran un voyou suffisant et arrogant.

Dans un thriller sanglant « Le refroidisseur de dames » (1968) de Jack Smight, un tueur en série (Rod Steiger) s'attaque aux femmes solitaires signant son crime d'un baiser de rouge à lèvres dessiné sur le front de ses victimes, un jeu de chat et de souris avec le détective Brummell (George Segal) avec Lee Remick qui joue de ses charmes pour attirer le tueur. En 1969, John Guillermin adapte d’une façon assez libre la prise par l'armée américaine du dernier pont du Rhin, dans le film de guerre « Le pont de Remagen », pour barrer la route aux américains qui progressent rapidement, le Général von Brock (Peter Van Eyck) ordonne à son Major (Robert Vaughn) de faire sauter le pont, tandis que le lieutenant Hartman, (George Segal) reçoit l’ordre de maintenir le pont pour le franchissement des chars.

Suivi d’une comédie légère « La Chouette et le Pussycat » (1970) d’Herbert Ross, dans le même immeuble vivent un écrivain raté et prude (Georges Segal) et sa voisine, (Barbra Streisand) une prostituée insouciante et grande gueule, de prises de bec en disputes, ils finiront par s'aimer.

Dans le drame « Né pour vaincre » (1971) d'Ivan Passer, il campe un coiffeur toxicomane, qui tente de remonter la pente avec l'aide de la femme qu'il aime (Karen Black).

Senta Berger et George Segal - Dans le film de 1966 : Le Secret du Rapport Quiller.

Une amusante comédie sur l'adultère « Une maîtresse dans les bras… une femme sur le dos ! » (1972) de Melvin Frank, Glenda Jackson joue Vicky une mère divorcée avec deux enfants, George Segal joue Steve un père de famille marié, après avoir partagé un taxi ensemble, Steve invite Vicky à déjeuner, sur un coup de foudre, ils décident de s’évader une semaine au soleil. Pour sa prestation il gagne le Golden Globe du meilleur acteur de cinéma catégorie musical ou comédie.

On retiendra aussi le thriller « Le toboggan de la mort » (1976) de James Goldstone, Harry (George Segal) est chargé de vérifier le bon fonctionnement des manèges des parcs d'attractions, mais un accident mortel survient, persuadé que ce n'est pas un accident, il mène l’enquête et apprend qu'un homme (Timothy Bottoms) exige 1 million de dollars, sans quoi d’autres parcs d'attractions seront visés, avec Henry Fonda et Richard Widmark.

Il forme avec Jane Fonda un couple de gens modestes, devenu brusquement sans revenu, ils deviennent des voleurs et braqueur de banque dans « Touche pas à mon gazon ! » (1977) de Ted Kotcheff.

A partir des années 80, et jusqu’en fin de carrière il se produit régulièrement au petit écran, cumulant ainsi une cinquantaine de séries. Citons la plus connue, « Les Goldbergs » diffusée sur le réseau ABC de 2013 à 2020, George tient le personnage d’Albert Solomon dit Pops, le grand père d’une famille complètement déjantée mais aimante, dans 186 épisodes de cette série comique qui en compte 207, diffusée sur le réseau ABC de 2013 à 2020.

Coté cinéma on peut encore citer « Carbon Copy » (1981) une comédie de Michael Schultz, dans laquelle il découvre qu'il est le père d'un adolescent noir (Denzel Washington); puis un rôle de composition dans « Marathon » (1986) un drame sur le sport de Terence Young, il campe un ancien coureur olympique devenu paraplégique à la suite d'un accident de voiture avec David Carradine et Lauren Hutton.

Il apparaît aussi dans quelques films populaires comme « Allo Maman, ici Bébé » (1989) de Amy Heckerling Albert, un homme marié volage et l'amant de Mollie (Kirstie Alley), et sa suite « Allo Maman, c'est encore moi » (2012) de Tom Ropelewski avec John Travolta dans les deux films ; citons aussi son rôle du Dr. James Randall dans une comédie romantique avec quelques scènes érotiques « Love, et autres drogues » (2009) de Edward Zwick avec Anne Hathaway.

L’acteur prêta sa voix pour deux films d'animation « Dinotopia » (2005) de Davis Doi, et dans le film d'animation japonais « Le conte de la Princesse Kaguya » (2013) de Isao Takahata, avant de jouer son dernier rôle au cinéma dans « Elsa et Fred » (2014) de Michael Radford aux côtés de Christopher Plummer et Shirley MacLaine.

Tout au long de sa carrière, George Segal n’a jamais délaissé la musique et son banjo. Il a sorti plusieurs albums le plus souvent avec son groupe appelé depuis « The Imperial Jazz Band » jusqu'à se produire en 1981 en direct du Carnegie Hall. Coté vie privée : Première épouse Marion Sobel productrice en 1956 divorcé en octobre 1983 deux filles Elizabeth et Polly Segal sont nées de leur union ; il épouse ensuite en novembre 1983 Linda Rogoff une ancienne directrice des Pointer Sisters, rencontrée au Carnegie Hall lorsqu'il jouait du banjo avec son groupe de Jazz Band jusqu'à ce qu'elle décède malheureusement d'une maladie de l'estomac en juin 1996, il convole en dernière noce avec petite amie du lycée, Sonia Schultz Greenbaum ils restèrent unis de septembre 1996, jusqu'au décès de George à Santa Rosa en Californie, le 23 mars 2021 à l’âge de 87 ans, suite à des complications d'un pontage coronarien. Incinéré, ses cendres ont été données à sa famille.

1972 - Pour le film : UNE MAÎTRESSE DANS LES BRAS - Golden Globe du meilleur acteur de cinéma catégorie musical ou comédie, États-Unis.

1972 - Pour le film : UNE MAÎTRESSE DANS LES BRAS - Prix KCFCC du meilleur acteur par le cercle des critiques de cinéma de Kansas City, États-Unis.

1965 - Golden Globe - Meilleur espoir masculin, États-Unis.