Fils et petit-fils de chanteurs d'opéra émigré de Russie, il reçoit très tôt une formation musicale à son tour.

Il connaît une période difficile comme choriste à Broadway puis arrive à Hollywood dans des productions des studios MGM. Là-bas, il fait la rencontre de Joan Crawford et de John Garfield avec qui il se lie d'amitié. Grâce à eux, il trouve un poste de cascadeur.

Engagé dans des cabarets parisiens, il rencontre la grande Édith Piaf qui oriente sa carrière et le prend pour partenaire dans la comédie musicale "La p'tite Lili".

En 1953, il débute à l'écran et s'impose dès son second film en personnifiant le désinvolte agent du FBI Lemmy Caution. Il enchaîne les films à succès avec "Je Suis Un Sentimental" (1955) de John Berry, "Folies-Bergères" (1956) d'Henri Decoin, "Incognito" (1958) avec Gaby André ou encore "Du Rififi Chez Les Femmes" (1959) avec Silvia Monfort.

En 1965, le mythe prend fin lorsque Godard le dirige dans "Alphaville" qui marque un tournant dans la carrière d'Eddie. Tout d'abord heureux qu'il ait choisi pour ce film, il va rapidement découvrir qu'après la sortie du film Jean-Luc Godard a tout simplement ruiné sa carrière en détruisant son mythe.

Ni "Je Vous Salue Mafia" (1965), ni "À Tout Casser" (1968) avec Michel Serrault où il retrouve le monde des bagarreurs sous la direction de John Berry ne lui permettent de renouer avec le succès.

Après ces tournages, Eddie part en Allemagne où il passera dans des séries et téléfilms allemands. Il rejouera un peu en France, mais ne s'y attardera pas.

Sa dernière apparition était dans le film belgo-germano-luxembourgeois "Three Shake A Leg Steps To Heaven" (1993).

Eddie Constantine est décédé d'une crise cardiaque le 25 février 1993 à Wiesbaden, en Allemagne.