Né à Paris d'une modeste famille de confession juive, Serge Korber passe une partie de la guerre caché par une famille protestante du Chambon-sur-Lignon, ses parents étant réfugiés en zone libre à Montauban. Ayant quitté l'école dès 14 ans après le certificat d'études pour devenir apprenti tapissier, il découvre, par ses amis au sein des Jeunesses communistes qu'il intègre un temps, la lecture et les grands poètes, notamment au travers des chanteurs poétiques et prolétariens de l'époque. Il découvre la littérature en lisant Henry Miller, puis Ernest Hemingway, William Faulkner, John Steinbeck, William Saroyan, suivra la littérature française.

Dany Carrel et Jean Lefebvre - Dans le film de 1967 : Un Idiot à Paris

Serge Korber entre à l'école Boulle, Section tapissier, où il apprend l'histoire de l'art. Fréquentant les bars de la Contrescarpe dont le bistrot La Choppe, il y rencontre bon nombre des artistes débutant alors dans les nombreux cabarets du quartier (Ricet Barrier, Boby Lapointe, Daniel Laloux, Henri Serre, Jacques Florencie, …). Avec l’un d’entre eux, Jean-Pierre Suc et quelques amis, il créé dans une ancienne bonneterie de la rue Descartes le cabaret Le Cheval d’Or où s'invitent des artistes débutants : Raymond Devos, Pierre Perret, Anne Sylvestre, Pierre Richard, ou encore Boby Lapointe. Il y côtoie aussi François Truffaut, cinéaste débutant, qui y engagera notamment Henri Serre pour Jules et Jim, Boby Lapointe pour Tirez sur le pianiste et bon nombre des artistes du lieu pour le film Tire au flanc 62 qu'il co-réalise avec Claude de Givray, ce qui l’introduit pleinement dans le milieu de la Nouvelle Vague.

Parallèlement à ses activités au Cheval D'Or, il fréquente assidûment la cinémathèque : son rêve est d'écrire et réaliser des films. Il devient l'assistant de Guy Debord le fondateur de l'Internationale situationniste. À l’automne 1958, Guy Debord vient lui-même d’ouvrir, avec la complicité de son épouse Michèle Bernstein et de leur ami chanteur Jacques Florencie, le cabaret La Méthode situé également rue Descartes mais à la carrière plus éphémère que Le Cheval d'Or. Debord prend Serge Korber comme premier assistant du court-métrage Sur le passage de quelques personnes à travers une assez courte unité de temps dont la première partie du tournage s'effectue en avril 1959. En août, au moment de débuter le montage, un différend éclate entre les deux hommes et Serge Korber se trouve écarté par Debord qui le remplace et ne le fera pas figurer au générique

En 1960, Jean-Michel Boris, directeur de l'Olympia lui propose de travailler avec lui. Il va collaborer aux derniers spectacles d'Édith Piaf et de Joséphine Baker. En 1962, Claude de Givray et François Truffaut lui demandent d'être comédien dans le film Tire-au-flanc 62. Il sera co-auteur et assistant de Claude de Givray sur son deuxième film La Grosse Tête écrit par François Truffaut. La même année Agnès Varda lui propose un rôle dans Cléo de 5 à 7, il est "Plumitif", le parolier des chansons mises en musique par Michel Legrand, qu'il mettra en scène bien des années plus tard pour ses concerts au Châtelet et au Palais des Congrès. Toujours en 1962, il rencontre grâce à François Truffaut, le producteur Pierre Braumberger qui lui produira, de 1962 à 1964, 8 courts métrages 4 primés dans de nombreux festivals. Pierre Braumberger refuse de lui produire son 9ème court métrage et c'est Marin Karmitz qui débutera sa carrière de producteur en produisant ce 9ème court métrage, en empruntant de l'argent à son père. Ce court métrage Un jour à Paris avec Jean-Louis Trintignant, lui portera chance ; il est vendu dans le monde entier. Marin Karmitz deviendra le grand producteur distributeur : MK2. La rencontre de Serge Korber et Jean-Louis Trintignant, devenu, vedette après Et Dieu… créa la femme, permettra à Serge Korber de réaliser son premier long métrage Le Dix-septième ciel. et d'entrer dans le club des grands metteurs en scène.

Très remarqué, il se voit confier par le producteur Alain Poiré la réalisation de l'adaptation par Michel Audiard du roman de René Fallet, intitulée Un idiot à Paris. Satisfait de cette collaboration, Audiard lui offrira par la suite le scénario de La Petite Vertu. Suivent deux films avec Louis de Funès et deux avec Annie Girardot, grandes stars de l'époque. Avec la dernière, Korber adapte un roman de Catherine Paysan, Les Feux de la Chandeleur, un beau drame dans lequel Girardot incarne en 1972 la mère de Claude Jade et de Bernard Le Coq, délaissée par son mari Jean Rochefort.

En 1975, Serge Korber bouscule la censure à la suite d'un pari avec François Truffaut et Claude Chabrol en réalisant une suite de films pornographiques. Il utilise le pseudonyme de John Thomas.

Il réalise quelques autres longs métrages puis se tourne dans les années 1980 vers la télévision. En 1996, il revient au cinéma avec l'adaptation de la bande dessinée de Binet, Les Bidochon. Depuis les années 2000, Serge Korber est essentiellement réalisateur et producteur de documentaires, notamment sur Maurice Béjart, Jean Gabin, Jean-Louis Trintignant ou Boris Vian.

Certains de ces films, des comédies, figurent dans la liste des monuments patrimoniaux du cinéma français.

Serge Korber est notamment connu pour avoir tenté de moderniser le personnage de Louis de Funès dans deux films qui connaîtront un succès relatif au regard de la popularité de l'acteur à cette époque : L'Homme orchestre et Sur un arbre perché en 1970. Frédéric Bonnaud, directeur de la Cinémathèque française, écrit : « Trop souvent privé de metteur en scène Louis de Funès, à part Gérard Oury et Edouard Molinaro, trouve son troisième en la personne de Serge Korber. Le premier, Gérard Oury, a conçu des comédies à grand spectacle de plus en plus audacieuses et délirantes. Le deuxième, Edouard Molinaro, a mis la science de sa technique au service de la comédie Oscar et Hibernatus. Le troisième, Serge Korber, le plus expérimental a accédé au profond désir de renouvellement du maître clown, en mettant au point deux prototypes qu'on gagnera à redécouvrir L'Homme orchestre et Sur un arbre perché ».

Serge Korber est marié depuis 1962 à Marie-Claire Korber ; ils ont un fils, Thomas, qui est scénariste. Sa femme Marie-Claire est la chef monteuse de presque tous ses films. Il vécut de nombreuses années à Brens, dans le Tarn, dans une maison dont il s'était séparé en 2019.

Serge Korber meurt chez lui à Brens (Tarn) le 23 janvier 2022, à l'âge de 85 ans. Ses obsèques sont prévues le 3 février 2022 au cimetière du Père-Lachaise à Paris.