Fille du galeriste Albert Loeb et petite-fille du galeriste Pierre Loeb, Caroline passe une partie de son enfance à New York, aux États-Unis. Son frère cadet Martin est acteur.

Passionnée de théâtre, elle suit le fameux Cours Florent aux côtés de Sabine Haudepin et Jean-Pierre Darroussin, sous la direction de Francis Huster. Elle est à l'affiche de Succès écrit par les premiers auteurs du groupe TSE (dans lequel elle tient pas moins de sept rôles). Les costumes et les décors portent la griffe de Paloma Picasso. Elle joue ensuite dans Santa Claus is back in town de et avec Farid Chopel au Théâtre Le Palace, puis dans Spaghetti bolognese de Tilly, mis en scène par Michel Hermon, Elle joue dans de nombreux films réalisés par Adolfo Arrieta, James Ivory, Jacques Demy, Stephanie de Mareuil, Virginie Thévenet ou encore Annick Lanoë.

En 1983 Caroline Loeb sort son premier album, Piranana (ZE Records) dont elle écrit les paroles. Le disque est réalisé à New York par Ron Rogers, compositeur et producteur de l’ecurie ZE ( Gichy Dan Beachwood #9, Don Armado, Aural Exciters, Kid Creole etc…) Jean-Baptiste Mondino, dont elle a été styliste pour de nombreuses pochettes de disques (Christophe, Téléphone, Alain Chamfort, Michel Jonasz....) realise la pochette. Comme styliste, elle travaille aussi avec Serge Gainsbourg pour son livre Bambou et les poupées. En 1986, elle acquiert une subite notoriété avec un titre dont elle est l'interprète et le co-auteur, C'est la ouate, qui précède son second album Loeb CD. La chanson devient un énorme tube en France et dans plusieurs pays (Italie, Allemagne, Argentine...).

Il s'en publie encore plusieurs versions chaque année (Gennaro Cosmo Parlato en Italie, Quentin Mosimann en France, Quaffe en Allemagne, le groupe Franco-Libanais Bamby and the dogs, meme une version bretonne …
De 1995 à 1996, elle co-anime avec Laurent Petitguillaume et sous la direction de Pascale Breugnot une émission mensuelle de seconde partie de soirée sur TF1 : Scènes de Ménage. À la radio, on l'entendra aux côtés d'Isabelle Alonso sur RTL 2, de Laurent Ruquier, de Philippe Bouvard, ainsi que sur la City Radio et sur Radio Nova.

Dès 1993, Caroline Loeb se découvre une passion pour la mise en scène, et dirige de nombreux artistes. Notamment des spectacles musicaux : 5 spectacles avec Michel Hermon, Michel Hermon chante Piaf aux Bouffes du Nord, Thank you Satan au Théâtre des Abbesses sur des chansons de Léo Ferré, Le voyage d'hiver de Schubert au Théâtre de la Colline, Dietrich Hôtel, "New York", Lio chante Prévert, Loin de Paname avec et pour Viktor Lazlo, puis Les bijoux Sophie Balabanian accompagnée au piano par Léa Litalien sur des textes de Charles Baudelaire mis en musique par Léo Ferré.

En 1999 elle crée à Avignon Shirley avec Judith Magre, d'après les carnets de Shirley Goldfarb, textes réunis par Gregory Masurovsky, qui vaudra à la comédienne son deuxième Molière.

De 2001 à 2006, elle met en scène le groupe de rock français les Weepers Circus et les habille en Jean-Paul Gaultier.

Elle publie son premier roman chez Flammarion Has been fin 2006, quelques années après la parution de ses chroniques radios éditées au Point Virgule/le Seuil Bon chic chroniques en 1993.

En février 2007 Caroline Loeb met en scène et joue Les Monologues du vagin au Théâtre Michel à Paris puis se rend au Festival d'Avignon 2007 où elle crée L'oiseau rare, un spectacle musical, hommage à la comédie musicale et au music-hall avec Edwige Bourdy accompagnée par Gilles Baissette, puis Benoit Urbain au piano. Ce spectacle sera repris jusqu'en avril 2008 au théâtre du Ranelagh, à Paris et est en tournée depuis.

Elle collabore avec Alain Chamfort à la création de sa nouvelle tournée Chansons en trompe l'œil qu'ils créent à Haubourdin en novembre 2007. À l'automne 2008 elle présente deux mise en scène : le tout nouveau spectacle de La Madeleine Proust au théâtre Rive Gauche ainsi que celui des Bons Becs "Voyage de notes" au Sudden théâtre.

Côté cinéma, elle tourne en 2008 sous la direction de René Feret aux côtés de Salomé et Jean-François Stévenin et dans Rien dans les poches de Marion Vernoux aux côtés d'Emma de Caunes, Alain Chabat et Élie Semoun. Ce dernier film réalisé pour Canal + est projeté en avant-première le 8 décembre 2008 à l'occasion de la réouverture de la salle du Palace.

Caroline Loeb se lance dans la réalisation cinématographique avec le court-métrage Vous désirez ?, réalisé pour inaugurer la collection X-plicit films. Le film est présenté à la Mostra de Venise en septembre avec ceux de Laetitia Masson et Lola Doillon. Les films sont diffusés sur Canal + le 25 octobre 2008.
En 2007, Caroline Loeb enregistre son troisième album, Crime parfait, distribué d'abord sur Internet, pour l'écriture duquel elle a collaboré avec Élisa Point, Chet, Jérôme Rebotier, Bertrand Belin et le groupe Weepers Circus.
En 2008 elle effectue au Festival d'Avignon, son retour sur scène dans le spectacle musical Mistinguett, Madonna & Moi, qu'elle a mis au point avec Nicolas Vallée, accompagnée à l'accordéon par Patrick Brugalières. Elle y évoque les icônes qu'elle admire depuis toujours : Arletty, Mae West, Tallulah Bankhead, Zizi Jeanmaire... et chante quelques uns de ses nouveaux titres, entremêlés de versions surprenantes issues des répertoire de Serge Gainsbourg, Juliette, Joséphine Baker, Fred Astaire, Yvette Guilbert, Madonna, etc. Sur scène, elle propose une version étonnante de Like a virgin de Madonna ainsi qu'une incroyable reprise déjantée de C'est la ouate.

Le 5 janvier 2009, le disque "Crime parfait" est disponible en version physique et distribué numériquement par Believe1. Le clip du single éponyme est réalisé par Philippe Gautier.

Elle tourne actuellement le spectacle Mistinguett, Madonna et Moi partout en France (Semur en Auxois, "Les nuits de nacre" à Tulle, "La comédie de Nice", le Festival d'accordéon de Roubaix, "Le Grand Soufflet" à Rennes), en Francophonie (Bruxelles, Genève...)2, et à Tokyo au Japon, pour une série de représentations.

En 2009, elle chante sur un titre de l'album À la récré (un livre-disque de chansons pour enfants) du groupe strasbourgeois Weepers Circus.

En 2010 elle participe au livre-disque pour enfants d'Emma Daumas "Les larmes du crocodile" aux côtés de Gérard Darmon, Alain Chamfort, Elodie Frégé et Marcel Amont et a écrit la préface de l'album photo de Pierre Terrasson "Le top des années 80" ainsi que celle de l'album photo de Martial Lenoir "Les garçonnes".