Né à Paris d'un père algérien et d'une mère française, Marcel Mouloudji a eu une enfance difficile, assez pauvre. Engagé jeune au sein de l'association communiste des Faucons rouges, il se fait connaître dès 16 ans en jouant dans Les Disparus de Saint-Agil.
Pendant la Seconde Guerre mondiale, il s'essaie à la musique, mais aussi à la peinture.
C'est en entonnant le Déserteur de Boris Vian pendant la Guerre d'Indochine dans les années 50 que Marcel Mouloudji va se mettre une grande partie des médias à dos. A part Europe 1, plus aucune station ne décide de diffuser ses chansons. Un boycott temporaire, mais qui se prolongera jusqu'à la mort de l'artiste pour certains.
Les députés s'en mêlent ! Le comité d'écoute interdit Mouloudji en 1954 !
Le chanteur s'était habilement vengé, notamment de sa propre maison d'édition, avec la chanson On m'a dit, qui comporte des paroles défiant l'autorité et évoquant la guerre.
Malgré ce silence pesant autour de sa voix d'or, y compris dans les années 80 lors de la sortie de l'album Inconnus Inconnues, Mouloudji a connu un succès populaire très important, avec de nombreuses dates et des salles toujours pleines.