Jan Malmsjö är en av Sveriges mest mångsidiga - och i ordets verkliga mening - artister. Han växte upp i Trelleborg och Malmö. Hans föräldrar var scenartister, bland annat på Hippodromteatern i Malmö, där Jan själv debuterade blott nio år gammal i operetten Kyska Susanna. 1950 kom han in på Dramatens elevskola, i samma kull som bland annat Margaretha Krook, Jan-Olof Strandberg och Allan Edwall.
Sitt stora genombrott som skådespelare fick han genom rollen som Lilleman i musikalen Stoppa världen, jag vill hoppa av på Scalateatern 1963. Sedan dess har han framträtt i en lång rad musikaler och operetter, bland annat Hör, dom spelar vår sång på Folkan, My Fair Lady på Nöjesteatern i Malmö, Chicago på Oscarsteatern och jättesuccén La Cage Aux Folles på Malmö stadsteater, där han gjorde succé som dragshowartisten Albin. Som sångare och grammofonartist fick han sitt defenetiva genombrott med En sång en gång för längesen 1967. 1969 hamnade han på andra plats i den svenska eurovisoinschlagerfinalen med Hej Clown. Andra kända Malmsjö-hits är bland annat Under alla broar, Bygga upp ett stort berg, Puff en pappersdrake och Halleluja.
Jan Malmsjö har i olika omgångar varit engagerad vid Dramaten, till Malmsjös främsta prestationer hör Kaptenen i Strindbergs Dödsdansen 1993, Gubben Hummel i Strindbergs Spöksonaten 2000 och Pastor Manders i Ibsens Gengångare, här bör även nämnas titelrollen i Hamlet 1970. Han har varit flitigt förekommande i TV i bland annat underhållningsprogrammet Kaskad och de folkkära serierna NP Möller och Hedebyborna. Han filmdebuterade redan 1946 i Ebberöds bank och har därefter medverkat i långfilmer som bland annat Släpp fångarne loss, det är vår!, Jim och piraterna Blom och Drömkåken. Hans mest minnesvärda roll på film gjorde han 1982, när han gestaltade den sadistiske biskopen i Ingmar Bergmans Fanny och Alexander.
Sedan 2001 läser han varje nyårsafton Tennysons Nyårsklockan på Skansen i Stockholm. År 2006 uppmärksammades inringningen extra mycket i medierna då Malmsjö själv komponerade om några rader i versen.