Сын пастора, выпускник Лейпцигской консерватории, молодой музыкант в 1949 году стал органистом церкви Св.Фомы в Лейпциге, а через два года кантором в церкви Св.Марка в Мюнхене.
В историю музыки Карл Рихтер вошел как создатель Мюнхенского баховского хора и Мюнхенского баховского оркестра. Гастроли этих коллективов в странах Европы и Америки проходили при переполненных залах, а записи с произведениями Баха, Генделя, Шютца до сих пор считаются эталонными. Репертуар Карла Рихтера включал в себя также сочинения Моцарта, Бетховена, Брамса, Регера
Карл Рихтер не был аутентистом, он использовал современные музыкальные инструменты, достаточно большие хор и оркестр, его интерпретации, по мнению многих критиков, отмечены чисто романтической экспрессией
Дирижер, органист и клавесинист, Карл Рихтер оставил много записей, среди которых даже есть 5 скрипичных сонат Баха, записанные в 1955 году совместно с Леонидом Коганом.