독일의 지휘자인 클렘페러는 프랑크푸르트에서 공부한 후 베를린에서 크바스트, 필립 샤르벤카, 피츠너 등에게 가르침을 받았다. 합창의 연습 지휘자로서 데뷔하였으며 [지옥의 오르페우스]를 상연한 막스 라인하르트와 최초의 계약을 맺었다. 그는 말러와의 만남을 가졌는데 말러는 클렘페러를 지휘자로서 프라하의 독일 극장과 함부르크 극장에 추천하였다.
베를린의 [크롤 오퍼]의 음악감독으로 일하게 된 그는 크세넥, 바일, 쇤베르크, 힌데미트, 스트라빈스키 등의 신작을 다루고 표현주의적으로 연출하여 짧은 기간 내에 이 극장을 독일의 제 1급 오페라 무대로 만들기도 하였다. 이후 필하모니아 합창단을 지휘하는 한편, 1931년부터 1933년까지 베를린 국립 가극장에서도 활약했다. 1933년 추방당하여 미국으로 건너갔으며 1940년까지 로스엔젤레스 필하모니 관현악단의 지휘자로 활동했다.
클렘페러는 지휘자로서 생전부터 전설적인 인물로 인정받아서 사람들은 그를 독일 음악의 위대한 전통의 계승자로 평가하는 경향이 있는데, 이 뿐만 아니라 그는 열렬한 개혁성과 자기 예술을 가장 깊은 정신성으로 투사한 불굴의 투사이기도 하였다.