Карл Райнер почав свою кар'єру у п'ятдесяті з участі у декількох мюзиклах на Бродвеї. Опісля він брав участь у кількох популярних у той час телешоу. 1959 року він розробив хітове шоу під назвою «The Dick Van Dyke Show», яке виходило протягом п'яти сезонів. Він також з'являвся як актор в інших телепроєктах.
Він відіграв значну роль на початку кар'єри Стіва Мартіна, був автором і режисером чотирьох фільмів з його участю. Крім цього, він випустив кілька книг.
В останні роки він активно з'являється у популярних серіалах, наприклад, «Два з половиною чоловіки», а також знімається як запрошена зірка в ситкомі «Красуні в Клівленді».