По свидетельству Э. Рязанова, кандидатура Иннокентия Смоктуновского на роль Деточкина возникла ещё в 1962 году: «Но только в таком плане: хорошо бы было…» — в то время Смоктуновский снимался в «Гамлете», и на него трудно было рассчитывать. Тогда на главную роль был утверждён Юрий Никулин, на роль его антагониста, следователя Максима Подберёзовикова — Юрий Яковлев
Когда же в 1964 году Рязанов смог наконец приступить к съёмкам, Юрий Никулин вновь, как в 1962 году, отправился с цирком в длительное зарубежное турне, при этом фактически отказавшись от предложенной роли: «У меня ощущение, что я это уже сыграл». Рязанов обратился к Смоктуновскому, — вся съёмочная группа хотела, чтобы Деточкина сыграл именно он; но из-за занятости и усталости актёр отказался
Рязанов пробовал на главную роль многих известных артистов; в их числе был и Леонид Куравлёв: «Он оказался достоверен, правдив, симпатичен, — вспоминал Рязанов, — но в нём не хватало странности, не было эдакого лёгкого сдвига мозгов». Пробовался на роль Деточкина и Олег Ефремов, — он мастерски изображал своего героя, но не был им: «Сквозь мягкость, добросердечие и наивность проглядывал волевой, железный человек». В конце концов Рязанову удалось уговорить Смоктуновского