Настоящая известность пришла к Александру Ширвиндту благодаря фильмам Эльдара Рязанова. Он снялся во многих картинах легендарного советского режиссера. Поначалу Ширвиндту доставались эпизодические роли, но ограниченное экранное время не мешало ему показывать свой талант в полной мере. В трагикомедии Рязанова «Старики-разбойники» актеру тоже дали не первостепенную, но характерную роль — он сыграл в эпизоде референта министра.

«Старики-разбойники» — это история о двух пожилых друзьях, которые не хотят смиряться со своей старостью и уходить на пенсию. Николай Мячиков — следователь, которого «подсиживают» на работе по распоряжению начальства, чтобы его должность перешла человеку со связями. Валентин Воробьев — инженер, упорно отстаивающий в коллективе свое желание работать. Мячикову дан месяц на раскрытие какого-нибудь запутанного дела, иначе мужчину неминуемо ждет выход на пенсию. Его друг Воробьев предлагает пойти на авантюру: устроить «ограбление века», чтобы следователь сам же его и раскрыл. Так «старики» превращаются в «разбойников».

Сначала они выносят из музея картину Рембрандта, но никто не замечает пропажи, и тогда пара незадачливых друзей возвращает ее на место. Потом они грабят соседку Мячикова, которая работает инкассатором. Однако пожилой следователь сталкивается в подворотне с настоящим бандитом — тот отнимает у него «добычу» и скрывается. Делать нечего: Мячиков сознается в преступлении и арестовывает сам себя, но фильм, конечно, на это не заканчивается.

Эльдар Рязанов придумал снять эту картину, когда находился в больнице из-за проблем с сердцем. В одной палате с ним лежал пожилой мужчина с инфарктом, который спровоцировал выход на пенсию с любимой работы. Долгие годы мужчина занимал должность в прокуратуре и совершенно не был готов к отставке. Рязанова сильно удивила эта история, и он решил взять ее за основу сценария.

 Культовая комедия Рязанова не всегда была главным новогодним фильмом: во времена СССР в праздничные дни ее показывали по телевидению лишь пять раз — в 1976, 1979, 1983, 1989 и 1991 годах. Но картина сразу же полюбилась советским зрителям. За первый год ее посмотрели более 100 миллионов человек.

«Ирония судьбы» стала самым удачным плодом творческого тандема Рязанова и Ширвиндта. Роль Павлика, вместо которого в Ленинград вылетел главный герой фильма, принесла актеру широкую известность. У Ширвиндта был и другой повод порадоваться — он сыграл персонажа, который действительно влиял на сюжет истории. Такие роли доставались ему нечасто.

Рязанов любил подсматривать сюжеты для своих фильмов в реальной жизни. События, которые он показал в «Иронии судьбы», имели место в реальности. Один знакомый режиссера после посещения бани и долгого застолья у своих друзей в канун новогодней ночи был мертвецки пьян. Приятели решили довольно зло пошутить над ним — усадили в поезд до Киева, оставив лишь 15 копеек в его кармане. Что было с ним дальше, история умалчивает. Рязанов пришел в восторг, узнав подробности этой шутки. Сценарий для нового фильма был готов еще в 1969 году, но задумка не очень понравилась цензорам. Воплотить ее удалось только через пять лет.

Через год Ширвиндт заявил о себе другой колоритной ролью — он сыграл одноглазого председателя шахматного клуба в картине Марка Захарова «Двенадцать стульев». Герой Ширвиндта выводит на чистую воду Остапа Бендера, который притворяется гроссмейстером. Интерес к жуликоватому персонажу Ильфа и Петрова практически одновременно возник сразу у трех классиков советского кино. За пять лет до Захарова главный авантюрный роман, написанный в СССР, экранизировал Леонид Гайдай, который перенял инициативу у Георгия Данелии. Гайдай очень ревностно относился к «Двенадцати стульям». Когда картина Захарова была в прокате, он позволял себе нелестные высказывания. Актер Арчил Гомиашвили вспоминал:«Гайдай мне позвонил и сказал:— Через полчаса можете включить телевизор и увидите уголовное преступление.— Что такое?— “Двенадцать стульев”, снятые Марком Захаровым».

С момента выхода фильма Захарова советские зрители разделились во мнении. Споры о том, чья экранизация получилась лучше, зачастую превращались в серьезные конфликты. Впрочем, это не помешало Ширвиндту получить порцию народной любви — и даже от тех, кому версия Гайдая понравилась намного больше.

В комедии «Трое в лодке, не считая собаки» Наума Бирмана Ширвиндту досталась роль джентльмена Харриса, англичанина, одного из трех друзей, решивших отправиться в небольшое путешествие на лодке. Путешествие, впрочем, затянулось.

Изначально приятели договорились, что присутствие женщин не должно нарушить их отдыха, но в пути им встретились три обаятельных англичанки. Покой отдыхающих джентльменов оказался нарушен, хоть они и сопротивлялись этому, как могли. В финале каждого из трех друзей ждала свадьба. 

Бирман рассказал легкую и азартную историю, которая позволила Ширвиндту раскрыться в новом амплуа.

Пятый фильм Рязанова,«Вокзал для двоих» в котором снялся Александр Ширвиндт. Он сыграл ресторанного лабуха, пианиста Шурика. Лиричная и драматичная история о музыканте, который пропустил свой поезд и застрял в провинциальном городишке без средств и документов, была номинирована на Золотую пальмовую ветвь в Каннах в 1983 году.

По сюжету музыкант Платон Рябинин в буфете на вокзале знакомится с официанткой. За несколько дней, вынужденно проведенных в компании друг друга, они то ссорятся, то мирятся, а потом осознают, что влюблены. Но у музыканта есть жена, которая недавно сбила человека на машине. Главный герой взял вину на себя и дал расписку о невыезде, которую тут же нарушил, опоздав на поезд. Теперь его ждет суд и лишение свободы. Случайная встреча с официанткой все меняет: герой понимает, что совсем не любит жену.