17 ноября 1901 года на Алтае в селе Камень (ныне город Камень-на-Оби) в крестьянской семье. Ване было только три года, когда его отец погиб. Иван остался в большой и дружной старообрядческой семье своего дедушки, Осипа Комогорова. С восьми лет мальчик помогал по хозяйству, был пастухом.
В конце 1915 года Иван Пырьев сел в один из воинских эшелонов и поехал на фронт. Был дважды ранен, награжден Георгиевскими крестами 3-й и 4-й степеней. В период Гражданской войны Пырьев стал красноармейцем, сначала рядовым, затем политруком и агитатором.
В 1923 году Пырьев получил актёрское образование, а позднее и режиссёрское, закончив отделение Государственной экспериментальной театральной мастерской В.Э. Мейерхольда.
Иван Пырьев начинал как помощник режиссёра. Вскоре о нём заговорили как о «короле ассистентов». Утверждали, что даже самый беспомощный режиссёр при помощи Пырьева добьётся успеха. Конечно, он хотел снимать фильмы самостоятельно. Первой его работой была картина «Партийный билет», которая принесла режиссёру первый всесоюзный успех. Однако дирекция «Мосфильма» не одобрила работу Пырьева, из-за чего он отправился на Киевскую киностудию.
Именно здесь Пырьев создаст свои бессмертные шедевры, найдя себя в жанре музыкальной комедии: «Богатая невеста»; «Трактористы»; «Свинарка и пастух»; «Кубанские казаки»; «В шесть часов вечера после войны»; «Сказание о земле Сибирской». Для советских зрителей эти фильмы были чем-то вроде весёлой сказки, позволявшей хоть на время очутиться в другой, яркой и праздничной реальности. На самом деле жизнь обычного человека в нашей стране была значительно труднее.
Во всех этих фильмах главные роли сыграла жена режиссёра актриса - Марина Ладынина.
Пырьев работал много и удачно. Он создал и такие картины как: «Испытание верности», «Наш общий друг», «Свет далекой звезды». Из классиков его особенно привлекал Достоевский. Ивану Александровичу удалось создать грандиозный фильм «Идиот» и предельно лиричную в своем драматизме картину «Белые ночи».
Весь последний период творчества Иван Александрович Пырьев занимался общественной деятельностью. В 50-60-е годы руководил «Мосфильмом», затем его Вторым объединением, где поддерживал многих молодых режиссёров, позднее ставших знаменитыми. В 1957 году Пырьев возглавил оргкомитет Союза советских кинематографистов. Он избирался депутатом в Верховный Совет СССР, осуществлял культурные связи с зарубежными странами, долгие годы был заместителем председателя Большого художественного совета Министерства кинематографии СССР.
Вечером 7 февраля 1968 года вернувшись с работы, Иван Александрович лёг, уснул и не проснулся. Похоронен на Новодевичьем кладбище Москвы.
В 1969 году на Международном кинофестивале в Москве Ивану Александровичу Пырьеву посмертно был присуждён специальный приз за выдающийся вклад в киноискусство.