Получив среднее образование, Олег Шкловский поступил в Школу-студию МХАТ. В 1970 году Олег Ефремов пригласил будущего актёра в труппу театра «Современник», где Шкловский прослужил 20 лет.
В кино артист дебютировал в 1972 году в фильме «Визит вежливости». Самыми известными кинокартинами в фильмографии актёра в период 1970-х – 1980-х годов являются: «Здравствуйте, я ваша тётя!» (1975), «Зимний вечер в Гаграх» (1985), «Бармен из «Золотого якоря» (1986), «Дежа вю» (1989), «Узник замка Иф» (1989).
Одновременно Олег Шкловский сочинял собственные сценарии, пьесы и прозу, всё больше убеждаясь, что ошибся в выборе профессии. Написав заявление об уходе, актёр начал преподавать восточные боевые искусства, был занят восстановлением православного храма, пел в хоре, был чтецом, реставратором.
Только в конце 1990-х актёр вновь вернулся на сцену. Гильдия актёров кино России на фестивале «Созвездие» вручила Олегу Шкловскому приз за лучшее исполнение мужской роли второго плана в фильме «У попа была собака» (1993). После этого актёру стали поступать предложения сняться в фильмах.
Позже Олег Шкловский по приглашению Александра Любимова становится ведущим ток-шоу в формате исторического расследования «Как это было» на канале ОРТ (производство телекомпании ВИD). Программа выходила с октября 1997 по май 2002 года.
С 2000 года Олег Шкловский активно снимается в многосерийных фильмах и телесериалах. Например, «Пан или пропал» (2003), «Звезда эпохи» (2005), «Сыщик Путилин», «Национальное достояние», «Паутина» (2007), «Две судьбы – 4» (2008), «Джокер» (2009 - 2019), «МУР. Третий фронт» (2012), «Практика» (2014) и многих других.
В 2005-2006 годах актёр снимался в сериале «Не родись красивой», где играл вместе со своим сыном Михаилом Шкловским, который тоже посвятил себя актёрской профессии.
Дочь Мария с успехом окончила МГУ и Сорбонну, изучила шесть иностранных языков и стала профессиональным лингвистом. Она помогала отцу на съёмках фильма «Под небом Вероны» и даже сыграла там эпизодическую роль итальянки Лючии..