В 1958 году окончил филологический факультет Ленинградского государственного университета.
С 1958 года работал в Комитете государственной безопасности СССР.
В 1959 году стажировался в Колумбийском университете по первой программе студенческого обмена между СССР и США.
В 1959 году стал корреспондентом советского радио в Нью-Йорке.
1965 - 1970 года - второй, затем первый секретарь посольства СССР в США, Вашингтон.
1973 - 1980 года - начальник управления внешней контрразведки.
1980 - 1987 года - первый заместитель начальника управления КГБ по Ленинграду и Ленинградской области.
В 1989 году Калугину было предложено уйти в отставку из органов госбезопасности.
1990 - 1992 года - народный депутат СССР.
Имеет ряд правительственных и ведомственных наград.
В июне 1990 года указом президента СССР (по представлению КГБ) за действия, порочащие честь и достоинство сотрудника органов госбезопасности был лишен государственных наград.
Калугин лишен воинского звания генерал-майора запаса, знака "Почетный сотрудник госбезопасности" и других ведомственных наград. В августе-сентябре 1991 года президент СССР отменил (по представлению КГБ) акты, которые лишили его государственных наград и воинского звания. Также прокуратура СССР по "реабилитирующим основаниям" прекратила уголовное дело в отношении бывшего сотрудника КГБ Олега Калугина, который обвинялся в разглашении государственной тайны.
В конце 1995 года уехал в США на работу по контракту с коммуникационной компанией "Интеркон". Живет в пригороде Вашингтона.
Автор нескольких изданных на Западе книг, в том числе "Вид с Лубянки", "Сжигая мосты", "Мои 32 года разведки и шпионажа против Запада".
Женат, имеет двух дочерей.