Олег Владимирович Пеньковский родился 23 апреля 1919 года в городе Орджоникидзе. По окончании артиллерийского училища в 1939 году принимал участие в войне с белофиннами на Карельском перешейке. В 1940 году принят в ряды ВКП(б) и откомандирован в Московский военный округ, где назначен на должность заместителя начальника отдела политуправления. Его начальником был дважды Герой Советского Союза, генерал-лейтенант Дмитрий Гапанович. В 1942 году Пеньковский познакомился с дочерью Гапановича, Верой, которая впоследствии стала его женой.

В ноябре 1943 года Пеньковский подал рапорт с просьбой направить его на фронт. Просьба была удовлетворена, и он поступил в распоряжение начальника штаба артиллерии 1-го Украинского фронта генерал-полковника Сергея Варенцова. В июне 1944 года Пеньковский был ранен и отправлен в московский госпиталь. В конце июля, перед отправкой на фронт, он узнал, что в «генеральском» госпитале в Серебряном переулке находится на излечении генерал Варенцов. Пеньковский на «чёрном рынке» приобрёл бутылку французского коньяка и явился к своему командиру, и тот оставил его при себе в качестве офицера связи. Впоследствии Пеньковский ещё не раз оказывал услуги семье Варенцова, за что снискал дружбу генерала, вскоре ставшего Главным маршалом артиллерии.

За боевые заслуги в ходе двух войн Пеньковский награждён шестью боевыми орденами и одиннадцатью медалями.

В 1948 году Пеньковский окончил Военную академию им. Фрунзе и был направлен на учёбу на факультет стратегической разведки Военно-дипломатической академии (ВДА), которую окончил с красным дипломом в 1953 году.

В 1955 году Пеньковский был командирован в Турцию, где официально занимал должность военного атташе и неофициально – исполняющего обязанности резидента легальной разведки ГРУ.

Через семь месяцев в Анкару прибыл новый резидент, генерал-майор Савченко. После того как он допустил ряд серьёзных оперативных просчётов, Пеньковский воспользовался этим, чтобы обвинить его в некомпетентности. Будучи чрезвычайно азартным игроком, Пеньковский решил сорвать банк, а в качестве крупье привлечь «соседа», то есть резидента КГБ в Анкаре. Ему он и направил свою петицию-обвинение. Разразился скандал, одной из причин которого было традиционное соперничество между двумя спецслужбами – КГБ и ГРУ. О случившемся доложили Хрущёву, после чего Пеньковский был отозван в Союз и получил выговор за несоблюдение правил должностной субординации. Впрочем, впоследствии действия Пеньковского были признаны правомерными, и Савченко отправили в отставку.