Николай Львович Волленберг родился в 1892 году в городе Двинске бывшей Витебской губернии, в семье железнодорожного служащего, немца по национальности.

Учился в школе в Варшаве и в городском училище в городе Речице, которое окончил в 1910 году. Свободно владел немецким и польским языками. В 1910—1911 годах работал на Черноморском торговом флоте сначала учеником, а затем — матросом. В 1914 году окончил среднее сельскохозяйственное училище в городе Пскове.

С 1914 по 1918 год служил рядовым в царской армии, принимал участие в боях Первой мировой войны. В ноябре 1917 года вступил в ряды партии большевиков. Был одним из организаторов Красной гвардии в Белоруссии.

После демобилизации из армии Волленберг вел активную общественную и партийную работу: возглавлял райземотдел, избирался членом ряда парткомов в городах Конов, Могилев, Гомель.

В органах ВЧК — ОПТУ с 1920 года. Являлся председателем Могилевской уездной ЧК, а затем — Гомельской губернской ЧК. Среди сотрудников Волленберга по Гомельской ЧК были талантливые молодые чекисты Наум Эйтингон, Владимир Алексеев-Железняков, Павел Корнель и другие, ставшие впоследствии видными советскими разведчиками.