Однако никто не мог гарантировать, что внешние заговоры против Страны Советов на этом прекратятся, поэтому созданная еще 20 декабря 1917 года Всероссийская чрезвычайная комиссия уделяла неизменное внимание получению разведывательной информации из-за рубежа. В начале 1918 года Дзержинский направляет со специальным разведывательным заданием в Финляндию сотрудника ВЧК Филиппова. Позже по поручению Дзержинского в Турцию с разведывательным заданием выезжает спецагент ВЧК Султанов. По заданию особых отделов, созданных в декабре 1918 года, сотрудники и агенты ВЧК направляются в тылы германских войск на Украине, в Прибалтике и в Белоруссии для ведения разведки и организации партизанских отрядов.

В то же время в Москве понимали, что решить вопросы, связанные с ведением закордонной разведки в стане противника, только путем засылки агентуры за линию фронта, было нельзя. Поэтому осенью 1920 года, проанализировав причины поражения Красной Армии в войне с панской Польшей, Политбюро ЦК РКП(б) пришло к выводу о необходимости для страны иметь надежную разведку. Было принято решение о создании самостоятельной разведывательной службы внутри органов ВЧК. Исходя из этого решения партии, 20 декабря 1920 года Ф.Э. Дзержинский подписал приказ № 169 «О создании Иностранного отдела (ИНО) ВЧК». Исполняющим обязанности начальника ИНО стал Яков Христофорович Давыдов (настоящая фамилия — Давтян).