После окончания Октябрьской революции Япония принимала активное участие в интервенции на Дальнем Востоке. Попытки советских властей нормализовать отношения с этой страной оставались безуспешными. Япония продолжала уклоняться от признания СССР даже после разгрома интервенции Антанты в европейской части России.
13 февраля 1924 года советские власти уведомили японского консула во Владивостоке о том, что его положение теряет прежнее значение. Отныне дипломат стал рассматриваться как частное лицо. Такой поворот событий оказался для японской стороны неожиданным. Тем более, что в том же 1924 году СССР установил дипломатические отношения с Великобританией, Францией и Китаем.
В свете указанных событий уклоняться от нормализации отношений с Москвой японской стороне становилось все сложнее. Официальные советско-японские переговоры по этому поводу начались 14 мая 1924 года в Пекине. Они завершились 20 января 1925 года подписанием советско-японской конвенции об основных принципах взаимоотношений, 2 прилагавшихся к ней протоколов, декларации Советского правительства и 2 нот, которыми стороны обменялись между собой.
Все прежние договоры Японии с царской Россией, исключая Портсмутский мирный договор, предполагалось пересмотреть. Согласно конвенции, Япония обязалась к 15 мая 1925 года вывести свои войска с территории Северного Сахалина, который после этого переходил под суверенитет СССР.
Договор содержал ряд значительных уступок СССР в пользу Японии, на которые советская сторона пошла ради установления дипломатических отношений. К примеру, правительство СССР дало согласие на предоставление японским подданным, компаниям и ассоциациям концессий на эксплуатацию сырьевых естественных богатств на всей территории Союза. Это было необходимо для стабилизации ситуации на российском Дальнем Востоке, так как признание Японией Советской России вело к прекращению или, по крайней мере, усложнению поддержки японской стороной антисоветских белогвардейских сил на Дальнем Востоке за пределами СССР.