В августе 1939 года Молотов и Риббентроп заключили договор о ненападении, который предрешил также и судьбу Финляндии, так как она признавались сферой интересов СССР.
5 октября 1939 года Советское правительство предложило Финляндия направить в Москву дипломатов для решения «конкретных политическ вопросов». Паасикиви, назначенный руководителем финской делегации, получил указание от своего правительства придерживаться заключенных между странами договоров и делать акцент на нейтралитете Финляндии. О передаче территорий не могло быть и речи.
Переговоры начались 12 октября в Кремле. Сталин и Молотов предложили финляндским дипломатам заключить двусторонний договор о взаимопомощи, аналогичный договорам, подписанным СССР с государствами Балтии. Паасикиви ответил категорическим отказом. Тогда советская старона, ссылаясь на необходимость обеспечения безопасности Ленинграда, предложила Финляндии сдать в аренду СССР полуостров Ханко и остров в восточной части Финского залива, а также уступить западную часть Карельского перешейка в обмен на территориальную компенсацию в других районах. Паасикиви, следуя рекомендациям своего правительства, отверг и этот вариант, после чего возвратился для консультаций в Хельсинки.
21 октября Ю.К. Паасикиви вновь отправился на переговоры в Москву. На этот раз его сопровождал руководитель социал-демократов Вяйне Таннер. Инструкции правительства были столь же жесткими: никаких территориальных уступок. Можно было только говорить о «выпрямлении» Куоккальской излучины на Карельском перешейке и о некоторых мелких отдаленных островах Финского залива. Второй раунд советско-финляндских переговоров также не принес результата. На встрече Сталин заявил, что требования СССР минимальные и из-за них не стоит торговаться.
Делегация вернулась в Хельсинки. Паасикиви считал, что следует пойти на некоторые послабления в территориальном вопросе. Но правительство уступать не желало.
31 октября Паасикиви и Таннер в очередной раз отправились в Москву. Последним наставлением, которое Эркко дал Паасикиви, было следующее: «Забудь, что СССР — великая держава!» Это показывает, какую азартную игру вело внешнеполитическое руководство Финляндии. С другой стороны, нельзя отрицать, что согласие с территориальными претензиями СССР грозило Финляндии фатальными последствиями.
Когда Паасикиви и Таннер уже находились в поезде на пути в Москву, было опубликовано выступление Молотова, в которой давалось разъяснение по поводу территориальных претензий СССР. Эркко хотел сразу же отозвать участников переговоров, но те решили выполнить свою миссию до конца.
В Москве Сталин неожиданно заявил, что готов отказаться от требований изменить границы на Карельском перешейке и от Ханко. Вместо этого он предложил предоставить СССР якорную стоянку в Лаппохья, неподалеку от Ханко, и один из близлежащих островов. Паасикиви пришлось и на этот раз ответить отказом, так как Эркко в своих инструкциях, отправленных в Москву, запретил договариваться о ближних к Ханко островах.
Переговоры зашли в тупик, и 13 ноября финляндская делегация отправилась домой. Жесткая линия правительства Финляндии на переговорах с Советским Союзом во многом объясняется почти единодушной поддержкой парламента. Депутаты полагали, что Советский Союз не решится начать войну и времени для переговоров еще предостаточно. Наиболее влиятельными критиками линии правительства были Паасикиви и Маннергейм, призвавшие проявить на переговорах большую гибкость.
Сталин объявил советскому генералитету, что финляндский вопрос придется решать силой оружия. 30 ноября 1939 года СССР расторг Договор о ненападении и дипломатические отношения с Финляндией и объявил ей войну. «Зимняя война» была относительно недолгой. В 1940 году Паасикиви снова отправился в Москву в составе делегации Финляндии для заключения советско-финляндского мирного договора. В 1940–1941 годах он находился в СССР в качестве посланника.
На протяжении всей войны Паасикиви поддерживал через Стокгольм контакты с представителями Советского Союза. И когда позднее в Финляндию прибыла контрольная комиссия, между Паасикиви и ее руководителем Ждановым установились доверительные отношения. В феврале — марте 1944 года Паасикиви вел неофициальные переговоры с Советским правительством о заключении перемирия. В Стокгольме он встречался с А.М. Коллонтай. Паасикиви был ее старым другом со времен работы в Стокгольме на посту посланника Финляндии в Швеции, и она высоко ценила его реализм и трезвый ум.