Он считал, что для укреплений своего авторитета СССР должен участвовать в различного рода международных пактах и конференциях. Особенно высоко он ставил вопросы разоружения и уделял много внимания переговорному процессу, проводившемуся при его активном участии в Женеве. Одной из первых подобных акций было подписание Литвиновым с рядом соседних с СССР государств Московского (на Западе его называют Литвиновским) протокола от 9 февраля 1929 года о досрочном введении в действие пакта Бриана — Келлога о запрещении войны в качестве орудия национальной политики.
21 июля 1930 года Литвинов был назначен наркомом иностранных дел СССР. Свое кредо он изложил советскому полпреду в Лондоне И.М. Майскому: «Советская внешняя политика, — говорил нарком, — есть политика мира. Это вытекает из наших принципов, из самих основ Советского государства… До сих пор наилучшие отношения у нас были с Германией, и в своих действиях мы старались, насколько возможно, поддерживать единый фронт с Германией или во всяком случае принимать во внимание ее позицию и интересы… Не сегодня завтра к власти придет Гитлер, и ситуация сразу изменится. Германия из нашего „друга“ превратится в нашего врага… Очевидно, что теперь в интересах политики мира нам надо попробовать улучшить отношения с Англией и Францией, особенно с Англией, как ведущей державой капиталистической Европы».
Расчеты Литвинова на быстрое сближение с Великобританией не оправдались. Но было важно, чтобы она не противодействовала политике сближения СССР с другими странами. Уже в ноябре 1932 года был подписан договор о ненападении между СССР и Францией, аналогичные соглашения были заключены с Польшей и рядом других государств Восточной Европы. В 1933 году по приглашению большой группы государств СССР вступил в Лигу Наций. У. Черчилль в своих воспоминаниях писал: «Литвинов, который представлял Советское правительство, быстро приспособился к атмосфере Лиги Наций и пользовался ее моральным языком с таким большим успехом, что он скоро стал выдающимся деятелем».
В своем стремлении содействовать сохранению мира Советское правительство согласилось на участие в региональных пактах взаимопомощи, заключив в 1935 году соответствующие договоры с Францией и Чехословакией. Литвинов резко возражал против высказываний тех политиков и журналистов, которые позже пытались «изобразить эти пакты как какой-то подарок или благодеяние Советскому Союзу». Эти пакты, указывал он, «помимо оказания помощи в случае войны, имеют также целью предотвращение или уменьшение опасности войны в определенных частях Европы».
Успех сопутствовал Литвинову и в другом важном начинании — установлении дипломатических отношений СССР с Соединенными Штатами Америки. Переговоры Литвинова с Рузвельтом в ноябре 1933 года не были легкими. Потребовалась неделя, чтобы добиться соглашения об установлении дипломатических отношений. Одновременно был произведен обмен нотами о пропаганде, то есть о невмешательстве во внутренние дела друг друга, о правовой защите граждан, о пользовании религиозной свободой для американских граждан, проживающих на территории СССР, о судебных делах, согласно которым СССР отказывался от всех исковых прав и претензий к американским гражданам, включая суммы, которые могли причитаться ему по решению американских судов.
В ходе переговоров Литвинову удалось установить прекрасные личные отношений е Президентом Ф. Рузвельтом, с рядом его сотрудников И министров.
Вернувшись в Россию, Максим Максимович, докладывая об итогах ев поездки, отметил, что признание СССР Америкой — это было «падем последней позиции, последнего форта в том наступлении на нас капитала стического мира, который принял после Октября форму непризнания бойкота».
С середины 1930-х годов положение в мире все более осложняет Литвинов призывает с трибуны Лиги Наций к коллективным действия против агрессора.
Драматические события 1939 года стали новым поворотным пунктом судьбе Литвинова. Захват Чехословакии и другие акты германской агрессии не встречали должного отпора со стороны Великобритании, Франции и других стран. Советский Союз стремился обеспечить безопасность своих западных рубежей, заключив соглашения с Англией и Францией о взаимопомощи. Однако правительства этих стран, готовя, по словам У. Черчилля, полумеры и юридические компромиссы, всячески затягивали переговоры. «Эта оттяжка стала фатальной для Литвинова, — писал У. Черчилль. — …Доверие к нам упало. Требовалась совершенно другая внешняя политика для спасения России».