Существование на протяжении 40 лет двух Германий явилось следствием раскола мира, который не был преодолен и после войны. Основой строительства государственного единства Германии стал Договор «2+4» — один из краеугольных камней мирного устройства в Европе.
Заметный вклад внесла дипломатия Громыко в прекращение Вьетнамской войны. Итогом длившегося с 1954 года кровопролитного конфликта стало Парижское соглашение 1973 года о прекращении войны и восстановлении мира во Вьетнаме.
Подписанный в августе 1975 года в Хельсинки Заключительный акт имел уже не европейский, а мировой масштаб. Это был по существу кодекс поведения европейских государств, США и Канады в ключевых сферах взаимоотношений, включая военно-политическую. Была закреплена нерушимость послевоенных границ в Европе, чему Громыко придавал особое значение, созданы предпосылки для укрепления стабильности и безопасности в Европе.
В 1976 году госсекретарь США Сайрус Вэнс, выработавший вместе с Громыко соглашение об ограничении стратегических вооружений (ОСВ), сказал о советском дипломате: «…мало кто в современном мире может с ним сравниться… в дипломатии он скрупулезный профессиональный практик, это человек величайших способностей и высочайших способностей и высокого интеллекта, обладающий всеми другими чертами государственного деятеля».
Не менее важно было внедрить хельсинкские принципы в практику, сделать их нормой международной жизни. Это потребовало значительных усилий от советской дипломатии во главе с Громыко. И то что сегодня ОБСЕ, преемница СБСЕ, прошла испытание временем и стала работоспособным, постоянно действующим (а ведь в свое время далеко не все, включая США, разделяли такой принцип) механизмом многостороннего равноправного сотрудничества, в этом немалая заслуга и Андрея Андреевича.
Среди других заслуг Громыко — реализация первой попытки арабо-израильских переговоров о мире — созыв многосторонней конференции в Женеве под сопредседательством СССР и США.
В 1970—1980-е годы многие на Западе говорили о нем, как о «дипломате номер 1». Ведущая лондонская газета «Тайме» писала в 1981 году: «В возрасте 72 лет он — один из самых активных и работоспособных членов советского руководства. Человек с прекрасной памятью, проницательным умом и необычайной выносливостью… Возможно, Андрей Андреевич является самым информированным министром иностранных дел в мире».
В последний раз порог своего кабинета в здании МИДа на Смоленской площади Громыко переступил 2 июля 1985 года. С этого времени и до октября 1988 года он работал в качестве Председателя Президиума Верховного Совета СССР.
Перестройку Громыко воспринял неоднозначно. Внешнюю политику страны в тот период считал чрезмерно и неоправданно уступчивой. Разноречивые чувства вызывала в нем и фигура М.С. Горбачева, на чей приход к власти в апреле 1985 года Громыко решающим образом повлиял. По словам его сына, Андрей Андреевич отмечал в Горбачеве такие слабые стороны, как дилетантизм, поверхностность, стремление произвести благоприятное впечатление на партнеров. Результатом всего этого, по мнению Андрея Андреевича, стало резкое ослабление позиций нашей страны, ее роли и места в мире.
Объективности ради следует признать, что в деятельности МИДа под руководством Андрея Андреевича были не только достижения и успехи. Дипломатия Громыко не была свободна от промахов, ошибок, упущений.
Андрей Андреевич был не только дипломатом, но и ученым: в 27 лет он стал кандидатом экономических наук. И в последующие годы находил время, хоть и урывками, для занятий наукой. В 1957 году он опубликовал книгу «Экспорт американского капитала». За эту работу ученый совет МГУ присвоил ему ученую степень доктора экономических наук. Над данной темой Андрей Андреевич продолжал работать и в последующие годы.
Громыко считал, что дипломатическая деятельность — труд тяжелый, требующий от тех, кто им занимается, мобилизации всех своих знаний и способностей. Задача дипломата — «бороться до конца за интересы своей страны, без ущерба для других».
«Работать по всему диапазону международных отношений, находить полезные связи между отдельными, казалось бы, процессами», — эта мысль была своеобразной константой его дипломатической деятельности.
«Главное в дипломатии — компромисс, лад между государствами и их руководителями».
Сам умелый переговорщик, Громыко понимал искусство дипломата как умение завязывать и поддерживать полезные контакты с иностранными дипломатами и представителями властных структур для получения необходимой информации, а затем квалифицированного ее анализа. Из иностранных политиков и дипломатов Громыко выделял госсекретарей США Г. Киссинджера и С. Вэнса, министров иностранных дел ФРГ В. Шееля и В. Брандта, итальянских премьер-министров А. Моро и А. Фанфани, британских премьеров Г. Вильсона и Г. Макмиллана. Андрей Андреевич любил рассказывать близким о встречах с ними, вспоминал курьезные ситуации. Например, Генри Киссинджер, приезжая в Москву, постоянно боялся прослушивания со стороны КГБ. Однажды он во время встречи указал на люстру, висевшую в комнате, и попросил, чтобы КГБ сделал ему копию американских документов, так как у американцев «вышла из строя» копировальная техника. Громыко в тон ему ответил, что люстры делались еще при царях и в них могут быть только микрофоны.