В те годы Италия переживала одну из самых трагических страниц в ее истории — нашествие лангобардов. Григорий вспоминал позже: «Все тогда во многих частях Европы предано было варварам, разрушены были города, ниспровергнуты станы, опустошены провинции, земледельцы бежали со своих полей… и конца не предвиделось казням божественного правосудия». Север и юг страны уже пребывали под властью варваров. Многие итальянцы были убиты или ограблены, другие бежали.
Византийцы сохранили контроль только над небольшой областью в центре полуострова с городами Римом и Равенной, но и те, казалось, вот-вот падут. Григорий был отправлен ко двору Тиберия II с поручением ходатайствовать о помощи против германцев, но не очень преуспел в этом деле (императору тогда было не до Италии — он с трудом отбивался на востоке от персов, а на севере от славян и аваров).
В эту поездку Григорий взял несколько монахов из своего монастыря и, окруженный ими, проводил в Константинополе время так, как будто был в своем андреевском монастыре в Риме, соблюдая все предписанные уставом порядки. Не оставлял он и литературных трудов. В столице Григорий начал писать сочинение «Толкование на Иова». Вернувшись в 585 г. в Рим, он сделался настоятелем своего монастыря, а также исполнял должность церковного секретаря при Пелагии.
В 590 г. Рим постигли новые страшные бедствия — сначала разрушительное наводнение, а потом эпидемия, в результате которой умерло много народа, и среди них папа Пелагий. Временное управление церковью, как к одному из диаконов, перешло к Григорию. По избрании преемника Пелагию он собирался вернуться в свой монастырь. Однако и народ, и гражданские власти единодушно потребовали от него, чтобы он стал новым папой. Узнав об этом, Григорий пришел в ужас (надо полагать, совершенно искренний, поскольку хорошо представлял тяжесть забот, связанных с исполнением должности первосвященника). Поначалу он отказывался, пытался даже скрыться из города, но народ не позволил ему уехать. Наконец Григорий согласился принять наследие Пелагия.
Положение, в котором он оказался после своего избрания, было очень затруднительным. Сам Григорий сравнивал свою церковь «с древним, разбитым бурею кораблем, в который со всех сторон проникает вода, так как балки его сгнили, расщеплены ежедневными бурями и грозят крушением». Самая страшная угроза исходила со стороны лангобардов. Местные византийские власти не имели ни мужества вести с ними действенную войну, ни мудрости для начала мирных переговоров. Варвары, чувствуя свою безнаказанность, то и дело совершали опустошительные набеги на окрестности Рима. Жители деревень, обессиленные войной и болезнями, почти не занимались земледелием. Страна жила под постоянной угрозой голода. Состояние церковных дел также оставляло желать лучшего. Церкви и монастыри были разорены; духовенство малочисленно, его явно не хватало для пастырского руководства общинами. Среди священников ощущался общий недостаток нравственности и дисциплины. Да и сама католическая вера находилась под угрозой.
Лангобарды, хозяйничавшие в Италии, исповедовали арианство. В Галлии эта ересь также имела очень сильные позиции. Испания только в 589 г. освободилась от арианства, но требовалось потратить еще много сил для завершения и закрепления этой победы.
Первой и главной заботой Григория стало заключение мира с лангобардами.
Формально ведению пап в то время подлежали только церковные дела. Но поскольку наместники императора — экзархи, укрывшись в хорошо укрепленной Равенне, бездействовали, папы фактически сделались правителями Рима и им поневоле приходилось принимать участие в политических делах. В 592 г. Григорий через голову экзарха самовольно утвердил с варварами мирный договор. Византийцы его не признали, и война продолжалась. В 593 г. король лангобардов Агилульф подступил к самому Риму, опустошил его окрестности и перебил множество жителей. Григорию пришлось начинать все сначала. Только в 599 г., благодаря его неустанным хлопотам и посредничеству, был найден компромисс, устраивающий обе стороны, и император заключил с варварами мир. Итальянцы наконец могли вздохнуть свободней.
Однако для роста значения папства в то время важна была не столько политическая, сколько церковная деятельность Григория. В этом отношении труды его также были многогранными и плодотворными. До наших дней дошло более 850 писем этого папы, представляющих замечательную картину его обширной и разнообразной деятельности.