Начинались они с характеристики самой Коллегии: «Дела в Коллег иностранных дел, или, просто сказать, в тайном совете, суть наиважнейшие»; все эти дела исполняются служителями коллежской канцелярии которая есть «вечный государственный архив и всем старинным и прошедшим в государстве делам, поступкам, поведениям и взятым мерам вечное известие», отсюда следует, «что необходимо установить в ней <канцеляри КИД> вечный и основательный порядок».
По мнению Остермана, служители Коллегии должны быть «умными в делах уже обученными, и вследствие малолюдства их принуждены будут работать день и ночь, то необходимо им учинить хороший порядок и довольное пропитание». Вместе с тем служителей предлагалось освободить от постоев, так как они занимались секретными делами, ибо «излишняя компания дома к излишним разговорам часто ведет».
«Предложения» Остермана не были утверждены из-за смерти Петра I. Однако они изучались и использовались при составлении штатов на протяжении всего XVIII столетия.
Петр Великий отдавал должное уму и прозорливости барона Остерна, отмечал, что он лучше других министров знает истинную пользу Русского государства, и был для оного необходим.
Императрица Екатерина I, по восшествии на престол в 1725 году, пожаловала его государственным вице-канцлером и действительным тайным советником. С тех пор Остерман вступил в управление иностранными делами и оправдал впоследствии доброе мнение, которое имел о нем покойный император.
В послепетровскую эпоху Остерман превратился в одну из ключевых фигур российской политики. Его отличала фантастическая работоспособность; по отзывам современников, Остерман занимался делами и днем и ночью, и в будни и в праздники. В течение 15 лет он фактически руководил русской внешней политикой.
Благодаря Остерману в 1726 году Россия заключила союзный договор с Австрией, сохранивший свое значение на весь XVIII век, ибо в основе его согласно идее Остермана, была общность интересов по расчленений Польши, «укрощению» Пруссии и изгнанию турок из Европы.
Новая внешнеполитическая программа России была сформулиро! на Остерманом в июле — августе 1727 года и развита в письмах к Б.И. Баракину и А.Г. Головкину, русским уполномоченным на Суассонском конгрессе. Основные принципы ее таковы: «убежать от всего», что «могло бы в какое пространство ввести», то есть избегать любых военных столкновений; «освободиться добрым порядком» от имевшихся обязательств в отношении голштинского и мекленбургского дворов, а добившись этого — «возобновить прежнее согласие с дацким»; восстановить прежние дружеские отношения с Англией; короля прусского содержать на своей стороне, ибо, «хотя и вспоможения великого от него ожидать невозможно, однако ж для других соседов пригодится»; с Австрией «оставаться в союзе» для решения турецких и иранских дел, а с другими соседями «искать дружбу и союз». Эта примирительная программа постепенного сближения с Англией и Данией, дальнейшего укрепления русско-австрийске союза при ее реализации позволила бы России укрепить свои позиции в Балтике и в целом в Европе, а также приступить к решению «восточны» проблем.
Остермана ценили как профессионала, опытного и умного человека, но все равно в силу своего нрава, происхождения он оставался чужаком для русской знати, а потому особенно льнул к фаворитам и «сильнейшим» у подножия трона. Вначале его покровителем стал А.Д. Меншиков, влиятельный вельможа при дворе Екатерины I. Благодаря близости к нему Остерман получил важную должность воспитателя — обер-гофмейстера великого князя, а потом императора Петра II. Осенью 1727 года Остерман перешел на сторону враждебного Меншикову клана князей Долгоруких и стал одним из инициаторов свержения и ссылки светлейшего в Сибирь.
Тонкий политический нюх, знание человеческих слабостей, самообладание, беспринципность и умение вовремя поставить на победителя, плести сложную интригу и при этом оставаться в тени — все эти качества позволили Остерману удержаться на плаву при пяти самодержцах. Тяжело пришлось ему в начале 1730 года, когда члены высшего правительственного органа — Верховного тайного совета, куда, кстати, входил и Остерман, вознамерились ограничить власть императрицы Анны Иоанновны. После провала этого предприятия Остерману чудом удалось избежать опалы.
С немалым трудом Остерман — член Кабинета министров и граф — сумел найти подход к капризному и подозрительному фавориту Анны Иоанновны Э.И. Бирону, который хотя и не любил Андрея Ивановича, но ценил его как крупного специалиста, считался с его мнением. Генерал Манштейн пишет в своих мемуарах: «Граф Остерман был без сомнения в свое время один из величайших министров в Европе. Он совершенно знал пользы всех держав; имел способность обнимать все одним взором, и одарен будучи от природы редким умом, соединял с оным примерное трудолюбие, проворство и безкорыстие. Он никогда не принимал ни малейшего подарка от иностранных дворов, не получив прежде на то позволения от своего двора. С другой стороны, имел чрезвычайную недоверчивость и простирал часто слишком далеко свои подозрения; не мог терпеть никого выше себя, также равного, разве несведущего. Никогда коллеги его в Кабинете не были им довольны; он во всем хотел быть главным, а чтобы прочие соглашались только с ним и подписывали. В затруднительных делах Государственных, когда, по занимаемому им месту, следовало ему дать свое мнение, он притворялся больным, опасаясь учинить что-либо для себя предосудительное, и посредством такой политики удержался при шести разных правительствах».