В 1926 году Аденауэру предложили пост канцлера. Он отказался, ибо не разделял идей национал-социализма. С приходом к власти Гитлера 13 ноября 1933 года Аденауэр был смещен с поста бургомистра Кельна. Опасаясь ареста, он переезжал из города в город, пока наконец не осел с семьей в Рендорфе — местечке, расположенном на берегу Рейна, недалеко от Кельна.
Аденауэр не присоединился ни к одной антинацистской группе. Он отказался участвовать в заговоре против Гитлера, ибо не верил в его успех. В июле 1944 года, после неудачного покушения на Гитлера, Аденауэра арестовали. Однако учиненный ему допрос показал его непричастность к заговору. 26 ноября 1944 года он был освобожден. Перед самым концом войны его снова арестовали и заключили в концлагерь недалеко от Кельна. Старшему сыну, служившему в вермахте, удалось добиться освобождения отца.
Настоящая политическая карьера Аденауэра началась после военного поражения Третьего рейха. В марте 1945 года американский комендант Кельна предложил Аденауэру выполнять обязанности бургомистра. Он согласился.
В 1948 году на оккупированной американцами, британцами и французами территории Германии были образованы 11 западногерманских земель.
В Бонне начал работу Парламентский совет, президентом которого избрали Аденауэра, как председателя и одного из основателей Христианско-демок-ратического союза (ХДС). Христианское мировоззрение, ориентация на западные духовные ценности привлекали немцев из различных социальных слоев.
Аденауэр выступал за рыночную экономику. Ознакомившись с лекциями баварского профессора-экономиста Л. Эрхарда, он и вместе с ним ХДС взяли на вооружение теорию социального рыночного хозяйства.
Началась холодная война. Воссоединение Германии отодвигалось на неопределенное время. Логика политического развития вела к формированию западногерманского государства.
23 мая 1949 года была принята Конституция Федеративной Республики Германии, а 15 сентября 1949 года с перевесом в один голос федеральным канцлером был избран 73-летний Конрад Аденауэр. В 1948 году умерла его жена Августина. Он остался в кругу семерых детей и многочисленных внуков.
С 1951 по 1955 год Аденауэр одновременно занимал и пост министра иностранных дел. Вернуться в международное сообщество было совсем непросто — требовалось преодолеть отчуждение стран, пострадавших от германского фашизма. Это стало главной целью дипломатии первого канцлера ФРГ.
Страна постепенно сбрасывала оккупационные путы и обретала независимость. 2 мая 1951 года ФРГ стала учредительницей Европейского объединения угля и стали — прообраза Евросоюза. Аденауэр нанес первые официальные визиты в Париж, Рим, Лондон, а через два года — в Вашингтон. 10 сентября 1952 года в Люксембурге он подписал соглашение о репатриационных платежах, в котором предусматривалась помощь молодому государству Израиль.
Преодолевая сопротивление политических противников, 5 мая 1955 года ФРГ стала членом НАТО. В том же году со вступлением в силу Парижских соглашений, подписанных 23 октября 1954 года, для ФРГ закончился период оккупации. Будущее Европы канцлер видел в сочетании различных типов экономик, в постоянном обмене духовными и культурными ценностями.
Выступая в бундестаге и объясняя причину своего несогласия с предложениями Советского Союза о сокращении вооружений и призывая отклонить предложение фракции СДПГ об отказе от проведения в жизнь предусмотренных парижскими соглашениями мер по ремилитаризации Западной Германии, Аденауэр говорил: «Я, канцлер ФРГ, как и ранее, против демилитаризации страны… Мы позаботимся о том, чтобы ни социал-демократы, ни коммунисты никогда больше не пришли к власти». При этом он заявлял, что правительство Бонна будет при любых обстоятельствах выполнять военные обязательства, вытекающие из парижских соглашений.
В сентябре 1955 года Аденауэр посетил с официальным визитом Москву. Все правила протокола: выставление почетного караула, исполнение гимна республики, подъем в Кремле государственного флага ФРГ, — были соблюдены.
В первое время после войны у Аденауэра появились мысли о возможности мирного взаимодействия западных стран и Советского Союза. Иллюзии быстро рассеялись: мир раскололся на два лагеря с различным мировоззрением, этическими ценностями и политическими задачами. Противостояние двух систем нарастало. В его эпицентре оказалась расколотая Германия. Аденауэр твердо решил, что нейтральная позиция немцев в такой ситуации невозможна: Германия будет с Западом.