Перед Жуковым и другими командующими была поставлена новая задача — очистить от немцев Левобережную Украину, форсировать Днепр и освободить Киев. В сентябре немецкая группа армий «Юг» отступили за Днепр, закрепилась по обе стороны Киева и заняла оборону по берегу Днепра до самого Запорожья. Широкий Днепр, правый берег которого намного выше левого, был серьезным естественным препятствием для наступающих частей советской армии. Однако уже 27 сентября советские войска форсировали реку южнее Киева у Переяславля. 16 октября, стянув на этот плацдарм достаточное число войск и техники, Жуков начал постепенно его расширять. В начале ноября войска 1-го Украинского фронта (так стали называть с конца октября Воронежский фронт) форсировали реку севернее и южнее Киева. 3 ноября они ударили по позициям 4-й армии Гота. Та не выдержала и откатилась на запад. Через три дня Киев был освобожден, а 13 ноября советские войска уже вышли к Житомиру. 24 декабря 1-й Украинский фронт начал новое контрнаступление, 31 декабря был взят Житомир, а к началу января 1944 г. советские войска вышли на польскую границу.
В мае 1944 г. Жуков был отозван с юга для подготовки наступления в Белоруссии — в Ставке и в Генеральном штабе пришли к мнению, что пора нанести немцам удар на центральном направлении. 23 мая Сталин подписал план операции «Багратион». Замысел ее был прост, но в то же время смел и грандиозен. Предполагалось одновременно прорвать оборону группы армий «Центр» на шести направлениях, окружить и разгромить фланговые группировки немцев в районе Витебска и Бобруйска. После этого планировалось сходящимися ударами трех Белорусских и одного Прибалтийского фронтов в общем направлении на Минск окружить и уничтожить основные силы группы армий «Центр». Жукову было поручено координировать действия 1-го и 2-го Белорусских фронтов. Наступление готовилось с большой тщательностью. Весь июнь Жуков объезжал подчиненные ему армии, детально разрабатывая с каждым из командующих план предстоящей операции на участке его фронта. 21–23 июня все четыре фронта перешли в наступление. Удары наносились по обе стороны Витебска на Оршу и Могилев, а также севернее и южнее Бобруйска. В наступлении участвовало 2,5 млн. советских солдат. 24 июня Витебск, в котором находились четыре немецких дивизии, был окружен и вскоре взят. 26 июня части 2-го Белорусского фронта прорвали немецкую оборону между Могилевым и Оршей. В те же дни 1-й Белорусский фронт окружил под Бобруйском основные силы 9-й немецкой армии — свыше 40 тысяч человек. Когда окруженные попытались прорваться, Жуков приказал подавить их сопротивление с воздуха. В течение полутора часов около 500 советских бомбардировщиков и штурмовиков поражали немцев бомбовыми ударами, пушечным и пулеметным огнем. Результаты бомбежки были ошеломляющими. По воспоминаниям самого Жукова, в это время на земле горело все, что только могло гореть. Немецкие солдаты как обезумевшие метались во все стороны. Все, кто не пожелал сдаться, погибли в этом страшном аду. 4 июля был взят Минск, 13 июля — Вильнюс, а к концу месяца вся территория Белоруссии была очищена от противника. Группа армий «Центр» подверглась при этом почти полному разгрому. Советские войска форсировали Вислу и создали на ее западном берегу несколько плацдармов. В конце августа наступление приостановилось. В результате проведенной операции было разгромлено 147 немецких дивизий. Войска на центральном направлении продвинулись вперед сразу на 600 км. Жуков за успешно проведенное наступление был награжден второй Звездой Героя Советского Союза.
В ноябре 1944 г. Жуков был назначен командующим 1-м Белорусским фронтом. Тогда же Сталин утвердил план Висло-Одерской операции, в результате которой предполагалось форсировать Вислу и освободить всю территорию Польши. Висленский рубеж имел развитую систему траншей и бетонные огневые точки, прикрытые минными полями, противотанковыми рвами и проволочными заграждениями. Глубина обороны составляла 30–70 км. Однако главные свои силы немцы сосредоточили не в Польше, а в Венгрии, Чехии и Восточной Пруссии, ожидая, что ближайшая цель советского наступления — Прага, а не Берлин. Жукову и Коневу (последний командовал 1-м Украинским фронтом) удалось скрытно сосредоточить на своем направлении большие силы. На направлениях главного удара Жуков имел 15-кратное превосходство над противником на суше и 20-кратное — в воздухе. Наступление началось 14 января 1945 г. В первые же дни были окружены немецкие танковые корпуса. Оборона противника была смята, и советские войска неудержимым потоком хлынули к границам рейха. Впереди наступавших стремительно двигался бронетанковый таран — более 4000 танков. 17 января была взята Варшава. К концу месяца 9-я немецкая армия была прижата к Одеру — последней крупной водной преграде на пути к Берлину. 3 февраля танки западнее Кюстина по льду переправились через Одер и оказались в нескольких часах езды от Берлина. Однако Жуков перенес всю тяжесть своего удара на Восточную Померанию, где оборонялась группа армий «Висла». Спустя десять дней 1-я танковая армия фронта разрезала ее пополам и 4 марта вышла к берегам Балтийского моря, окружив Кольберг. 30 марта был взят Данциг. Война вступила в заключительную стадию. 1 апреля Ставка приняла план Берлинской операции. За всю войну советским войскам еще не приходилось брать такого крупного и сильно укрепленного города как Берлин, занимавшего 900 квадратных км. Подходы к немецкой столице с востока — от Одера — представляли собой сплошную зону оборонительных сооружений, главная линия которых проходила по Зееловским высотам. Немцы называли ее «замком Берлина». Бои за немецкую столицу носили чрезвычайно ожесточенный характер. 16 апреля Жуков начал штурм Зееловских высот и овладел ими, понеся огромные потери, только 19 апреля, когда были прорваны все три линии обороны немцев. 20 апреля советские танки вошли в пригороды Берлина. Одновременно южные пригороды были заняты войсками 1-го Украинского фронта Конева. 25 апреля город был полностью окружен. Начались жестокие уличные бои. Чтобы подавить оборону врага, на немецкую столицу был обрушен сокрушительный огонь артиллерии и авиации. Обстрел города вели 11 тысяч орудий (с 21 апреля по 2 мая они выпустили по Берлину 800 000 снарядов). Советские самолеты, безраздельно господствовавшие в воздухе, постоянно наносили мощные бомбовые удары.