Первой его «пробой пера» оказалась юношеская команда «Страсбурга», которую он возглавил в 1981 году. Но в своем родном городе Арсен Венгер оставался недолго — в 1984 году перебрался в «Канн» в качестве помощника тренера. Главным тренером впервые стал в 1984 году в клубе «Нанси». А первые успехи на тренерском поприще пришли к Арсену Венгеру в клубе «Монако», который он возглавлял с 1987 года. С первой же попытки Венгер вывел «Монако» в чемпионы Франции, а в 1991 году выиграл Кубок страны.
Успех мог быть и большим — в 1992 году клуб «Монако» дошел до финала Кубка обладателей кубков, но проиграл бременскому «Вердеру». И тем не менее Венгер уже завоевал себе в футбольном мире громкое имя. С 1994 по 1996 год он работал в Японии, активно осваивавшей футбольную науку. Под руководством Венгера клуб «Грампус Эйт», до этого идущий на последних местах, завоевал Кубок Императора и Суперкубок Японии, а сам французский специалист был назван лучшим тренером страны.
И все-таки настоящая слава «доктора футбольных наук» пришла к Арсену Венгеру в английском «Арсенале», который он возглавил в 1996 году. Знаменитый, особенно до Второй мировой войны, клуб тогда не блистал. Чемпионом Англии до «эры Венгера» последний раз был в 1971 году.
Венгер начал не с перестройки прежних тактических схем, а с функциональной подготовки футболистов, создав для этого, как некогда Валерий Лобановский, специальную «научную бригаду». Для каждого футболиста была разработана индивидуальная программа подготовки и восстановительных процедур, а кроме того и специальная диета. Венгер и сам подолгу занимался с каждым из футболистов, определяя для себя его слабые и сильные стороны. Недостатки он пытался устранить, достоинства развить.
«Арсенал» располагал прекрасными футболистами — в нападении действовали Йан Райт и голландец Деннис Бергкамп, надежным был тогда и вратарь Дэвид Симэн. Тем не менее многие позиции явно нуждались в усилении. И уже в 1996 году в «Арсенале» появился чернокожий полузащитник сенегалец Патрик Вийера, перешедший из «Милана». В свой первый сезон Арсен Венгер привел «Арсенал» к третьему месту. Бесспорным же лидером английского футбола второй половины 1990-х годов был «Манчестер Юнайтед» Алекса Фергюсона.
В сезоне 1997—1998 года, с приходом французского полузащитника Эммануэля Пети и голландского нападающего Марка Овермарса, игра «Арсенала» стала обретать новые черты. Мощнее выглядела атака, надежнее оборона. Тем не менее должным образом игровые связи еще не были налажены, крупные победы «Арсенала» чередовались и поражениями. На первом месте привычно шел «Манчестер Юнайтед», к сентябрю 1997 года он опережал лондонцев на тринадцать очков.
Однако на финише чемпионата «Арсенал» преподнес сенсацию. Начиная с декабря команда Арсена Венгера не проиграла ни одного матча. 14 марта «Арсенал» выиграл у «Манчестера» на его поле — единственный гол был забит Марком Овермарсом. 3 мая 1998 года, победив «Эвертон», «Арсенал» досрочно стал чемпионом Англии.
Но это был не единственный триумф Арсена Венгера. Через тринадцать дней «Арсенал» выиграл и Кубок Англии, победив со счетом 2:0 «Ньюкасл». Так «Арсенал» дерзко и стремительно ворвался в число лидеров английского футбола.
Все последующие годы были, по сути дела, соревнованием двух великих тренеров — француза Арсена Венгера и шотландца Алекса Фергюсона. В сезоне 1998—1999 года за два тура до окончания чемпионата у «Арсенала» и «Манчестера» очков было поровну. Однако в игре с «Лидсом» лондонцы, весь матч имея преимущество, умудрились пропустить мяч на девяносто первой минуте. Чемпионом стала команда Фергюсона, опередившая «Арсенал» лишь на очко. В том же сезоне «Манчестер» завоевал и Кубок Англии, причем в полуфинале он встречался с «Арсеналом» и победил, забив решающий гол в дополнительное время.
Весной 2000 года в чемпионате Англии «Арсенал» вновь оказался вторым, а «Манчестер Юнайтед» первым, но на этот раз сэр Алекс Фергюсон опередил Арсена Венгера на… восемнадцать очков, став чемпионом задолго до финиша. Единственным достижением «Арсенала» можно было бы считать выход в финал Кубка УЕФА. Но матч против турецкого «Галатасарая», проходивший в Копенгагене, закончился нулевой ничьей, а в серии пенальти у арсенальцев дрогнули нервы. Кубок впервые в своей истории отправился в Стамбул.
В следующем сезоне «Арсенал» снова был вторым, но на этот раз не только в чемпионате, но и розыгрыше Кубка Англии, где проиграл «Ливерпулю». Зато в матче первого круга, показав изумительную по красоте игру, победил в Лондоне своего главного оппонента — «Манчестер Юнайтед». Единственный гол забил перешедший в «Арсенал» из «Монако» суперфорвард Тьерри Анри. Да и вообще лондонский клуб был значительно усилен именно игрой французских футболистов — полузащитника Робера Пиреса и нападающего Сильвена Вильтора. Тем не менее в ответном матче в Манчестере на стадионе «Олд Траффорд» «Арсенал» потерпел сокрушительное поражение — 1:6.