К 1279 году строительство Малого укрепления — центральной части замка — было почти завершено, уже действовала Домская церковь, ставшая впоследствии главной церковью епископства. Малое укрепление, целиком принадлежавшее духовенству, было наиболее защищенным сооружением замка. Здесь размещались рабочие и жилые комнаты епископа, каноников и других служителей церкви, и потому светские люди в Малое укрепление обычно не допускались.
В первые годы особенно строго воспрещалось пускать в Малое укрепление женщин, но впоследствии этот запрет превратился в пустую формальность. Разбогатевшие каноники стали вести жизнь беспечную и разгульную, а потом вообще предоставили отправление богослужений викариям, а сами разъезжались по своим имениям. По этому поводу возникали многочисленные споры с епископами Эзеля, которые сделали Гапсаль своей резиденцией. Особенно обличал каноников епископ Гейнрих, умерший в 1381 году загадочной смертью. Каноников заподозрили в убийстве, и, чтобы отомстить им за смерть епископа, рыцари Икскюль и Шэренбэк ночью залезли со своими помощниками в замок, многих каноников перебили, других пленили, сожгли их жилища и похитили казну.
В западном крыле Малого укрепления находился Зал орденского Капитула[25] — Собор высшего духовенства. Из числа 12 членов Капитула избирался обычно новый епископ, но посвятить его в сан мог только римский папа. В Зале Капитула проводились все совещания и судебные заседания. Над Залом находилось сводчатое помещение, назначение которого сейчас установить уже трудно, а под ним — сводчатые подвалы, где начинался подземный вход в церковь, сейчас полностью развалившийся. Ворота над Залом Капитула вели в западную часть Большого укрепления, откуда начинался замурованный подземный ход по направлению к Стрелочной башне.
К настоящему времени от Малого укрепления сохранилось только южное крыло, в свое время занимаемое Домской церковью, построенной в строго готическом стиле. У южной стороны церкви находились ризница и круглая часовня — уникальное строение в прибалтийской архитектуре, так как она стояла отдельно от церкви. Часовня, вероятно, была возведена в XV веке, и с ней связана легенда о «Белой даме», которая порой затмевает более чем 700-летнюю историю самого замка. В XVI веке Гапсальский замок, как уже говорилось выше, был широко известен царившей здесь роскошью и бесконечными кутежами.
Один из каноников привел к себе женщину, переодетую клиросником. Долгое время никто не догадывался об этом обмане, только у епископа, посетившего замок, закралось подозрение. Когда все каноники находились на богослужении, епископ велел обыскать подозрительную келью и нашел клиросника в женской одежде. Тотчас было назначено заседание Собора, на котором постановили женщину замуровать в церковном приделе, а провинившегося каноника бросить в тюрьму и там уморить голодом.
В стене придела было сделано углубление, куда посадили несчастную, дав ей кружку воды и кусок хлеба, а потом стену замуровали. Некоторое время крики женщины доходили до слуха людей, а потом все стихло. Но в светлые ночи она показывается на том месте, где ее постигла страшная участь, и тогда на стене придела можно видеть фигуру сгорбившейся женщины. Днем же различимы только неясные очертания…
В западном крыле Малого укрепления хорошо сохранилась пятиярусная Сторожевая башня, высота которой от основания составляет 35 метров. С верхней ее площадки открывался вид в сторону Гапсальского пролива на расстояние 20 километров, и в Средние века отсюда полностью контролировалось судоходство в проливе, так как вражеский флот можно было обнаружить за несколько часов до его прибытия.
О Большом укреплении Гапсальского замка впервые упоминается в грамотах 1314 года. Поначалу Большое укрепление, по всей видимости, было форбургом — деревянным укреплением перед замком. В 1343 году в ночь на Святого Георгия (23 апреля по старому стилю) вспыхнуло возмущение викских поселян, решивших восстать против немецких владетелей и два месяца осаждавших замок. Епископ Герман II и его приближенные укрылись в замке, и только наступление Орденского войска вынудило часть поселян отступить на остров Сааремаа, где они еще два года продолжали свою борьбу.
В феврале 1576 года под стенами Гапсаля появился 6-тысячный отряд под командованием князя Ю. Томакова, состоявший из русских и татар. Хотя в замке был достаточно сильный гарнизон, провиант и другие припасы и он мог бы устоять против большой армии довольно длительное время, но дворяне и мещане сдали его русским, причем почти без единого выстрела со своей стороны. Во дворце замка Генрих Бойсман, придворный камер-юнкер герцога Голштинского, не заботясь о постыдном плене, весело и беспечно шутил с двумя молоденькими барышнями. Тогда один из русских дворян сказал ему: