Первый – деревянный, - Пороховой погреб был возведен в 1770г. Внутри погреба были устроены нары для хранения пороха, бочки были уложены почти до верха.

Деревянный погреб прослужил четверть века, в 1797 г. он за ветхостью был разобран, и на его месте стали строить погреб из камня. В 1799 году в бастионе Святой Анны был возведен новый Пороховой погреб.

Погреб выстроили из красного кирпича местного производства с применением блоков из ракушечника для устройства фундамента. Белокаменные блоки использовали и как облицовочный материал. Для возведения полукруглого свода внутри были устроены подмостки и кружала.

Погреб представляет собой прямоугольное в плане сооружение, с пристроенным входным тамбуром, перекрытое полуцилиндрическим сводом, наружная часть которого двускатная. Для уменьшения распора свода по продольным стенам сооружены контрфорсы. Стены погреба двойные, между ними устроены вентиляционные каналы, соединенные с окнами продушинами. Окна продушины расположены по всему периметру стен, воздух поступавший через них циркулировал между стенами, попадая в погреб, что позволяло избежать резкой разницы температуры снаружи и внутри погреба, а, следовательно, и конденсата. Внутри стен на уровне окон продушин сделаны каменные перегородки, являвшиеся защитой от проникновения кого-либо в погреб, от случайного снаряда, пули или факела, который могли бросить для подрыва порохового склада. Пол в помещении выложен "в елочку" из красного кирпича, уложенного на ребро (для прочности) в песок.

Таким погреб сохранился до нашего времени. Правда в 1799г. в Погребе были значительные дополнения, связанные с его использованием по назначению - хранением пороха - для наружного и внутреннего проемов было выковано двое двупольных дверей из "белого" железа и ставни для окон-продушин. Вокруг стен и контр-форсов был уложен слой дерна, прибитый специально заготовленными деревянными спицами. Свод сверху залили смолой, переменно с глиной в 3 слоя, и обложили 2-мя слоями дерна, что создало толстую подушку из переплетающихся корней и служило амортизационной защитой при попадании снаряда.

Внутри были устроены деревянные стеллажи, на которых хранились бочки с порохом. ". . . А всего в нем пороху помещается 3 668 пуд" = 60 т.

Таких погребов было в крепости четыре, но здания в бастионе св. Петра, в Полугарном бастионе, и правее Алексеевских ворот - не сохранились. В 1806 г. Пороховой погреб в бастионе Св. Анны перестроили в артиллерийский цейхгауз. В связи с этим меняется конструкция здания: внутри были разобраны стеллажи и пол, сооружено междуэтажное перекрытие, разделившее погреб на 2 этажа. По перекрытию на 2-м этаже настелили пол, в торцевых фасадах сделали 6 оконных проемов, в южном фасаде был прорублен вход на 2-й этаж. На 2-х этажах были устроены полки для складывания снарядов. Перестройка Порохового погреба (1806-1808 гг.) в цейхгауз, наряду с постройкой кирпичных Алексеевских ворот вместо деревянных (1805 г.), были одними из последних крепостных построек, - в начале XIX в. фортификационное строительство в Азовской крепости почти прекращается, строят в основном за крепостью, в форштадтах цивильные постройки.

В 1810 году Азовская крепость была упразднена, гарнизон выведен, постепенно она пришла в упадок.

В течение XIX века засыпанный землей по крышу Пороховой погреб считался турецким (как и другие древности - Вал, Ворота), о чем свидетельствовала надпись на памятной открытке. С Погребом было связано множество невероятных легенд о сокровищах, оставленных там турками.

В XIX- нач. XX в. Погреб использовался для хранения льда.

В советское время, после принятия Советом Министров СССР в 1948 г., 1956-57 гг. Постановлений об улучшении охраны памятников культуры, Азовский горисполком принял решение о сохранении памятников военно- инженерного искусства - Порохового погреба, Алексеевских и Генуэзских (Нижне-Таганрогских) ворот, валов и рвов Азовской крепости.

Особое внимание было уделено Пороховому погребу: реставрация и фрагментарная консервация этого памятника предусматривали сохранность древней кладки и всех других древних конструкции.

С 1961 по 1965 гг. погреб был отремонтирован и передан краеведческому музею, открытому в 1961 г.