Самата крепост не е голяма – тя представлява квадратно укрепление с размери 40х40 метра, като във всеки ъгъл има издигната по една кръгла кула.
От четирите кули към момента най-запазена е югоизточната, която е и най-внушителна със своитенад 16 метра височина. Тази кула е дала и името на съвременния град.
Всъщност тази малка квадратна крепост (квадрибургий) в центъра на Кула е само едната част от по-голямо укрепление. Другата част – укрепен военен лагер – е била разположена южно от квадрибургия.
Крепостта Кастра Мартис е спомената за първи път от Феликс Каниц през 70-те години на 19-ти век. Крепостта е проучена само частично през 80-те години на 20-ти век, и то само покрай голямата кула.
Смята се, че крепостта е построена през 3-4-ти век по времето на римския император Диоклециан, и разрушена през втората половина на 6-ти век по време на аварските нашествия. Векове по-късно, по времето на цар Иван Срацимир, крепостта е използвана за защита на Видинското царство.
