Sa situation géographique stratégique et ses fortifications permettent à la ville de jouer un rôle de premier plan dans le bassin méditerranéen jusqu'au XVIe siècle. Mahdia est tout d'abord un comptoir phénicien puis romain sous le nom d'Aphrodisium[2] avant d'être officiellement fondée en 916 par le premier calife fatimide Ubayd Allah al-Mahdi[3] qui lui laisse son nom actuel. La ville devient ainsi la « capitale » des Fatimides en 921[3] et le reste jusqu'en 973, date à laquelle Le Caire devient capitale[4]. Assiégée durant huit mois (944-945) par les kharidjites sous la conduite de leur chef Abu Yazid, la ville résiste victorieusement.

En 1057, les Zirides s'y réfugient face à la menace des Hilaliens. Roger II de Sicile (1er comte normand de Sicile) l'occupe en 1148 et maintient son assise sur la ville jusqu'à la chute de celle-ci, dans les premiers jours de 1160, aux mains des Almohades. La ville perd alors de son importance politique au profit de Tunis mais n'en demeure pas moins un important port considérée comme la clé du pays.

La ville est la proie de plusieurs sièges. En 1390[5], devant la perte de ses positions commerciales en Tunisie en faveur de Venise, Gênes organise une expédition militaire voulant lui donner le caractère d'une nouvelle croisade au prétexte de venger la piraterie des barbaresques contre les chrétiens. Elle obtient l'assistance d'un corps de seigneurs franco-anglais, dont Louis II de Bourbon prend le commandement. La place, défendue par les Arabes de Bougie (Béjaïa), de Bône, de Constantine et des autres pays du Maghreb, venus au secours des Tunisiens, résiste à toutes les attaques, et les alliés, que les mésintelligences ne tardent pas à diviser, sont obligés de reprendre la mer après soixante et un jours de combats infructueux[6].

Mahdia est prise au XVIe siècle par le corsaire Dragut qui en fait son repère[7]. Charles Quint s'empare de la ville en 1550. Les Espagnols y restent jusqu'en 1554 et, en repartant, font sauter les remparts que les Ottomans ne reconstruiront que partiellement[8]. Depuis la ville a retrouvé son calme et est devenue l'un des plus grands ports de pêche de Tunisie.

La galère de Mahdia, remontant au Ier siècle av. J.-C. et chargée d'objets d'art athéniens est retrouvée à six kilomètres au large de Mahdia. Elle fait de la ville l'une des plus riches sites de l'archéologie sous-marine en Tunisie.