Ce cimetière (civil) est le premier à avoir été aménagé dans la cité fortifiée avant le XVe siècle, autour de la chapelle Saint-Sébastien. En 1718, ce site étant considéré comme saturé, un nouveau cimetière est créé près de la chapelle de l'Étang puis en 1757 en bordure de la rue de Sarreguemines.
À partir de 1763, la chapelle ne joue donc plus son rôle essentiel de chapelle de cimetière, mais reste un lieu de pèlerinage à saint Sébastien. La chapelle ainsi que le cimetière sont rouverts après la Seconde Guerre mondiale pour les inhumations militaires.