Les gisants des ducs Jean II et Jean III proviennent de l'ancienne église du couvent des Carmes dont le duc Jean II était le fondateur. Le monument était élevé et isolé, et placé dans le chœur, face au maître-autel (Copy).

Pendant les guerres de la Ligue, après la ruine du couvent en 1591 et sa démolition par les moines eux-mêmes, les tombeaux furent transportés dans l'église du prieuré Saint-Nicolas, où s'installèrent provisoirement les Carmes, en novembre 1592. La translation des corps inhumés dans l'église des Carmes et le transfert des tombeaux eurent lieu en 1593.

Les tombeaux furent replacés dans la nouvelle église des Carmes vers 1618, "reconstruite sur le plan et à l’emplacement de la précédente". Le tombeau s'élevait dans le chœur, entre le grand autel et le chœur, du côté de l'évangile. En 1646, les Carmes le reléguèrent dans le côté du chœur, à gauche du maître-autel où il resta jusqu'à la Révolution. En 1790, les socles des tombeaux furent brisés et les gisants déposés. En 1814, le conseil municipal fit transporter provisoirement à la communauté des Carmélites : une statue intacte de marbre blanc représentant Jean II, duc de Bretagne ; une autre statue aussi de marbre blanc représentant Jean III, duc de Bretagne ; celle-ci ayant les jambes brisées, mais dont les pièces sont entières et peuvent être facilement restaurées, ne manquant à cette statue que les mains qu'on a pu retrouver ; une couronne ducale aussi en marbre blanc.

En 1820, le Conseil général du Morbihan fit restaurer les statues et les coucha sur le mausolée de marbre noir qui existe encore aujourd'hui. D'abord placé dans la chapelle Sainte-Anne de l'église de Ploërmel, le tombeau fut déplacé, vers 1875, au bas de l'église puis à son emplacement actuel (Bellevue).

Les parois du tombeau n'ont pas été replacées lors de la restauration de 1820 ; plusieurs fragments sont déposés au musée Dobrée à Nantes.