Selon le pouillé historique publié par Guillotin de Corson, la Solitude est une maison de refuge et de préservation fondée en 1852. Cet établissement, dont la chapelle est dédiée à Saint-Joseph, est le complément de l'oeuvre des prisons ; il comprend deux sections : dans l'une sont reçues les femmes libérées, qui trouveraient difficilement à se placer honnêtement au sortir de la Maison Centrale ; dans l'autre sont admises les orphelines pauvres que l'abandon conduirait infailliblement à la misère et au déshonneur. Dans cette maison les soeurs ont un ouvroir où elles enseignent à ces pauvres femmes et jeunes filles des états convenables qui leur permettent plus tard de vivre honnêtement en travaillant. Les terrains de la communauté sont formés de deux propriétés, acquises à Charles Mocudé, percepteur, (parcelles 1099 à 1105), et à M. Bernard (parcelles 1106 à 1109), mais également des parcelles 1086 et 1087, où se situe la maison de l'aumônier, maison en pan de bois à un étage carré, acquise en 1877 à Mme Perdrigeaon du Vernier. Le descriptif réalisé en 1954, au moment de la vente des terrains par la congrégation des Soeurs de Marie-Joseph, pour l'élargissement de la voie donne un plan de masse et renseigne sur les deux corps de bâtiment sur rue (parcelles C 1100 et 1109), à un et deux étages carrés, construits en pan de bois enduit, en pierre et torchis ou encore en brique. La chapelle et une partie des bâtiments sont encore visibles sur le plan de la ville de 1958.