Malgré quelques remaniements intervenus à la fin du 20e siècle, le manoir de Kergatorn conserve d'importants vestiges du 15e siècle qui montre la qualité de l'édifice lors de sa construction.
L'intérêt du manoir de Kergatorn réside en plusieurs points : le contraste entre ses façades et l'intérieur, les campagnes successives et rapprochées qui expliquent des changements de parti, la survivance au 17e siècle d'un parti abandonné dès le 16e siècle.
Le premier manoir est probablement construit au 15e siècle pour la famille de la Haye : on peut émettre l'hypothèse qu'il sagissait dun plan en T dont le retour Est aurait aujourd'hui disparu, constitué de deux salles superposées et de chambres dans le corps transversal (cuisine au rez-de-chaussée) ; la distribution aurait été assurée par un escalier (dans tourelle d'angle ?) dont le départ oblique est visble à gauche de la porte d'entrée. Les portes bouchées dans le pignon nord menait à une chambre (basse et haute), mais cette partie, signalée par les pierres d'attente, n'a peut-être jamais été réalisée. Des pierres d'assise de rampants sculptées d'un lion et d'un chien courant ont été démontées et replacées dans une maison moderne sur le bord de la rivière d'Etel.
Dès le 16e siècle cependant, ce parti est mis en brèche avec la création d'un nouvel escalier en vis en bois dans une tour d'escalier postérieure hors-oeuvre carrée, une forme qui n'existe pas au 15e siècle. La difficulté est de savoir si l'escalier en façade et le retour sont alors supprimés : il paraît surprenant que ce corps et l'escalier aient pu être dès le 16e siècle en mauvais état.
Dans la 2e moitié du 17e siècle, une nouvelle campagne aboutit à une transformation radicale de l'élévation antérieure avec régularisation des baies en élévation ordonnancée. Il reste cependant que la porte haute créée au-dessus de celle du rez-de-chaussée n'est pas sans poser question : il s'agirait d'un accès différencié à la chambre haute, ayant conservé son statut de salle d'apparat en raison de la qualité de sa cheminée. Peut-être un perron et un escalier divergeant à deux volées droite en permettaient-ils l'accès, la tour en façade ayant depuis longtemps disparu.
Nous sommes donc en présence de trois campagnes de travaux, mais avec la persistance d'une partie des baies, de toutes les cheminées d'origine, et de la salle haute, un usage qui avait disparu des manoirs probablement dès le 16e siècle.