Le manoir a probablement été édifié au 15e siècle par Gicquel Autret qui possédait les terres de Lezoualc’h en 1427.
L'édifice actuel est pourtant postérieur. En effet, la tour d’escalier et les ouvertures de la façade antérieure ont été ajoutées au 16e siècle par son arrière-petit-fils Jehan Autret, sieur de Lezoualc'h, et sa femme Catherine Le Picart dont les armoiries en alliance sont sculptées sur un autel de pierre, dans la chapelle voisine de Lannourec. La date de 1591 a été observée sur la porte intérieure du rez-de-chaussée ouest et témoigne de cette époque. (Elle est accompagnée d’une croix et d’une inscription difficilement lisible.)
Le manoir passe des Autret à plusieurs autres familles successivement : les Channoy, du Bot de Talhouët, Milon et Mascarenne de Rivière. A la Révolution, Lezoualc’h appartient à messire Antoine-Marie Mascarenne de Rivière et de sa femme Louise-Renée de Rospiec.
En 1793, il est signalé comme le quartier général des contre-révolutionnaires du Cap-Sizun, sous la direction de Rospiec, ancien président du Directoire du district de Pont-Croix et père de Louise-Renée. Il a été séquestré et acquis nationalement un an plus tard, le 27 nivôse an II (16 Janvier 1794), par Yves Urcun de Goulien.
Certains des bâtiments de la cour signalés sur le cadastre de 1836 sont dus à la famille Urcun. Sur le linteau de la porte du fournil se trouve en effet l’inscription gravée FP JEAN URCUN : 1819. Ce dernier, fils de Yves Urcun, a été maire de Goulien de 1806 à 1815 puis de 1830 à 1843. Il a également fait ériger la croix de Kereon à 600m au nord-est du manoir sur le socle de laquelle il a fait inscrire son nom et la date de 1817.
On attribue également à la famille Urcun la construction des appentis au nord du logis, de chaque côté de la tour au début du 19e siècle et la réduction de cette dernière de 15 mètres.
Notons enfin la date de 1813 gravée sur le cadran solaire.
En 1968, la façade du logis a été fortement remaniée, seule la porte a été conservée. Une photographie prise dans les années 1960 ainsi que quelques croquis réalisés par Louis Le Guellec en 1926 rappellent son aspect d’origine : une élévation irrégulière avec 7 fenêtres aux dimensions et formes différentes.
A l’époque du remaniement avaient déjà été construits certains des hangars agricoles modernes que l’on observe aujourd’hui au sud, à l’est et à l’ouest de l’ensemble
Moulin, chapelle et colombier
Si le moulin à eau associé au manoir est encore en élévation au nord de l’enceinte, remanié et transformé en habitation, le colombier et la chapelle ont disparu depuis longtemps.
Signalé dans un aveu de 1686, le colombier se trouvait près du moulin, de l’autre côté du ruisseau. Seule la toponymie des lieux rappelle son existence : La section B du cadastre de 1836 signale deux « Parc ar houldri » (le champ du pigeonnier) aux parcelles 455 et 466 et une « Allée ar houldri ».
Quant à la chapelle, elle n’apparait dans aucun document consulté. On sait juste que lors d’une vente du manoir en 1730, il est indiqué : « un emplacement de chapelle ».
Chargée d'études à l'Inventaire