Le musée a été créé en 1835, à la demande de deux érudits locaux – Wlgrin de Taillefer et de Mourcin – agissant tous deux pour la sauvegarde du patrimoine antique et médiéval de Périgueux. Suite aux délibérations des édiles municipaux, départementaux et du préfet, il a d’abord été abrité dans des locaux aujourd’hui disparus au sud du cloître de la cathédrale Saint-Front.
Or, en 1866, sur les allées de Tourny, le site de l’ancien couvent des Augustins, transformé en prison après la Révolution, est à vendre. Le Conservateur, Edouard Galy, décide d’acheter les bâtiments pour y installer les collections qui se sont peu à peu enrichies. Les collections d’archéologie et de beaux-arts y sont progressivement transférées entre 1869 et 1874.
En 1891, à la suite d’un legs très important de plus de 150 peintures, flamandes, françaises et italiennes, du XVIe au XIXe siècle, la Ville décide « d’embellir notre belle promenade » par la construction d’un musée bibliothèque. Elle rachète à cet effet l’ancien couvent ainsi que des maisons environnantes. Le concours est lancé officiellement en 1893 : 22 projets sont déposés. Ce sont les architectes Planckaert, de Limoges et Godefroy de Paris qui sont retenus.
Ce projet monumental pour Périgueux, le dernier du XIXe siècle est mené de 1895 à 1898. La réouverture officielle du musée, en raison du long travail de muséographie, ne se fait qu’en juillet 1903.
Sur l’ensemble des 38 musées qui ont fait l’objet d’un programme architectural entre 1815 et 1900, le Musée d’art et d’archéologie du Périgord est l’un des rares dont les volumes d’exposition n’ont pas été modifiés ce qui en fait désormais une référence historique.