平遥文庙位于县城内东南隅，始建于唐贞观初年，其大成殿为金大定三年(1163年)重建，至今保持原貌，是我国现存各级文庙中历史最久的殿宇，是全国文庙中仅存的金代建筑。在1957年地震后，县政府揭瓦维修时发现，殿脊梁下记有“维大金大定三年岁次癸未四月日辛酉重建”的墨迹。据《新唐书？礼乐五》载：“武德二年，始诏国子学立周公、孔子庙……(贞观)四年，诏州、县学皆作孔子庙。”开元二十七年(739年)，朝廷又对孔子的尊号、孔庙规格、祭孑礼制、配飨者名单等制定了统一规范，尊孔崇儒达到了历史的新高峰。唐代把全国各县按人口、税赋、物产、地理位置等分为七个等级，即“赤、畿、望、紧、上、中、下”，平遥属“望”，即第三等，其位置重要，自然应当率先奉诏修建孔庙。
平遥文庙历来为县学所在，直至清光绪末年废除科举后，县学才停，改办为“平遥县实业学校”，开始了新学。到1923年，一些商贾财东捐资在文庙办起了“平遥励志中学校”，县长郭学谦还题写了校名门额，后改为官办平遥中学校，迁址到察院街。1950年，太岳中学同平遥中学合并，校址又设在文庙，其建筑基本保存着原貌，只拆除了棂星门、西学、省畜所。20世纪50年代末，修建平遥中学教学楼时，拆除了超山书院、敬一亭、尊经阁。1997年平遥古城被列为世界文化遗产，平遥文庙列为全国重点文物保护单位。在中共平遥县委、县政府、平遥中学和上级有关部门的支持下，平遥中学于2003年全部迁至东城外新校址。成为平遥古城的主要文物旅游景点之一，2004年正式向游人开放。