尧庙始建于晋代，后经唐、元、明、清历代修建，不断扩大。庙内前面有东西朝房、光天阁、尧井亭，后面有尧宫、舜宫、禹宫、万寿宫，最后是寝宫，东西两边还有许多房舍、庭院。据史传，尧庙规模最大时占地七百八十余亩。
进了尧庙，首先看到的是秀丽的五凤楼。它始建于唐代乾封年间，距今已有一千三百多年的历史。楼高十九点三米，三层十二檐，楼底有砖建窑廊三孔，有直通三层角柱十三根，甚为雄伟。楼顶直立陶人三十余个，陶狮为中，风吹可上下走动，十分美观。据说，尧王常同他的四个大臣（既两位宰相。两位阁老）登楼远眺，而当时人们又把他和他的四位大臣喻为“五凤”，并有“一凤升天，四凤齐鸣”之说。“五凤楼”之名便由此而来。 
五凤楼的后面有尧井亭。该亭始建于东晋太宁年间，距今已有一千六百多年的历史。亭为六角高檐楼阁形式，小巧玲珑，非常别致。亭中水井据说是尧王亲手所掘。井的直径八寸，井壁为两层，外层有卯榫砖九块一圈，叠圈砌成。相传尧井通海，至今井下泉水汩汩，清冽可饮。
广运殿亦称尧宫，是召见众臣共商国事的地方，也是庙内的主体建筑。始建于唐显庆三年，距今已有一千三百多年的历史。殿高二十三米，通进深二十六点三米，通面宽四十三米。殿内有十二米通顶立柱四十二根。柱下石基座雕刻精细，狮子、麒麟栩栩如生，各式花卉竟斗可妍，实为国内罕见。大殿龛内，有高达二米八的唐塑尧王像，两边站着两位宰相和两位阁老。尧王，据说姓伊，是尧庙南八里伊村人。伊村现尚存刻有“帝尧茅茨土阶”的石碑。相传尧王以前就住在土阶上的茅草屋子里。《韩非子 . 五蠹》中写道：尧王住的茅草屋，吃的野菜根，不加调味，用土缸盛饮水，粗布仅掩身体，冬天披鹿皮，衣履不到破烂不堪不换。可见尧王的生活十分艰苦。
广运殿后是寝宫，始建于唐代麟德年间，距今约一千三百多年。宫龛内塑有尧王和其夫人的像。据说尧王的夫人是鹿仙女，生于姑射山中。山上现有鹿仙女洞、鹿仙女照镜石（约一亩多大）、梳妆台等。庙内苍劲的古柏，植于晋代，高十数米，直径两米多，十分罕见。其中的柏抱槐、柏抱楸，每至夏日，柏树中间盛开着槐花、秋花、奇趣盎然，堪助游兴。