Đền Vại còn gọi là đền Nhà Bà nằm dưới chân núi Mồng Gà, thuộc thôn 1, xã Ân Phú. Từ xa xưa, Đền Vại là nơi để thờ Đức Trung đẳng thần thời Lê, bà là Lê triều Hoàng hậu người họ Ngô, á hiệu Quận Quân húy Ngô Thị Ngọc Điệp. Bên cạnh bà là đức Phu quân phối vị Đô chỉ huy sứ Tượng Sơn Cao Liệt Lê Ngọc Xán. Theo truyền thuyết, Đền có từ khi Đức Bà tạ thế và hiển thánh tại đây, khoảng thời gian cuối thế kỷ XV, đầu thế kỷ XVI.
Việc thờ tự tại Đền Vại là việc làm đúng đạo lý và là truyền thống quý báu của địa phương, phù hợp với quy định của pháp luật. Đền Vại phải được tôn tạo, duy tu, bảo dưỡng thường xuyên về cơ sở vật chất và phát triển về mặt thờ tự vừa mang tính cổ truyền, vừa hiện đại. Ngày nay phải kế thừa nếp sống đẹp ngày xưa và cải tiến để phù hợp với nếp sống văn minh của người đương thời mang tính văn hóa tâm linh sâu sắc của tín ngưỡng dân gian.
Ngôi đền này được xây dựng và tôn tạo nhiều lần, trước năm 1949 có một am miếu, hai căn nhà gỗ tọa lạc trên một không gian linh thiêng, tĩnh mịch, có thủ từ coi giữ. Hàng năm tế tự vào dịp 12 tháng 2 âm lịch, xã tổ chức tế lễ rất trang trọng. Năm 1949 thực hiện chính sách hợp tự, lúc đó Ân Phú ngày nay là thôn 7 thuộc xã Đồng Công cho nên nhập tự về chùa Am – phần lớn Đền bị phá bỏ, một ngôi nhà gỗ đưa về làm cửa hàng hợp tác xã, một ngôi đã bán đi mất tích không còn dấu vết. Tượng Bà khi dỡ để hợp tự ở chùa Am, 35 sắc phong của xã, trong đó có 10 sắc phong về Đền
Trải qua lịch sử hàng trăm năm, đền đã được duy tu, tôn tạo nhiều lần và lần gần đây nhất là vào năm 2008. Hiện nay, trong đền đang còn lưu giữ nhiều sắc phong, hiện vật lịch sử có giá trị. Năm 2009, Đền Vại được UBND tỉnh Hà Tĩnh xếp hạng di tích lịch sử văn hóa cấp tỉnh. Hàng năm, vào ngày 12/2 âm lịch, xã Ân Phú đều tổ chức lễ hội truyền thống nhằm tưởng nhớ, tôn vinh công lao to lớn của Lê Triều Hoàng hậu Ngô Thị Quận Quân và các vị thần trong việc mở mang bờ cõi, chống giặc ngoại xâm.