Tướng quân Ninh Hữu Hưng mất ngày mồng 4 tháng 6 năm Kỷ Mùi (1019), hưởng thọ 81 tuổi. Con cháu và dân làng đã đưa linh cữu ông về chân núi Xương Bồ- Ninh Bình an táng. Tưởng nhớ công lao ông, các thôn làng do ông tạo dựng như La Xuyên, Ninh Xá đều lập đền thờ để tri ân công đức. Các sắc phong của các triều đình phong kiến sau này hiện còn lưu giữ tại dích đu phong ông là Thiên tử Diêm La vương hoặc Dinh điền quan Lão La đại thần. Tấm bia đá soạn khắc dưới triều Lê Nhân Tông niên hiệu Thái Hòa thứ nhất (1443) cho biết trong quá khứ ngôi đền La Xuyên đã bị chuyển đi một số lần, đến năm 1443 bắt đầu được xây dựng tại vị trí hiện nay. Sau này nhân dân xây thêm một ngôi phủ thờ Mẫu Liễu Hạnh bên cạnh, đáp ứng nhu cầu tín ngưỡng của nhân dân.

Đình La Xuyên được xây dựng theo hình chữ Đinh. Tòa tiền đường gồm 3 gian, cao 8m, được làm theo kiểu chồng diêm hai tầng tám mái. Hệ thống vì tại tiền đường được thiết kế theo phong cách chồng rường giá chiêng. Gánh đỡ các bộ vì là 4 hàng cột lim to khỏe, có đường kính 50 cm. Tại đây các cấu kiện gỗ như câu đầu, xà thượng, xà hạ, con rường đều được soi chỉ, điểm các hàng lá lật mềm mại. Tất cả kết hợp cùng những nét cổ kín, uy nghiêm.

Nối tiếp tiền đường là trung đường và chính tẩm. Cũng giống như tiền đường, hai tòa này cũng được hoàn toàn bằng gỗ lim. Tại đây chính là nơi thể hiện rõ nét tay nghề tài hoa của các nghệ nhân La Xuyên. Các hình tượng con rồng, tứ quý, tứ linh… trên các cánh cửa, các bộ vì được chạm bong, chạm lộng với kỹ thuật gia công cầu kỳ, tỉ mỉ, sắc nét.

Nằm về phía bắc của đình La Xuyên là ngôi phủ thờ mẫu Liễu Hạnh được thiết kế theo kiểu tiền chữ nhất, hậu chữ đinh. Hệ thống vì gỗ lim tại công trình này cũng được làm theo kiểu chồng rường giá chiêng, chạm khắc các đề tài tứ quý, tứ linh, lá lật… với nhiều kiểu dáng, đường nét khác nhau thể hiện tính sáng tạo, trình độ điêu luyện của một làng nghề truyền thống.

Đình phủ La Xuyên không chỉ là nơi lưu giữ, thể hiện nét tài hoa của những nghệ nhân nơi đây mà còn lưu giữ, phát huy những nét truyền thống văn hóa làng nghề được thể hiện qua mỗi kỳ lễ hội được tổ chức từ ngày mồng 10 đến 15 tháng giêng hàng năm. Lễ hội không chỉ là dịp vui xuân, thưởng thức các trò chơi dân gian mà còn là cơ hội để những người con xa quê hương hòa mình vào những nét thuần phong mỹ tục quê hương, thể hiện tinh thần uống nước nhớ nguồn. Đặc biệt, trong lễ hội dân gian làng thường tổ chức các cuộc thi trình diễn các sản phẩm gỗ làm từ chính những người thợ trong làng. Cuộc thi không chỉ là dịp để những người thợ trao đổi, học tập kinh nghiệm của nhau mà còn là dịp quảng bá sản phẩm của làng nghề truyền thống, đúng như câu ca mà nhân dân lưu truyền: