Chùa được xây dựng vào khoảng năm 1130, là nơi thờ Phật và đức tổ Mẫu Ngâu
Đến năm 1762, chùa được một vị quốc lão triều Lê đứng ra hưng công, tu bổ lớn. Để tri ân công đức ấy, dân làng thờ ông và đặt tên chùa là Quốc Lão Hưng Long tự
Do vị trí địa lý ven sông Tô Lịch và đường quốc lộ nên chùa Ngâu trong thời gian kháng chiến chống Pháp từng trở thành nơi che giấu cán bộ chiến sĩ và vũ khí đạn dược