Chùa phải dời tới thôn Lương Sử, nay là phố Ngô Sỹ Liên (quận Đống Đa). Phổ giác có nghĩa là phổ cập và giác ngộ Phật giáo, nhưng khi chùa còn ở địa điểm cũ thì đây còn là nơi huấn luyện voi chiến.
Đi qua tam quan bằng đá vòm cuốn thì vào tới sân chùa dưới bóng cây si cổ thụ. Tiền đường có bảy gian tường hồi bít đốc, lợp ngói ta, xà bê tông, của bức bàn có chân sóng. Hậu cung nối với tiền đường thành hình chữ “đinh”. Tòa điện Mẫu sáu gian, bốn gian thờ và hai gian tiếp khách.
Nhà thờ tổ cũng có sáu gian, giữa tòa điện Mẫu và nhà thờ tổ là vườn cây ăn quả và các bồn hoa. Chùa Phổ Giác còn có tên là chùa Tàu, bởi xưa kia có tàu voi để huấn luyện voi chiến đấu của nhà vua.
Bên cạnh thờ Phật, chùa còn thờ ông Phan Cảnh Điệp, một người có tài huấn luyện voi dưới thời vua Lê- chúa Trịnh, được phong quận công. Ngoài các tượng Phật, trong chùa còn có tượng Phan Cảnh Điệp và thần phả ghi công tích của ông.
Voi chiến đã góp phần vào những trận đánh thắng giặc ngoại xâm, sách sử ghi lại khá nhiều, nhưng cách tổ chức những đội quân voi, tên gọi các đơn vị trong tượng binh, chức tước của các tướng lĩnh huấn luyện, chỉ huy voi như thế nào thì chúng ta chưa rõ.
Theo bài ký bia Dương Võ đặt tại chùa Phổ Giác, năm 1757, chúa Trịnh Doanh cho xây dựng tại phường Phục Bổ một tòa miếu để thờ các ông tổ nghề dạy voi trận. Miếu làm trong hơn 10 năm mới xong và đặt tên là miến Dương Võ. Một số võ tướng cùng các quản tượng tổng đội quân voi đã soạn bia ghi lại lịch sử binh chủng tượng binh. Bia dựng tháng 8 năm Canh Dần, niên hiệu Cảnh Hưng thứ 31, tức là năm hoàn thành công trình miếu Dương Võ.
Sau này, miếu hỏng nát, bia được đưa vào để trong ngôi chùa cạnh đó là chùa Phổ Giác, khi chùa chuyển về địa điểm mới, tấm bia Dương Võ cũng được dời theo chùa. Nội dung tấm bia Dương Võ có hai phần. Thứ nhất, ca ngợi công lao giữ nước của voi chiến và những người xây dựng, tổ chức ngành tượng binh. Thứ hai, ghi lại tên các đơn vị trong binh chủng voi.
Trong phần đầu, bài ký có đoạn viết: “Trời Nam ta, thế nước vững chắc, đất đai gồm cả Tượng Quận. Trong nước có nhiều loài vật nhưng hùng mạnh nhất trong các loài thú, chỉ có voi đực là cực quý, thật là nanh vuốt để bảo vệ quốc gia. Song phép nuôi dạy, tập luyện, điều khiển phải có bậc tiền bối mở đầu.
Đó là nhờ ba vị tiên sư tinh thông mọi việc, mưu sâu, trí cả, nắm dược phép dạy voi đực- là loại khó thuần hóa ở phương nam- bí truyền. Nhờ vậy voi được dùng vào viêc binh, giữ vững nước nhà, võ yên muôn vật”.
Theo văn bia Dương Võ, rất có thể trong tổ chức bình chủng voi của nước ta thời Lê – Trịnh có 8 phiên hiệu: Phiên hiệu Thị Cận có 10 người, phiên hiệu Thị Nhất có 11 người, phiên hiệu Hà Thị Cận có 13 người, phiên hiệu Hà Thị Nhất có 10 người, phiên hiệu Biện quản tượng có 15 người, phiên hiệu Thái y tượng viện có 8 người, phiên hiệu Gia cấp nhị thứ có 8 người, phiên hiệu Nhị đệ tứ hiệu có 72 người.
Đặc biệt, trong số này có đến hơn một phần ba là người gốc Thanh Hóa. Như vậy dường như người dân quê hương Bà Triệu rất thành thạo về nuôi dạy voi chiến. Tổng số thành viên của binh chủng voi là 147 người. Trong các phiên hiệu kể trên, đáng chú ý là Thái y tượng viện.
Đây là đơn vị thú y gồm các quan thái y chuyên chăm sóc sức khỏe và chữa bệnh cho voi chiến. Một bình chủng voi có gần 200 voi chiến và 147 tướng lĩnh, quản tượng được tổ chức chặt chẽ quả là một binh chủng lớn đương thời, tạo ra sức chiến đấu mạnh mẽ.
Trở lại chùa Phổ Giác, khách tham quan có thể xem, đọc nội dung các hoành phi, câu đối, bài ký trên 13 tấm bia được ghi bằng chữ Hán. Ngoài ra tại chùa còn có ba chuông đồng, ngai và bài vị, khán thờ, nhang án và con voi đá ở ngoài sân chùa. Tượng tròn có 20 pho ở chùa chính, 11 pho ở nhà Mẫu, 6 pho ở nhà Tổ. Chùa Phổ Giác thực sự là một di sản văn hóa quý hiếm, đã được Bộ VHTT công nhận là di tích quốc gia năm 1991.