Theo sách Thiền Uyển tập Anh và sách Đại Việt Sử Ký toàn thư, Chùa được xây dựng cách đây hơn 1000 năm, vị Thiền sư đầu tiên trụ trì Chùa này tên là Ngô Chân Lưu (933 – 1011).
Năm 971 Ngài được vua Đinh Tiên Hoàng phong hiệu Khuông Việt Đại Sư – là vị Thiền sư đầu tiên được Nhà nước Phong kiến Việt Nam phong tặng danh hiệu Quốc Sư Tăng Thống danh hiệu tôn quý nhất của đạo và đời.
Đến triều Lê Đại Hành, Ngài càng được kính trọng. Đặc biệt Khuông Việt Đại Sư đã từng cùng Vạn Hạnh Thiền Sư (? 1018) đắc lực phù trợ đưa Lý Công Uẩn lên ngôi, mở đầu thời kỳ hưng thịnh nhất của nước ta. Ngài đã trở thành Việt Nam tam triều Quốc sư (Đinh Tiên Lê Lý).
Đến cuối triều Lý, tại Chùa này xuất hiện hai vị cao tăng xuất chúng: Trường Nguyên Thiền Sư (1110 – 1165) và Nguyện Học Thiền Sư (? 1181). Cả ba vị cao tăng này đều thuộc dòng thiền Vô Ngôn Thông, một dòng thiền bắt nguồn từ Trung Quốc chuyển sang Việt Nam vào năm 820 và phát triển rực rỡ nhất vào thời Lý.
Dòng thiền này là tiền thân của Phật Giáo thời Trần, đặc biệt là thiền phái Trúc Lâm Yên Tử Việt Nam.
Nơi đây từ khi lập nước Đại Việt (938) các Vua Chúa thường đến cử hành nghi lễ cầu nguyện Quốc thái dân an. Đặc biệt mỗi khi đất nước bị lâm nguy bởi giặc dã, thiên tai các Vua Chúa đến cầu nguyện đều được ứng nghiệm.
Ngày nay, mỗi khi nước nhà có những quốc sự lớn các vị lãnh đạo Nhà nước thường đến dâng hương và đều được linh ứng. Trải qua nhiều trăm năm mai một, mãi nhưng năm gần đây, Chùa mới được phát hiện.
Năm 2001, dưới sự quan tâm, thành tâm của Nhà nước và Giáo hội cùng phật tử thập phương, Chùa đã đúc thành công tượng Phật Tổ bằng đồng liền khối cao 6,5m nặng 30 tấn. Đây là pho đại phật tượng liền khối lớn nhất Đông Nam Á.
Năm 2006 Nhà nước cấp cho Giáo hội Phật Giáo Việt Nam hơn 10ha đất để xây dựng Học Viện Phật Giáo Việt Nam, đây là trường đào tạo tăng tài có quy mô lớn nhất của nước ta. Chùa Non Nước Sóc Sơn cùng đền Sóc, Học Viện Phật Giáo Việt Nam đã và sẽ là một trong những trung tâm Phật Giáo lớn nhất của Việt Nam.
Cùng với các trung tâm Phật Giáo khác, Chùa Non Nước sẽ góp phần tạo nên nền văn hóa Việt Nam, đặc biệt là văn hóa Phật Giáo.
Việc phục dựng trung tâm Phật Giáo này chắc chắn sẽ góp phần tích cực vào lễ kỷ niệm Thủ đô Thăng Long tròn 1000 tuổi do Nhà nước tổ chức.
