Trường được thành lập trên cơ sở trường tiểu học Nguyễn Khoái và tọa lạc tại số 42 đường Nguyễn Khoái, phường 2 quận 4, thành phố Hồ Chí Minh trên diện tích 1200 m2.

Bản đồ địa giới trường THCS Nguyễn Huệ
Đến năm 1972 trường được xây thêm một dãy lớp mới (dãy lớp ngay gần cổng trường) do Đại Hàn (Hàn Quốc ngày nay) xây dựng.
Sau năm 1975 trường đổi tên thành THCS Nguyễn Huệ, các lớp cấp 3 được chuyển sang trường Nguyễn Trãi, các lớp cấp 1 chuyển sang trường tiểu học Nguyễn Huệ 1 và Nguyễn Huệ 3. Trường chỉ còn cấp 2 như hiện nay.

Trường THCS Nguyễn Huệ Quận 4 là nơi ươm mầm, vun trồng nên những tài năng cho đất nước, và là một trong những trường của Quận, Thành Phố có bề dày thành tích trong việc dạy và học. Ngoài chương trình chung của Bộ Giáo Dục giống các trường THCS khác, trường THCS Nguyễn Huệ còn có những lớp tăng cường tiếng Anh, CLB Âm nhạc, CLB Kỹ năng sống, CLB STEM Robotics…
Đặc biệt trường quy tụ được đội ngũ Thầy, Cô giáo có đầy đủ kiến thức và nhiều kinh nghiệm trong quá trình giáo dục toàn diện cho học sinh. Niên học nào, trường THCS Nguyễn Huệ cũng đào tạo được nhiều học sinh đoạt giải thứ hạng cao, cấp Quận và cấp Thành Phố, tỉ lệ tốt nghiệp THCS những năm gần đây luôn đạt 100%, tỉ lệ đậu lớp 10 các trường THPT luôn ở mức cao và tập thể nhà trường luôn phấn đấu không ngừng để tỉ lệ này đạt mức cao nhất. Ngoài ra, phong trào hoạt động Đoàn – Đội, trường luôn được xếp hạng nhất nhì cấp Quận và cấp Thành Phố.
Trường THCS Nguyễn Huệ, Quận 4 được nhiều cấp lãnh đạo, thế hệ học sinh và phụ huynh tin yêu.