Trước khi nghĩa trang Quân đội Việt Nam Cộng hòa được xây dựng thì tại Sài Gòn đã xuất hiện nghĩa trang Hạnh Thông Tây – Gò Vấp. Tuy nhiên sau sự kiện Tết Mậu Thân năm 1968 thì quân Mỹ đã đổ thêm quân tham chiến vào miền Nam Việt Nam khiến nổi lên một trận chiến ác liệt. Trận chiến ấy khiến số người chết tăng lên đến nỗi nghĩa trang Hạnh Thông Tây không còn đủ chỗ chôn nữa. Lúc đó chính phủ mới quyết định xây thêm nghĩa trang Quân đội Việt Nam Cộng hòa.
Nghĩa trang Quân đội Việt Nam Cộng hòa quy hoạch khoảng 30.000 mộ phần. Tính đến năm 1975, nơi đây là chỗ yên nghỉ của khoảng 16.000 tử sĩ đã nằm xuống vì Tổ quốc.
Toàn thể khu nghĩa trang được thiết kế thành hình con ong khổng lồ, đầu quay ra xa lộ. Nghĩa Dũng đài cao 43 thước được đặt ở giữa con ong. Đền thờ chiến sĩ (hay còn gọi là đền Tử Sĩ hay đền Liệt Sĩ) được đặt trước đầu con ong. Cổng Tam Quan được nối từ dưới chân đền kéo dài ra xa lộ trông như cây kim nhọn của con ong. Đầu kim là bức tượng Thương Tiếc. Phía trên lưng ong, từ chân Nghĩa Dũng đài được chia ra 4 phía như hình lưới nhện.