Sekolah Menengah Sains Johor, Kluang Johor merupakan Sekolah Menengah Sains yang pertama dibuka di Negeri Johor. Bermula pada 1973 sekumpualan lebih 12 Kelas Tingkatan Satu 8 Aliran Inggeris dan 6 Aliran Melayu telah mendaftar sebagai PELAJAR SULONG/ PIONEER kepada SMSJ. Mereka telah memulakan pengajian Tingkatan 1 di Maktab Sultan Abu Bakar Johor Bahru. Penginapan mereka ditempatkan di Asrama Sekolah Sultan Ismail Johor Bahru.
Tapak Sekolah Menengah Sains Johor telah dikenalpasti pada tahun 1971 lagi dan telah dimulakan pembangunan 4 blok bilik Darjah dan 4 blok Asrama di Bandar Kluang, Johor. Pembangunan ini siap untuk digunakan pada April 1974. Pelajar Sulong, seramai 250 orang Pelajar Tingkatan 2 telah memulakan pengajian di Tapak Sekolah SMSJ di Kluang bersama 136 pelajar Tingkatan 4 dan 200 Pelajar Tingkatan 2 yang baru melapor diri terus ke sekolah baru ini.
Keadaan Sekolah sangat baik dari segi pembinaan. Dilengkapi Dewan Makan, Bilik Makmal, Rumah Pengetua dan Padang Sekolah. Namun SMSJ menghadapi kekurangan peralatan makmal untuk memulakan pengajian di dalam makmal untuk 2 bulan pertama pengajian sehingga bulan Jun 1974.
Padang Sekolah juga masih berwarna merah, rumput belum tumbuh sepenuhnya dan tidak dapat digunakan lagi. Pelajar menggunakan padang Sekolah Tinggi Kluang untuk latihan sukan pada sebelah petang.