El J2M fue diseñado por Jirō Horikoshi, creador del Mitsubishi A6M Zero. Este fue diseñado solamente con propósitos de intercepción para la defensa del territorio local, contrarrestando las amenazas a gran altura de los bombarderos, y, por lo tanto, se basó en su velocidad, su gran rendimiento, y su armamento, en detrimento de su poca maniobrabilidad.

Un requerimiento emitido en 1938 por la Armada Imperial Japonesa para un nuevo interceptor monoplaza condujo al diseño y construcción de tres prototipos Mitsubishi J2M1, de los que el primero realizó su vuelo inaugural el 20 de marzo de 1942. Monoplano de ala baja cantilever con tren de aterrizaje retráctil del tipo de rueda de cola, este modelo tuvo un dilatado desarrollo debido a que las demandas urgentes de motores limitaron la elección de la planta motriz adecuada. Ello dio como resultado la instalación de un motor radial Mitsubishi Kasei 13 de 1.430 cv; el diámetro de esta máquina obligó a adoptar un eje de transmisión más largo a fin de poder atrasar el motor y reducir el diámetro del capó del mismo.

Las primeras evaluaciones revelaron que el J2M1 no cumplía con las especificaciones de la Armada respecto a su velocidad y tasa de ascenso. Esta deficiencia se solventó gracias a la instalación de un motor más potente, el MK4R-A Kaseia. Así equipado, el avión fue denominado J2M2 y, en esta configuración, se ordenó su puesta en producción, designado oficialmente Caza Interceptor Raiden Modelo 11 de la Armada. Como prosiguieron, sin embargo, los problemas de prestaciones inadecuadas, el modelo no entró en servicio hasta diciembre de 1943, fecha en que ya había aparecido la principal versión de serie, la J2M3, que difería principalmente por el armamento instalado.