于所泽市陆军航空后勤学校（英语：陸軍航空整備学校）拆解蒙皮作为教具之Ki44战机
1936年，中岛飞机为日本陆军设计了九七式战斗机；九七式虽然具有许多1930年代新锐战机的设计，包括全金属蒙皮、单主翼，但仍然是以格斗战见长的设计，并使用固定式起落架。面对1930年代欧洲国家推出如BF-109、喷火式等使用可收式起落架的机种相较落后，陆军在接收九七式战斗机的同时，也开始研拟下一代战斗机的需求。
陆军参谋本部在1937年末起，指示日本陆军研究三种不同特性的战斗机：长程复座双引擎多功能战斗机（未来的二式复座战斗机屠龙）、单座重视格斗的轻型战斗机（未来的Ki-43，一式战-隼）、单座重视速度，火力，对抗敌人大型机的重型战斗机；这几个案子三菱、川崎、中岛等飞机设计商都有团队参与，重战需求最后则演变成锺馗的设计起点。在中岛公司内，小山悌技师长兼任轻·重战的总工程师，带领两个团队执行陆军需求方案，两个团队工程师却也对彼此定位产生质疑；参与Ki-43团队的工程师青木邦雄认为 Ki-43的性能指标可以直逼Bf-109，相对仍在摸索配套战术的重战来说将资源集中早些完成轻战符合发展策略；Ki-44团队则认为轻战机支持者的论点经不起考验，理由是从诺门罕事件的战斗经验回馈，日本陆军对抗伊-16战斗机经验中察知空战中苏联飞行员使用一击脱离战术已经逐步成熟，已经有可行运用战术，因此最后中岛并无因内部意见割舍，而是继续让重战开发逐步恢复进度。
比起可由九七战决定下一代战机指标，重战初期开发时确实出现技术上陆军没有提供需求目标的情况；当陆军尚未决定标准，中岛内部评估重战性能指标时，是以达成与Bf 109战斗机相近性能为目标，部分构造参考了自德国采购的Bf-109E；使用动力来源为当时国产动力中最强劲的Ha-41发动机（输出功率1,250匹马力）、预定搭配20公厘空用机炮。Ha-41发动机原先配备在轰炸机上，并非中岛在战斗机研发配套的最佳首选，但更轻盈的发动机如荣推重比不足，同等级尺寸略为轻盈的金星产能则全提供给海军，陆军分不到足够产量；因此中岛只能选择相对可用的发动机，并配合它的大直径去设计一种纺锤形机身。陆军指标在1939年出炉，飞行速度最快要在600公里/小时、巡航速度在400公里/小时、可打30分钟空战，并可在5分钟内飞上5千公尺。
重战设计初，即纳入防护装置设计；包含外覆防弹橡胶的自封油箱、驾驶座背后装备13公厘厚钢板（总重量60公斤），这些在当时的日系战斗机皆为首创。在开发的同时，陆军再度加入性能指标条件：固定式机炮1门、固定式机枪2挺。因此Ki-44完工时火力布局是以2挺7.7公厘机枪+2挺12.7公厘机枪设计，因此火力比只有机头机枪的一式战斗机隼强大许多[1]。二式战原型机主要设计以一式战斗机为基础，加入一部分中岛上层期待的新开发技术；由于采用了较大的发动机，使得此机外型好比一条大头鱼；为了减少翼载以求高速，其机翼较小，故采用了蝶形空战襟翼以改善转弯能力。
二式战原型机（Ki-44）在1939年11月完成细节设计进入试制阶段，1940年4月出厂，5月完工；1940年6月3日首飞。试飞初期发动机震动过大导致机体故障问题耽搁了研发进度，而即使作了多处修改，Ki-44极速只抵达时速580公里（高度3,700公尺）；而且大直径发动机带来前方视野不良、降落速度较快（相较于日本研制战机）等问题，格斗能力较差也与日本飞行员传统空战战术不合，唯一被称赞的只有射击精度优于现役战机。然而在1941年夏，Ki-44与Bf-109E-7实施模拟空战时，测考单位才察觉在运用同等空战战术条件下Ki-44总体性能优于Bf-109；与Bf-109一同赴日的德国一战飞行王牌兼试飞员威廉·斯托尔（英语：Wilhelm Stör）在试飞过Ki-44也认为“如果日本飞行员可以让所有人善用这架飞机，日本空军会成为世界顶尖”。
虽然有外国人赞许，但Ki-44问题症结除了性能未达指标，再者日本陆军飞行员大部分均未接受过缠斗空战以外的理念与教育，这些都阻碍了这架飞机验收服役的进度。为此日本陆军决定增造原型机，并抽调10号原型机以前的9架，组成独立飞行第47中队（中队长坂川敏雄少校，Ki-44战机的审查主任），除了继续改进飞机缺点，也为研发适合的空战教材而设计。47中队于1941年11月正式成军，赶上12月份的开战，并在12月25日进行它的首战任务。
虽然47中队已将Ki-44投入作战，但其性能并未达成技术指标，并未大量产制，只制造40架。二式单战的主要量产版本是更换输出动力1,500批的Ha-109发动机之Ki-44II，该机于1942年12月完成验收量产。原本中岛还打算推动二式单战第二次动力增强计画，更换2,000匹马力的Ha-145发动机，但是这个计画与同时期执行中的Ki-84比较后发现性能并没有突出之处，因此遭到取消。二式单战的量产到1944年底，随后产能转换给四式战斗机运用。