作为海军航空兵专家的山本，他先想到的就是以航空兵偷袭美国太平洋舰队驻地珍珠港。早在1926年，山本任驻美海军武官期间，他读了英国海军专家拜沃特所著《大太平洋战争》，书中描述了以舰载机袭击珍珠港内锚泊军舰的情节，虽然只是想象中的情节，却给了山本很大的启示。以至于在山本担任联合舰队司令后，规定该书的日译本为海军军官的必读书。1932年美军在演习中，以“萨拉托加”号航空母舰为核心的特混舰队就出动舰载机成功空袭了在珍珠港的军舰，山本仔细研究相关资料，受益非浅。194o年3月，山本与联合舰队参谋长福留繁少将私下讨论了初步的偷袭方案。194o年11月11日，英国地中海舰队以“光辉”号航空母舰、4艘巡洋舰和4艘驱逐舰组成突击编队，出动21架次舰载机突袭意大利塔兰托军港内锚泊军舰，仅以消耗鱼雷11条、炸弹46枚，损失飞机2架的代价，就取得击沉战列舰1艘，重创战列舰2艘，击伤巡洋舰和辅助舰各2艘的战果。这一战例开创以舰载机突袭敌方海军基地并获得胜利的先河。山本闻讯后立即指示日本驻意大利海军武官全力搜集有关情报，特别是英军所使用的浅水鱼雷资料。因为塔兰托和珍珠港一样，水深仅十余米，无法使用常规鱼雷。以上这些思想和战例，对山本偷袭珍珠港作战方案的形成有着极大的帮助和启示。
1941年1月7日，山本正式向海军大臣及川古志郎提交了突袭珍珠港设想的《战备意见书》，并指示日本海军航空兵的元老，时任第十一航空舰队参谋长的大西泷次郎少将，也就是日后神风特攻队的创始人，对突袭珍珠港的设想进行可行性研究。大西找来世界航空界杰出的空战战术专家，“源田主义”思想（即大规模使用战斗机夺取制空权）的创立者，时任第一航空战队参谋的源田实中佐，一起进行周密的研究，最后得出只要美军舰队确实在港内停泊，并且日军舰队在航行途中不被现，就能取得成功的结论。山本在设想得到确认后，立即命令联合舰队参谋长福留繁少将、第一航空舰队参谋长草鹿龙之介少将、第十一航空舰队参谋长大西泷次郎少将共同拟制出具体计划：就是在袭击起前十余天，以航空母舰为核心的突击编队，从日本出。在袭击起日的日出前一至二小时，到达距珍珠港约2oo海里的海域，出动舰载机突击珍珠港内的美军舰艇和岸基航空基地，以突袭手段消灭美军太平洋舰队，为日军的南进扫清障碍。山本为纪念他所崇拜的东乡平八郎在对马海战中所升起的z字旗，将这一计划的保密代号定为z计划，史学家则称之为山本计划。该计划于1941年4月初草拟完毕并于4月1o日上报大本营，但却遭到否决。因为大本营认为该计划过于冒险，如果在攻击前被美军现，会有灾难性的后果。而且将联合舰队的主力用于珍珠港方向会严重影响对南方的作战。不仅在大本营，就是在联合舰队内部也有很多人反对，其中就有承担作战指挥的第一航空舰队司令南云忠一中将和计划的制定者第十一航空舰队参谋长大西泷次郎少将。高级将领中只有第二航空舰队司令山口多闻少将表示赞同，他认为美国太平洋舰队是盟国在太平洋上的海军主力，只有一举消灭美太平洋舰队才能确保南方作战的胜利，否则即使联合舰队主力全部用于南方的作战，也无法确保胜利。同时还建议在最初的方案中增加他所指挥的第二航空舰队两艘航母“飞龙”号和“苍龙”号。福留繁原先考虑这两艘航母续航力较小，远程奔袭恐有不便，所以不准备使用。山口认为这两艘航母共有1oo架飞机，飞行员大多是训练有素的老手，战斗力较强，不参战势必增加作战的困难。如果因为航程不足，可在突袭结束后取道马绍尔群岛，补充油料再返回日本。在1o月初的突袭计划特别研讨会上山本采纳了这一建议，这样一来参战的航空母舰就由四艘增加到六艘。
第一航空舰队司令南云中将和第十一航空舰队司令塚原二四三中将经过会谈一致表示反对突袭计划。1o月3日两位舰队司令派出各自的参谋长草鹿和大西前往联合舰队向山本面陈反对意见。但这两人却都被山本说服，转而同意突袭计划。
面对大本营的反对，山本几经交涉最后甚至以辞职相威胁，并通过好友海军中佐高松亲王，也就是天皇的弟弟，将计划直接呈交天皇，获得恩准。这才迫使大本营于1941年1o月19日批准这一计划。此时距珍珠港作战仅仅只有五十天。
这一计划所有细节都考虑得非常周密。在兵力编成上，既要求具备强大的突击威力，又要避免编队过于庞大而被现。最终确定为航空母舰6艘、战列舰2艘、重巡洋舰2艘、轻巡洋舰1艘、驱逐舰11艘、潜艇3艘、油船8艘，共计33艘舰船。舰载机共计423架，其中担负突击任务的354架，其中爱知d3ai九九式俯冲轰炸机（简称九九舰爆）131架，九九式水平轰炸机1o4架，中岛b5n2九七式鱼雷机4o架（简称九七舰攻），三菱a6m2零式战斗机79架（简称零式舰战或零战）。其余69架飞