为了摆脱困境，赢得法庭上的主动权，他们一方面积极与国内联系，敦促政府收集人证物证等证据材料，一方面到盟军总部和中国驻日本军事代表团驻地查阅日本内阁和陆军省的档案。在东京帝国饭店的一问客房里，他们夜以继日地摘抄、翻译、整理敌国十几年的档案资料，根据这些资料拟出指控材料；他们仔细研究美英的法律程序，研究对付美日律师的策略，以便据理力争，并于住处进行控诉演习，其工作之繁重是乎寻常的。他们还运用老百姓中的蔑称来指代战犯，以避开日本的耳目，如以“土老二”、“土匪原”指代土肥原，以“板老四”、“板完”(上海话：“板定完结”)指代板垣等。他们很快提出了几名战犯名单。为了取得确凿、具体的人证和物证，中国检察官的席秘书裘劭恒向法庭提出实地调查的请求。他领着美籍检察官克劳莱和温德飞回中国，先后到上海、广州、桂林、衡阳、汉口，北平等地进行实地调查，和地方法院配合，取得了大量实证。经过艰苦的努力，他们逐渐掌握了大量的有力证据，中国政府据此正式提交了《关于日本主要战犯土肥原贤二等3o名起诉书》。
各国选定被告的根据和角度不同，人数也不等。美国提出3o人，澳大利亚提出1oo人，英国提出11人。澳大利亚的名单中有天皇和相当部分的财阀，而英国反对。英国相丘吉尔主张从快处决。英国检察官卡尔提出，审判结果应对世界产生重大影响，被告最多也只能为2o人，这样可以免去搜集证据的繁琐工作，及早开庭审判。为了提高检察工作的效率，检察局设置了执行委员会，中国检察官向哲溶为成员之一。执委会定下了选定被告的标准：能以破坏和平罪起诉；被告团伙从整体上能代表日本政府各部门及战争各时期；被告须是主要决策人；事实确凿。根据上述标准，检察局对已逮捕的1oo名甲级战犯嫌疑者进行了侦讯。执委会经过表决，确定了批审判的26名被告。苏联检察团由于美国故意推迟出邀请而晚到，他们到达后又提出追加5名被告，结果只追加了重光葵和梅津美治郎两人。最后，麦克阿瑟批准被告为28人。
远东国际军事法庭设在东京市之谷原日本陆军省和参谋本部旧址。这个充满贪欲、阴谋、疯狂和杀机，制造战火与灾难的巢穴，而今孤独地站在废墟瓦砾中。审判就是要这样，要深入它的内部，杀死它的罪恶灵魂。它坚固而宽敞的大厅，经过连续几个月的修整和改造，换成一副美国人的气度，傲慢而奢侈。法庭庭长卫勃就在一号战犯东条英机的办公室里办公。
1946年5月3日，远东国际军事法庭正式开庭。
上午8点42分，在一前一后两辆宪兵吉普车的护卫下，一辆美国大型军用客车分开涌动的人潮，“嘎吱”一声停在了昔日日军陆军省办公楼前，吉普车上刷着宪兵的英文缩写“mp”；囚运战犯的客车有老式电车那么大，涂着战时流行的深土黄色，车头上方用英文标着“ial”，译作“特别”。用蓝色纸糊住的车窗紧闭。这几辆车刚一停稳，等候多时、来自世界各国的几百名新闻记者便蜂拥而上，把车围个水泄不通。军事法庭的宪兵队长坎沃奇跳下吉普车，以冷峻逼人的威仪，在人群中分开一条狭窄的通道。
囚车半腰的铁门打开了。几名戴着白色头盔、挎着卡宾枪的美国宪兵跳下车。车门口静默了片刻，一个穿戴着日本国民衣帽、满脸白胡须的人走下囚车踏板。“南次郎!陆军大将南次郎!”人群又有力而缓慢地涌动。随后，战犯们依次走下囚车：前相广田弘毅眼睛凹陷，陆军元帅烟俊六干枯瘦瘪，以善搞阴谋著称的陆军大将土肥原贤二穿着西装，前相小矶国昭摆动着双肩，另一个阴谋家桥本欣五郎也穿着开领西服，病殃殃的海军元帅永野修身肩上扛着个硕大的脑袋.陆军大将松井石根手持佛珠，法西斯理论家大川i周明4盥3丝……“东条英机!”当东条英机走出来的时候，人群中的激动情绪达到了**，嘲骂和诅咒声迭起。然而这个狂3一样凶残的前相却选择了微笑的面具，右手背手身后，从容迈步，仿佛死过一回，对一切都有了大彻大悟，把这样的结局和场面当作了儿戏。但人们分明看到了他藏于腹中的比刀锋还要锐利的残酷。人们的感情像烈火烧遍全身直至梢：“杀了这个大刽子手!”杀了他!杀了他!这群被拔除了利齿和筋骨的野兽，裹带着悲哀、恐惧、仇恨和无奈，穿过愤怒的甬道，慢腾腾地向法庭大门走去。这十几米的路如同几十个酷暑和严冬，上下飞舞着沉甸甸的火花和雪片。
大门的旁边钉着一块暗褐色的标牌；上有两行粗黑的英文：“iona。ib”远东国际军事法庭。
远东国际军事法庭内，记者和旁听者以及辩护人、工作人员都已到达。一片乱哄哄的声音。
这时，执行官喊声响起：“