在纳粹党的种族主义蓝图中，《东方总计划》是仅次于《犹太最终解决方案》的重要一环，这是纳粹划定他们“大日耳曼帝国”东方边界的计划书，以及对超过5000万他们所谓“劣等”的斯拉夫、吉普赛和塞尔维亚等民族和纳粹意识形态的敌人（主要是指布尔什维克主义俄国）的占领区种族清洗政策。这份计划书从1936年开始制定，到1940年最终完成。
这份计划书的最终版本是由两个基本部分组成的。第一部分被称为“小计划”（德语：kleine），这份计划从1936年就开始实施，即要使二战前德国边界以东的地区逐渐成为德意志帝国的一部分。在这个“小计划”实施的各个阶段，将制定出更多的细节。这样，从吞并奥地利到慕尼黑会议的领土要求开始到1939年11月制订征服波兰的计划都是这个“小计划”的一部分。该计划的第二部分，被称为“大计划”（德语：gro），是赢得战争后要实现的目标，即他们要在战争过程中及其之后25至30年期间逐渐实行的种族灭绝政策。这个计划中，除犹太人之外，吉普赛人、塞尔维亚人和波兰人都被纳粹认为是“低劣的种族”，其中波兰的“整个知识分子阶层”都在被清除之列。苏联境内的俄罗斯人、乌克兰人等民族也是所谓“劣等民族”，至今仍然没有准确的数据显示究竟有多少无辜平民被杀害。
对平民的屠杀
根据保守估计，纳粹政权在占领波兰期间屠杀了20万波兰人（不包括居住在波兰的犹太人）。其中大多数是波兰的大学生、教师、大学教授、军官和工人，这些人大多在未经审判的情况下以“危害治安”为由被杀害。1944年的华沙起义失败后，德军开始在撤离波兰时沿途无差别的屠杀波兰人，这使得战争倒数第2年波兰成为平民死亡率最高的中欧国家。
仅仅因为在纳粹理论中被列为劣等民族，至少60万塞尔维亚人和22万吉普赛人在纳粹德国的占领区中被屠杀。仅在南斯拉夫的首都贝尔格莱德就有超过10万塞尔维亚人被集中的有组织屠杀。
1941年6月22日，纳粹德国进攻苏联。当月末，德军就在乌克兰基辅附近制造了娘子谷大屠杀，两天之内共杀害了至少3.4万犹太人以及其他当地居民。在随后的一个月内，10万多苏联平民丧生于娘子谷。
1942年7月4日，纳粹德军占领塞瓦斯托波尔。在随后的三个月内，德军将克里木14多万平民不分老幼塞进船里再开炮将其击沉，对企图游上岸的幸存者开枪扫射，不留一个活口，在德军占领克里木期间共有25万平民被屠杀。
在波罗的海沿岸地区，一共有60多万苏联平民被纳粹德国折磨致死，其中有许多人被焚尸灭迹。仅在立陶宛的波纳利镇上就有8万名苏联平民被集中屠杀。24万苏联平民在斯大林格勒地区中被德**队残酷的杀害。很多情况下德军会在撤离他们新占领的村庄时用炸药将依然在使用的住房炸毁，里面的居民不准出来不然就会被视为“抵抗”而杀害。同时为了抢夺粮食和物品，随意枪杀当地居民也成为对于德军司空见惯的事。德军在占领区大批的强征苏联妇女作为军妓的行为（一般认为至少有300万苏联妇女被德军qiáng_jiān）导致的当地居民抵抗更加重了当地受害者人数的剧增。
以“反德游击队”名义在苏德战线后方的德国占领区进行的屠杀则更加令人愤慨。为了邀功，在苏联的德占领区的德军驻防部队经常以“清剿游击队”的名义对村庄和城镇的苏联居民不分男女老幼的胡乱逮捕然后处决，随后德军会将这些遇害者作为“游击队”和“抵抗分子”的人头而去上报战功。这种野蛮行为至少导致200万苏联居民被屠杀。事实上这些只是纳粹在苏联进行屠杀活动的冰山一角，二战中至少700万苏联平民死在纳粹的枪口下。
1945年年初在希特勒的命令下，德国境内外大部分集中营关押的囚犯，像羊群一样被赶上路。仓促间，集中营的看守甚至不给囚犯收拾行李的时间——尽管他们的个人物品少得可怜。许多人在从事完繁重的劳动后便直接上路了。据史学家丹尼尔·布拉特曼的新作《死亡行军：纳粹种族屠杀的最后阶段》介绍，共有50万名来自德国境内外集中营的囚犯被迫进行“死亡行军”，有25万名囚犯在迁移过程中死亡。
除了种族灭绝，纳粹还根据宗教信仰、政治观点、身体和精神状态来对异己者进行有计划的消灭。在纳粹统治下的整个欧洲，大约有100万到150万政治犯被消灭，其中许多是**人或社会党人；罗马天主教徒也是受害最深重的群体之一。针对残疾人和精神病人的屠杀则更令人发指，纳粹宣传材料声称每个精神病患者要消耗60000帝国马克的资源，最好的方法是将其消灭。仅仅从1939年到1941年，就有大约10万名弱智人和精神病患者被杀害，其中大部分是德国人；零散被杀害的精神病患者可能超过4万人。最后，纳粹还有组织地杀死了5000到15000名同性恋者，因为这在他们看来是不可接受的性取向。
对战俘的屠杀
1940年至41年冬，在德国出现了粮食短缺和人民的抱怨。纳粹意识到维持食品充足是得到公众支持的关键。据历史学家德博拉和扬凡佩尔特计算：“数以百万计的苏联人将不得不因为纳粹维护德国的肉类口粮而死在纳粹德国在东方掠夺粮食的军队手中，而（至少