日本军几乎不管他们过去是否当过兵，是否确实在中国军队里干过事，只要是稍有一点军人嫌疑的人，都一律带走枪杀了。日本军扫荡中国政府军队的所有散兵之决心，好像是坚定不移的（《远速》，五十九号，载前引书1，第一五二页）。
埃斯皮说，在搜捕残兵败卒的情况下牺牲的“便衣兵”和普通老百姓，总数达二万人以上，但金陵大学教授贝茨认为，其牺牲的人数达四万，增加了一倍。在处理遗弃尸体时证实，在南京城内外近四万非武装人员遭受杀害，其中百分之七十左右是“便衣兵” （前引书2，第四十七页）。贝茨教授提出四万人这个数字是否恰当，将在第6节（第一八四页以后）加以研究。
这种搜捕便衣兵并进行杀害的情况， 乔治·菲奇（Georse A。 Fitch）——以纽约基督教青年会国际委员会书记身份驻于南京——在远东国际军事审判时提出的证词（检证一九四七）中说：“日本人从我们宿营的地方抓人时，不遵守任何规定。他们把手上有老茧和剃光头的，当作曾经当过兵的充分证据，认为务必判以死刑。在我们宿营的地方，几乎都受到军队的侵入，他们想要枪杀谁，就把谁拉出去。”（《远速》，五十八号，载前引书1，第一一五页）
不仅手上有老茧和剃光头的人被当作“便衣兵”，而且有谁在晒得黑黑的脸上露出白的额角，也会被视为戴过军帽的证据。因而许多无辜的工人和苦力被判断为“便衣兵”，不幸遭到了集体屠杀。许多“便衣兵”像是混入在安全区内，贝茨博士在出庭参加远东国际军事审判时作证说：“由于日本军的军官估计，在市区内也有许多士兵，因而安全地带的问题也严重了。由于在市区内未能发现这些士兵，那些军官就认为这些士兵隐藏在安全地带，而我们应负隐藏他们的责任。在这种假定之下，三天内，日本军的军官以及下士官天天侵入安全地带，企图在中国难民中发现这些士兵，并把他们强行带走。这些军官通常总是在安全地带内的某地区或某一难民收容所中，要身强力壮的男子全都排列在一起，一个个地进行检查，凡发现手中有持枪的老茧或头上留着戴过帽子的一圈印子者，均强行将他们带走。”（《远速》，三十六号，前引书1，第四十九至五十页）
为了彻底搜查出这种“便衣兵”，从十二月二十四日开始，日本军对全南京的市民进行了登记。据十二月二十二日南京宪兵司令贴出的布告说，进行市民登记是“向所有难民和市民发给通行证，这完全是为了居住和工作上的方便”（前引书及第一三七页）。其实，这也是搜捕散兵的一种手段。当时负责南京城内警备工作的佐佐木到一少将在其手记——《进攻南京纪实》——中这样写着：“十二月二十二日，命令城内肃清委员会主席立即召开会议。十二月二十三日，开会。十二月二十四日继续开会，查问工作开始”（《一个军人的自传》增订版，第三三四页）。市民登记时是经过“查问”的。通过查问，一般无辜市民受牵连的危险性很大，因此，他们对日本军的这一手段感到极度不安。 大概是安全区国际委员会委员马吉牧师（？），他在信中这样说：
十二月二十九日，星期三。幸而今天的天气比昨天好。登记工作继续进行，效率极低。人们一点也不却道去什么地方和什么时候出面才好。而且有许多难晨被当作散兵强行带走。妇女和老人前来向我们跪拜哭泣，恳求我们帮助找回他们的丈夫和儿子。交涉了两三次，情况较好，但军方对我们的干预表示愤慨（洞富雄编前引资料集2，第四十一页）。
金陵大学——收容三万余难民——的贝茨博士，曾就当时按内进行市民登记时采用阴谋手段使“便衣兵”自首并对他们予以屠杀的情况，报告如下：
十二月二十日（贝茨博士的手记收录在国伯烈编写的那本书和《南京安全区档案》中，但后者未写明是十二月二十日。由于登记是从十二月二
十四日开始的，所以这个日期有误），登记从主要收容妇女的收容所里开始进行。军部当局又对这里少数男子中居住在图书馆新馆里的两千名以上男子进行了登记。 大约有三千名男子集中在史威斯堂（Swazey Hall）下面的网球场上，其中有两、三百人（马吉牧师（？）说是有二百四十人〕响应了三十分钟的演说，走上前去。这种演说的目的是要“以前当过兵的或接受强制劳动的人，一律站到后面去、如果你们自首，就可以保生生命，可以获得工作。否则，一经觉察就枪决”。在日本军官的指挥下，通过中国人所作的短短的演说，这几句话反覆了好几遍。这些中国人尽量想把许多被认为原来当过兵或不幸被误认为是原来当过兵的同胞从处决的命运中拯救出来。 大学里的许多中国职员、H·L·桑纳、查尔斯·H·里格斯和我自己把这些演说都听得清清楚楚。一些中国人认为，去自首的人中，有的是受了恐怖的影响，或是误解了强制劳动这几个字。确实，他们中间有许多人从未当过兵……在中午前，军官们又说要把军队储藏的粮食发给大家，我们要求对两、三百个“自首者”每人准备两顿饭的粮食。当时，连负责警备任务的一般士兵也表现得很亲切，根本谈不上拔出拳头，而是亲切地递香烟。下午，男子们一一报告了他们的姓名和职业，均被记录下来……下午五时左右，出来自首的两、三百人被分成两组，被宪兵强行带走。
这里说的虽是其中一个人的回忆，但他对警备兵亲切的反常的殷勤态度开始表示怀疑。
贝茨教授就从冒险逃回来的中国人那里听到情况，继续写道，被强行带走的这两、三百个中国人，或被当作练习拼刺刀的活靶子，或被机枪扫射，或以五人、十人为一组，被用铁丝捆起来后投入火烧得正旺的院子里，等等。日本军用残酷的方法对他们进行屠杀。这一记录是根据十二月三十一日的资料和一月三日的笔记，写于一月二十五日，在其长篇记述的结尾中说：“近几个星期内发生的种种暴行，使我还是不忍通过那个网球场。几万难民被送到校内来，听候登记。为了他们的安全，接连好几天，我们对在此惨剧中处于各种重要地位的日本军官和士兵必须笑脸相迎和谦恭有礼，这对于我们简直是一种苦刑。我们好像谁都成了屠杀那两百人的帮凶，觉得应该向那些不幸的家属负责，要是那些家属处于极度悲惨状态之中的话。日本军官和士兵怎么样呢？他们中间有的人与我们接触的暴徒相比，还有些人性，他们中间有许多人谁无妻子呢？ 他们也一定爱着自己的妻子。”（前引书2，第四十四至四十五页，第四十七至四十八页）
下面所谈的，是同一件事情，见之于《黄俊乡署名的证词》——远东国际军事审判时检察方面的书面证据（一七三三。但未向法庭提出）。
在南京大学（东爪市）的校院里召开大会，大约有一万名难民参加。
当时，有个叛徒詹用光起来发表一场演说，要求这些国民军举手投降，如果这样，就能保证所有难民的生命安全。约有七百个人信以为真，举起手来。 结果，他们被带到上新河监狱，在那里遭到杀害（前引书1，第三八四页）。
这一记录所说的地方是在东爪市的南京大学。自然，南京大学即指金陵大学，东爪市恐怕就在天津路百步坡附近。座落在东爪市的是金陵女子文理学院。贝茨博士把当着许多人的面发表演说的中国人理解为“想拯救同胞的中国人”，但黄俊乡却骂他是“叛徒”。这个中国人的真实情况如何，我不了解。
日本军就是这样施计搜捕散兵，而抓到“便衣兵”后就枪决的命令到了下面，解释就扩大化了。有时公务员也受到了迫害，不仅仅是连累了一般市民，日本军好像是在进行杀人比赛。
国际委员会从南京市市长那里接管了四百五十名正规管官。该委员会觉得仅仅这些警官还警备力量不足，于是在十二月十三日组织了志愿警官。志愿警官不穿制服，只戴委员会肩章，也不带枪支。不如说，他们好像是西方的童子军。十二月十五日，国际委员会主席拉贝与日本军的特务机关长会面时，就安全区内保留警察问题取得了口头谅解。但如前所述，安全区的警察，不知为什么实际上经常受到干涉。十六日，驻屯在司法部内的五十名警官被捕，志愿警官也有四十五、六名被捕。随后， 在最高法院内的四十名警官也被捕（前引书2，第二十七、一二○、一二三、一二六、一三一页）。
军队撤退后，南京自然剩下了四百五十名正规警官和若干名志愿警官，由他们负责市内的警备任务。但这些警官也和散兵一样，似乎全遭日本占领军的屠杀。如前所述（第五十六至五十八页），根据前警官伍长德的证词，收容在司法部的三百名警官（此数似有出入）在西大门外被枪杀。另外在远东国际军事审判时同样作为检察方面的证据而提出的红卍字会南京分会的报告（检证一七二八。但未向法庭提出）中，列举这样的事实说：“有两百名以上的警官在南京城外被捆绑起来，围在地坑的四周。然后在坑内倒入火油，点上了火。警官们都一边挣扎，一边受火刑。”（前引书1，第三八六页）。
其中也有胡作非为的军官。尽管修复电灯是迫于紧急的需要，可是他们把发电厂的职工当作公务人员，全部枪杀。对此，马吉牧师（？）在他的一封长信中，就十二月二十二日的那天情况说：
下关发电厂有个姓吴（译音）的工程师向我讲起一个不可思议的消息。
他说，该厂五十四名工人在南京陷落前一直坚守工作岗位，都是那样的勇敢，可是终于落到个去扬子江岸边英商国际出口公司避难的地步。日本军借口该厂�