1943年夏，日本军方高层已经意识到日本对华侵略战争必败，于是开始考虑战争失败后的应变策略，决定选择一批优秀特工作为潜伏人员长期定居中国，以便日后“东山再起”时发挥作用。
鉴于河下谷清上述的这些活动，并且他正好娶了中国老婆，于是决定对其进行进一步训练，使其成为一名适合潜伏的高级特工。1943年8月中旬，河下谷清突然在其活动数年的济南失踪，返回日本，进入位于东京中野区的日本陆军宪兵学校特工训练班。
同期受训的特务学员一共有137名，接受了谍报、谋略、侦察、柔道、拳术、剑术、国际法、司法学、刑侦学、气象学、摄影技术、电器修理、机械修理等训练。
1944年初夏，河下谷清从日本陆军宪兵学校特工训练班毕业，他深知此次再赴中国，就不可能返回日本了，于是就回了趟岛根县老家，向父母作永久告别。
之后，河下谷清从东京飞赴上海，让他那以舞女为业的中国妻子出面替其向日伪上海特别市第二警察局购买了一张化名“尤志远”的身份证，正式取得了中国国籍，然后搬迁住址，以中国居民的身份通过正常渠道向日伪上海警方报了户口。
河下谷清将上海事宜安排妥当后，遵照命令前往北平，向日本华北派遣军宪兵司令部警务部情报课报到。华北派遣军将河下谷清等特工作为宝贝一般隐藏起来，即使在形势紧急人手特别短缺的关头，也决不让他们出来活动。
这样，河下谷清等特工一直隐藏到1945年8月中旬日本投降后，方才接受指令分别前往预定的地区潜伏。当时，日军高层对于形势的估计竟然是那么乐观，认为三年后他们就能重新以占领者的身份再次踏上中国的土地，所以，给河下谷清下达的指令是“潜伏三年，等候反攻”。
河下谷清于1945年9月3日离开北平，前往上海，开始了他的潜伏特工生涯。河下谷清准备潜伏三年，所以一切都是按照这个时间段来进行的，他手头有着数额不菲的活动经费，可还是靠自己挣钱来维持全家人的生活。
他的挣钱方式是炒股票、倒腾金银，为了增加在市场上的竞争能力，他甚至掏钱进了英文补习学校补习英语。三年很快就过去了，可形势的发展令河下谷清目瞪口呆：不但日本重新侵略中国没有指望，连国民党的统治也眼看要被中国共产党推翻了！
河下谷清于是意识到自己的使命得无限期延长了，凭着他以前对中共的了解，他知道如若在中共统治下靠这三年所进行的歪门邪道是混不长的，于是决定做一个“老老实实的劳动者”，遂利用其在特工训练班学得的技能，开了一家专门修理电器的铺子，如此一直维持到现在。
按照河下谷清原先的想法，他以为自己做得天衣无缝，长期潜伏料想不成问题。哪知这时警方已经盯上他了。他最初被正好来上海出差的徐永卿在虹口区三角地菜场门口发现，纯属偶然：他并不住在三角地菜场，那里是他岳母的家，那天他是陪同妻子去给岳父祝寿的，因为闹得晚了，就住了下来，次日便去菜场买菜。
谁知竟然就让徐永卿看见了。当然河下谷清自己是不知晓的，所以当后来警方盯上他的时候，他竟然还在乐观地做着重整旗鼓的梦，因为他此时收到了一封来自日本的信函，这封信给他带来了新的希望。
这封信的来源是这样的：河下谷清时刻关心着日本战后的形势，最初他相信日本情报机关会想到他这个潜伏特工，可是时间一年一年过去了，日本方面根本没有派人来找过他，于是他怀疑由于**的改组，情报机关已经失去了相关档案资料。
因此，河下谷清就想主动和日本方面取得联系。日本民间人士来中国进行贸易、旅游、探亲访友的开始增多，上海是他们的首选口岸。河下谷清于是非常关注从日本过来的人士，他经常去日本人下榻的饭店、宾馆和活动场所找日本人搭讪。
3月中旬的一个星期日下午，河下谷清去南京路闲逛时，在一家文具店遇到一个用英语跟营业员对话的日本人，于是便上去搭讪。对方一听河下谷清的日语，马上对他另眼看待，两人便去咖啡馆喝咖啡聊天。
过了一天，河下谷清又去那个日本人下榻的饭店造访。通过交谈，河下谷清知道这个日本人以前是日本陆军中佐，参加过侵华战争，战后他被占领日本的美军招募进了情报机关，这次来华并非做生意，而是奉命察看中国目前的情况的。
河下谷清于是便把对方当做自己人，遂将自己的想法及情况作了一番陈述，要求对方回国后向有关机关报告他的情况，沟通联系。对方也大为高兴，正好向河下谷清打听中国的一些情况，好回去交差。
这个日本前中佐返回后不久，就给河下谷清来信了，说已经向有关机关报告了河下谷清的情况，获得重视云云。河下谷清收到这封信后，自是非常激动。当然他没有料到，这封信竟然在寄达前已经落入上海警方之手，拍摄了上面的内容。
重新接上头的河下谷清准备关闭电器铺子，另外找一份工作。正好这时有一个机会找上门来了：那是北方一家国营小厂，因为生产技术的关系，其技术人员在赴上海采购器材时跟河下谷清结识了。
河下谷清凭着自己多年折腾电器得出的经验为他们解决过一些技术上的难题，被他们看做是一位高级师傅。最近，这家小厂和另外几家工厂合并成一家颇具规模的中型厂，生产的产品中部分是和军工相关的。
由于缺乏技术人才，就向全国各地招工。那几个技术人员于是就想到了河下谷清，专程赴沪，盛情相邀。这对于河下谷清来说，好比是瞌睡碰上了枕头，自是一拍即合。
于是，在一番谈判之后，双方很快就达成了一致意见，河下谷清欣然同意前往北方工作，担任这家新厂的工程师。这番谈判，当然没有逃脱特别调查小组的监控。报批情报部后，相关领导当即下令：收网！