10月11日，国家安全部通过公众号发布提示：接到陌生来电时，不要立刻回应，建议先保持三秒静默。
不法分子在电话接通后，可能故意不出声，诱导接听者说出“喂”或“找谁”等词语。这几秒钟的语音片段，可能被用于AI声纹复制，进而冒充身份进行诈骗。因此，接电话时最好等对方先开口，如果对方也一直不说话，就果断挂断。
国家安全部建议的具体操作：让来电者先说明目的，若持续无回应则立即挂断。
声音之所以值得被收集，是因为AI技术可以利用一个人的声音，生成他从未说过的全新语句。
这些素材也可能来自已经公开的音视频资料。在网上说过的话、录过的视频，都可能被搜集，用于冒充身份。
AI生成场景示意：陌生电话响起，先听对方说明来意。
在已曝光的案例中，骗子会将合成声音、换脸技术和真实影像拼接在一起。一个虚构的人物，拥有了声音、面孔和符合身份的生活场景，甚至能出现在公司会议中。
AI声音，确实能骗过人类
2025年4月，湖北黄石的丁阿姨接到一通电话。对方冒充她的孙子，声称在学校打架需要赔偿，会派人上门取款。
她取出了2万元。取款人来到家中，又通过电话联系那个“孙子”，让她再次确认。直到当晚真正的孙子回家，骗局才被揭穿。
AI在这里伪造了孙子的声音。丁阿姨做过一次确认，但第二通电话依然通向骗子，熟悉的声音再次为取款人做了担保。
黄石港区检察院报道截图：AI冒充孙子，骗取养老钱。
2026年6月，波兰弗罗茨瓦夫理工大学的研究人员，将9位说话者的真实录音和AI克隆语音，分别通过传统手机通话、高清通话和网络语音的模拟传输处理，让95名参与者辨别真假，共收集了1710次判断。
总体正确率仅为54.8%。其中，传统手机通话的正确率为63.7%，而高清通话反而降至44%。
2026年模拟通话听辨实验：95名参与者判断真人与AI克隆语音，总体正确率54.8%。
高清通话本应让声音更清晰，但在这项实验中，听众反而更难分辨真假。
电话中传来紧急求助，会议中出现付款指令，骗子还不断催促，注意力很容易集中在“这件事怎么处理”上，留给辨别声音的时间就更少了。
山东莱西的假军官案中，AI将身份构建得更为完整。
骗子向受害者展示军装训练视频，并通过视频通话展示军营环境。军营场景来自公开素材的剪辑，AI替换了真实军人影像中的面孔，语音合成软件则生成声音。这些材料被用于建立感情、诱导投资。
莱西案件中，AI生成的面孔和声音，与公开军事场景素材一起支撑虚构身份。
香港的一起公司诈骗案，甚至虚构了一场视频会议。
根据香港政府2024年6月的答复，警方认为，骗子利用公开影片和声音，通过深伪技术制作预录会议，冒充公司管理人员。受害人与视频中的人物没有实际对话互动，会议结束后，骗子通过即时通讯继续指示付款。按当时披露，损失约2亿港元。
骗子将熟悉的管理人员放入同一场会议，让付款要求看起来经过了集体确认。
香港政府2024年6月26日答复截图：公开影片和声音被用于制作预录会议。
声音9元起，人脸视频可批量供应
新华社2026年4月调查发现，二手交易平台上存在声音克隆软件、教程和代制服务。客户提供原声音频和待合成文字，最快15分钟拿到成品，一般用时半小时至一小时。
部分店铺按200字9元或每分钟10元收费，有的还免费代找音源。电脑性能不足时，也有商家提供云平台租赁方案。
新华社调查记录的部分店铺报价与交付时间，采集于2026年4月。
过去，定制一个人的声音，通常需要专门采集录音、训练模型。现在，一些语音模型已从大量数据中学会了语言和发音规律，使用时只需提供一段参考录音，就能让它模仿新的说话者。技术上称为“零样本声音克隆”，即无需为这个人单独重训模型。
到底需要收集多久的录音？阿里云的声音复刻文档给出的样本要求是10到20秒。开源项目GPT-SoVITS则将5秒声音样本列为零样本合成的输入，另有使用1分钟录音微调、提高声音相似度的路线。几十秒的视频中，可能已包含足够的参考声音。
阿里云声音复刻文档截图：参考录音要求10—20秒，无需单独训练。
研究团队公开的F5-TTS项目，将输入明确区分：参考录音、录音对应的文字，以及需要生成的新文本。录音文字还可由语音识别自动补上。
模型对照录音和文字，获取说话者的声音特征，再按新文本生成声学表示。可以将其理解为声音的数字描述，随后由声码器还原成可播放的音频。
以F5-TTS公开项目为例：参考录音用于模仿声音，新文本决定生成内容。
普通电脑能否运行？GPT-SoVITS官方列出的测试环境包括CPU、苹果芯片和英伟达显卡，也提供Windows整合包。它公布的一组v2 ProPlus推理测试，使用的是RTX 4060 Ti、RTX 4090和苹果M4 CPU。
速度有多快？GPT-SoVITS项目给出的“实时因子”，即生成耗时除以音频时长。4060 Ti为0.028，M4 CPU为0.526。按此比例折算，生成一分钟声音，分别约需1.7秒和32秒。
软件安装也有现成方案。阿里团队的CosyVoice、研究团队的F5-TTS都公开了模型和网页界面。一个人配置好依赖和模型后，其他人即可在界面中提交素材。CosyVoice还支持流式输出，文字不断送入，声音也可分段生成。
AI生成场景示意：电脑、耳机和麦克风组成的普通工作台。
如果使用云端，计算则由服务商负责，电脑只需提交录音和文字。费用分为两部分：创建音色，以及用该音色合成新语音。
GPT-SoVITS官方项目截图：公布消费级显卡、苹果M4 CPU的推理测试。
截至2026年10月12日，阿里云文档显示，CosyVoice系列创建音色免费。北京地域的CosyVoice-v2语音合成原价为每万字符2元；按200个计费字符计算，一段语音的合成费为0.04元。千问系列创建复刻音色则单独收取0.01元，后续合成按对应模型收费。
新华社调查中的200字9元，是商家的代制报价；0.04元，是上述云模型的文本合成费。商家还会处理素材、调试和交付。
本地部署则换了一种账：模型在自己的机器上运行，不按每段语音向云服务付费，但显卡、内存、电费和配置时间仍需自己承担。公开模型和整合界面降低了开发门槛，黑产也能找人完成部署，再将生成能力卖给下游。
声音克隆门槛与成本：参考样本、测试设备、生成速度和云端计价。
快手团队公开的LivePortrait，是一项人像动画技术。它将人像照片作为外貌参考，再从驱动视频中提取表情、头部姿态等运动信息，让照片中的人物跟着动起来。
项目提供模型权重、网页操作界面，还发布过Windows整合包。
LivePortrait公开技术示意：外貌参考和动作参考分别输入，再合成人像动画。
在青岛胶州警方查处的案件中，犯罪团伙将非法获取的静态照片，加工成能摇头、眨眼的AI动态人脸视频，用于虚假实名认证。央视今年3月报道，警方查获了5万余条这类视频文件。
办案报道还披露，警方查扣了60台云服务器。团伙用合成视频注册具有支付功能、直播权限等的账号，再以150元至300元出售，售号获利60余万元。
胶州案件中的分工：个人信息被加工成动态影像，用于冒名认证，再出售账号。
到了下游，购买者拿到的已是能用的账号，可用于诈骗、刷单和发布违法信息。
连“请确认是你本人”，也成了生意
视频中的熟人让你相信“他就是那个人”，人脸验证则替平台确认“操作者就是账号本人”。AI造假已盯上这两道关口。
南京的朱先生收到过一条扣款验证码短信，当时以为是诈骗信息，没有理会。
四天后，他打开手机银行，才发现银行卡被某电商平台分两笔扣走15996元。联系客服后得知，这笔钱购买了两部苹果手机，已在深圳收货。
警方调查发现，符某非法获取了195万余条个人信息，再利用AI换脸软件生成视频，通过人脸识别登录23名被害人的账户，修改其中5人的支付密码和绑定手机号，冒用一人的账户绑定银行卡购买手机。2024年10月18日，法院判处符某有期徒刑四年六个月。
央视2025年7月20日报道实拍画面：南京玄武区检察院检察官助理介绍案件中的技术融合。
符某使用非法获取的身份证照片，制作能摇头、张嘴的动态人脸视频。照片中的人并未参与，但合成影像替他完成了身份确认。
央视2025年7月20日报道实拍画面：检察人员在电脑上查看案件资料。
人脸验证需要回答两件事：这张脸是否像账号本人，镜头前是否为活人。要求转头、张嘴，是为了检查后一件事。生成式AI可以将这些动作合成出来。
案件中的符某尝试过多个平台，最终在一家存在漏洞的平台得逞。检察机关随后向相关支付公司发出风险提示函，督促消除认证隐患。
央视2025年7月20日报道中的技术展示画面：手部、眼睛及频谱等特征被用于识别深伪。
武汉一家公司的公众号，也遭遇过身份接管。
2025年6月10日，公司工作人员发现，公众号突然发文宣布即将停更，还号召粉丝关注另一个投资理财账号。工作人员尝试登录后台，才发现密码已被修改，连公司法定代表人信息也被篡改。
湖北省公安厅2025年9月16日通报截图：公司公众号被接管，用于投资引流。
警方查明，犯罪链条中有人专门提供AI“人脸代过”服务，制作动态人脸帮助他人冒名通过验证，单次收费最高1000元，非法获利40余万元。
武汉案件中，被盗账号宣布即将停更，并向另一个投资理财账号引流。
一个陌生电话打来，你先沉默三秒。电话那头可能等着收集声音，背后连着克隆软件、代做服务，再往后，是冒充熟人、骗取钱财的生意。
“三秒提醒”有必要，但仔细想想，还是有点窝火。
接电话先说声“喂”，本来是再正常不过的习惯。如今连开口都得提防，生怕自己的声音被拿去做成另一个“我”。技术越来越方便，普通人却得越来越小心。
更让人不舒服的是，一旦出了事，那声“喂”又可能变成责怪受害者的理由：谁让你先开口的？这大概是另一种“受害者的原罪”吧。
本文来自微信公众号“硬核看板”（ID：yinghekb），作者：李沣，36氪经授权发布。
