快报：AI换脸诈骗案件频发安全治理亟需多方协力

2023-07-05 07:13:44 来源 : 证券时报网

【资料图】

证券时报记者郭博昊

作为新一轮科技革命和产业变革的重要驱动力，近一段时间人工智能（AI）的技术积累和应用场景取得了重要突破。问答对话、深度合成等应用正成为AI产业相对成熟的切入口。在火热的AI浪潮下，用户在享受技术带来便利的同时，其中可能暗藏的安全风险亟需得到更多关注。

近日，不法分子通过AI合成技术冒充知名经济学家，骗取投资者钱财的案件频发。中国银河证券公告，发现有不法分子利用AI合成技术假冒金融机构工作人员，获取投资者信任，骗取投资者钱财。此前，经济学家管清友曾遭遇被AI换脸冒名顶替的情况；东北证券首席经济学家付鹏表示，也遇到过类似情况，效果“非常逼真”。

AI合成技术相比传统图像视频技术，具有“门槛低、效率高、质量好”的特点，网络上充斥着大量如何伪造的教程和工具代码，即便不具备专业编程能力的普通用户，通过简单学习也能快速上手。较低的门槛却有着可观的“回报”，AI合成技术难免沦为不法分子实施新型诈骗的工具。特别是，随着深度合成仿真精度持续提升，伪造的音视频几乎达到以假乱真的程度，在这种情况下，受害者往往会放松警惕，最终上当受骗而蒙受经济损失。

值得一提的是，针对AI数字技术犯罪，国家层面相关立法研究正在不断推进。今年以来就有《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理办法(征求意见稿)》等文件相继发布，为规范AI产业健康发展做出指引。

在政策引导之余，加强AI领域协同治理也至关重要。需要加强监管机构能力建设，及时识别出新的违法犯罪手法，并加以打击整治。同时，应持续提升技术创新能力，通过新技术的开发与应用，提升风险隐患的自主监测、识别和防范能力。此外，还要加强跨部门、跨领域的协同合作，构建起应对新技术、新风险的安全生态系统。

作为普通的经济活动参与者，我们要加强个人信息保护意识，不要轻易透露自己的身份证、银行卡、验证码等信息；特别要防范人脸、指纹等生物信息的泄露。同时，当收到不寻常的请求或交流时，需要保持警惕，多渠道核实对方的身份和信息，避免仅凭借单一沟通渠道就转账汇款。

技术本无罪，发挥AI技术赋能新一轮科技革命和产业变革的能力，降低技术“阴暗面”对经济社会发展的影响，还需社会各界共同发力、相向而行。

标签：