ITCOW牛新网 8月18日消息，随着AI技术的快速发展，AI换脸技术也日益成熟，但随之而来的诈骗风险也引起了社会各界的关注。据央视网今日报道，目前工业和信息化部正与手机制造商合作，开发一项新的AI换脸诈骗风险提醒功能。
这项新技术将完全在手机端本地运行，旨在保护用户隐私，防止数据泄露。用户在授权后，手机能够自动识别并提醒用户可能遇到的AI换脸诈骗行为。在一次测试中，当使用AI技术换脸的人员与记者进行视频通话时，测试手机成功识别并提示了“对方疑似假冒身份”，并给出了高置信度的检测结果。
据ITCOW牛新网了解，AI换脸技术主要依赖于深度合成技术，而为了规范这一技术的应用，避免其被用于不当目的，《互联网信息服务深度合成管理规定》已经提出要求，深度合成服务的提供者必须对合成内容添加水印，以明确提示内容的AI合成属性，并为内容的来源提供追溯途径。
中国信通院的专家陈文弢进一步阐释了水印的重要性，指出水印的使用不仅有助于公众识别AI合成内容，提高警觉性，同时也为监管部门提供了一种有效的内容监管手段。这一措施有望在保护用户权益和提升网络环境安全性方面发挥重要作用。