ITCOW牛新网 1月17日消息，随着文生文、文生图、文生视频等领域的应用不断成熟，随之而来的信任危机也在加剧。为此，腾讯今日宣布推出了全新的AI生成文本检测和AI生成图像检测工具，旨在帮助用户有效识别AI生成的内容，确保内容的真实性。
腾讯官方表示，尽管AI生成的图像在细节和纹理方面变得越来越逼真，但依然有一些可以察觉的特征。为此，腾讯朱雀实验室研发了一款AI生成图片检测系统。用户只需上传图片，系统会快速进行验证，判断该图片是否由AI生成。整个过程仅需几秒钟，借助AI检测技术，用户能够轻松识别出AI生成的图像。该系统的检测逻辑主要通过捕捉真实图片与AI生成图像之间的差异来区分，例如AI生成图像有时不符合常识逻辑，或者图片中存在隐形特征。此外，AI生成的图像通常需要“加水印”，这些都可以作为检测依据。
腾讯指出，鉴别AI生成内容的过程不能仅依赖单一的判定标准，因此，AI生成图片检测系统结合了多种特征，利用AI模型对图片的纹理、语义及隐形特征进行分析和对比。为了提升系统的准确性，该检测工具使用了140万份正负样本进行模型训练，涵盖人体、人像、风景、地标、植物、电影、游戏、新闻等多种内容类型。经过优化后，测试检出率已达到95%以上，并仍在持续优化过程中。
同时，朱雀实验室还开发了AI生成文本检测系统。通过对大量AI生成文本与人类创作的内容进行学习和对比，系统能够有效辨别出AI生成的文本内容。与图像检测类似，文本检测系统也经过了大量正负样本的训练，涵盖了不同领域和不同大语言模型生成的文本。该系统采用对比分析法，将检测文本与大语言模型的预测结果进行重叠度对比，从而推断文本是否由AI生成。腾讯还表示，未来将进一步提升系统对诗歌等文体的识别能力，以进一步提高文本识别的准确率。
通过推出这些检测工具，腾讯希望在AI技术不断发展的同时，为用户提供更好的信息安全保障，确保用户能够区分真实与AI生成的内容，减少潜在的信任危机。