利用 AI 揭露 AI 虚假：腾讯推出大模型检测工具

2025年1月17日，腾讯宣布推出AI生成文本检测/AI生成图像检测工具。这一工具的推出，是为了应对随着文心文、文心图、文心视频等领域应用成熟而随之爆发的信任危机。

AI生成图像检测

腾讯朱雀实验室研发了一款AI生成图片检测系统。用户只需将图片上传，等待验证，即可判断图片是否由AI生成。整个过程只需几秒钟，就能用魔法打败魔法——用AI检测AI生成。

该检测系统的背后检测逻辑主要是捕捉真实图片与AI生图之间的差异来进行区分，例如：

• • AI生图有时不符合常识逻辑

• AI生成图片需要加水印
• AI生成图片包含隐层特征

为了提升系统的检测效果，腾讯使用了140万份正负样本进行模型训练，考虑了多种生成内容场景，如人体、人像、风景、地标、植物、电影、游戏、新闻等。最终测试检出率达95%以上，还在持续优化提升中。

AI生成文本检测

朱雀实验室还同步开发了文本检测系统，通过对AI生成文本和人类写作内容的海量数据学习来实现文本检测。与图片内容检测一样，文本检测系统背后也搜集了大量正负样本进行训练，涵盖不同领域、不同大语言模型的生成文本。

该系统还运用了对比的方式，将检测文本与大模型预测内容进行重叠度对比，来推断文章的AI生成概率，以增强对未见过数据的检测能力。

目前，AI生成文本检测系统涵盖了新闻通讯、公文、小说、散文等多样化文体，接下来还会对诗歌等体裁进行补强，用于提高文本识别的准确率。

腾讯表示，鉴别AI生成往往不能依靠单一依据。因此，AI生成图片检测系统需要利用AI模型来捕捉真实图片与AI生图之间各类特征的差异，包括图片的纹理、语义及隐形特征。

内容均采集自公开的网站等各类媒体平台，若收录的内容侵犯了您的权益，请联系邮箱，本站将第一时间处理。