腾讯推出大模型检测工具:可以利用AI识别AI生成的图像 打击“假”的斗争是全面的

1月17日消息，随着文胜文、文胜图片、文胜视频等领域的应用日趋成熟，随之而来的信任危机也同步爆发。为此，腾讯今日宣布推出AI生成文本检测/AI生成图像检测工具。

腾讯官方表示，虽然AI生成的图像在细节和纹理方面越来越真实，但仍有痕迹可循。朱雀实验室开发了AI生成的图像检测系统，上传图像——并等待验证——以确定是否是AI生成的。整个过程只需要几秒钟，你就可以用魔法打败魔法—— 使用AI“检测”AI生成。

其背后的检测逻辑主要是捕捉真实图片和AI生成图片之间的差异来区分它们。例如，AI生成的图片有时不符合常识逻辑、AI生成的图片需要“加水印”、AI生成的图片包含隐藏层特征等。

腾讯指出，识别AI世代往往不能依赖单一依据。因此，AI生成的图像检测系统需要使用AI模型来捕获真实图像和AI生成的图像之间的各种特征的差异，包括图像的纹理、语义和不可见特征。

为了提高系统的检测效果，它使用了140万个正负样本进行模型训练，同时考虑到多种生成的内容场景，例如人体、肖像、风景、地标、植物、电影、游戏、新闻等，最终测试检测率达到95%以上，还在优化改进中。