返 回
首个可实时检测AI合成内容的工具来了
发布时间:2024-06-28 08:19:39

记者实测热门AI检测工具,结果令人惊讶

AI的功能越来越强大,其安全性也愈发受到关注。日前,瑞莱智慧正式发布了全球首个可实时检测AI合成内容的工具RealBelieve,中文名“尊嘟假嘟”,现已启动内测招募。有了这一工具,普通人可看文章是否为AI合成、图片是否为AI伪造,甚至还可实时检测与你视频通话的人是否为本人。

记者注意到,此次发布的RealBelieve,其检测变被动为主动是重要创新之处。举例而言,在视频通话过程中,该系统可依据视频内容主动发出预警信息,提示视频对方的人脸是否存在AI合成的风险,以便帮助人快速确认对方的身份。它适用场景非常广泛,不仅为个人用户提供文本、图片、视频和音频多种模态的文件上传检测服务,还可通过浏览器插件的形式实时提示用户所浏览网页的疑似AI合成内容。

追溯RealBelieve的技术根基,瑞莱智慧团队自2018年起便深耕AI合成检测领域,相继推出了DeepReal生成式人工智能内容检测平台与RealGuard人脸AI安全防护墙等产品。其公司联合创始人、算法科学家萧子豪透露,RealBelieve背后的检测模型基于贝叶斯深度学习技术开发,团队构建了一整套多模态AIGC检测技术体系,能够挖掘并建模多模态、多层次、多角度的AI合成线索,度量真假差异,并进行不确定性推理决策。

事实上,此前市场上也有不少针对检测AI合成内容的产品,特别针对文章中AI率检测的产品颇多。比如,国内的格子达、知网、维普也先后上线了AI检测功能,国外的Turnitin、GPT Zero、Copyleak等AI检测工具也很受欢迎。其中,Tunitin上线AI检测器的一个月内,全球有超过一万所中高等教育机构激活了这款工具。

记者在淘宝平台上搜索关键词“AI率检测”,发现众多商家正提供此类服务。对于英文论文,大多商家首推AI检测工具Turnitin,依据所需发表的地区分为国际版和UK版服务。“UK版是专门为英国地区开发,在国际版的基础上,额外收录了大量的英国文献资源。”客服告诉记者,消费者下单后会获得网址和账号,国际版的自主查重加AI检测服务标价为10元/次,单次字数限制在15000字以内。

至于中文论文的AI检测需求,市场上普遍推荐的是龙源AI检测系统,价格大多在3元/千字。为验证其效果,记者进行了一项实验:选取今年浙江高考语文作文题目,利用“通义千问”大模型生成了一篇题为《问题与探索:在信息时代中前行》的文章,共计903字。随后,记者将这篇即时创作的文章输入到一家商家提供的龙源AI检测系统中,然而结果显示AI率竟为0%。对此,客服的解释是:“本系统AI检测结果与知网、维普系统基本一致,若原文不动,提交至学校结果也是一样。”

有业内人士表示,随着人工智能进入大模型时代,防范AI技术在非法领域的滥用尤为关键,尤其是要应对那些利用AI创造的数字人进行的即时欺诈行为。因此,开发侧重于实时识别与拦截此类违规内容的产品,已被视为行业未来的研发重点。当前,该领域的市场竞争激烈,国际上如Open AI与微软等企业正加速布局,国内一线科技企业也不甘示弱,坚信在将来技术层面会有突破。

来源:每日商报   作者:记者 孟佳俊   编辑:陈俊男