说来容易做来难,OpenAI悄悄关闭辨识AI或人类创作的服务

(背景图片) Maxim Berg on unsplash

AI功能日愈强大,产出的文字或图像几可乱真,连AI工具自己都无法判断。OpenAI上周悄悄关闭了用以分辨AI或人类生成内容的工具,因为它做不到自己宣称的事。

今年2月初,OpenAI公布名为AI分类器(AI Classifier)的服务,用以辨别由人类编写或是AI生成的文字,以协助解决学生使用AI写论文或报告的欺骗行为。该公司宣称只要输入最少1,000个字元,约为150到250英文单字,这工具就能判断该文本是由人类编写还是AI产生。当时该公司说其模型判断AI生成英文文字的正确判读率为26%,错误判读率(将AI生成文字判读为人类所写)为9%。

不过上周OpenAI在当初宣布这工具的官方部落格上,以一小行声明公告,AI分类器已不再提供,原因是准确性太低。

但OpenAI并未放弃,开发小组已蒐集这工具使用半年来得到的反馈,目前正在研究更有效的文字判读技术,并将投入开发与部署协助使用者判断是否为AI生成的声音和视觉内容。

这也显示AI功能愈来愈强大,足以产生难以区分真假的AI内容。这也呼应了一份由史丹佛大学教授的研究结论。该研究发现,母语非英语的使用者撰写的英文文章,超过一半会被AI侦测工具误判为AI撰写的产物。

surfshark能看油管吗

0 0 投票数
Article Rating
订阅评论
提醒
guest
0 Comments
内联反馈
查看所有评论
0
希望看到您的想法,请您发表评论x