即使OpenAI也无法区分原始内容和人工智能生成的内容

互联网   2023-09-08 16:14:21


(资料图片)

OpenAI是非常受欢迎的人工智能聊天机器人ChatGPT的创建者,它已正式关闭其开发的用于检测人工智能而非人类创建的内容的工具。OpenAI在一篇博客文章中表示,“AI分类器”在推出仅六个月后就被废弃——显然是由于“准确率低”。

ChatGPT今年大受欢迎,渗透到我们数字生活的各个方面,并出现了大量竞争对手的服务和模仿者。当然,大量人工智能生成的内容确实引起了多个群体对社交媒体和新闻源中普遍存在的不准确、不人道内容的担忧。

教育工作者尤其对ChatGPT被用来撰写论文和作业的不同方式感到困扰,这些论文和作业被冒充为原创作品。OpenAI的分类器工具旨在解决这些担忧,不仅在教育领域,而且在企业工作空间、医疗领域和编码密集型职业等更广泛的领域。该工具背后的想法是,它应该能够确定一段文本是由人类还是人工智能聊天机器人编写的,以打击错误信息。

大学经常使用的抄袭检测服务Turnitin最近集成了一个“人工智能检测工具”,该工具显示出双方都存在错误的非常突出的错误。学生和教师已前往Reddit抗议不准确的结果,学生表示他们自己的原创作品被标记为人工智能生成的内容,教师则抱怨人工智能工作通过这些检测器时未被标记。

这是一个令人难以置信的令人不安的想法:ChatGPT的制造者无法再区分什么是他们自己工具的产品,什么不是。如果OpenAI都无法区分,那我们还有什么机会呢?这是错误信息泛滥的开始吗?没有人能确定他们在网上读到的内容是否真实?我不喜欢末日论,但这确实令人担忧。

最新资讯