如果您访问CNET 的任何 AI 撰写的文章,您现在会在顶部看到一条编辑说明:“我们目前正在审查这个故事的准确性。如果我们发现错误,我们将更新并发布更正。”该出版物在获悉其发布的至少一个机器编写的财务解释器存在重大错误后添加了注释。
如果您还记得的话, CNET主编 Connie Guglielmo 最近承认该出版物自去年 11 月以来已经发表了大约 75 篇关于基本金融主题的文章。 Guglielmo 表示,该网站决定进行一项实验,看看人工智能是否能在未来几个月和几年内真正用于新闻编辑室和其他基于信息的服务。根据Futurism 的报告,答案似乎是:当然可以,但它生成的文章需要由人工编辑进行彻底的事实检查。
Futurism梳理了 Guglielmo 在帖子中强调的一篇文章,即题为“什么是复利?”的文章,发现了一些严重的错误。虽然这篇文章后来被更正了,但最初的版本说“你将在第一年年底赚取 10,300 美元”——而不是仅仅 300 美元——如果你将 10,000 美元存入一个每年赚取 3% 复利的账户。 AI 在解释贷款利率支付和存款证明或 CD 时也犯了错误。
将CNET 的文章与前几年机器编写的文章进行比较时,您会发现质量存在巨大差异,后者读起来更像是一堆事实拼凑而成,而不是连贯的故事。正如Futurism指出的那样,它发现的错误突出了当前一代人工智能文本生成器的最大问题:它们可能能够以类似人类的方式做出响应,但它们仍然难以筛选出不准确的地方。
“臭名昭著的像 ChatGPT 这样的模型倾向于喷出有偏见的、有害的和事实上不正确的内容,” 麻省理工学院的技术评论在一篇研究微软如何将OpenAI 的 ChatGPT 技术与 Bing 结合使用的文章中写道。 “他们擅长写出流畅的语言,读起来就像人类写的一样。但他们对自己写的东西并没有真正的理解,而且他们以同样高的信心陈述事实和谎言。”也就是说,OpenAI 最近推出了 ChatGPT 的更新,旨在“提高准确性和真实性”。
至于CNET ,一位发言人在一份声明中告诉Futurism :“我们正在积极审查我们所有的人工智能辅助作品,以确保在编辑过程中没有进一步的错误,因为人类也会犯错误。我们将继续发布任何必要的根据CNET 的更正政策进行更正。”
原文: https://www.engadget.com/cnet-reviewing-ai-written-articles-serious-errors-113041405.html?src=rss