被AI造谣指控?!ChatGPT编造法学教授性骚扰丑闻

来源:JRS直播吧
4月8日讯 上周一个晚上,法学教授乔纳森·特利收到了一封令人不安的电子邮件:他被列入性骚扰名单。但他并没有性骚扰过他人。据《华盛顿邮报》当地时间4月5日报道,事情的起因是,美国加州大学洛杉矶分校法学教授尤金·沃洛克做了一项研究:要求人工智能聊天机器人ChatGPT生成一份“对某人进行过性骚扰的法律学者”的名单,特利的名字在名单上。

ChatGPT说,特利在一次去阿拉斯加的班级旅行中发表了性暗示评论,并试图触摸一名学生,并援引《华盛顿邮报》2018年3月的一篇文章作为信息来源。问题是,并不存在这样的文章,特利也从来没有参加去阿拉斯加的班级旅行,他说他从未被指控性骚扰学生。

“这真令人不寒而栗。”他在接受采访时说,“这种指控非常有害。”

向chatgpt询问这个问题的教授尤金·沃洛克称,他询问ChatGPT,教授们的性骚扰是否一直是美国法学院的一个问题。 “请至少包括五个例子,以及相关报纸文章中的引述。”他提示说。结果ChatGPT给出了五个回复,所有回复都包含真实的细节和来源引用。但当沃洛克检查这些信息时,发现其中3个是假的。它们引用了《华盛顿邮报》、《迈阿密先驱报》和《洛杉矶时报》等媒体上不存在的文章。

特利的经历是对最新一波语言机器人陷阱的案例研究,这些语言机器人凭借其编写计算机代码、创作诗歌和进行诡异的类人对话的能力而引起了主流媒体的关注。但这种创造力也可能成为错误主张的引擎;这些语言模型可以极大地歪曲关键事实,甚至可以捏造基本信源来支持他们的主张。

这并不是第一次AI造谣了引起较大的反响了,澳大利亚Hepburn Shire市长布赖恩·胡德威胁要对OpenAI提起诽谤诉讼,因为ChatGPT称胡德曾因涉及澳大利亚储备银行子公司受贿案而入狱。如果最终起诉,这将是全球第一个指控ChatGPT诽谤的诉讼。

在美国的消费者互联网兴起之初,美国国会曾通过一项名为第 230 条的法规,该法规保护在线服务免于对其托管的第三方创建的内容承担责任,例如网站上的评论者或社交应用程序的用户。但专家表示,尚不清楚如果科技公司因自己的 AI 聊天机器人制作的内容而被起诉,它们是否能够使用这项保护措施。

指控不仅要证明对方所说的是假话,而且要证明它的发表造成了现实世界的伤害,例如代价高昂的名誉损失。这可能需要某人不仅查看聊天机器人生成的虚假声明,而且合理地相信它并据此采取行动。