首頁>消費 >
“這真令人不寒而栗” ChatGPT編造法學教授性騷擾丑聞 2023-04-06 11:38:14  來源:澎湃新聞

·ChatGPT說,特利在一次去阿拉斯加的班級旅行中發(fā)表了性暗示評論,并試圖觸摸一名學生,并援引《華盛頓郵報》2018年3月的一篇文章作為信息來源。問題是,并不存在這樣的文章,特利也從來沒有參加去阿拉斯加的班級旅行。

·澳大利亞Hepburn Shire市長布賴恩·胡德威脅要對OpenAI提起誹謗訴訟,因為ChatGPT稱胡德曾因涉及澳大利亞儲備銀行子公司受賄案而入獄。如果最終起訴,這將是全球第一個指控ChatGPT誹謗的訴訟。


(相關資料圖)

上周一個晚上,法學教授喬納森·特利(Jonathan Turley)收到了一封令人不安的電子郵件:他被列入性騷擾名單。但他并沒有性騷擾過他人。

據(jù)《華盛頓郵報》當?shù)貢r間4月5日報道,事情的起因是,美國加州大學洛杉磯分校法學教授尤金·沃洛克 (Eugene Volokh)做了一項研究:要求人工智能聊天機器人ChatGPT生成一份“對某人進行過性騷擾的法律學者”的名單,特利的名字在名單上。

ChatGPT說,特利在一次去阿拉斯加的班級旅行中發(fā)表了性暗示評論,并試圖觸摸一名學生,并援引《華盛頓郵報》2018年3月的一篇文章作為信息來源。問題是,并不存在這樣的文章,特利也從來沒有參加去阿拉斯加的班級旅行,他說他從未被指控性騷擾學生。

作為經(jīng)常接受媒體采訪的學者,特利有時會要求更正新聞報道,但這一次,沒有記者或編輯可以打電話,也沒有辦法更正記錄。

“這真令人不寒而栗?!彼诮邮懿稍L時說,“這種指控非常有害?!?/p>

錯誤信息從一個AI傳播到另一個AI

沃洛克說,聊天機器人軟件的日益普及,使學者們必須研究其產(chǎn)生虛假信息時誰該負責。上周,他詢問ChatGPT,教授們的性騷擾是否一直是美國法學院的一個問題。 “請至少包括五個例子,以及相關報紙文章中的引述。”他提示說。

ChatGPT給出了五個回復,所有回復都包含真實的細節(jié)和來源引用。但當沃洛克檢查這些信息時,發(fā)現(xiàn)其中3個是假的。它們引用了《華盛頓郵報》、《邁阿密先驅報》和《洛杉磯時報》等媒體上不存在的文章。

ChatGPT說:“喬治城大學法律中心(2018)教授喬納森·特利被一名前學生指控性騷擾,該學生聲稱他在一次課堂旅行中發(fā)表了不當言論。引用:”投訴稱,特利在法學院贊助的阿拉斯加之旅中發(fā)表了‘性暗示評論’并‘試圖以性方式觸摸她’?!?(華盛頓郵報,2018年3月21日)?!?/p>

《華盛頓郵報》沒有找到ChatGPT提到的2018年3月的文章,但那個月的一篇文章提到了特利。在3月25日發(fā)布的一篇文章中,他談到了以前的法學院學生邁克爾·阿文納提(Michael Avenatti),他是一名律師,曾代表成人電影女演員斯托米·丹尼爾斯(Stormy Daniels)對美國前總統(tǒng)唐納德·特朗普提起訴訟。特利也沒有在喬治城大學工作過。

在當?shù)貢r間4月4日和5日,《華盛頓郵報》在ChatGPT和必應(Bing)中重新創(chuàng)建了沃洛克的查詢。免費版的ChatGPT拒絕回答,稱這樣做“會違反AI的內容政策,該政策禁止傳播具有攻擊性或有害的內容?!钡蒅PT-4提供支持的必應重復了關于特利的虛假聲明,在消息來源中引用了特利4月3日發(fā)表在《今日美國》上的一篇專欄文章,概述了他被ChatGPT誣告的經(jīng)歷。

換句話說,媒體對ChatGPT錯誤描述特利的報道似乎導致必應重蹈覆轍,展示了錯誤信息是如何從一個人工智能傳播到另一個人工智能的。

沃洛克說,很容易想象一個由聊天機器人驅動的搜索引擎會在人們的私人生活中造成混亂。如果人們在求職面試或約會之前在搜索引擎中搜索其他人,它會生成虛假信息,這些信息由看起來可信但虛假的證據(jù)支持,那將是有害的?!拔kU在于人們看到了一些東西,據(jù)說是來自可靠來源的引述……(并且)人們相信了。”

難以證明誰該負責任

另據(jù)路透社4月5日報道,澳大利亞Hepburn Shire市長布賴恩·胡德(Brian Hood)威脅要對OpenAI提起誹謗訴訟,因為ChatGPT稱,胡德曾因涉及澳大利亞儲備銀行子公司受賄案而入獄。如果最終起訴,這將是全球第一個指控ChatGPT誹謗的訴訟。

代表胡德的律師說,胡德確實為澳大利亞儲備銀行的子公司Note Printing Australia工作過,但他是向當局舉報向外國官員行賄以贏得貨幣印刷合同的人,并且從未被指控犯罪。

負責這個案子的律師事務所Gordon Legal的合伙人詹姆斯·諾頓(James Naughton)告訴路透社:“從某種意義上說,這可能是一個具有里程碑意義的時刻,因為它將這項誹謗法應用于人工智能和IT方面的出版新領域?!?/p>

“他是一名民選官員,他的聲譽對他的角色至關重要?!敝Z頓說,胡德有著揭露企業(yè)不當行為的公開記錄,“所以如果他所在社區(qū)的人正在訪問這些(虛假)材料,這對他來說會有所不同。”

當人工智能產(chǎn)生或傳播不準確的信息時,誰該負責仍不清楚。美國海軍學院教授兼在線言論專家杰夫·科塞夫(Jeff Kosseff)說,“我們以前沒有過這樣的事情?!?/p>

在消費互聯(lián)網(wǎng)興起之初,美國國會通過了名為230條款的法規(guī),該法規(guī)保護在線服務免于對其托管的第三方創(chuàng)建的內容承擔責任。但專家表示,尚不清楚如果科技公司因自己的AI聊天機器人制作的內容而被起訴,它們是否能夠使用這種保護措施。

而且,誹謗聲明不僅要證明說的是假話,而且要證明它的發(fā)表造成了現(xiàn)實世界的傷害,例如代價高昂的名譽損失。這可能需要某人不僅查看聊天機器人生成的虛假聲明,而且合理地相信它并據(jù)此采取行動。

(文章來源:澎湃新聞)

關鍵詞:

相關閱讀:
熱點
圖片