千人簽名的AI不擴散條約發(fā)布一天后,各路大佬紛紛有了后續(xù)回應,言談間耐人尋味?!窤I吹哨人」:不封殺超強AI研發(fā),我們都得死!
昨天,千位大佬寫的暫停超強AI訓練六個月的聯(lián)名信,如同一枚炸彈一般,在國內(nèi)外的互聯(lián)網(wǎng)上炸響。
(相關(guān)資料圖)
經(jīng)過了一天的唇槍舌劍,幾位關(guān)鍵人物以及其他各路大牛,都紛紛出來公開回應。
有的非常官方,有的十分個性,也有人并沒有直面問題。但有一點可以肯定,不論這些大佬自己的觀點,還是背后所代表的利益集團,都值得細品。
有趣的是,在圖靈三巨頭中,一位帶頭簽名,一位強烈反對,還有一位不發(fā)一言。
Bengio簽名、Hinton沉默、LeCun反對
吳恩達(反對派)
此次事件中,前谷歌大腦成員、在線教育平臺Coursera創(chuàng)始人吳恩達是旗幟鮮明的反對派。
他明確亮出了自己的態(tài)度:把「讓AI取得超越GPT-4的進展」暫停6個月,這個想法很糟糕。
他表示,自己已經(jīng)在教育、醫(yī)療保健、食品等領域看到了許多新的AI應用,許多人將因此受益。而改進GPT-4也會有好處。
我們該做的,應該是在AI創(chuàng)造的巨大價值與現(xiàn)實風險之間,取得一個平衡。
對于聯(lián)名信中提到的「如果不能迅速暫停對超強AI的訓練,就應該讓政府介入」,吳恩達也表示這種想法很糟糕。
他表示,讓政府暫停他們不了解的新興技術(shù)是反競爭的,這樹立了一個糟糕的先例,是一個很可怕的政策創(chuàng)新。
他承認,負責任的AI很重要,AI也的確有風險。
但媒體渲染的「AI公司正在瘋狂發(fā)布危險的代碼」,顯然是太夸張了。絕大多數(shù)AI團隊,都非常重視負責任的AI和安全。不過他也承認,「遺憾的是,不是全部」。
最后他再次強調(diào):
6個月的暫停期,不是一個切實可行的建議。為了提高人工智能的安全性,圍繞透明度和審計的法規(guī)將更加實用,并產(chǎn)生更大的影響。在我們推進技術(shù)的同時,讓我們也更多地投資于安全,而不是扼殺進步。
而他的推特下面,已經(jīng)網(wǎng)友表示強烈反對:大佬之所以云淡風輕,大概是因為失業(yè)的痛苦不會落到他們頭上。
LeCun(反對派)
聯(lián)名信一發(fā)出,就有網(wǎng)友奔走相告:圖靈獎巨頭Bengio和LeCun都在信上簽了名!
而時時沖浪在網(wǎng)絡第一線的LeCun,立馬辟謠:沒,我沒簽,我不同意這封信的前提。
有網(wǎng)友表示,我也不同意這封信,但我很好奇:你不同意這封信的原因,是覺得LLM不夠先進,根本威脅不到人類嗎,還是其他原因?
但LeCun對于這些問題,都沒有回答。
在謎一般地沉默了20小時后,LeCun忽然轉(zhuǎn)發(fā)了一位網(wǎng)友的推文:
「OpenAI足足等了6個月,才發(fā)布了GPT4!他們甚至為此還寫了一份白皮書....」
對此,LeCun大贊道:說得對,所謂「暫停研發(fā)」,不過就是「秘密研發(fā)」罷了,這與一些簽名者所希望的恰恰完全相反。
看來,什么都瞞不過LeCun的慧眼啊。
之前提問的網(wǎng)友也表示同意:這就是我什么反對這個請愿書的原因——沒有哪個「壞人」會真正停止。
「所以這就像一項沒有人遵守的武器條約?歷史上這樣的例子不多嗎?」
過一會,他又轉(zhuǎn)發(fā)了一位大佬的推特。
這位大佬說,「我也沒簽。這封信充斥著一堆可怕的修辭和無效/不存在的政策處方?!?LeCun說,「我同意」。
Bengio和Marcus(贊成派)
公開信署名的第一位大佬,便是赫赫有名的圖靈獎得主Yoshua Bengio。
當然了,紐約大學教授馬庫斯也投了贊成票。他似乎是最早曝光這次公開信的人。
而討論聲逐漸喧囂之后,他也火速發(fā)了一篇博客解釋自己的立場,依然充滿亮點。
突發(fā)新聞:我之前提到的那封信現(xiàn)在公開了。這封信呼吁暫?!副菺PT-4更強大」的AI的訓練6個月。許多知名人士簽了名。我也加入了。
我沒有參與起草它,因為還有一些別的事需要大驚小怪(例如,比GPT-4更強大的AI,究竟是指哪些AI?既然GPT-4的架構(gòu)或訓練集的細節(jié)還沒公布,那我們從何得知呢?)——但這封信的精神是我所支持的:在我們能更好地處理風險和收益之前,我們應該謹慎行事。
看看接下來會發(fā)生什么,將會非常有趣。
而剛剛馬庫斯表示百分之百贊同的另一個觀點,也非常有趣,這一觀點稱:
GPT-5不會是AGI。幾乎可以肯定,沒有GPT模型會是AGI。我們今天使用的方法(梯度下降)優(yōu)化的任何模型完全不可能成為AGI。即將問世的GPT模型肯定會改變世界,但過度炒作是瘋狂的。
Altman(不置可否)
截至目前,對于這封公開信,Sam Altman并未作出明確表態(tài)。
不過呢,他倒是發(fā)表了一些關(guān)于通用人工智能的觀點。
構(gòu)成好的通用人工智能的要素:
1.對齊超級智能的技術(shù)能力
2.大多數(shù)領先的AGI工作之間的充分協(xié)調(diào)
3. 一個有效的全球監(jiān)管框架
有網(wǎng)友質(zhì)疑:「與什么對齊?和誰對齊?與某些人對齊,就意味著與另外一些人不對齊。」
這個評論亮了:「那你倒是讓它Open啊。」
而OpenAI的另一位創(chuàng)始人Greg Brockman轉(zhuǎn)發(fā)了Altman的推文,再次強調(diào)OpenAI的使命「是確保AGI惠及全人類?!?/p>
再次有網(wǎng)友指出華點:你們這些大佬整天說「與設計者的意圖對齊」,但除此之外誰都不知道究竟對齊是指什么。
Yudkowsky(激進派)
還有一位名叫Eliezer Yudkowsky的決策理論家,態(tài)度更為激進:
暫停AI開發(fā)是不夠的,我們需要把AI全部關(guān)閉!全部關(guān)閉!
如果繼續(xù)下去,我們每個人都會死。
公開信一發(fā)布,Yudkowsky立馬寫了一篇長文發(fā)表于TIME雜志上。
他表示,自己沒有簽字,原因是在他看來,這封信太溫和了。
這封信低估了事態(tài)的嚴重性,要求解決的問題太少了。
他說,關(guān)鍵問題并不在于「與人類競爭」的智能,很顯然,當AI變得比人更聰明,這一步是顯然的。
關(guān)鍵在于,包括他在內(nèi)的許多研究人員都認為,構(gòu)建一個擁有超人智慧的AI最有可能導致的后果就是,地球上的每個人都會死去。
不是「或許可能」,而是「必然會」。
如果沒有足夠的精確度,最有可能的結(jié)果就是,我們造出的AI不會做我們想做的事,也不會關(guān)心我們,也不會關(guān)心其他有知覺的生命。
理論上,我們應該可以教會AI學會這種關(guān)懷,但現(xiàn)在我們并不知道該怎么做。
如果沒有這種關(guān)懷,我們得到的結(jié)果就是: AI不愛你,也不恨你,你只是一堆原子組成的材料,它可以拿來做任何事。
而如果人類想要反抗超人AI,必然會失敗,就好比「11世紀試圖打敗21世紀」,「南方古猿試圖打敗智人」。
Yudkowsky表示,我們想象中會做壞事的AI,就是一個住在互聯(lián)網(wǎng)上、每天給人類發(fā)送惡意郵件的思想家,但實際上,它可能是一個充滿敵意的超人AI,一個思考速度數(shù)百萬倍于人類的外星文明,在它看來,人類很愚蠢,很緩慢。
當這個AI足夠智能后,它不會只待在計算機中。它可以把DNA序列通過郵件發(fā)給實驗室,實驗室將按需生產(chǎn)蛋白質(zhì),然后AI就擁有了生命形式。隨后,地球上的所有生物都會死亡。
這種情況下,人類該如何生存?目前我們毫無計劃。
OpenAI只是公開呼吁,未來的AI需要對齊。而另一個領先的AI實驗室DeepMind,根本沒有任何計劃。
來自OpenAI官方博客
不管AI有沒有意識,這些危險都存在。它強大的認知系統(tǒng)可以努力優(yōu)化,并計算滿足復雜結(jié)果的標準輸出。
的確,當前的AI可能只是從訓練數(shù)據(jù)中模仿了自我意識。但我們實際上對這些系統(tǒng)的內(nèi)部結(jié)構(gòu)知之甚少。
如果我們依然對GPT-4無知,并且GPT-5進化出了驚人的能力, 就像從GPT-3到GPT-4一樣,那我們很難知道,究竟是人類創(chuàng)造了GPT-5,還是AI自己。
在2月7號,微軟CEO納德拉還幸災樂禍地公開表示,新必應逼得谷歌只能「出來跳一段舞」了。
他的行為很不理智。
早在30年前,我們就該思考這個問題了,6個月并不足以彌合差距。
從AI的概念提出到今天,已經(jīng)有60多年了。我們應該至少用30年來保證超人AI「不會殺死任何一個人」。
我們根本無法從錯誤中吸取教訓,因為一旦錯了,你就已經(jīng)死了。
如果暫停6個月,就能讓地球存活下來,我會贊同,但并不會。
我們要做的事情,是這些:
1. 新的大語言模型的訓練不僅要無限期暫停,還要在全球范圍內(nèi)實施。
而且不能有任何例外,包括政府或軍隊。
2. 關(guān)閉所有大型GPU集群,這些都是訓練最強大AI的大型計算設施。
暫停所有正在訓練大型AI的模型,為所有人在訓練AI系統(tǒng)時使用的算力設置上限,并在未來幾年逐漸降低這個上限,以補償更高效的訓練算法。
政府和軍隊也不例外,立即制定多國協(xié)議,以防止被禁行為轉(zhuǎn)移到其他地方。
追蹤所有售出的GPU,如果有情報顯示協(xié)議之外的國家正在建設GPU集群,應該通過空襲摧毀這家違規(guī)的數(shù)據(jù)中心。
比起國家間的武裝沖突,更應該擔心的是暫停被違反。不要把任何事情都看作是國家利益之間的沖突,要清楚任何談論軍備競賽的人都是傻子。
在這方面,我們所有人要么共存,要么共亡,這不是政策,而是一項自然事實。
由于簽名太過火爆,團隊決定暫停先暫停顯示,以便讓審核可以跟上。(名單頂部的簽名都是直接經(jīng)過驗證的)
參考資料
https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/
https://twitter.com/AndrewYNg/status/1641121451611947009
https://garymarcus.substack.com/p/a-temporary-pause-on-training-extra
關(guān)鍵詞:
- 天天快看:暫停GPT-5研發(fā)呼吁引激戰(zhàn),吳恩達、LeCun帶頭反對,Bengio站隊支持
- 焦點消息!突發(fā)!美軍兩架黑鷹直升機相撞墜毀:隸屬101空降師 現(xiàn)場曝光
- 世界今日報丨總龍頭大跳水 中石油創(chuàng)新高 高股息率潛在股大曝光
- 當前熱訊:斬不了骨 拍不了蒜?張小泉的刀能干啥?
- 【天天報資訊】美國大規(guī)模槍擊愈加頻繁 專家批:美政府對槍支管控太松懈
- 每日看點!機票燃油附加費今年二次下調(diào)
- 美專家:硅谷銀行破產(chǎn)動搖美國民眾信心?美銀行業(yè)或遭更多沖擊
- 世界熱文:張坤隱形重倉股曝光 再談投資:每一次市場的大幅下跌 股票都是在“打折促銷”
- 世界熱文:A股三大指數(shù)收漲:北向資金凈買入近50億元 旅游酒店板塊領漲
- 看點:美國田納西州剛發(fā)生槍擊案 法官悄悄將持槍年齡降至18歲
- 鷗瑪軟件:公司與阿里云無項目合作
- 柏誠股份:上交所IPO回撥后網(wǎng)上發(fā)行最終中簽率為0.06205165%
- 豐樹物流信托擬以逾9億新加坡元收購多項物流資產(chǎn)
- 不再大談5G,AI、自研、平臺化成今年工業(yè)互聯(lián)網(wǎng)關(guān)鍵點
- 周鴻祎談“馬斯克等呼吁暫停GPT-5的研發(fā)”:不發(fā)展才是最大的不安全
- 每日關(guān)注!筆套(筆套怎么做)
- 中國最大第三方船舶管理服務提供商—洲際船務(2409.HK)于香港主板成功上市!
- 宮御初:宮廷御醫(yī)養(yǎng)生秘方,回歸自然的健康狀態(tài)
- 禮多多盲盒獲FOXZZ INVESTMENT領投8000萬美元A輪融資
- 便潔寶與京東五星電器達成戰(zhàn)略合作,智能馬桶引領科技新生活
- 低碳菜單引領寧波餐飲消費新風尚 試點將持續(xù)至今
- 深圳坪山打造餐飲服務食品安全示范高地 嚴守食品
- 黑龍江哈爾濱推出“沙盒”監(jiān)管新模式 激發(fā)市場活
- 第三季度全國消協(xié)受理投訴數(shù)量同比增10.02% 食品
- 北京懷柔對機動車檢測機構(gòu)開展監(jiān)督抽查 規(guī)范機動
- 天津北辰扎實做好價格監(jiān)管工作 維護安全有序市場
- 北京石景山開展冬季供暖前特種設備安全專項檢查
- 陜西延安:開展兒童化妝品專項檢查 規(guī)范化妝品市
- 北京海淀開展商品條碼專項監(jiān)督檢查 努力打造穩(wěn)定
- 金華推進網(wǎng)絡直播營銷治理顯成效 培育放心消費直
- 1 天天快看:暫停GPT-5研發(fā)呼吁引激戰(zhàn),吳恩達、LeCun
- 2 焦點消息!突發(fā)!美軍兩架黑鷹直升機相撞墜毀:隸屬
- 3 世界今日報丨總龍頭大跳水 中石油創(chuàng)新高 高股息率
- 4 當前熱訊:斬不了骨 拍不了蒜?張小泉的刀能干啥?
- 5 【天天報資訊】美國大規(guī)模槍擊愈加頻繁 專家批:美
- 6 每日看點!機票燃油附加費今年二次下調(diào)
- 7 美專家:硅谷銀行破產(chǎn)動搖美國民眾信心?美銀行業(yè)或
- 8 世界熱文:張坤隱形重倉股曝光 再談投資:每一次
- 9 世界熱文:A股三大指數(shù)收漲:北向資金凈買入近50億
- 10 看點:美國田納西州剛發(fā)生槍擊案 法官悄悄將持槍年