寫在前面

(資料圖片僅供參考)

2023年的3月是不同尋常的一個(gè)月。GPT-4、Microsoft 365 Copilot、Midjourney V5、Google PaLM API、文心一言，一顆顆 AI 大模型領(lǐng)域的重磅炸彈，扎堆在3月引爆。

人工智能，不再是科幻小說(shuō)，不再是閱讀理解，不再是新聞標(biāo)題，不再是以太網(wǎng)中躍動(dòng)的字節(jié)和CPU中孱弱的靈魂，而是實(shí)實(shí)在在的宿命。我們已身處大時(shí)代的革命之中， 在越來(lái)越多的領(lǐng)域，人工智能正在快速超越人類。我們?cè)趺床拍芷凭?？未?lái)已來(lái)，我們還能做什么？

在湛廬大師行第34期的活動(dòng)中，MIT物理系終身教授、未來(lái)生命研究所創(chuàng)始人、《生命3.0》作者邁克斯·泰格馬克教授曾經(jīng)分別于北京、上海兩地，在獵豹、百度等公司，清華、上海交大等知名高校與大家一同探討“生命3.0：與AI相伴的人類未來(lái)”。

泰格馬克教授一直在強(qiáng)調(diào)，人類不會(huì)淪為“無(wú)用階層”，并且，關(guān)于人類未來(lái)，關(guān)于人工智能，我們需要抉擇，需要提前做準(zhǔn)備，需要從一個(gè)非常長(zhǎng)遠(yuǎn)的角度出發(fā)思考，除此之外，教授還分享了他對(duì)于AI武器、新技術(shù)的看法。很多預(yù)言，在現(xiàn)今都已實(shí)現(xiàn)。今天，湛廬君把教授8天活動(dòng)的演講內(nèi)容整理成文字，希望能讓你積極地面向未來(lái)，去擁有具有生活價(jià)值的知識(shí)和能力。

《生命3.0》書封 作者：

1.

生命3.0，會(huì)比你想象的更早到來(lái)

我覺(jué)得，從人工智能到通用人工智能，再到超級(jí)智能和生命3.0，這條路并沒(méi)有我們想象中的遙遠(yuǎn)。

從定義上看，智能即完成復(fù)雜目標(biāo)的能力。智能分為兩種：生物智能和人工智能。而很多認(rèn)為超級(jí)智能不會(huì)到來(lái)的人犯下了這種錯(cuò)誤：他們覺(jué)得，我們現(xiàn)在連自己的大腦怎么運(yùn)作的都沒(méi)有搞清楚，又如何打造出比我們更強(qiáng)大的智能？但是同樣的道理也可以說(shuō)，我們好像永遠(yuǎn)都打造不出直升飛機(jī)，因?yàn)槲覀冞B一個(gè)機(jī)器鳥(niǎo)都造不出來(lái)（機(jī)器鳥(niǎo)是飛機(jī)發(fā)明出來(lái)一百年之后才出現(xiàn)的）。

這個(gè)例子說(shuō)明，飛行器的制造比我們想象的簡(jiǎn)單，比生物學(xué)更加簡(jiǎn)單。同樣的道理，通用人工智能打造出來(lái)的過(guò)程也會(huì)比我們想象的更加簡(jiǎn)單。畢竟，大腦的誕生受到進(jìn)化的限制，而這并不能限制到工程師。

泰格馬克教授

幾年前，機(jī)器人還不能走路，現(xiàn)在它可以后空翻；以前我們根本就沒(méi)有自動(dòng)駕駛的車，現(xiàn)在我們卻有了無(wú)人火箭，它可以自己下降，自己著陸；以前計(jì)算機(jī)也不能做面部識(shí)別，現(xiàn)在AI不僅能夠做面部識(shí)別，還能生成一些虛假的面部……在回顧這些了不起的成就的同時(shí)，我們也應(yīng)當(dāng)加緊步伐，去思考如何應(yīng)對(duì)與“生命3.0”相伴的未來(lái)。

2.

人類不會(huì)淪為“無(wú)用階層”

對(duì)于“人工智能取代人類”的擔(dān)憂，從來(lái)都不是沒(méi)有來(lái)由的。我現(xiàn)在用人類能力地形圖來(lái)說(shuō)明這個(gè)問(wèn)題。

人類能力地形圖

圖中的海拔高度代表了人工智能將還未完全取代人類的工作，海平面則表示了當(dāng)下人工智能所能達(dá)到的水平。海平面會(huì)隨著人工智能的進(jìn)步上升，所以在這張地形圖上，會(huì)發(fā)現(xiàn)類似“全球變暖”的變化。我們顯然要避免那些近海區(qū)的工作，這些工作遲早會(huì)被人工智能取代。

然而，水平面最終會(huì)上升到什么程度？水平面最終會(huì)不會(huì)淹沒(méi)一切？最終能不能完全勝任所有人類工作？這里需要大家牢記通用人工智能的定義：擁有完成包括學(xué)習(xí)在內(nèi)幾乎所有目標(biāo)和認(rèn)知任務(wù)的能力的人工智能。這意味著對(duì)于三個(gè)疑問(wèn)的回答都是YES。

當(dāng)智能爆炸發(fā)生，超級(jí)智能和“生命3.0”隨之到來(lái)時(shí)，人類就會(huì)淪為無(wú)用階層了嗎？我的回答是，這太尷尬了。我們每個(gè)人選擇了自己的工作，我們之所以為人，是因?yàn)槲覀冇兄环N雄心壯志。所以，我們應(yīng)該先思考一下有了高科技，我們希望有個(gè)什么樣的社會(huì)，不僅僅要有物質(zhì)的富足，人生還需要有別的追求、需要有別的意義。

而且，我們應(yīng)當(dāng)保持這種雄心壯志。我們應(yīng)該不斷的思考和想象未來(lái)，并向著這個(gè)方向不斷發(fā)展。

3.

“試錯(cuò)法”將成為歷史

如果我們能在與日益發(fā)展的科技的比賽中獲勝，人類的科技智慧同樣會(huì)提高。我們未來(lái)如何操控與AI相關(guān)的機(jī)器，讓它造福人類的發(fā)展？

為了實(shí)現(xiàn)這樣一個(gè)目的，我和其他的科學(xué)家一起成立了未來(lái)生命研究所，我們希望未來(lái)仍舊有生命存在，能讓我們的生活變得越來(lái)越好。而人類又該如何贏得這場(chǎng)不斷上升的科技和我們不斷掌控它們能力之間的競(jìng)賽呢？

我認(rèn)為，人類必須改變相關(guān)的策略。

過(guò)去，我們的策略是從一些錯(cuò)誤中學(xué)習(xí)相關(guān)的經(jīng)驗(yàn)教訓(xùn)。比如我們發(fā)明了火，除了幾次火災(zāi)之內(nèi)的事故之后，我們發(fā)明了滅火器。我們又發(fā)明了汽車，然后出了幾次車禍?zhǔn)鹿手?，我們又發(fā)明了氣囊或者是安全帶這樣一些防御措施。

從火和車的例子可以說(shuō)明，我們可以從錯(cuò)誤中學(xué)習(xí)經(jīng)驗(yàn)，然后讓科技朝著造福于人類社會(huì)的方向發(fā)展。

所以我們的策略還是說(shuō)從錯(cuò)誤當(dāng)中學(xué)習(xí)經(jīng)驗(yàn)。但是這樣的策略不能適用于長(zhǎng)久，尤其對(duì)于未來(lái)發(fā)展來(lái)說(shuō)也是不適用的。這是因?yàn)殡S著人類技術(shù)的不斷發(fā)展，科技變得逐漸強(qiáng)大，最終會(huì)在某一些領(lǐng)域取得相當(dāng)強(qiáng)大的發(fā)展，比如核能，比如合成生物學(xué)等。

所以更好的方法是，對(duì)于強(qiáng)大的科技我們可以事先做好準(zhǔn)備，來(lái)預(yù)測(cè)它可能會(huì)帶來(lái)的一些結(jié)果。核能方面、生物學(xué)方面或者是通用人工智能領(lǐng)域，都可以實(shí)現(xiàn)這樣一種策略——我們需要提前做好準(zhǔn)備，想到預(yù)先的一些后果，然后避免。這并不是在制造恐慌。

比如，在美國(guó)航天局部署阿波羅11號(hào)任務(wù)之前，在中國(guó)發(fā)射自己載人衛(wèi)星之前，他們都會(huì)仔細(xì)地設(shè)想所有可能出錯(cuò)的狀況，畢竟是要把人類放進(jìn)易燃易爆的太空艙里，再將他們發(fā)射上一個(gè)無(wú)人能助的境遇。這是在制造恐慌嗎？不，那正是在做安全工程，以確保任務(wù)順利進(jìn)行，這正是處理通用人工智能或其他強(qiáng)有力的科技時(shí)應(yīng)該采取的策略。

4.

嚴(yán)格限制AI武器，才能防止將來(lái)會(huì)產(chǎn)生的軍備競(jìng)賽

核武器與生化武器有非常清晰的界限。但AI武器怎么界定？飛機(jī)的自動(dòng)瞄準(zhǔn)、無(wú)人機(jī)的自動(dòng)駕駛、自動(dòng)攻擊算不算一種AI武器？

我認(rèn)為，從定義上說(shuō)，AI武器意味著，它可以自主決定殺誰(shuí)，而不是由人來(lái)決定。因而，我將AI武器定義為致命性自主武器系統(tǒng)。

今天，自動(dòng)化殺人武器是AI領(lǐng)域的一個(gè)熱門話題，其中的界限到底是在哪里呢？在美國(guó)，這個(gè)話題已經(jīng)有了激烈的討論，包括在與獵豹移動(dòng)CEO傅盛的對(duì)談中，他也問(wèn)過(guò)我，我們現(xiàn)在開(kāi)始談?wù)摻棺詣?dòng)化殺人武器，以及簽約禁止研發(fā)自動(dòng)性殺人武器是不是還太早了？

但其實(shí)，這一點(diǎn)都不早，我們必須提前防止AI開(kāi)發(fā)這種自動(dòng)化殺人武器，才能防止將來(lái)會(huì)產(chǎn)生的軍備競(jìng)賽。就像生物化學(xué)家在致命性的生化武器研發(fā)之前，就已經(jīng)達(dá)成一致，不去研發(fā)這種有害的生化武器，因此，我們也在道德上負(fù)有這種責(zé)任。

5.

合作，將是科技造福人類的關(guān)鍵

如果世界上有一個(gè)國(guó)家首先先開(kāi)發(fā)出通用人工智能，那它就有占有優(yōu)勢(shì)了。我們知道博弈理論，博弈理論實(shí)際就是研究在競(jìng)爭(zhēng)環(huán)境下怎么協(xié)作，當(dāng)競(jìng)爭(zhēng)者能意識(shí)到，協(xié)作和合作能夠帶來(lái)更好的結(jié)果時(shí)，他們就會(huì)開(kāi)始協(xié)作和合作。

他們事先達(dá)成一個(gè)協(xié)議，分享它帶來(lái)的好處。假設(shè)通用人工智能可以把全球的GDP翻100倍，那么中國(guó)就會(huì)比今天富100倍，美國(guó)會(huì)比今天富100倍，這是可以保證的未來(lái)，而不是說(shuō)50%的機(jī)會(huì)只能夠富裕200倍。如何實(shí)現(xiàn)國(guó)際間更好的合作，將是科技造福人類的關(guān)鍵。

推薦閱讀

書名：《生命3.0》作者：(美)邁克斯·泰格馬克，出版社：湛廬文化/浙江教育出版社

關(guān)鍵詞：