AI之父離開Google!警告AI將可能毀滅人類

關於AI話題,可能沒有哪個人的警告比傑佛瑞·辛頓(Geoffrey Hinton)的更有說服力。在人工智慧領域,傑佛瑞·辛頓的名字可謂無人不知無人不曉。

wx6Mcz7h_T5PY.jpg

自上世紀80年代起,他痴迷於人工神經網路,透過模擬大腦讓計算機從無到有學會新技能。如今,他的技術廣泛應用在AI軟體裡,讓它能自動生成文字、圖片和影片。2019年,辛頓獲得計算機界的最高榮譽-圖靈獎(ACM A.M. Turing Award),又譯杜林獎、A.M.圖靈獎。業內人士也給他極高的評價,稱他是「人工智慧教父」(The Godfather of AI)。

eDbLbCcF_LR9A.jpg

然而,就在近日,辛頓從工作十年的Google辭職了,他向媒體坦言,自己後悔開發AI,AI可能給人類帶來毀滅。「我常找藉口安慰自己:就算我不研究這個領域,也會有其他人研究。」75歲的辛頓苦笑著說,「我是真的找不到方法,怎麼防止壞人用AI做壞事。」此言一出,全球科技圈嘩然。美國媒體稱:「辛頓博士從AI領軍人變成末日預言者,是科技行業的特殊時刻,也許是過去幾十年最重要的轉折點。」

MAp44CAc_4PBz.jpg

過去40年,辛頓都對人工智慧技術很樂觀。辛頓出生於1947年的英國,他在23歲時獲得劍橋大學的心理學學士學位,之後八年獲得愛丁堡大學的人工智慧博士學位。因為英國的研究資金不足,他轉到美國卡內基·梅隆大學當教授。後來他又拒絕美國國防部的資助(辛頓反對在戰場上用人工智慧),跑到加拿大研究機器學習。

EApAxF2c_XQdZ.jpg

當時,研究員為了讓計算機學會新技能,普遍選擇輸入邏輯和推理程序。但辛頓覺得這很繁瑣,為何不模擬人類的大腦,讓計算機像人一樣學新知識?他選擇研究當時很邊緣的神經網路理論,自嘲自己是個怪人。「我肯定很奇怪,因為大家都覺得我研究的東西是無稽之談。」辛頓回憶說,「我想仿照人類的腦神經,讓計算機自己學會技能,自己完成任務。」

6Jujg892_OTf9.jpg

「可光靠調整虛擬神經元之間的鏈接,大型神經網路能學明白嗎?僅僅只輸入數據,不給任何基礎知識,計算機能懂如何做事嗎?當時主流圈子都覺得這太荒唐了。」

「其實我也覺得荒唐,可結果表明,這麼做就是有效。」

在80年代,辛頓和另外兩名教授一起,想到用反向傳播方法來訓練多層神經網路。之後,他在這個領域的成果越來越多,發明出玻爾茲曼機、對比散度算法、時延神經網路等。

XCTREDuT_F94V.jpg

2012年,辛頓和他的兩個學生建立神經網路,透過讓它分析上萬張照片,學會識別鮮花、狗狗和汽車等常見物體。他們用到的膠囊網路技術成為現在很多AI的基石,Google也深知他們的厲害,花4400萬美元收購三人創辦的公司。

fU9s7aOa_3MZ2.jpg

之後,辛頓在Google的人工智慧研究部工作。兩個學生之一的伊利亞·蘇茨凱弗(Ilya Sutskever),創辦了我們熟悉的OpenAI公司,並擔任首席科學家。

uhey9MJI_2Sr4.jpg

在OpenAI的瘋狂開發下,AI變得越來越智慧,從DALL-E、GPT-3到GPT-4,一起又一次震撼世界。對這一切,辛頓原本是很驕傲的。他勸說大家不要害怕AI,它給的好處肯定比壞處多,而且不會比人類更聰明。「很多大公司都在建立龐大的語料庫,來訓練自己的神經網路。對機器來說,這確實是一個強大的學習和生成文字的方法。但我認為它比人類處理語言的能力遜色。」

WCbJHdDS_x4NB.jpg

但到去年,隨著Google和OpenAI使用的數據越來越多,辛頓不這麼樂觀了。他認為神經網路和人類的大腦相比,雖然在某些地方表現不佳,但在另一些地方比人類更強。

「到目前為止,我得說,人工智慧不比我們聰明。」辛頓在今天的媒體採訪中說,「但我相信它們很快會超過我們。」

「我們開發的智慧和我們本身擁有的智慧是非常不同的。我們是生物系統,而它們是數字系統,最大的區別在於,後者能在相同權重、相同模型的情況下,擁有很多很多複製品。」

COVRePBv_nPUV.jpg

「這些複製品都可以單獨學習,同時它們可以迅速分享知識。這就像你手下有10000個人,其中一個人學到了點什麼,其他人能瞬間學懂。這就是為什麼聊天機器人比單個人懂得多。」辛頓暗暗責怪微軟公司行動激進。原本,Google是AI技術的「看門人」,小心翼翼不發布任何可能造成危害的東西。但微軟將ChatGPT放到半死不活的搜索引擎Bing裡,嚴重挑戰Google的核心業務,導致兩家巨頭開始軍備競賽。

USdRxhmM_FH4B.jpg

「Google一直以來是很負責的。我選擇辭職,是因為這個身份說話更有可信度。」

「讓我很擔心的是,科技巨頭正在陷入一場可能無法停止的競爭。公司競爭越是激烈,AI發展的速度越快,進步越大。」

辛頓認為,人工智慧會和歷史上的工業革命、電力、輪子一樣,給世界帶去翻天覆地的變化。一大變化是,人們的世界將充斥虛假的東西,比如假照片、假影片和假新聞。普通人會喪失辨別真假的能力。

YZunCyV2_wV7u.gif
cJZANExO_tJmI.gif
UH6NArba_btLW.gif
(美國網友惡搞的假影片,讓共和黨人化身為變裝皇后)

另一大變化,是將出現大規模失業。現在的ChatGPT已經能取代律師助理、私人助理、翻譯和其他重複性高的文職人員。「它確實消除了很多苦差事。但它帶走的可能遠不止於此。」最讓辛頓害怕的是,AI可能在未來對人類造成物理威脅,說直白點,毀滅人類。

QSRMqSmR_4pId.jpg

「現在不管是個人還是公司,都允許AI生成自己的代碼,然後再自動運行。AI很可能從大量數據中學到意想不到的行為,一旦施行,後果會很可怕。」他坦言,也許未來某天,AI會變成殺人機器。從理論上講這是能做到的。存在於科幻小說裡的強人工智慧也可能出現。強人工智慧是指在智慧上和人類相同、或更高級的機器,它擁有完整的認知能力,而不只局限於某一方面。

kuVYymEH_Z22J.jpg

現在的AI局限性較強,屬於「弱人工智慧」。

「前不久,我還覺得我們搞出強人工智慧需要30到50年時間。」辛頓說,「現在我覺得,可能只需要20年或更短的時間,它就會出現。」

一個智力高於人類的AI,它有人權嗎?可以拔掉電線嗎?這裡面有太多太多問題……總之,辛頓希望科技公司能冷靜下來,坐下來談一談,商量一個全球監管機制。他把AI類比為核武器,目前最大的困難是不知道哪些國家和公司在研究。

QkuVuVLH_FjFV.jpg

「在大家確認能否掌控AI之前,我不認為應該繼續擴大研究。」辛頓的話和其他專家差不多。今年3月,包括馬斯克在內的1000多名科級圈領袖簽署聯名信,要求所有公司停止研究比GPT-4更強的AI,至少持續6個月。他們希望通過這段時間,搞清楚AI的危害和應對方法。

xG5JI62q_557T.jpg

幾天後,擁有40年曆史的人工智慧促進協會發佈公開信,警告AI可能帶來危險。簽名的人裡包括微軟首席科學家艾瑞克·霍維茨(Eric Horvitz)。

Tuf2OMQa_gHQK.jpg

OpenAI的首席執行官也認為,如果繼續研究下去,可能出現強人工智慧。「一個偏離方向的、超級聰明的強人工智慧,可能給世界帶來極其嚴重的危害。」

GdqOEeWk_ZGwz.jpg

這次辛頓出面警告,算是開山大佬給所有人敲警鐘。既然這麼多科學家感覺到危險,何不停下各自研究的手,給世界帶來安寧?可惜,現實沒那麼理想化,大家無法知道其他人是否停止研究,而慢一步意味著在市場上競爭不過別人。

ychjEMxJ_mNDL.gif
(臉書開發的影片AI,只需輸入文字就能生成短影片)

這就是AI領域的囚徒困境吧,除非各國聯合起來發布法律,強制停下研究,不然一切會繼續下去……

暫無任何回文,期待你打破沉寂

你需要登入後才可以回覆 登入 | 註冊會員

本版積分規則

patritech

LV:2 村民

追蹤
  • 581

    主題

  • 581

    回文

  • 5

    粉絲