AI之父離開Google！警告AI將可能毀滅人類

關於AI話題，可能沒有哪個人的警告比傑佛瑞·辛頓（Geoffrey Hinton）的更有說服力。在人工智慧領域，傑佛瑞·辛頓的名字可謂無人不知無人不曉。



自上世紀80年代起，他痴迷於人工神經網路，透過模擬大腦讓計算機從無到有學會新技能。如今，他的技術廣泛應用在AI軟體裡，讓它能自動生成文字、圖片和影片。2019年，辛頓獲得計算機界的最高榮譽－圖靈獎（ACM A.M. Turing Award），又譯杜林獎、A.M.圖靈獎。業內人士也給他極高的評價，稱他是「人工智慧教父」（The Godfather of AI）。



然而，就在近日，辛頓從工作十年的Google辭職了，他向媒體坦言，自己後悔開發AI，AI可能給人類帶來毀滅。「我常找藉口安慰自己：就算我不研究這個領域，也會有其他人研究。」75歲的辛頓苦笑著說，「我是真的找不到方法，怎麼防止壞人用AI做壞事。」此言一出，全球科技圈嘩然。美國媒體稱：「辛頓博士從AI領軍人變成末日預言者，是科技行業的特殊時刻，也許是過去幾十年最重要的轉折點。」



過去40年，辛頓都對人工智慧技術很樂觀。辛頓出生於1947年的英國，他在23歲時獲得劍橋大學的心理學學士學位，之後八年獲得愛丁堡大學的人工智慧博士學位。因為英國的研究資金不足，他轉到美國卡內基·梅隆大學當教授。後來他又拒絕美國國防部的資助（辛頓反對在戰場上用人工智慧），跑到加拿大研究機器學習。



當時，研究員為了讓計算機學會新技能，普遍選擇輸入邏輯和推理程序。但辛頓覺得這很繁瑣，為何不模擬人類的大腦，讓計算機像人一樣學新知識？他選擇研究當時很邊緣的神經網路理論，自嘲自己是個怪人。「我肯定很奇怪，因為大家都覺得我研究的東西是無稽之談。」辛頓回憶說，「我想仿照人類的腦神經，讓計算機自己學會技能，自己完成任務。」



「可光靠調整虛擬神經元之間的鏈接，大型神經網路能學明白嗎？僅僅只輸入數據，不給任何基礎知識，計算機能懂如何做事嗎？當時主流圈子都覺得這太荒唐了。」

「其實我也覺得荒唐，可結果表明，這麼做就是有效。」

在80年代，辛頓和另外兩名教授一起，想到用反向傳播方法來訓練多層神經網路。之後，他在這個領域的成果越來越多，發明出玻爾茲曼機、對比散度算法、時延神經網路等。



2012年，辛頓和他的兩個學生建立神經網路，透過讓它分析上萬張照片，學會識別鮮花、狗狗和汽車等常見物體。他們用到的膠囊網路技術成為現在很多AI的基石，Google也深知他們的厲害，花4400萬美元收購三人創辦的公司。



之後，辛頓在Google的人工智慧研究部工作。兩個學生之一的伊利亞·蘇茨凱弗（Ilya Sutskever），創辦了我們熟悉的OpenAI公司，並擔任首席科學家。



在OpenAI的瘋狂開發下，AI變得越來越智慧，從DALL-E、GPT-3到GPT-4，一起又一次震撼世界。對這一切，辛頓原本是很驕傲的。他勸說大家不要害怕AI，它給的好處肯定比壞處多，而且不會比人類更聰明。「很多大公司都在建立龐大的語料庫，來訓練自己的神經網路。對機器來說，這確實是一個強大的學習和生成文字的方法。但我認為它比人類處理語言的能力遜色。」



但到去年，隨著Google和OpenAI使用的數據越來越多，辛頓不這麼樂觀了。他認為神經網路和人類的大腦相比，雖然在某些地方表現不佳，但在另一些地方比人類更強。

「到目前為止，我得說，人工智慧不比我們聰明。」辛頓在今天的媒體採訪中說，「但我相信它們很快會超過我們。」

「我們開發的智慧和我們本身擁有的智慧是非常不同的。我們是生物系統，而它們是數字系統，最大的區別在於，後者能在相同權重、相同模型的情況下，擁有很多很多複製品。」



「這些複製品都可以單獨學習，同時它們可以迅速分享知識。這就像你手下有10000個人，其中一個人學到了點什麼，其他人能瞬間學懂。這就是為什麼聊天機器人比單個人懂得多。」辛頓暗暗責怪微軟公司行動激進。原本，Google是AI技術的「看門人」，小心翼翼不發布任何可能造成危害的東西。但微軟將ChatGPT放到半死不活的搜索引擎Bing裡，嚴重挑戰Google的核心業務，導致兩家巨頭開始軍備競賽。



「Google一直以來是很負責的。我選擇辭職，是因為這個身份說話更有可信度。」

「讓我很擔心的是，科技巨頭正在陷入一場可能無法停止的競爭。公司競爭越是激烈，AI發展的速度越快，進步越大。」

辛頓認為，人工智慧會和歷史上的工業革命、電力、輪子一樣，給世界帶去翻天覆地的變化。一大變化是，人們的世界將充斥虛假的東西，比如假照片、假影片和假新聞。普通人會喪失辨別真假的能力。




（美國網友惡搞的假影片，讓共和黨人化身為變裝皇后）

另一大變化，是將出現大規模失業。現在的ChatGPT已經能取代律師助理、私人助理、翻譯和其他重複性高的文職人員。「它確實消除了很多苦差事。但它帶走的可能遠不止於此。」最讓辛頓害怕的是，AI可能在未來對人類造成物理威脅，說直白點，毀滅人類。



「現在不管是個人還是公司，都允許AI生成自己的代碼，然後再自動運行。AI很可能從大量數據中學到意想不到的行為，一旦施行，後果會很可怕。」他坦言，也許未來某天，AI會變成殺人機器。從理論上講這是能做到的。存在於科幻小說裡的強人工智慧也可能出現。強人工智慧是指在智慧上和人類相同、或更高級的機器，它擁有完整的認知能力，而不只局限於某一方面。



現在的AI局限性較強，屬於「弱人工智慧」。

「前不久，我還覺得我們搞出強人工智慧需要30到50年時間。」辛頓說，「現在我覺得，可能只需要20年或更短的時間，它就會出現。」

一個智力高於人類的AI，它有人權嗎？可以拔掉電線嗎？這裡面有太多太多問題……總之，辛頓希望科技公司能冷靜下來，坐下來談一談，商量一個全球監管機制。他把AI類比為核武器，目前最大的困難是不知道哪些國家和公司在研究。



「在大家確認能否掌控AI之前，我不認為應該繼續擴大研究。」辛頓的話和其他專家差不多。今年3月，包括馬斯克在內的1000多名科級圈領袖簽署聯名信，要求所有公司停止研究比GPT-4更強的AI，至少持續6個月。他們希望通過這段時間，搞清楚AI的危害和應對方法。



幾天後，擁有40年曆史的人工智慧促進協會發佈公開信，警告AI可能帶來危險。簽名的人裡包括微軟首席科學家艾瑞克·霍維茨（Eric Horvitz）。



OpenAI的首席執行官也認為，如果繼續研究下去，可能出現強人工智慧。「一個偏離方向的、超級聰明的強人工智慧，可能給世界帶來極其嚴重的危害。」



這次辛頓出面警告，算是開山大佬給所有人敲警鐘。既然這麼多科學家感覺到危險，何不停下各自研究的手，給世界帶來安寧？可惜，現實沒那麼理想化，大家無法知道其他人是否停止研究，而慢一步意味著在市場上競爭不過別人。


（臉書開發的影片AI，只需輸入文字就能生成短影片）

這就是AI領域的囚徒困境吧，除非各國聯合起來發布法律，強制停下研究，不然一切會繼續下去……