近幾個月 AI 的高速發展已經讓研究人員感到失控的危機。
Getty Images
早先包括 Elon Musk、Apple 聯合創辦人 Steve Wozniak、UC Berkeley 大學教授 Stuart Russell 等超過一千名人工智能和計算機科學領域的專家，共同簽署了一份公開信《Pause Giant AI Experiments: An Open Letter》，呼籲所有人工智能實驗室針對比 GPT-4 更強大的 AI 系統暫停至少 6 個月的訓練。
這封信是由一群 AI 研究人員撰寫，信中提到最近幾個月各個人工智能實驗室為了開發更強大的人工智能系統，陷入了一場失控的競賽中，卻缺乏相應級別的管理和規劃，並強調「只有當我們確信其影響是正面積極的，且風險是可控的，才應該開發強大的人工智能系統」。
接著希望所有 AI 實驗室應立即公開暫停比 GPT-4 更強大的 AI 系統至少 6 個月的訓練，在這段期間各實驗室與專家可以共同研擬和實施一套用於高級人工智能設計和開發的共享安全協議，並由獨立的外部專家進行嚴格審計和監督，旨在確保遵守協議的系統為安全無虞。
最後指出政府當局應盡快制定相關政策、部門，讓人們在享受 AI 帶來的便利與繁榮時，同時有著應對不可控制危機的能力。
儘管這封公開信並沒有任何法律效力，但獲得上千名「重量級」人物的簽名連署，想來也能起到警惕世人和推動法規的效果，有興趣的讀者不妨多加留意。
|
|
