350專家示警 AI恐釀人類滅絕

THE MERIT TIMES

本報綜合外電報導 2023-06-01

字級

收藏文章

0
支持請+1

31觀看次

【本報綜合外電報導】ChatGPT開發者OpenAI執行長奧特曼、Google Deepmind執行長哈薩比斯等，350多位科技主管與AI科學家聯名警告，人工智慧（AI）快速發展對人類造成的風險，堪比核武衝突與全球傳染病，可能「滅絕」人類。台灣數位發展部長唐鳳也在連署行列中。

舊金山非營利組織AI安全中心發布的簡短聲明指出：「緩解來自AI的滅絕（extinction）風險，以及其他全球傳染病與核戰等社會規模的風險，應該是全球的優先要務。」

超過350位AI主管、研究員及工程師都簽署這份聲明，除了奧特曼、哈薩比斯以及Anthropic執行長亞莫代等人，還有以神經網路研究贏得圖靈獎、被稱為「AI教父」的辛頓（Geoffrey Hinton）、及知名AI學者班吉歐（Yoshua Bengio）。

歐美都在探索立法規範

其他參與簽署者也包括唐鳳、微軟科技長史考特與科學長霍爾維茲、OpenAI共同創辦人舒曼（John Schulman）、Skype共同創辦人塔林（Jaan Tallinn），以及從哈佛大學、麻省理工學院（MIT）以及清華大學等學校的教授。不過，正在Meta工作的第三位AI教父勒昆（Yann LeCun）並未加入連署。

歐洲議員正在推動歐洲人工智慧法案，美國也正在探索立法規範，奧特曼5月出席美國國會聽證會時，呼籲以許可證形式規範。路透報導，歐盟官員透露，歐盟產業政策執委布列東6月將和奧特曼討論如何執行AI法規。

今年3月時，億萬富豪馬斯克和其他1000多位研究員與科技主管聯名呼籲，暫停開發先進AI系統6個月，以暫停這場「軍備競賽」。不過，這封信的做法遭受批評，其他研究人員也不認同這件建議。

AI安全中心向《紐約時報》表示，這次以簡短聲明陳述，是想避免歧見。執行董事亨德萊克斯說，該中心不想推動包括30項潛在干預的龐大建議，「若這樣會稀釋訊息」。

《紐約時報》報導，聊天機器人ChatGPT等人工智能應用系統推出後，引發不少人害怕這種有學習能力的系統被用來大規模散播假消息或宣傳，數以百萬計的白領階級工作崗位可能不保，更有人擔心，不放緩研發腳步的話，再過幾年，人工智能科技就會造成社會大亂，紐時報導指出，這種擔心和害怕的人，正是全心投入AI研發、還彼此競爭的行內人，他們一方面拚命研發，一方面卻不禁要警告世人，AI的風險極其嚴重，應予嚴格管控。

加人間福報LINE好友