AI教父辛頓警告:人工智慧威脅人類存亡機率高達20%

人工智慧(AI)領域的先驅、「AI教父」辛頓(Geoffrey Hinton)日前提出警告:未來30年內,人工智慧導致人類滅絕的可能性介於10%到20%,引發全球關注!

辛頓認為,人工智慧的發展速度已超出人類掌控的能力範圍,這種技術可能在不遠的未來對人類文明帶來災難性影響,如大型語言模型,已經展現出超乎預期的能力,而未來更為先進的系統可能具備自主學習及行動的能力。他特別提到,人工智慧能自我改善、創建新版本,而這種快速進化可能導致人類無法有效控制,進而威脅到整個物種的存續。

除了技術的潛力外,辛頓也表達了對政府及企業監管不足的憂慮。他強調,人工智慧開發者和相關機構必須共同努力制定清晰的規範,否則可能出現技術濫用的情況。他認為,人工智慧風險包括濫用於軍事用途、經濟不平等加劇,以及對民主制度的挑戰等。

辛頓建議,全球應建立類似於氣候變遷協議的框架,以確保各國在人工智慧技術的開發和應用上達成共識。他還呼籲學界、產業界及政府加強合作,設立專門研究人工智慧風險的機構,並為潛在問題制定預防措施。

辛頓的言論引發了科技界和學術界的熱烈討論。一些專家認為,他的警告值得重視,因為人工智慧的快速進展確實存在潛在風險。然而,也有觀點認為,過於渲染人工智慧威脅可能導致公眾對技術的誤解。多家科技巨頭對此保持審慎態度,僅表示將繼續致力於負責任地發展AI技術。一些企業代表指出,人工智慧的發展能為人類帶來巨大的福祉,包括改善醫療、教育和環境等領域,但承諾會與相關機構合作,確保技術發展符合道德標準。【記者  鄒弘整理報導】