人工智慧(AI)新創公司Anthropic近日發表報告示警，人類在人工智慧開發流程中的角色正大幅衰減。該公司披露的內部數據指出，其程式庫已有超過八成代碼由旗下模型Claude自動編寫，工程師每季提交的代碼量更飆升至過往數倍。研究人員擔憂，這種技術自我演進的回饋機制，極可能在兩年內引發「遞迴式自我改進」（recursive self-improvement），使系統在無人干預下自主進化並脫離掌控。為了防範潛在的社會劇烈動盪，該機構大動作呼籲美中兩國與全球同業同步暫緩尖端系統的推進。

然而，這項大膽的限制倡議在矽谷及華府政壇激起軒然大波。由於該公司正處於上兆美元估值並申請秘密上市的關鍵期，不少白宮官員與業界同行質疑，此舉實為以安全之名打擊對手的商業行銷手段。更有決策高層直言，單方面減速將在關鍵科技賽局中，將決定性的戰略主導權平白讓給中國。

面對核武級別的跨國監管難題，缺乏可信任的核查機制仍是核心瓶頸。儘管美國總統川普已簽署行政命令，強制要求最強模型發布前須經三十天審查，並嘗試與中方試探安全合作，但軟體開發的高隱蔽性令各方私下偷跑的誘惑極大。對此，該機構正計畫聯合多方專家與官員，共同研擬可行的多邊防弊體系。【記者  鄭昱庭整理報導】