人工智慧AI生成的影音被濫用在選舉上，已造成假訊息在網路上流傳，從台灣、斯洛伐克到印尼，影響各國選情。日前美國共和黨總統初選，也出現拜登（Joe Biden）電話錄音，要求選民不要出門投票。生成式人工智慧公司OpenAI上週表示將推出反假訊息工具，並禁止將旗下AI技術，被用於競選和影響選民。

OpenAI也首次針對客戶違反了該政策而將帳號停權；印度新創公司「Delphi AI」因利用AI技術替美國聯邦眾議員菲力普斯（Dean Phillips）造勢爭取民主黨總統提名，並為其打造聊天機器人而被刪除帳號。OpenAI表示「我們的政策是不允許從事政治競選，或在未經同意的情況下冒充個人。」在其生成式圖像工具DALL-E 方面，公司會在人工智慧所生成的圖像上加上數位浮水印，用來辨識圖像來源，讓用戶更容易知道圖像是否是經由 DALL-E 修改生成，以減少其技術可能帶來的危害。 YouTube及Meta兩大平台也表示會實施AI標籤政策，讓用戶容易了解影音的真實性。

雖然OpenAI啟動自清政策，不過類似的AI公司陸續發展，除非政府立法監管，否則很難防止類似事件影響選情。然而，僅管美國已有三分之一的州通過或提出針對Deepfake人物造假影片的法案，但聯邦法院中對此仍是沒有進展。相較於歐盟，則有監管人工智慧AI的臨時協議，針對聊天機械人等生成式 AI 工具在上市前，必須進行模型評估，而使用超過 10的25次方 FLOP 總運算能力來訓練的 AI 模型被認為有系統性風險 ，包括如何減輕風險、能耗資訊、模型訓練資料的版權使用等等。違規罰款將從 750 萬歐元或營業額的 1.5% 起跳，而尋求 AI 的能力加強與限制風險之間的平衡，未來將一直會是政府及業界要面對的挑戰。【記者 林宜然整理報導】