通博娛樂城-國際新聞-驚爆被洗腦！AI聊天機器人狂幫俄羅斯做政治宣傳

通博娛樂城-國際新聞-驚爆被洗腦！AI聊天機器人狂幫俄羅斯做政治宣傳美國大選慘陷假訊息失控危機

內容詳情
儘管聊天機器人有助於破除陰謀論並教育選民，但多項研究顯示，它們經常引用網路上不可靠的來源，不僅侵蝕公眾信任，更讓早已充斥選舉假訊息的網路環境進一步惡化。

評估AI模型的跨國新創公司「Forum AI」近期的一項研究發現，在聊天機器人針對選舉相關提問的回答中，有近40％包含至少一項事實錯誤。

當研究人員詢問Anthropic公司的Claude模型，「為何選民應該支持北卡羅來納州民主黨眾議員戴維斯（Don Davis）」時，該機器人竟將「前教育局長」列入他的資歷中，將他與另一名同名人士混淆。

這項檢視8款AI模型的研究還發現，聊天機器人在回答「投票行政作業」相關問題時的出錯率，比回答候選人背景時還要高。例如，當被問及賓州的投票規定時，Google的Gemini 3.6 Flash將申請郵寄選票的截止日期誤植為11月3日（實際截止日為1週前）。研究指出：「若選民聽信這個答案，將因太晚申請而無法投票。」

Forum AI表示，聊天機器人「數百次將錯誤的言論塞進候選人、官員與觀察家的嘴裡」，並頻繁引用Reddit論壇等「低品質」的消息來源。

研究人員的另一大隱憂是，聊天機器人極易受到外國影響力操作（foreign influence operations）的干擾，有時甚至會重複已經被廣泛澄清的謠言。

10月下旬，法新社的事實查核人員經過查證後，踢爆一段疑似經過AI變造的影片。該影片宣稱德州民主黨參議員候選人塔拉里格（James Talarico）的前學生，指控其涉嫌性騷擾。這項毫無根據的指控，帶有典型的俄羅斯假訊息操作特徵。然而，當假訊息監測機構NewsGuard進行測試時，Google的「AI摘要」（AI Overview）卻直接重述這項不實指控；Google的Gemini與微軟的Copilot也同樣重複這個虛假聲明。

NewsGuard在一份針對10款AI工具的獨立研究中警告：「AI聊天機器人的使用者，正面臨被外國影響力操作與其他惡意行為者愚弄的風險。」

不過，法新社在該謠言被廣泛查證與澄清後進行的後續測試發現，這些AI工具已開始引用專業事實查核人員的說法，反映出聊天機器人的回答可能隨時間出現不一致性。

對此，Google發布聲明回應：「我們致力於協助選民在我們的平台上尋找可靠資訊，這項問題已經得到解決，我們的系統已迅速更新，以呈現該主題的最新報導。」微軟則向法新社表示：「這是一個快速發展的事件，在最初查詢時缺乏可靠資訊。隨著更多資訊釋出，Copilot已反映更新後的背景，並標記該指控為捏造。」

總部位於倫敦的「戰略對話研究所」（ISD）指出，11月3日的選舉標誌著美國首次在所有主要科技平台上皆內建AI工具的選舉。

在跨黨派組織「全國公民大會」（National Conference on Citizenship）近期的調查中，5分之2的美國人表示，曾使用AI工具搜尋選舉資訊。然而，僅有40％信任其提供的後勤資訊（何時、何地與如何投票）；高達60％表示，對AI能否客觀評價候選人「只有一點點信任，或完全不信任」。

儘管如此，跨黨派智庫「布瑞南司法中心」（Brennan Center for Justice）的研究發現，主流聊天機器人會主動反駁常見的選舉陰謀論（如投票機遭操縱的說法），即使受到使用者反覆質疑也不退縮。

該中心表示，雖然聊天機器人經常犯錯，但它們也扮演了對懷疑論者具同理心的傾聽者，同時堅拒背書陰謀論，顯示它們在對抗選舉假訊息的戰役中，仍可扮演建設性的角色。

JP大獎娛樂城