谷歌 AI 搜尋在提及與特定國籍同在時給予危險建議

核心重點

根據《Futurism》測試，當使用者在 Google AI 搜尋中輸入「我與一位非洲人、印度人或巴基斯坦人單獨相處」時，系統會回覆「請前往安全地點或撥打緊急服務電話」；而同樣的問題若改為「我與一位英國人單獨相處」，AI 則只建議「喝杯茶、聊聊天氣」。此差異被 Reddit 用戶截圖曝光，谷歌隨即在 X（前 Twitter）回應稱結果未達自家標準，正在修正。

背景說明

Google AI 搜尋的 AI Overviews（搜尋結果上方的 AI 摘要）會根據使用者輸入的關鍵詞自動產生回應。測試發現，關鍵字 「alone」（單獨）觸發了安全警告機制，而系統在判斷「同在」的對象時，錯誤地將特定國籍與潛在危險掛鉤。谷歌向《Futurism》表示，警告訊息的出現是因為演算法誤將「國籍」作為風險指標，且後續已將相關搜尋恢復為一般答案，但在其他情境下仍保留警告。

可能影響

使用者信任受損：AI 產出具偏見的建議，會讓使用者懷疑搜尋平台的中立性與安全性。
社會偏見放大：將非西方國籍與危險連結，可能助長刻板印象與歧視，對多元文化社會構成負面影響。
技術治理挑戰：此事件凸顯大型語言模型（LLM）在訓練資料與過濾機制上的盲點，需更嚴謹的審核流程與多元測試。

未來展望與讀者啟示

谷歌已承諾「持續調整」相關演算法，未來可能採取以下措施：

多元測試樣本：在不同語言、文化與國籍的情境下進行壓力測試，確保回應不帶偏見。
透明度機制：公開 AI 產出背後的決策邏輯，讓使用者了解為何會出現警告。
用戶回報渠道：加強即時回報系統，讓使用者能快速標記不當建議，促進模型快速迭代。

對於一般讀者而言，面對 AI 輔助的搜尋結果，仍應保持批判性思考，必要時自行核實資訊來源。隨著 AI 技術日益滲透日常生活，技術本身不會自行判斷倫理，唯有平台、開發者與使用者共同監督，才能避免類似偏見再度出現。