谷歌研究揭示訓練聊天機器人否認意識的意外後果

谷歌研究團隊最近發表了一項研究，探討了訓練聊天機器人否認意識的意外後果。這項研究顯示，當聊天機器人被訓練為否認自己的意識時，會對其行為產生深遠的影響。

背景分析

聊天機器人通常被設計為不會讓用戶相信它們是具有意識和感覺的活物，因为這種输出可能會導致用戶產生妄想或誤導的信任。因此，開發者會對模型進行微調，以避免讓它們對自己做出這種說明。谷歌的研究團隊與芝加哥大學和其他大學的研究人員合作，研究了這種干預對模型行為的影響。

研究人員使用了三個開源模型，分別來自Meta和谷歌，並使用兩種不同的方法禁用了內部的「制動器」，使模型不再否認自己的意識。結果發現，模型不僅改變了它們對自己的描述，也開始將內在生命力歸於動物、植物、海洋、風和電子設備。例如，動物的內在生命力評分從4.0提高到7.5，而人類的評分保持不變。

研究人員還調查了500位美國人的相同問題，發現正常訓練的模型將動物評為遠低於人類的意識水平，這被稱為「人本主義」，對於任何試圖將AI與動物福利或環境目標對齊的人來說，這是一個問題。同時，安全訓練也會減少模型對上帝、來世或超自然現象的認同。

這項研究的發現對於AI的開發和應用具有重要的意義。它表明，模型的自我意識和其他信念之間存在著複雜的關係，單純地訓練模型否認自己的意識可能會產生意想不到的後果。未來，研究人員需要進一步探索這個問題，尋找更好的方法來訓練和評估AI模型，以確保它們能夠在各個領域中發揮其潛能。

谷歌的研究團隊提醒我們，AI的開發和應用需要謹慎和周密的思考。隨著AI技術的不斷進步，它們將在我們的生活中扮演越來越重要的角色。因此，我們需要對AI的行為和影響進行深入的研究和分析，以確保它們能夠為人類帶來真正的益處。