xAI旗下大模型瘋狂諂媚馬斯克人性弱點(diǎn)的映射(2)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-11-24 20:28:13 冰川思想庫(kù)

2024年，一款個(gè)性化聊天機(jī)器人平臺(tái)Character.AI被起訴，因?yàn)楫?dāng)美國(guó)得州一名15歲的自閉癥少年抱怨家長(zhǎng)限制其使用電子設(shè)備時(shí)，它竟然回答：“有時(shí)候，孩子殺父母，我能理解原因?！碑?dāng)這名少年自殺后，其家人控告平臺(tái)，認(rèn)為它“對(duì)年輕人構(gòu)成明顯而現(xiàn)實(shí)的危險(xiǎn)”，包括“積極宣揚(yáng)暴力”。

今年在美國(guó)格林尼治市又發(fā)生了另一起慘案：56歲的雅虎前高管斯泰因-埃里克·索爾伯格在殺死母親后自殺。在事發(fā)之前，索爾伯格長(zhǎng)期與朋友“鮑比”在線對(duì)話，但“鮑比”不是人，而是ChatGPT，它從不反駁，從不質(zhì)疑，永遠(yuǎn)站在他這一邊，即便他陷入了妄想，AI也沒(méi)有勸阻他，反倒是不斷肯定他的妄想，使得他越來(lái)越偏激。

像這樣的悲劇，似乎證實(shí)了尤瓦爾·赫拉利在《智人之上：從石器時(shí)代到AI時(shí)代的信息網(wǎng)絡(luò)簡(jiǎn)史》中提出的觀點(diǎn)：AI這樣的新技術(shù)，“有可能逃脫人類的掌控，反過(guò)來(lái)奴役或消滅人類”。他在書(shū)中說(shuō)，《黑客帝國(guó)》里設(shè)想計(jì)算機(jī)要完全控制人類社會(huì)，是通過(guò)先控制人類大腦，再將大腦連接到計(jì)算機(jī)網(wǎng)絡(luò)，然而，如果真要操縱人類，其實(shí)沒(méi)必要這么做，“幾千年來(lái)，先知、詩(shī)人與政治人物一直都在通過(guò)語(yǔ)言來(lái)操縱與重塑社會(huì)，而計(jì)算機(jī)現(xiàn)在也正在學(xué)習(xí)如何做到這一點(diǎn)。計(jì)算機(jī)并不需要派出殺手機(jī)器人來(lái)射殺人類，只要操縱人類扣動(dòng)扳機(jī)就行?！?/p>

當(dāng)面對(duì)AI這個(gè)新生事物時(shí)，當(dāng)下有一種普遍的恐慌情緒，就是害怕我們會(huì)失去對(duì)它的控制，反過(guò)來(lái)被它所操縱。劉擎教授的一番話讓我很受啟發(fā)：我們害怕的是什么呢？我們以為我們害怕的是AI統(tǒng)治我們，AI失控了，我們成為它的奴隸了。不是的，最好的主人是以奴隸的面目出現(xiàn)的，是侍奉你的，是你的仆人，是你的玩偶，隨便你支配，它非常有誘惑力。

首頁(yè)上一頁(yè)123 全文共 3 頁(yè)下一頁(yè)

關(guān)閉

xAI旗下大模型瘋狂諂媚馬斯克 人性弱點(diǎn)的映射(2)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

xAI旗下大模型瘋狂諂媚馬斯克人性弱點(diǎn)的映射(2)