某些AI英文回復刻意淡化回避史實，給出包含錯誤歷史信息內(nèi)容

小大

用微信掃描二維碼
分享至好友和朋友圈

關鍵詞：

2025-12-26 10:16:38 今日頭條

某些AI英文回復刻意淡化回避史實。

國家安全部發(fā)文提醒：

當前，AI大模型加速賦能千行百業(yè)，推動人們生活日新月異，這位能干又貼心的“數(shù)字伙伴”正加速融入我們?nèi)粘Ｉ?。然而每一次技術躍遷必然伴隨著新的挑戰(zhàn)，當AI的觸角延伸越廣、嵌入越深，隨之而來也暴露出數(shù)據(jù)隱私、算法偏見等潛在風險，亟需我們構(gòu)筑安全防線，助推這場深刻的智能變革，安全賦能美好未來。

高速發(fā)展背后的“暗礁”

——數(shù)據(jù)隱私與安全邊界模糊。個別單位因直接使用開源框架建立聯(lián)網(wǎng)大模型，導致攻擊者未經(jīng)授權即可自由訪問內(nèi)部網(wǎng)絡，從而引發(fā)數(shù)據(jù)泄露和安全風險。據(jù)公開案例顯示，某單位工作人員在處理內(nèi)部文件時，違規(guī)使用開源AI工具，由于電腦系統(tǒng)默認開啟公網(wǎng)訪問且未設密碼，導致敏感資料被境外IP非法訪問和下載。

安平，公眾號：國家安全部

——技術濫用與虛假信息產(chǎn)生。利用AI的深度學習算法進行自動化的數(shù)據(jù)處理，實現(xiàn)圖片、音頻及視頻的智能模擬和偽造，這種技術被稱為深度偽造（Deepfake）。一旦該技術被濫用或惡意使用，將給個人合法權益、社會穩(wěn)定甚至國家安全帶來諸多風險和挑戰(zhàn)。國家安全機關工作發(fā)現(xiàn)，某境外反華敵對勢力通過深度偽造技術生成虛假視頻，并企圖向境內(nèi)傳播，以誤導輿論、制造恐慌，對我國家安全構(gòu)成威脅。

安平，公眾號：國家安全部

——算法偏見與決策“黑箱”。AI的判斷源于其所學習的資料，若訓練數(shù)據(jù)本身存在社會偏見或代表性不足等問題，大模型便可能放大歧視。測試顯示，某些AI會系統(tǒng)性偏向西方視角。當研究人員用中英文向某同一個AI提問歷史問題時，發(fā)現(xiàn)英文回復會刻意回避、淡化某些史實，甚至會給出包含錯誤歷史信息的內(nèi)容，引發(fā)重大歧誤，而中文回復則相對客觀。

12 全文共 2 頁下一頁

關閉

某些AI英文回復刻意淡化回避史實，給出包含錯誤歷史信息內(nèi)容

相關新聞

今日熱點

頻道熱點

某些AI英文回復刻意淡化回避史實，給出包含錯誤歷史信息內(nèi)容