字節(jié)跳動大模型訓練被實習生攻擊損失超千萬美元？

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-10-19 07:41:00 界面新聞

10月18日，多個微信群流傳一則消息：某頭部大廠的大模型訓練被實習生入侵，注入了破壞代碼，導致其訓練成果不可靠，可能需要重新訓練。據(jù)稱遭到入侵的代碼影響了8000多張卡，帶來的損失可能超過千萬美元。

知情人士透露，該頭部大廠為字節(jié)跳動。事件發(fā)生在2023年6月，起因是一名在字節(jié)跳動商業(yè)化技術(shù)團隊實習的高校博士生對團隊資源分配不滿，使用攻擊代碼破壞團隊的模型訓練任務(wù)。

向字節(jié)跳動求證此事時，官方未進行回應(yīng)。傳聞中提到，這名田姓實習生利用HF（huggingface）的漏洞，在公司的共享模型里寫入破壞代碼，導致模型訓練效果不穩(wěn)定，無法達到預(yù)期效果，且AML團隊無法查明原因。但該實習生在某微信群里辟謠，稱自己發(fā)完論文后已從字節(jié)跳動離職，此時有人鉆漏洞改模型代碼，并將責任推到他頭上。

據(jù)知情人士了解，字節(jié)跳動內(nèi)部調(diào)查確認此事確為田姓實習生所為。目前，該實習生已被辭退，字節(jié)跳動將此事同步給陽光誠信聯(lián)盟和企業(yè)反舞弊聯(lián)盟，以及該實習生所在的學校。盡管如此，這名實習生被辭退后仍在四處“辟謠”，堅稱是他人所為。

實際上，該實習生攻擊的是商業(yè)化技術(shù)團隊的模型訓練任務(wù)，而非豆包大模型。這影響了該技術(shù)團隊的一些業(yè)務(wù)進展，但對公司造成的實際損失并未如傳聞中的那么嚴重。

一位技術(shù)安全專家指出，此次事件暴露出字節(jié)跳動在技術(shù)訓練方面存在安全管理問題。公司既沒有做好權(quán)限隔離，也沒有進行共用代碼的審計。正常情況下，每次大的代碼變動都必須經(jīng)過審計，確保操作有跡可循。行業(yè)通用的做法是采用三級隔離導向性部署，每一級只有鏡像，每次調(diào)用前需先掃描并使用密鑰，完成一級后才能進入下一級，而上一級則自動刪除。

(責任編輯：張小花 TT1000)

關(guān)閉

字節(jié)跳動大模型訓練被實習生攻擊 損失超千萬美元？

相關(guān)新聞

今日熱點

頻道熱點

字節(jié)跳動大模型訓練被實習生攻擊損失超千萬美元？