出于對自身隱私安全的擔憂,4月20日18時許,張先生向官方郵箱上報了這一事件,并向網(wǎng)信部門進行了舉報。因為無法再信任這一產(chǎn)品,張先生也在郵件中申請了退款。之后出于好奇,張先生撥打了簡歷上的電話,得到了“真人”的接聽。和電話那頭的鐘先生核對后,兩人確認,簡歷中所有的信息都能和“真人”對上。鐘先生介紹,他在事發(fā)當天上午向Kimi發(fā)送了自己的簡歷文件,讓大模型幫忙潤色。
4月20日晚,張先生將上述經(jīng)歷發(fā)布到了社交媒體上,引發(fā)關注。他表示此后,自稱Kimi官方的人多次通過不同渠道聯(lián)系他,“一開始說這是圖片發(fā)送失敗導致的模型幻覺行為,非‘串臺’或信息泄露”。鐘先生也接到了自稱是Kimi產(chǎn)品經(jīng)理的電話。4月21日,張先生再次接到了自稱是Kimi官方的人電話,并和他口頭表示是“發(fā)串了,將別人的回復發(fā)給了他”。張先生稱,事發(fā)后他的Kimi年費會員已經(jīng)退款,“自身已沒有其他訴求”,自稱是Kimi官方工作人員的人,多次在溝通中希望他刪除發(fā)布在社交媒體上的內(nèi)容,但因為Kimi官方在事發(fā)后一直未公開發(fā)布聲明承認問題并整改,他拒絕刪除。
多位人工智能行業(yè)人士表示,從公開信息來看,這一事件中錯發(fā)的信息是真實有效的,不屬于典型意義上的“AI幻覺”,更多屬于數(shù)據(jù)隔離失效、會話管理不當或越權訪問等工程化鏈路上的問題,具體原因需要涉事企業(yè)通過復盤事件過程來定位。如果這個事件只是個案,在事故級別上可能屬于P2級左右的事故,如果有更多用戶受到影響,則可能上升為P1或P0事故。
企查查資料顯示,Kimi母公司北京月之暗面科技有限公司成立于2023年3月,同年10月便推出Kimi智能助手,憑借20萬字超長文本輸入能力迅速打開市場。技術層面,月之暗面正持續(xù)高強度迭代模型能力。Kimi泄露鐘先生簡歷的同日,月之暗面公司正發(fā)布并開源其最新模型Kimi K2.6。該公司介紹,這一模型具備行業(yè)領先的代碼能力、長程任務執(zhí)行能力與Agent(智能體)集群能力。