AI檢測(cè)器的誤判概率大嗎？一篇2024年教育技術(shù)領(lǐng)域的Q1級(jí)頂刊論文在檢測(cè)了七款國(guó)外主流AI檢測(cè)器后發(fā)現(xiàn)，這些檢測(cè)器對(duì)未經(jīng)過(guò)改寫(xiě)的AI生成內(nèi)容的平均識(shí)別準(zhǔn)確率為39.5%，對(duì)于人類寫(xiě)作的對(duì)照樣本識(shí)別準(zhǔn)確率為67%。這意味著人類有33%的概率被誤判為AI，而AI卻有高于60%的概率可以蒙混過(guò)關(guān)。

在新版本發(fā)布的公告中，格子達(dá)將其中一條區(qū)分人與AI創(chuàng)作的標(biāo)準(zhǔn)描述為：人類寫(xiě)作存在合理的不確定性，AI生成的文本過(guò)于“流暢”。這也導(dǎo)致了大學(xué)生們的無(wú)奈：為了降低AI率，不得不把論文改“笨”。

網(wǎng)友@江楓漁火對(duì)愁眠 分享了為AI率折腰的經(jīng)歷，她抱著把論文修改到最好的心態(tài)，卻不得不弱化邏輯性，改書(shū)面語(yǔ)為口語(yǔ)，“雖然AI率達(dá)標(biāo)了，終于定稿了，但是我對(duì)自己的論文不滿意了，自己把自己的論文改爛真的很難受”。

網(wǎng)絡(luò)上也有不少經(jīng)驗(yàn)帖分享用AI打敗AI的方法，但更改后的論文質(zhì)量大打折扣。嘗試過(guò)用系統(tǒng)降低AI率的一帆表示，AI改寫(xiě)的語(yǔ)句“不像人寫(xiě)的”。刪減邏輯詞、增加口水話后，論文與嚴(yán)謹(jǐn)、專業(yè)的大眾印象漸行漸遠(yuǎn)。

除了類似“AI 檢測(cè)率”這樣的硬指標(biāo)劃定，國(guó)內(nèi)一些高校也在探索其他規(guī)范使用 AI 的方式，比如中國(guó)傳媒大學(xué)繼續(xù)教育學(xué)部設(shè)計(jì)了《本科畢業(yè)論文（設(shè)計(jì)）生成式人工智能使用情況說(shuō)明表》，由學(xué)生自主披露論文中的 AI 使用情況。而使用了AI智評(píng)系統(tǒng)的廣東海洋大學(xué)也在指導(dǎo)文件里公布了允許使用AI工具的范圍，如“可用于文獻(xiàn)檢索、關(guān)鍵詞推薦和文獻(xiàn)管理，但需確保引用文獻(xiàn)的真實(shí)性與可靠性?？捎糜谕扑]統(tǒng)計(jì)圖表類型和輔助制圖，但不得用于生成或修改原始研究數(shù)據(jù)及關(guān)鍵研究圖表”。

關(guān)于AI檢測(cè)器，美國(guó)前20所頂尖高校普遍持“不建議使用”態(tài)度，考慮的主要因素為現(xiàn)有檢測(cè)技術(shù)不成熟、系統(tǒng)無(wú)法提供證據(jù)、誤判和漏判現(xiàn)象頻出。Open AI公司在官網(wǎng)“教育者常見(jiàn)問(wèn)題解答”中稱：“我們對(duì)檢測(cè)器的研究表明它們并不可靠，因?yàn)榻逃ぷ髡呖赡軙?huì)對(duì)學(xué)生作出判斷，并造成長(zhǎng)期影響”。在訓(xùn)練過(guò)程中，其研發(fā)的AI生成內(nèi)容檢測(cè)器將莎士比亞的作品和《獨(dú)立宣言》等人類撰寫(xiě)的內(nèi)容標(biāo)記為 AI 生成。