隨著DeepSeek、ChatGPT等AI大語言模型的飛速進化，機器生成內(nèi)容越來越“擬人”，“真假美猴王”的經(jīng)典橋段正在人工智能領域上演。日前，西湖大學教授張岳領銜的自然語言處理實驗室研發(fā)出一款能夠識別機器生成內(nèi)容的AI程序Fast-DetectGPT，能夠以96%的準確率識別ChatGPT生成文本，對DeepSeek生成文本的檢測準確率達89%。

“真假美猴王”上演，誰是“如來”？

2023年12月發(fā)表在國際期刊上的一項研究，討論了頂級期刊的語言學家能夠在多大程度上區(qū)分AI寫作和人工寫作。72位語言學家參與了這項調(diào)研，結(jié)果顯示正確率不足40%。

事實上，機器生成的文本與人類生成的文本雖然看起來很像，但在語義、語法、用詞習慣等細節(jié)處理上存在許多不同。張岳解釋，機器的思考偏向“統(tǒng)計性”，而人類的思考里除了“統(tǒng)計性”，還有“因果性”。具體體現(xiàn)在當遇到困難，人類會反思，但這種能力大模型尚不具備。

張岳進一步解釋，以寫文章為例，AI的寫法是學習現(xiàn)有的數(shù)據(jù)，從中挑選最“安全”的詞，也就是按照概率高低來選詞，這和人類寫作的創(chuàng)造性有本質(zhì)區(qū)別。例如在“我吃了一頓××”這個句式中，機器往往會在“吃”這一動詞后使用搭配概率較高的“飯”，但人類可能會說：“我吃了一頓美味。”

研究團隊認為，人類和機器在給定上下文的情況下，詞匯選擇存在明顯差異，而機器與機器之間的這種差異并不明顯，這就是Fast-DetectGPT的工作原理。

另辟蹊徑，“以子之矛，攻子之盾”

有了原理，那么該如何操作？Fast-DetectGPT研發(fā)者之一、西湖大學博士生鮑光勝解釋，面對一句話或者一篇文章，F(xiàn)ast-DetectGPT會從AI的角度出發(fā)先想想，如果是自己寫會怎么寫？然后根據(jù)這個自問自答的參考答案，比對原文看看重合度有多高，相當于“以子之矛，攻子之盾”。

具體而言，當Fast-DetectGPT接收到一個文本片段，首先會在不改變原意的情況下進行改寫，把局部的同義詞替換掉，再將這份替換后的文本與原始文本進行對比。如果原始文本是AI寫的，兩者的相似度會比較高。簡單來說，AI對AI寫的內(nèi)容更熟悉，可以“深入敵后”認出同類作品。

據(jù)介紹，出于對AI安全性和可信賴方面的擔憂，歐美等國已有不少用AI檢測AI的研究，比如普林斯頓大學學生開發(fā)的GPTZero、斯坦福大學研究團隊推出的DetectGPT等。此次由西湖大學研發(fā)的Fast-DetectGPT相較于DetectGPT的檢測速度提高了340倍，準確率提升75%。

Fast-DetectGPT不僅對不同語種和內(nèi)容有良好的適用性，還能識別AI潤色和翻譯的文章。無論是人寫的經(jīng)由AI潤色或翻譯的文字，還是AI寫的經(jīng)由人潤色或翻譯的文字，都逃不過它的“法眼”。

AI持續(xù)進化，矛更利還是盾更堅？

盡管當前的技術大幅提高了對AI生成文本識別的準確性，但張岳坦言，不久的將來，AI可能會發(fā)展出“反偵察”技術，從而提高內(nèi)容識別難度，人與機器之間這種“矛”與“盾”的攻防角色會不斷互換、演進。

另一個擔憂在于，當人類吸收的語料中越來越多混入AI生成內(nèi)容，人類寫作會不會越來越接近AI？對此，張岳表示，隨著互聯(lián)網(wǎng)上AI生成內(nèi)容的不斷增加，一批與AI相伴而生的年輕人可能也會逐步“學習”AI的表達風格，但人類的表達始終具有“因果性”，與AI存在本質(zhì)區(qū)別。而在更遠的未來，AI可能學會像人一樣思考，屆時識別難度可能更高。