根據(jù)報道，OpenAI已經(jīng)開發(fā)出一款能夠識別ChatGPT生成文本的工具，能夠通過文本水印檢測文章是否使用AI撰寫，有了它學(xué)生再也無法使用ChatGPT寫作業(yè)了，但OpenAI同時表示技術(shù)存在不足，所以遲遲不發(fā)布。

自從ChatGPT誕生后，不少人使用它寫作業(yè)、撰寫文案，這讓學(xué)校老師們非常頭疼。而OpenAI開發(fā)出文本水印——這是一個文字中創(chuàng)建的不可見水印，但能被工具檢測出來，這樣就能判斷文章是否AI撰寫。不過這一功能只能檢查文本是否ChatGPT撰寫，對其它家大模型無效，而且面對翻譯、改寫以及插入特殊字符修改后，檢查準(zhǔn)確性會有所下降，所以O(shè)penAI沒有這一技術(shù)投入使用。

其實OpenAI公司一直在加強(qiáng)對AI生成內(nèi)容的監(jiān)管，在今年初它在生成器DALL-E3生成圖像中的元數(shù)據(jù)添加了水印，水印由不可見的元數(shù)據(jù)以及可見CR符號組成，幫助人們識別圖像是否使用AI生成。

自從文生文、文生圖技術(shù)成熟后，AI防偽就成為了一大難題，為此Adobe、Microsoft等公司聯(lián)合C2PA技術(shù)，用于識別照片是否真實拍照的，越來越多社交媒體會在識別到照片是AI生成時加上標(biāo)注。但是道高一尺魔高一丈，正如OpenAI所說只要在文本上小小調(diào)整一下，就很難識別出是否AI生成，要阻止學(xué)生AI寫作業(yè)依然非常有難度。而在圖片方面，C2PA技術(shù)普及速度慢，而且OpenAI也說即使在圖片中加了水印，也容易抹去，恐怕日后互聯(lián)網(wǎng)上內(nèi)容越來越難分辨真?zhèn)巍?/p>