如果你知道,自己用AI寫的東西以後一定會被抓包,你還會用嗎?
Anthropic本週宣布,新推出的Claude模型會在生成文字中植入「肉眼看不見的浮水印」,這不影響文意與可讀性,但就算是經過複製貼上也會跟著走,部分編輯後甚至仍可能留存。
8月2日起推出的模型從上線就內建這項功能,且全球都一樣,不論你是透過雲端服務商存取,還是人在哪裡生成內容,均適用這套標記機制。這是Anthropic落實歐盟AI法案透明度規範的一環,也讓它成為繼Google DeepMind之後,第二家替文字加入浮水印的主要AI公司。
文字浮水印有多種技術路徑,例如Google的SynthID會微調模型選擇詞元的機率,留下可供辨識的統計訊號。但不同設計在標記強度、可偵測性與文字品質之間如何取捨,仍有爭議。部分用戶擔心浮水印拖累輸出,Anthropic則稱使用體驗不會有所改變;只是目前尚未公開具體方法,僅表示未來將發布更詳細的技術文件。
消息公布後,X和Reddit隨即炸鍋。反對者不全是企圖用AI代寫小說或作業的人,更多是只把Claude當成校對工具的普通用戶;也有工程師在Reddit擔心,若在程式碼中加入加密簽章,可能降低輸出品質。
廣播主持人暨部落客Erick Erickson表示,他原本捨棄Grammarly、改用Claude校對,因為後者表現更好,「但現在我自己寫的東西,卻會被加上浮水印,顯示是Claude做的。這太荒謬了。」
爭議核心,在於浮水印無法區分「AI代寫」與「AI協助」。這套機制面臨兩種相反的侷限:把原文交給Claude校對或翻譯,也可能留下標記;但產出內容若事後經過大幅改寫、再次翻譯或混入其他文字,標記又可能消失。換句話說,它可能標記並非由AI代寫的作品,卻放過刻意掩飾AI痕跡的內容。
這場爭議也意外炒熱了另一個問題:AI寫的東西,到底該算誰的功勞?Reddit上一名用戶主張,人類才該擁有掛名權:「指令、脈絡、判斷、無數次修改都是我做的,Claude只是工具。」但也有人反駁,浮水印不是Claude在搶功勞,而是老實承認「這是AI做出來的」;甚至有評論認為,不替AI掛名才不道德。
對學校與出版社而言,浮水印或許能提供調查AI代寫的新線索,卻很難單獨成為定案證據。
不過,《商業內幕》專欄作者Katie Notopoulos認為,即使AI文字更容易被辨認,多數人仍會繼續使用。因為真正重視「親筆創作」的學術論文、學生作業與文學獎投稿,只占AI寫作用途的一小部分;人們更常用AI起草電子郵件、整理會議紀錄、撰寫Slack訊息與內部文件。這些內容原本就不追求作者原創性,被發現使用AI,也未必是一件丟臉的事。
例如Y Combinator執行長陳嘉興(Garry Tan)面對「只有人類該寫給人類看的東西」的質疑時,便大方公開承認自己使用AI寫作:「對,我就是用了,你抓到我了。」
Claude的浮水印未必能終結AI代筆,卻可能終結人們假裝自己從未使用AI的時代。這場浮水印風波,說到底考驗的不是技術,而是每個人心裡那道界線——你,敢不敢承認這封信是AI寫的?
資料來源:Business Insider(1)、Business Insider(2) 、Forbes
核稿編輯:林易萱
責任編輯:陳芊吟