中国惊奇先生

隐形水印上线，AI写作开始留痕_我的网站

A |     　　“这段文字是人写的吗？”随着生成式人工智能（AI）越来越多地参与写作，这个过去鲜少有人追问的问题，如今正变得越来越常见。    

D | 传统AI检测工具是从用词、句式等语言特征入手，判断一段文字像不像AI生成。这种判断并不能直接证明文本来自哪个模型，因此误判和漏判始终难以避免。　　模型水印则不同，它是在生成文字时就主动加入标记，检测时不必只盯着文本本身的语言风格，出版社、学校和网络平台便多了一条判断依据。　　美国《商业内幕》网站报道称，Claude水印可能影响学生使用AI完成作业和论文，也可能让利用AI起草邮件等内容的职场人士更容易被揭穿。不过，该媒体也指出，现实中AI写作更常见的用途，其实是编写内部文件、会议纪要、研究报告和即时通信等，而这些内容通常不像小说、论文那样受到严格的作者身份审查。　　对于普通用户来说，最直接的变化可能并不是使用体验发生变化，而是AI使用行为变得更容易被发现。出版业或许会更敏感地感受到这种变化。　　水印看不见但并非“擦不掉”　　然而，把AI水印当作一种“永远无法删除的电子身份证”，恐怕并不现实。

E | 　　对于图像和文件，Anthropic计划采用C2PA来源元数据标准。不过，美国科技新闻与媒体平台The Verge网站指出，C2PA元数据本身并非牢不可破，文件在上传、转换或编辑过程中可能丢失相关信息。

F | 　　Claude文本水印的具体技术细节目前也没有全部公开，因此外界还无法准确判断它究竟采用何种算法，以及面对不同程度的改写和攻击时能保持多大程度的稳定性。不过，《商业内幕》报道称，Anthropic已承认，大量编辑、改写、翻译，或者把Claude生成的文字与其他内容混合，都可能让水印变得无法检测。

G | 　　与此同时，水印检测也存在误判风险。

H | The Verge报道称，即便检测不到水印，也不能证明内容一定不是生成式AI产生的。换句话说，有标记可提供来源线索，没有标记却不能反向证明内容纯粹由人类创作。　　8月7日发表在预印本网站上的一项研究提出，AI水印不应被简单视为鉴别单篇内容真伪的“法医工具”，而应成为更大范围内容来源和AI治理体系的一部分。研究人员指出，人机协同创作越来越普遍，单纯将内容划分为“AI生成”或“人类创作”，可能掩盖两者之间复杂的合作关系。　　企业与监管推动AI水印普及　　尽管技术还有局限，给AI生成内容留下来源信息，并非Anthropic一家企业在尝试。　　谷歌早在2024年就宣布将SynthID水印技术扩展至Gemini生成的文本，至今已覆盖其文本、图像、音频和视频等多种生成内容。　　今年5月，OpenAI也提出，通过C2PA内容凭证、数字水印和验证工具等多种技术，帮助用户和平台识别AI生成内容的来源。

I | 此外，Meta也在探索中为AI生成内容加入不可见水印，以便在不同平台和应用中识别相关内容。　　推动这类技术落地的，还有监管要求。　　据美国科技类博客TechCrunch网站报道，Anthropic的此次调整与欧盟《AI法案》有关。欧盟委员会发布的指南显示，《AI法案》第50条关于透明度的规定自8月2日起适用，要求相关AI系统对生成或操纵的内容加入机器可读标记，以便识别其是否由AI生成。随着相关合规期限推进，其他AI服务商也可能采取类似措施。

J | 　　不过，技术能够回答的主要是“这段内容有没有留下AI痕迹”。至于留下痕迹之后怎么办，真正的难题还是留给了人类。

K | 例如，如果AI帮你写了一封邮件，这还是你的文字吗？如果AI根据记者采访整理出初稿，记者是否仍然是作者？如果小说作者只提供人物和故事框架，AI完成了大部分文字，又该如何署名？这些问题，显然不是一个水印能够解决的。　　或许，AI时代真正需要建立的，不是一套简单的“人写还是AI写”的二元检测机制，而是一套能够描述人和AI分别参与了什么、谁最终对内容负责的新规则。Claude给AI文字留下的隐形水印，可能只是这一变化的开始。

L | （记者 张佳欣）。

Current article:http://3bvs1wd.ganweilingmukuai.shop/list_de5kfi/a2fj.html

Published on:00:00:00