据报道,大约一年前,OpenAI 已开发出一套为 ChatGPT 文本添加水印的系统和检测水印的工具。然而,公司内部在是否发布该系统上存在分歧。一方面,这被视为负责任的做法;另一方面,这可能影响利润。
OpenAI 的水印系统通过调整模型预测单词和短语的方式,创建可检测的模式。(这是简化的说法,详情可参见 Google 对 Gemini 文本水印的深入解释)。
对于教师来说,任何检测人工智能写作的方法都是福音。水印不会影响聊天机器人文本的质量。OpenAI 公司调查显示,“全球范围内以四比一的比例支持使用 AI 检测工具”。
在报道后,OpenAI 在博客 中确认,正在研究文本水印。公司称其方法非常准确(据报道“99.9% 有效”),能抵抗篡改,如改写。但也表示,使用另一个模型改写的技术“容易被规避”。公司还担心 AI 工具对非母语人士的实用性可能会受到影响。
不过,OpenAI 也担忧水印会让部分 ChatGPT 用户失去兴趣,约 30% 的用户明确表示,如果实施水印,他们会减少使用该软件。
尽管如此,一些员工仍认为水印有效。但考虑到用户不满情绪,有人建议尝试“用户争议较少但未经证实”的方法。OpenAI 表示,现在还“为时过早”,无法知道它会有多好,但由于它是加密签名的,所以不会出现误报。
正文完