注意：ChatGPT生成内容有暗码识别，慎用!

莆秀17302023-03-25 09:43:02

昨天早上刚起床，拿起手机刷到资深媒体人，著名战地记者老胡的动态，我以为有大新闻。结果细看是AI绘图软件，达到了以假乱真的效果，老胡也感慨：以后真新闻怎么活? 我当时第一眼也被骗了，难道这种AI就野蛮生长吗，无法监管吗?今天就要和大家讨论这个话题。

注意：ChatGPT生成内容有暗码识别，慎用! 第1张

的确，最近的AI聊天，AI绘图等惊艳问世，让大家工作效率提升了好几倍。我们公司也赶紧给所有SEO小伙伴人人配上一个ChatGPT，那用起来真的很高效。

随着3.15谷歌核心更新以来，很多SEOer都在晒GSC暴跌的惨状图。我们也有一些网站流量下跌的。所以大家都怀疑是不是ChatGPT内容的原因导致被处罚?

我也一直网上在查这方面消息。今天真的看到了，瞬间惊出一身冷汗：

ChatGPT生成内容即将植入水印暗码

注意：ChatGPT生成内容有暗码识别，慎用! 第2张

新闻来源截图

在德克萨斯大学奥斯汀分校的一次演讲中，计算机科学教授 Scott Aaronson(目前是 OpenAI ChatGPT的客座研究员)透露，OpenAI 正在开发一种工具，用于“对文本 [AI 系统] 的输出进行统计加水印”。每当ChatGPT生成文本时，该工具就会嵌入一个“不易察觉的秘密信号”，指示文本的来源是AI生成的。

Aaronson 说，OpenAI 工程师 Hendrik Kirchner 构建了一个工作原型，并希望将其构建到未来 OpenAI 开发的系统中。目的是:防止学术作弊和大规模垃圾内容对群众造成误导。

为了消息的准确性，查看了多处新闻来源：

来源1

https://www.newscientist.com/article/2350655-openai-is-developing-a-watermark-to-identify-work-from-its-gpt-text-ai/

来源2

https://www.searchenginejournal.com/ChatGPT-watermark/475366/#close

来源3

https://techcrunch.com/2022/12/10/openais-attempts-to-watermark-ai-text-hit-limits/

下面是GPT暗码水印的技术解释：

“对于 GPT，每个输入和输出都是一串 token，可以是单词，也可以是标点符号，单词的一部分，或者更多——总共大约有 100.000 个 token。

GPT 的核心是不断生成下一个要生成的 token 的概率分布，以先前 token 的字符串为条件。

在神经网络生成分布后，OpenAI 服务器实际上会根据该分布或分布的某些修改版本对令牌进行采样，具体取决于称为“温度”的参数。

但是，只要温度不为零，下一个标记的选择通常会有一些随机性：您可以使用相同的提示一遍又一遍地运行，并且每次都得到不同的完成(即输出标记字符串) .

因此，水印不是随机选择下一个标记，而是伪随机选择它，使用加密伪随机函数，其密钥只有 OpenAI 知道。”

设想

如果ChatGPT的水印技术与谷歌搜索引擎合作，帮助谷歌识别出ChatGPT生成的内容，然后谷歌按照质量指南将这些内容按照自动生成内容处理，这将打击很多自动生成的SEO文章。现在的AI野蛮生长，AI文章，AI图片，AI换脸视频，都给人们造成了以假乱真的效果，的确存在隐形风险。或许将来无论是AI文章，还是图片和视频都会要求被自动识别，以防止假新闻误导人们。这可能是将来像谷歌，微信这些科技巨头要做的事情。

注意：ChatGPT生成内容有暗码识别，慎用! 第3张