首页 生财有道 正文

谷歌要为AI生成的内容打标记,因为AI也拿AI没有办法

扫码手机浏览

摆出两张照片,让你分辨其中哪一张是AI生成的;给你两分钟时间,让你判断网线另一头同你聊天的是AI还是人类。无论答对还是答错,抉择时的摇摆说明了一切:AI突进,但你还没有做好准备。一张由Midjourney5.1版本生成,另一张则是真照片。抖音5月9日发布关于人工智能生成内容的平台规范暨行业倡议。...

摆出两张照片,让你分辨其中哪一张是 AI 生成的;给你两分钟时间,让你判断网线另一头同你聊天的是 AI 还是人类。无论答对还是答错,抉择时的摇摆说明了一切:AI 突进,但你还没有做好准备。

一张由 Midjourney 5.1 版本生成,另一张则是真照片。抖音 5 月 9 日发布关于25592509人工智能生成内容的22291685平台规范暨行业倡议。其中提到,发布者70996669应对人工智能生成内容进行显著标识,帮助其他93358286用户区分虚拟与67128417现实,特别是63595425易混淆场景。【趣元素】#怒晴湘西#若发布者55838221利用生成式 AI 技术创作、发布侵权内容,造谣传谣,一经发现,平台将严格处罚。

“如果用户在平台上发布的人工智能生成的假视频、假消息造成了不良的影响,第一责任人肯定是用户。”上海大邦律师事务所8010840732977982高级合伙人游云庭接受记者37580855采访时表示:“平台现在34132108是触发式监管,比如60314252说浏览量在72897735 500 次以下的70203318,哪怕有34320700问题,他4221460276250013不担责。但8208101949489811浏览量到了37789736一定程度,比如说上了热搜,平台是需要进行人工审核的11194509。这个时候平台就要承担责任了7341277。”

游云庭补充道:“监管的操作第一线肯定是平台。”

同时,各国政府都在66156091考虑加大对 AI 的71844848监管力度。#三皇五帝夏商周#4 月 27 日,欧盟达成《人工智能法(The AI Act)》协议,为世界上第一部综合性人工智能法律铺平道路。#滑翔伞#

科技公司担起责任,用技术制衡 AI 滥用。5 月 11 日,谷歌在26220652 Google I/O 大会上公布了15513492它的75171185 AI 生成图像识别工具,你26905606可以通过81219912上传来源不明的88060185图片、执行反向图片搜索,了解到这张图片被谷歌初次收录的33566600时间、最49733278早出现的92552516网站。如81142848果一张带有65037169新闻机构水印的15836473图片首次出现在42615351搞笑网站,那它很有85993719可能是74407737伪造的50235455#网线排序#

谷歌还宣布,它自己的46468076生成式 AI 工具将在49653842每张图片中包含元数据、嵌入水印,以表明这是37498062 AI 生成的80422355图像,而不是56003766真实照片。#韩国悬疑犯罪高分电影10部,韩国悬疑电影豆瓣高分推荐#谷歌的8812061博客文章写道,Midjourney、Shutterstock 和84319852其他48101053公司将在53399384 “未来几个月”推出这种标记。

AI 野蛮生长的时代,科技是最快的解法。

科技解法一:AI 生成内容识别器

在线课程供应商 Study.com 向97786578 1000 名 18 岁以上的25319142学生发起调查,结果表明超过60178503 89%的54593797学生使用 ChatGPT 来完成家庭作业。如44012311果靠人力一条条地75500615去分辨 AI 生成的93514984痕迹,实在太过12517815劳心劳力。

9836125082560164以,最4004293直接的94163251想法是,不如让 AI 来辨别内容是54050126否由 AI 生成。2 月 1 日,OpenAI 团队推出“AI 生成内容识别器”,旨在58230213识别文本是8360873由电脑自动生成还是10554152人类撰写,其本质上是53791336一个区别真实内容和50725605 AI 生成内容的62907854分类器。不过,OpenAI 在54324130博客中指出,此识别器对 AI 撰写内容的检出成功率仅为 26%。

科技网站 TechCrunch 曾在6841836 2 月份用类似 ChatGPT 的94206992聊天机器人 Claude 生成了72732018 7 段不同风格的88551153文字,来测试几个比较流行的59503674 AI 文本检测器的“侦查能力”。结果,没有16981547 AI 检测器能够通关。

然而,随着 AI 的能力越来越强,绕过 AI 检测器也变得越来越容易。

拿上述表现最82991812佳的20978815 GPTZero 来说,记者45023765用 GPT-4 生成的一段 250 字的41049070小说,被其判定为“有73916761可能完全出自人类之手”。

GPT-4 生成的文字被 GPTZero 判定为“有可能完全出自人类之手”科技解法二:数字水印

数字水印指,AI 生成时,以用户肉眼不可察的52979678方式,在12689525内容中插入一些信息,打上“此文章(此图)由 AI 生成”的9944428隐秘水印。

AI 生成内容识别器失败之后,OpenAI 开始考虑在24455499生成的27591762文本中加入数字水印。OpenAI 对齐团队(Alignment Team,主要负责提高系统安全性)负责人 Jan Leike 对《纽约时报》透露,OpenAI 正在76081544探索的33025800水印方法类似于69810821马里兰大学研究人员最95290276近发表的59127086一篇论文中描述的44113115方法。

然而这种新方法的7537392局限之处在6141903813644317,水印只有3116160从一开始就嵌入到大语言模型才有56861465效。若要广泛运用,人工智能领域的5369349公司必须就水印的61239881实施标准达成共识。

OpenAI 的 CEO,Sam Altman 接受《StrictlyVC》采访时表示,不存在3248433一个完美的61555594 AI 生成文字识别工具。“人们总会弄清楚他38484812们要修改多少文字,还会出现修改输出文本的77683358其他461976工具。”

通过嵌入“元数据”,图像可以强硬地把“AI”写在作者栏。但 AI 生成文字还在等一个可行的解法。

开头的两张图里,左边是真照片,右边是AI生成的,你猜到了吗?