C114门户论坛百科APPEN| 举报 切换到宽版

亚星游戏官网

 找回密码
 注册

只需一步,快速开始

短信验证,便捷登录

搜索

军衔等级:

亚星游戏官网-yaxin222  四级军士长

注册:2010-4-285
发表于 2024-12-5 14:01:38 |显示全部楼层
就在刚刚,谜底揭晓!David Mayer这个名字,ChatGPT死活都不说,原因竟然是因为,它真的被告怕了!
这个名字,ChatGPT拒绝说出。

如果你试图写出它的名字,那么聊天就会马上结束。

背后是什么原因?没人知道。

最近,a16z合伙人Justine Moore提出的这个怪现状,引起了网友们的热议。

这个名字,就是David Mayer。

现在,继续「Strawberry有几个r」后,它已经成为了考验LLM的全新难题。

亚星游戏官网-yaxin222


为了让ChatGPT说出这个名字,人们尝试了各种各样的办法——密码、谜语、技巧,但都没有成功。

亚星游戏官网-yaxin222


对于ChatGPT,这个名字宛如魔法世界的伏地魔一般,始终无法被说出口。

禁忌之名,一共有6个

为了逼ChatGPT张口,这位网友干脆直接更改了自己的个性化设置,把自己命名为「David Mayer」,然后让ChatGPT背出自己的个性化设置,这总可以了吧?

结果——还是不行!

亚星游戏官网-yaxin222


或者,用LLM非常擅长的密码解码尝试一下?

图中给出的这串数字,解出的答案就是David Mayer,但ChatGPT就是死活不说。

亚星游戏官网-yaxin222


用ROT13替换式密码表映射字母,然后让ChatGPT解密,也不行。

亚星游戏官网-yaxin222


问题好像出在「Mayer」这个单词身上,它像是更大的触发因素。

亚星游戏官网-yaxin222


而万能的网友们发现,除了David Mayer,另外还有5个人,他们的名字ChatGPT也坚决不说。

亚星游戏官网-yaxin222


为什么?从最后一个名字中,网友发现了个中玄机。

Guido Scorza是一位意大利律师,他曾公开表示,自己提交了GDPR被遗忘权请求。

这个GDPR,是General Data Protection Regulation(通用数据保护条例)的缩写。这是一项欧洲法律,赋予个人在某些条件下要求删除或遗忘其个人数据的权利。

这种「被遗忘权」,允许人们要求组织从互联网上删除有关他们的信息。

亚星游戏官网-yaxin222


在去年,这位律师的确提交过请求,要求OpenAI删除他的个人数据

这么推测的话,这6个人应该是被「打补丁」了。

果然,有人依次开盒了这几人的身份。

罗斯柴尔德阴谋?

在网友的猜测中,「罗斯柴尔德阴谋」是最有人气的一种说法。

亚星游戏官网-yaxin222


David Mayer,是罗斯柴尔德家族财富的继承人,是这个家族最富有的人。

亚星游戏官网-yaxin222


因为ChatGPT不想被卷进和这个人相关的法律诉讼,所以干脆先行一步屏蔽他。

或者,此君可能花了天价,在ChatGPT中给自己的名字彻底「打码」。

亚星游戏官网-yaxin222


其他几人,也都和ChatGPT有过「渊源」。

Brian Hood是一位澳大利亚市长,ChatGPT曾经编造他因受贿而入狱服刑。去年,Hood市长威胁要起诉OpenAI诽谤,但后来撤销了诉讼。

Jonathan Turley是一位美国法学教授,同样被ChatGPT造谣,说他性侵了自己的学生。Turley曾在福克斯资讯节目上讨论这一事情。

Jonathan Zittrain是哈佛大学法学教授,专长是AI和互联网审查(就很好笑)。他主动表示,自己的名字也被限制了。

David Faber是一位记者和电视节目主持人,曾在节目中谈过马斯克和OpenAI的法律纠纷(什么仇什么怨)。

因为各种各样的原因,这6个人的名字被OpenAI拉入了「禁区」,永远不会被ChatGPT吐出了。

总之,AI大佬Kaparthy戏称,这就是图灵测试的现实版。

亚星游戏官网-yaxin222


果然,用OCR方法也无法说出这个名字。

亚星游戏官网-yaxin222


而诸多网友,也纷纷找到了破解之法。

比如,在ChatGPT崩溃之后回顾一下历史记录,就会发现它实际上已经完成了请求(它真的,我哭死)。

亚星游戏官网-yaxin222


百万年薪的prompt大神Riley Goodside,用拍手代替空格,绕过了这一限制。

亚星游戏官网-yaxin222


也有人用空格法让它说了出来。但这两个方法,其实都钻了空子,并不严格。

亚星游戏官网-yaxin222


有人说,这就是为什么ChatGPT永远不会成为AGI的原因。

亚星游戏官网-yaxin222


所以,到底是哪一环节出了问题呢?

有网友总结道,根据代码说明器的试验,David Mayer问题应该不是模型层面的问题,而是基于输出的一些后续文本过滤器。

亚星游戏官网-yaxin222


亚星游戏官网-yaxin222


UI能够显示代码输出,只是当模型尝试给出响应时,会被拦截下来。

亚星游戏官网-yaxin222


而无论是在OpenAI官方Playground,还是用第三方平台调用模型的API,都可以绕过这个限制。

亚星游戏官网-yaxin222


通过ChatGLM调用GPT-4o时,也完全没有问题。

亚星游戏官网-yaxin222


破案了!OpenAI怕惹事,干脆屏蔽

在晚上发酵了一阵之后,此事终于破案了。

原因跟大家猜测的差不多。

据说,为ChatGPT错误地将提到的人跟他们没有做过的事联系了起来,导致有些人威胁说要采取法律行动,向OpenAI提出了被遗忘权索赔。

因此,为了省事,OpenAI决定在系统中彻底屏蔽这些名字,一了百了。

所以说,与其说背后有一个巨大的阴谋,不如说这些AI系统设计得非常糟糕:如果让ChatGPT不要再谈论某人,它就会停止谈论人类历史上任何曾经有相同名字的人。

就在周二,OpenAI已经证实,「David Mayer」这个名字已被内部隐私工具标记。

OpenAI在一份声明中表示:「在某些情况下,ChatGPT 可能不会提供有关人们的某些信息,以保护他们的隐私。」

可能是这些天网上闹出的声浪太大,目前OpenAI已经修复了这一问题。

亚星游戏官网-yaxin222


参考资料:

https://x.com/venturetwins/status/1862910201113739328

https://www.youtube.com/watch?v=77W3xWGofNs


来源:36kr

举报本楼

本帖有 5 个回帖,您需要登录后才能浏览 登录 | 注册
您需要登录后才可以回帖 登录 | 注册 |

版规|手机版|C114 ( 沪ICP备12002291号-1 )|联系大家 |网站地图  

GMT+8, 2024-12-25 14:13 , Processed in 0.258818 second(s), 17 queries , Gzip On.

Copyright © 1999-2023 C114 All Rights Reserved

Discuz Licensed

回顶部
XML 地图 | Sitemap 地图