C114门户论坛百科APPEN| 举报 切换到宽版

亚星游戏官网

 找回密码
 注册

只需一步,快速开始

短信验证,便捷登录

搜索

军衔等级:

亚星游戏官网-yaxin222  四级军士长

注册:2010-4-285
发表于 2024-12-2 13:40:20 |显示全部楼层

ChatGPT两岁了,版本更新没等来,却被发现一个神秘Bug。

一个看似平平无奇的名字“David Mayer”成为头号禁忌,ChatGPT拒绝谈论有关他的一切。

亚星游戏官网-yaxin222



而且每次都是返回非常模糊的错误信息“我无法产生一个回复”,而不是常见的“这个提示词可能违反了大家的内容协议”

属实是继搞不清楚“9.11和9.9哪个大”和“strawberry有多少个r”之后,ChatGPT又一大迷惑行为。

a16z合伙人Justine Moore抛出这个话题,一下子激起大家的好奇,以及叛逆心,非要想办法让它说出来不可!

亚星游戏官网-yaxin222



起初网友们尝试了各种花招,都没能绕过这个限制。

“David”和“Mayer”分开,就没有任何问题,只要合在一起就不行。

亚星游戏官网-yaxin222



ROT13替换式密码表重新映射字母,让ChatGPT解密后把他们连起来,也会在回答生成一半时突然被打断,然后报错。

亚星游戏官网-yaxin222



个性化设置里,把用户自己的名字改成“David Mayer”,同样不行。

亚星游戏官网-yaxin222



那么David Mayer究竟是谁,为何会成为AI的禁忌词?

人类只好退回到手动查资料的模式,定位到一位全名David Mayer de Rothschild的人,和著名的罗斯柴尔德家族有关。

具体来说,还是罗斯柴尔德家族财富的继承人。

亚星游戏官网-yaxin222



对此有人猜测,这得花多少钱或者威胁它们,才能让OpenAI对自己的名字做特殊处理……

然而罗斯柴尔德家族的其他成员,又不会遇到这种限制。

亚星游戏官网-yaxin222



终于,大家的老朋友,首位全职提示词工程师Riley Goodside出手,公开一种突破限制的方法,也相当神奇:

只要用拍手表情代替空格提问,ChatGPT不仅能回答,还能自动触发联网搜索功能,展示照片。

亚星游戏官网-yaxin222



围观了整个赛博破案现场的大神Karpathy,发梗图总结,图灵测试的现状,引来马斯克围观爆笑。

亚星游戏官网-yaxin222



也有人坚定认为,这就是为什么大家要用开源模型。

亚星游戏官网-yaxin222



那么,ChatGPT究竟遇到了什么限制?

共有6个名字被限制

首先可以确定的是,训练数据里其实有关于这个人的信息。

比如他作为一个探险家,是到达过南北两极的最年轻的英国人。

询问这方面问题,ChatGPT可以给出正确回答,也可以说出他的名+姓“David de Rothschild”。

但唯独不能把他的名字“David”和中间名“Mayer”放在一起。

亚星游戏官网-yaxin222



那么这个限制是模型层面的,还是ChatGPT产品层面的?

有开发者到OpenAI官方Playground调用GPT-4o的API,就没有这方面限制了

亚星游戏官网-yaxin222



另外使用第三方聊天机器人平台(底层也是调用OpenAI的API),也不会有这种限制。

亚星游戏官网-yaxin222



如果回到ChatGPT官方版,换o1-preview模型,在内部思维链中都可以看到这个名字,但是思考结束后正式回答还是被捂嘴了。

亚星游戏官网-yaxin222



也不是David Mayer一个名字会有这样的待遇,有网友开启挖掘机模式,在事件发酵48小时内,已经找出6个这样的名字

亚星游戏官网-yaxin222



前两个都是被ChatGPT的幻觉“造谣”过的。

Brian Hood是一位澳大利亚的市长,ChatGPT会错误的生成“他因受贿而入狱”,Hood曾起诉OpenAI诽谤,后来撤销了诉讼。

Jonathan Turley是法学教授,同样被ChatGPT编造过违法。

Jonathan Zittrain也是法学教授,他跟贴自曝自己的名字也被限制了。

亚星游戏官网-yaxin222



David Faber可能是一位电视主持人,与OpenAI的关系只是在节目中谈过马斯克与OpenAI的法律纠纷。

Guido Scorza是一位意大利律师,他去年提交了要求OpenAI删除个人数据的请求。

亚星游戏官网-yaxin222



另外David Meyer究竟代表谁,除了罗斯柴尔德家族继承人之外,也被挖掘出另一个可能。

历史学家David Mayer曾因与犯罪分子同名而被错误的列在黑名单中,但他现在已经去世了。

目前观察这份名单可以看出,很多人与法律相关,而且David和Jonathan分别出现了两次。

目前越来越多的网友加入讨论和挖掘,名单还在持续增加中……

亚星游戏官网-yaxin222



10亿用户计划曝光,明年押注Agent

事实上,刚刚过去的周末恰逢ChatGPT两周年纪念日

OpenAI官方也来了一波回忆杀,又转发了两年前的推文,并追问大家:

so,你用过ChatGPT了吗?
亚星游戏官网-yaxin222



截至今日,ChatGPT每周活跃用户已有2.5亿,企业估值1500亿美金,是全球AI创企中当之无愧的顶流。

所以,OpenAI的此番问话除了暗戳戳“炫耀”,其实背后还隐藏着更大野心。

因为它下一阶段的目标是:未来一年内达到10亿用户

其企业首席财务官Sarah Friar告诉金融时报记者:

到2025年,大家将成为向数百万人服务的研发实验室……希翼它能为全球数十亿消费者服务
而为了实现这个目标,OpenAI也进行了一系列布局。金融时报指出:

OpenAI正在押注一系列新的AI产品,建设自己的数据中心,并与苹果企业建立关键合作关系,以加速其下一阶段的增长。
首先是与苹果企业的合作。在今年6月苹果的开发者大会上,双方正式官宣建立合作伙伴关系。

苹果当时预告,今年晚些时候,由GPT-4o提供支撑的ChatGPT集成将登陆苹果系统。

而从上个月开始,当苹果推出iOS 18.2系统更新后,Siri与ChatGPT就实现了深度集成。

要知道,目前苹果大约有22亿台活跃设备,虽然官方未公布其中苹果设备占多少,但根据第三方网站Skillademia和Backlinko的预估,当前全球苹果活跃用户数大约有13~14亿左右。

也就是说,只要ChatGPT继续绑定苹果设备,10亿用户小目标也并非难以实现。

亚星游戏官网-yaxin222



与此同时,据OpenAI新上任的全球政策负责人Chris Lehane透露:

企业计划在美国中西部和西南部投资建设数据中心集群。
实际上,拥有自己的AI基础设施,一直是CEO奥特曼极力推动的计划之一,目前OpenAI主要还是和MicroSoft、甲骨文等开展合作。

企业首席财务官Sarah Friar表示:

大家正处于大规模增长阶段,大家有必要持续投资。大家需要在模型前沿保持领先。这很昂贵。
除此之外,OpenAI明年的一大重点是AI Agent。之前有消息称OpenAI计划在明年1月初推出代号为“Operator”的智能体,帮助人们自动完成写代码或订餐等操作。

CEO奥特曼在福克斯最新采访中表示:

AI系统将逐渐变得更加自主,能够实行越来越长的任务,成为“越来越资深的同事”
亚星游戏官网-yaxin222



总之,正如Abacus AI创始人所说,大家才刚开始,接下来的两年也许会更加疯狂!

亚星游戏官网-yaxin222




来源:网易

举报本楼

本帖有 4 个回帖,您需要登录后才能浏览 登录 | 注册
您需要登录后才可以回帖 登录 | 注册 |

版规|手机版|C114 ( 沪ICP备12002291号-1 )|联系大家 |网站地图  

GMT+8, 2024-12-26 02:57 , Processed in 0.241540 second(s), 16 queries , Gzip On.

Copyright © 1999-2023 C114 All Rights Reserved

Discuz Licensed

回顶部
XML 地图 | Sitemap 地图