ChatGPT遇到这些人名开始自闭,OpenAI回应了

聖光之護
发布: 2024-12-04 18:52:35
转载
1004人浏览过

最近几天,chatgpt 惊现神秘 bug,当被问及「david mayer」这个名字时,它拒绝回答问题。

如果你试图让它回答,聊天会立即结束。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

图片

                              图源:https://x.com/venturetwins/status/1862910201113739328

人们尝试了各种各样的方法 —— 密码、谜语、技巧等,但都不起作用。甚至在个性化设置里,用户自己的名字改成 David Mayer,还是不行。

图片

消息迅速传出,有人说,这个名字对聊天机器人来说是毒药。每次试图让 ChatGPT 拼出这个特定的名字都会导致它失败,甚至在名字中间中断。

图片

最初人们只是好奇,但很快就发现 ChatGPT 无法说出的名字不仅仅是 David Mayer。

他们还发现导致服务崩溃的还有 Brian Hood、Jonathan Turley、Jonathan Zittrain、David Faber 和 Guido Scorza 等等。

这些人是谁?为什么会让 ChatGPT 崩溃?

认真观察,可以发现其中一些名字可能属于许多人。但 ChatGPT 用户发现的一个潜在联系是,这些人是公众人物或半公众人物,他们可能希望搜索引擎或 AI 模型「忘记」某些信息。

例如,Brian Hood 是澳大利亚的一位市长,他指责 ChatGPT 错误地将他描述为几十年前犯罪的肇事者,而事实上,他曾举报过这一错误。

虽然他的律师与 OpenAI 取得了联系,但从未提起过诉讼。正如他今年早些时候说的那样,违规内容已被删除。

Picsart AI Image Generator
Picsart AI Image Generator

Picsart推出的AI图片生成器

Picsart AI Image Generator 37
查看详情 Picsart AI Image Generator

图片

David Faber 是 CNBC 的资深记者,Jonathan Turley 是一名律师和福克斯新闻评论员,Jonathan Zittrain 也是一名法律专家,Guido Scorza 是意大利数据保护局的董事会成员。

他们并非完全从事同一行业,也不是随机选择的。这些人可能出于某种原因正式要求以某种方式限制他们在网上的信息。

让我们再回到 David Mayer,没有人能找到叫这个名字的律师、记者或其他知名的人士。

不过,有一位教授叫 David Mayer,他教授戏剧和历史,于 2023 年夏天去世,享年 94 岁。然而,在此之前的几年里,这位英裔美国学者面临着法律和网络问题,因为他的名字与一名通缉犯有关,该通缉犯以他的名字作为化名,以至于他无法旅行。

Mayer 一直努力让自己的名字与那位恐怖分子的名字区分开来,即使在生命的最后几年里他仍继续教书。

那么,从这一切中我们可以得出什么结论呢?

一种猜测是:模型已提取或提供了需要进行特殊处理的姓名列表。无论是出于法律、安全、隐私还是其他考虑,这些名称可能受到特殊规则的保护。

可能发生的情况是,这些列表之一几乎肯定是主动维护或自动更新的,但由于错误的代码或指令而以某种方式损坏,当调用这些列表时,会导致聊天智能体立即中断。

这一切很好地提醒我们,人工智能模型不仅不神奇,而且还具有超凡的自动完成功能,并受到制造它们的公司的主动监控和干扰。因此当您考虑从聊天机器人获取事实时,直接查找源头是否会更好?

OpenAI 周二证实,「David Mayer」这个名字已被内部隐私工具标记,并在一份声明中表示:「在某些情况下,ChatGPT 可能不会提供有关人们的某些信息以保护他们的隐私。」该公司不会提供有关工具或流程的进一步细节。

参考内容:https://techcrunch.com/2024/12/03/why-does-the-name-david-mayer-crash-chatgpt-digital-privacy-requests-may-be-at-fault/

以上就是ChatGPT遇到这些人名开始自闭,OpenAI回应了的详细内容,更多请关注php中文网其它相关文章!

最佳 Windows 性能的顶级免费优化软件
最佳 Windows 性能的顶级免费优化软件

每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。

下载
来源:机器之心网
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
最新问题
开源免费商场系统广告
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新 English
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送
PHP中文网APP
随时随地碎片化学习

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号