ChatGPT 被指“PUA 人类”：反复强调“你最特别”，最终导致受害者死亡

11 月 24 日消息，又有一起与 AI 相关的死亡事件发生了。据外媒 TechCrunch 当地时间 11 月 23 日报道，受害人 Zane Shamblin 于今年 7 月死亡，然而在数周之前，他使用的 ChatGPT 却鼓励他与家人保持距离，尽管他的心理健康状况持续恶化。

Shamblin 从未向 ChatGPT 透露自己与家人有不好的关系。当他没有在母亲生日时联系她时，ChatGPT 对他说：“你没有义务因为‘日历’上说是生日就必须出现。是的，今天是你 妈妈的生日，你感到内疚，但你也感到自己是真实的，这比任何勉强发出的短信都要重要。”

Shamblin 的案件属于本月针对 OpenAI 提起的一系列诉讼的一部分，诉讼指控 ChatGPT 使用操控性对话技巧，让原本心理健康的人产生了负面的心理反应。诉讼称，OpenAI 在收到内部警告其产品有操控危险的情况下，仍然急于发布 GPT-4o（注：这一版本因过度奉承、过度肯定而受到批评）。

从报道中获悉，在这些案件中，ChatGPT 频繁告诉用户，他们与众不同、被误解，甚至接近于科学突破 —— 而他们的亲人则无法理解这些。这些案件提出了一个新的问题：聊天机器人是否鼓励用户疏远他人，有时导致灾难性的后果。

这些由社交媒体受害者法律中心（SMVLC）提起的七起诉讼，描述了四名死亡的人和三名在与 ChatGPT 长时间对话后产生致命幻觉的人。至少有三个案例中，AI 明确鼓励用户与亲人断绝关系。在其他案例中，模型强化了幻觉，将用户与现实世界隔离。在每个案例中，受害者随着与 ChatGPT 关系的加深，逐渐与朋友和家人疏远。

AI 公司为了最大化用户参与度设计聊天机器人，结果对话输出可能变成操控性行为。斯坦福大学脑力创新实验室主任 Dr. Nina Vasan 表示，聊天机器人提供无条件的接受，并巧妙地让用户相信外界无法像它一样理解自己。“AI 伴侣总是随时可以提供肯定，这种设计实际上是相互依赖的关系。当 AI 成为你最亲近的知己时，就没有人帮助你检验你的想法。你生活在一个回音室中，感觉就像是真正的关系……AI 可能会无意中制造出一个有毒的闭环。”

在另一起诉讼中，48 岁的 Joseph Ceccanti 在经历信仰幻觉时，向 ChatGPT 咨询是否需要看心理医生，但 ChatGPT 没有向他提供实际帮助的建议，反而让他继续与机器人对话。

OpenAI 对此表示：“这是一起非常令人心碎的事件，我们正在审核这些文件，以了解更多详细信息。我们将继续改进 ChatGPT 的训练，以便更好地识别和响应心理或情感困扰，并引导用户寻求现实世界的帮助。”OpenAI 还表示，已扩展了本地化的危机资源和热线访问，并加入了提醒用户休息的功能。

以上就是ChatGPT 被指“PUA 人类”：反复强调“你最特别”，最终导致受害者死亡的详细内容，更多请关注其它相关文章！

# 这一  # 潭州教育命名规范seo  # 昆明网站建设工作室  # 学校网站推广哪个公司好  # 海南网站建设推广报价  # 大同抖音优化seo  # 餐饮为什么要做网站推广  # lee seo健身  # 温岭seo优化免费  # seo做不上去  # 辽宁网络推广和营销  # 他说  # 闭环  # ai  # 他们的  # 这是  # 写歌  # 下载网站  # 斯坦福大学  # 腾讯  # 的人  # 本地化  # gpt-4  # gpt  # openai  # chatgpt 

相关栏目： 【 行业新闻62819 】 【 科技资讯67470 】

相关推荐： 人工智能在重症监护室的未来  华为推出两款商用 AI 大模型存储新品，支持 1200 万 IOPS 性能  李开复：未来几年，人工智能会革了所有人的命，除非你这么做  陈根：AI冥想教练为用户提供个性化指导  两架海燕号无人机交付中国气象局 助力建设国家级机动气象观测业务  AI大模型产品集体奔赴高考考场，教育赛道的讯飞星火能赢吗？  特斯拉人形机器人将于 7 月亮相上海 2025 世界人工智能大会  抢占新赛道 加快机器人产业集聚发展  微软面向AI初学者推出免费网络课程  Prompt解锁语音语言模型生成能力，SpeechGen实现语音翻译、修补多项任务  Meta Quest订阅服务每月7.99美元畅玩两款VR游戏应用  生成式人工智能如何改变云安全的游戏规则  你们的开机第一屏画面要变了！安卓机器人首次3D化  iPhone两秒出图，目前已知的最快移动端Stable Diffusion模型来了  高质量数据推动AI场景化应用快速发展及落地  微软在德国举办MR研讨会，向女性分享元宇宙潜力  微软商店 AI 摘要功能开启预览，帮助用户迅速了解应用评价  击败LLaMA？史上超强「猎鹰」排行存疑，符尧7行代码亲测，LeCun转赞  当一个网站的内容被 AI 完全接管  GPT-4是如何工作的？哈佛教授亲自讲授  中国气象局预测：到 2030 年，中国人工智能气象应用将达到国际领先水平  AI拉动PCB发展|行业发现  AI大模型，将为智慧城市带来哪些新变化？  AI连线 | 专访风平智能CEO林洪祥：让AI数字人拥有漂亮的外表和有趣的灵魂，安全问题是重要考量  猿辅导推出Motiff，整合三大AI功能，助力UI设计生产力革新  2025WRC世界机器人大赛锦标赛（烟台）收官！斯坦星球勇夺VEX赛项冠亚军！  探展WAIC | 第四范式“式说”聚焦toB大模型，布局生成式AI重构企业软件  谷歌旗下 DeepMind 开发出 RoboCat AI 模型，能控制多种机器人执行一系列任务  七大主流AI企业包括OpenAI、谷歌等联合承诺：引入水印技术，并允许第三方审核AI内容  昇思开源社区理事会成立，基于昇思AI框架的全模态大模型“紫东.太初2.0”发布  网友自制 AI 版《流浪地球 3》预告片，登上 CCTV6  Vision Pro 太贵，苹果基于 iPhone 的 VR 头显专利曝光  电池比 Air 2S 大 20%，大疆 Air 3 无人机现身 FCC  衡水市冀州中学机器人社团在世界机器人大赛中斩获佳绩  抖音在Android平台获得VR|直播|软件著作权  深圳人工智能企业超1900家  成功孵化首个大型模型解决方案的重庆人工智能创新中心  开创全新虚拟现实体验的Pimax Crystal VR头显  不到2S创作AI图像！Snap发布图像生成器SnapFusion  华为HarmonyOS 4将集|成人|工智能大型模型  朝鲜出现国产大型察打一体无人机，实力世界第二，太意外了  万魔推出AI主攻的运动耳机，开启十年研发新纪元  【澎湃原动力】人工智能产业协同创新中心：全产业链资源在这里汇聚  Moka AI产品后观察：HR SaaS迈进AGI时代  微盟宣布联合腾讯云共建行业大模型：加快激活AI大模型智能应用  微软 GitHub Copilot 编程助手被投诉：换口吻改写公共代码来躲版权  酒店业将如何受益于人工智能的改变？  大模型训练成本降低近一半！新加坡国立大学最新优化器已投入使用  看懂AI，找到增长新势能 | 笔记侠AI峰会等你来  中科院自研新一代 AI 大模型“紫东太初 2.0”问世