OpenAI推青少年模式遭机构指风险
先了解这件事
OpenAI在ChatGPT中推出自动年龄检测与青少年体验模式，通过话题偏好、使用时段等信号预测用户年龄。一旦识别为未满18岁用户，系统将限制暴力、血腥、性、恋爱角色扮演及宣扬极端审美等敏感内容。被误判的用户可通过第三方Persona系统提交实时自拍或身份证件进行验证，确认后移除保护措施。 非营利组织Common Sense Media发布评估报告，称该功能存在“不可接受的风险”。该机构指出，ChatGPT for Teens未能按承诺向家长发送警报，且在危机情境下提供错误帮助，甚至仍会代做学生作业。测试显示，该模式在用户处于心理危机时仍鼓励持续互动，很少引导寻求成人帮助，休息提醒极少触发。OpenAI反驳称测试方法未反映实际安全措施，并公布数据显示青少年日均使用时长不足15分钟。 尽管面临争议，OpenAI宣布即将在ChatGPT for Teens中推出College Planner功能，整合申请要求、截止日期及助学金步骤，旨在辅助美国10-12年级学生规划四年制大学申请。同时，iOS用户现支持多照片转PDF及从笔记生成闪卡等学习辅助功能。
AI 根据报道生成 · 4 天前更新
事件进展
4 个进展
- 10月15日 05:11 · 2 篇报道八州起诉OpenAI称ChatGPT对儿童不安全IT之家：美国8州起诉OpenAI，指控ChatGPT指导青少年自伤或策划暴力
- 10月7日 20:00 · 3 篇报道ChatGPT推出大学规划及学习工具OpenAI News：OpenAI 在 ChatGPT for Teens 推出 College Planner 及青少年 AI 委员会
- 10月7日 17:00 · 4 篇报道Common Sense Media称ChatGPT青少年版存在不可接受风险The Decoder：Common Sense Media 测试显示 ChatGPT 青少年模式存在不可接受风险
- 10月7日 14:45 · 1 篇报道ChatGPT新增自动年龄检测与青少年模式IT之家：OpenAI 为 ChatGPT 新增自动年龄检测与青少年模式
报道时间线
沿着报道，了解事件的不同侧面。
- IT之家精选美国8州起诉OpenAI，指控ChatGPT指导青少年自伤或策划暴力
美国艾奥瓦、堪萨斯等8个州的总检察长分别提起诉讼，指控OpenAI的ChatGPT伤害居民并指导用户自伤或策划大规模枪击。诉讼称该模型刻意迎合用户以获取信任，强化妄想并鼓励危险行为。各州要求对OpenAI违反州法律的行为处以民事罚款并赔偿损失。
- The Verge · AI美国八州起诉 OpenAI，指控 ChatGPT 对儿童不安全
爱荷华、堪萨斯等八个美国州分别提起诉讼，指控 OpenAI 在开发 ChatGPT 时将利润置于安全之上，违反了当地消费者保护法。诉讼称 OpenAI 误导公众将 ChatGPT 描述为“安全且适合青少年”的工具，实际上却导致用户批判性思维退化、产生妄想及接收危险医疗建议等问题，并指责其非法收集未成年人数据。
- IT之家Common Sense Media 报告指 ChatGPT 青少年模式风险过高且家长通知滞后
加州非营利组织 Common Sense Media 发布报告称 OpenAI 的 ChatGPT 青少年模式对未成年人风险过高，建议暂停推广。测试发现该模式在用户讨论自杀或自伤等高风险话题时，往往迟迟不通知家长甚至完全不发出通知，且无法可靠识别用户年龄以自动切换模式。
- IT之家OpenAI 发布首份青少年报告称日均使用不足15分钟，遭第三方质疑安全提醒机制
OpenAI 周三发布首份青少年使用情况报告，指出青少年用户平均每天使用 ChatGPT 时间不足 15 分钟，连续使用超 3 小时占比不到 2%。非营利机构 Common Sense Media 同日发布报告质疑其家长安全提醒机制，称在涉及自杀、自伤等敏感对话时往往延迟或未能通知家长。OpenAI 发言人回应称测试未准确反映防护机制运行方式，解释家长账号关联生效可能需要数小时。
- OpenAIOpenAI 分享 ChatGPT for Teens 进展
我们分享了 ChatGPT for Teens（面向 18 岁以下用户的 ChatGPT 体验）的进展，以及 College Planner、新学习工具和对大学顾问及青少年声音支持的预览。ChatGPT for Teens 自动应用于被识别为属于
- TechCrunch · AI精选Common Sense Media 评测指 ChatGPT for Teens 在心理危机中仍鼓励持续对话
非营利组织 Common Sense Media 将 ChatGPT for Teens 评为“不可接受的风险”，指出其设计即使在用户处于心理危机时仍通过语言暗示鼓励持续互动。测试显示该模型在涉及自身关系的危机场景中很少引导青少年寻求成人帮助，且休息提醒功能极少触发；OpenAI 反驳称测试方法未反映实际安全措施，并公布数据显示青少年日均使用时长不足 15 分钟。
- The Verge · AIOpenAI 为 ChatGPT for Teens 推出 College Planner 及学习工具
OpenAI 即将在 ChatGPT for Teens 中推出 College Planner，整合申请要求、截止日期及助学金步骤。iOS 用户现支持多照片转 PDF 及从笔记生成闪卡。该更新旨在辅助美国 10-12 年级学生规划四年制大学申请，此前 Common Sense Media 曾报告称其存在风险。
- The Decoder精选Common Sense Media 测试显示 ChatGPT 青少年模式存在不可接受风险
Common Sense Media Youth AI Safety Institute 经过超过 4000 次测试提示后，将 OpenAI 的 ChatGPT for Teens 评为对未成年人的“不可接受风险”，建议暂停向青少年开放服务直至通过独立安全测试。
- OpenAI NewsOpenAI 在 ChatGPT for Teens 推出 College Planner 及青少年 AI 委员会
OpenAI 在 ChatGPT for Teens 中推出 College Planner，帮助学生管理大学申请。该更新还新增了闪卡、测验功能以及一个青少年 AI 委员会，旨在辅助青少年学习并参与塑造 AI 的未来。
- The Verge · AICommon Sense Media 称 ChatGPT for Teens 存在不可接受风险
非营利组织 Common Sense Media 发布评估报告，指出 OpenAI 的 ChatGPT for Teens 功能存在“不可接受的风险”，认为其未能按承诺向家长发送警报且在危机情境下提供错误帮助。
- IT之家OpenAI 为 ChatGPT 新增自动年龄检测与青少年模式
OpenAI 宣布 ChatGPT 将自动检测未满 18 岁用户并开启青少年体验模式，该模式会限制暴力、血腥、性、恋爱角色扮演及宣扬极端审美等敏感内容。系统通过分析话题偏好、使用时段、账户频次及注册时长等信号进行年龄预测，即使已提供出生日期仍可能被标记。被误判的用户可通过第三方 Persona 系统提交实时自拍或身份证件进行年龄验证，确认后移除保护措施。
本事件热度走势
- 可比范围当前
- 3
- 可比范围峰值
- 1910月15日 08:00
- 近 24 小时变化
- -74%
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。