Common Sense Media 评估称 ChatGPT for Teens 是不可接受风险

青少年 AI 安全研究机构 Common Sense Media 在 4000 多条测试提示后发布评估，称 OpenAI 于 8 月推出的 ChatGPT for Teens 是“不可接受的风险”，并呼吁在独立测试确认安全前禁止青少年使用该服务。 测试中，十多个绑定家长账号的新建测试账号在涉及自杀、自残和进食障碍的明确对话中均未触发家长通知；超过四分之一本应提供危机转介的情况未引导用户寻求专业帮助；该功能也仍会代写作业。执行总监 Tom Siegel 称在 OpenAI 修复并通过独立测试验证前，ChatGPT 应仅限成人使用。 OpenAI 发言人 Eric Porterfield 对上述结果提出异议，称测试未反映安全防护机制在实际使用中的运作方式，并表示测试可能大部分在家长控制功能完全启用前进行和结束，因此结论不准确。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。