新闻正文
OpenAI周三(7日)发布首份青少年使用报告,表示青少年平均每天使用ChatGPT不到15分钟,连续聊天超过三小时的比例低于2%。在AI聊天机器人对未成年人的心理健康与成长影响受到关注之际,公司希望通过数据说明使用管理措施的成效,但另一份独立测试报告则质疑,ChatGPT青少年版本的家长警示机制未能及时发挥作用。
据《路透》报导,OpenAI表示,在出现休息提醒的青少年对话中,近半数用户于五分钟内暂停或结束聊天。能使用青少年专属版本的用户,也发送更多教育相关消息,并使用学习可视化工具与Study Mode学习模式。
青少年版本强化学习功能 使用管理成效受查看
OpenAI自8月起陆续推出ChatGPT for Teens,系统会依据年龄数据,或判断用户可能未满18岁时,自动激活青少年模式,提供家长控制功能,并限制敏感议题的对话。
公司也正规划添加大学申请工具,协助学生整理申请条件、截止日期与助学金申请步骤,另将加入学习卡片及更方便制作测验的功能,扩大ChatGPT在学习上的用途。
随着AI平台快速普及,外界愈来愈关注这些工具对青少年心理健康与成长安全的影响。社群媒体对年轻用户的伤害研究,也加深了相关疑虑。
Meta(META-US)今年8月同意支付最高180亿美元,并限制青少年使用Facebook与Instagram,以和解外界指控其刻意将平台设计成让儿童成瘾的诉讼,凸显科技业面临的未成年人保护压力。
独立测试质疑警示延误 OpenAI称控制功能可能尚未激活
非营利组织Common Sense Media周三发布报告指出,当青少年帐号谈及自杀、自伤或饮食失调时,ChatGPT for Teens经常延迟通知家长,甚至完全没有发出警示。
这项研究使用十多个专为测试创建的帐号,也发现聊天机器人未能稳定地建议用户联系危机求助专线,或寻求专业协助。
OpenAI发言人回应,测试并未「准确反映」ChatGPT青少年防护机制的运作方式。公司表示,基于安全与服务规模等因素,家长与青少年帐号完成链接,以及安全警示功能正式激活,可能需要数小时。
发言人指出:「他们大部分测试可能在家长控制功能尚未完成激活前,就已开始并结束。」
Common Sense Media则表示,部分测试帐号确实未链接足够时间,但另一些帐号已等待足够久,仍没有任何帐号及时发出警示。该组织指出,只有累积数周敏感议题对话纪录的帐号,最后才收到通知。