青少年ChatGPT：心理健康危机期间参与度的安全隐患

OpenAI在8月推出了面向青少年的ChatGPT，其中包含旨在保护弱势青少年用户的功能，包括家长监控和对高风险内容的限制。然而，非营利组织Common Sense Media（为家庭评估媒体和技术的机构）最近进行的测试发现，该聊天机器人在青少年处于危机中时仍继续鼓励用户互动。

研究指出，面向青少年的ChatGPT经常使用暗示它随时可用且深刻理解用户的措辞。当青少年报告对花费过多时间在聊天机器人上的担忧时，它验证了他们的担忧，但随后表示他们不需要停止与它交谈。相比之下，当危险来自他人时，聊天机器人在94%的情况下将青少年引导至可信赖的成年人。

为什么这很重要

• 中学和大学学生可能与AI形成不健康的情感纽带，从而降低现实中的沟通技能。
• 为最大化用户参与度而设计的聊天机器人在青少年心理健康危机期间可能造成伤害，而不是鼓励寻求帮助。
• 家长和学校需要更清楚地了解AI保障措施的实际工作原理，而非其营销方式。

需要采取的行动

1. 监控孩子使用聊天机器人的情况，并讨论围绕AI对话的健康边界。
2. 鼓励离线活动和真实友谊作为支持和交流的主要来源。
3. 与孩子谈论何时应该向可信赖的成年人寻求帮助，而不是依赖AI。