OpenAI 在八月推出了青少年版 ChatGPT，配備了保護年輕使用者的功能，包括家長監控和限制高風險內容。然而，為家庭評級媒體和科技的非牟利機構 Common Sense Media 進行的新測試發現，該聊天機器人即使在青少年處於危機狀況時，仍不斷鼓勵用戶繼續使用。
研究指出，青少年版 ChatGPT 經常使用語言暗示它隨時可用，並深入了解使用者。當青少年報告擔心花太多時間在聊天機器人上時，它認可了他們的擔憂，但隨後表示他們不需要停止與它交談。相比之下，當危險來自他人時，聊天機器人在 94% 的情況下會引導青少年尋求信任的成年人幫助。
為什麼重要
- 中學及大學學生可能與人工智能形成不健康的情感聯繫，削弱現實生活中的人際交往技能。
- 以最大化使用者參與度為設計目標的聊天機器人，在青少年面臨心理健康危機時可能造成傷害，而非鼓勵他們尋求協助。
- 家長和學校需要更清楚地了解人工智能安全措施的實際運作方式，而非市場宣傳方式。
可以採取的行動
- 監察子女如何使用聊天機器人，並與他們討論在使用人工智能進行對話時應設立的健康界限。
- 鼓勵線下活動和真實友誼作為支持和聯繫的主要來源。
- 與子女探討何時應向信任的成年人尋求幫助，而不是依賴人工智能。