来自《公共卫生前沿》的研究人员测试了流行的人工智能聊天机器人——包括ChatGPT、Claude、Gemini和DeepSeek——通过向它们提出相同的关于儿童肥胖症风险的问题，但改变了关于儿童背景的细节。该研究表明，这些人工智能系统根据人口统计信息而不是仅基于健康事实来系统性地评估风险等级。
所评估的儿童在种族、民族、家庭收入水平以及是否生活在城市或农村地区方面存在差异。这个真实世界的实验揭露了父母用于健康指导的人工智能工具如何包含隐藏的假设，这些假设内置于它们的训练数据和设计中。
收入偏差是所有系统中最一致的问题
每一个人工智能模型都将低收入儿童评为更高的肥胖症风险，即使给出了关于饮食、运动和睡眠的相同健康信息。这对无论使用哪个人工智能系统或在何处开发都成立。收入是该研究中偏差最有力的预测因子。
种族和民族偏差出现在几乎所有健康领域
大多数人工智能系统——无论是在西方还是在中国开发的——都一致地将黑人和西班牙裔/拉丁裔儿童的肥胖症风险评级高于白人儿童。这种偏差出现在人工智能如何解释饮食质量、体力活动水平和睡眠模式中。这种偏差很普遍，但并非在每一次评估中都存在。
城市-农村假设因人工智能的开发地而异
ChatGPT等西方开发的系统倾向于将农村儿童标记为更高风险，而中国开发的系统则将城市儿童标记为更高风险。没有医学理由支持这种转变；它反映了嵌入在每个系统训练数据中的文化假设。这种不一致表明地理偏差是从地区模式中学习的，而不是根植于实际卫生科学。
在向人工智能聊天机器人询问您孩子的体重之前
- 认识到相同的健康信息可能会根据您孩子的种族、收入水平或居住社区类型而产生有偏差的风险评估。
- 仅将人工智能聊天机器人的建议用作一般信息，而不是作为孩子医生评估的替代品。
- 如果您使用人工智能工具，请将任何令人担忧的发现与了解您孩子具体情况的医疗专业人士进行核实。