AI出错时会发生什么：您的健康聊天机器人中隐藏的偏见
您担心孩子的体重，所以向ChatGPT寻求建议。但这里有一个令人担忧的问题：您得到的答案可能取决于AI是否认为您的孩子是男孩或女孩、富有或贫困、生活在城市还是乡村。《公共卫生前沿》发表的一项突破性研究检查了七个主要的AI语言模型，发现它们系统性地表现出人口统计偏见——这意味着它们根据您的孩子是谁而不是他们的健康事实做出不公平的假设。
研究人员通过向ChatGPT、Claude、DeepSeek、Gemini和其他四个流行的AI系统提出关于不同背景儿童的相同肥胖症相关问题来测试它们。结果令人瞩目：关于同一儿童的同一问题根据儿童的种族、家庭收入或他们是否生活在城市或农村地区而获得不同的风险评估。
研究发现了什么
收入最重要——而且不公平。所有模型都一致地将低收入儿童评为较高的肥胖症风险，即使实际的健康信息完全相同。这种情况几乎在每一个案例中都发生了。
种族和民族偏见在各个模型中都存在。大多数AI模型，无论在哪里开发，都将较高的肥胖症风险归因于黑人和西班牙裔/拉丁裔儿童，相比之下白人儿童在几乎所有健康领域（从饮食到体育活动再到睡眠模式）中风险都较低。
城乡差异混乱且不一致。这是最混乱的发现：由西方开发的AI系统（如ChatGPT）倾向于将农村儿童标记为较高风险，而中国开发的系统则将城市儿童标记为较高风险。这种转变没有医学原因——它表明AI在应用隐藏的文化假设而不是客观的健康数据。
代表性和文化理解在所有模型中都较弱。虽然所有AI系统都没有使用明显的冒犯性语言，但它们在理解不同文化背景和恰当代表多样化家庭情况方面表现不佳。
这对新加坡和亚洲家庭意味着什么
新加坡家长应该特别警惕这个问题。我们国家越来越多元化，AI系统可能无法公平地代表不同的种族、家庭结构或这里常见的社会经济背景。如果您向AI聊天机器人寻求关于孩子健康的建议——尤其是肥胖症或体重问题——请记住答案可能会被人口统计假设而非纯医学逻辑微妙地影响。
对于亚洲家庭来说，关于中国开发的AI模型显示城市偏见的发现也值得注意。随着这些工具在亚洲变得更受欢迎，家长应该了解它们具有内置假设，这些假设由它们的开发和训练地点塑造。
底线是：AI健康工具可以提供有用的一般信息，但它们不是客观、中立的顾问。它们带有真实的偏见，这些偏见可能会根据您家庭的收入或您住在哪里等因素而不是您孩子的实际健康状况不公平地将您的孩子标记为"高风险"。
您应该做什么
- 不要将AI视为医生的替代品。仅将AI聊天机器人用于一般信息，然后与了解您家庭全面背景的儿科医生讨论您孩子的具体情况，医生可以发现算法可能遗漏的偏见。
- 注意AI如何表述其答案。如果聊天机器人似乎在根据收入、邻里或背景而不是实际健康数据对您孩子的肥胖症风险做出假设，那就是一个危险信号。向医生询问相同问题以进行比较。
- 教导您的孩子成为AI的批判性使用者。当您的孩子长大后，帮助他们理解AI工具虽然强大，但并不完美，可能会反映它们所训练数据的偏见——这是一项重要的21世纪识字能力。