來自《公共衛生前沿》的研究人員測試了多款熱門AI聊天機器人——包括ChatGPT、Claude、Gemini和DeepSeek——透過向它們提出有關兒童肥胖症風險的相同問題，但改變兒童背景的細節。研究揭示這些AI系統根據人口統計資訊而非單純的健康事實，系統性地給出不同的風險評級。
受評估的兒童涵蓋不同種族、族裔、家庭收入水平，以及是否居住在城市或鄉村地區。這個實際實驗暴露了家長用來獲取健康指引的AI工具所隱藏的假設——這些假設來自其訓練數據和設計中的偏見。
收入偏見是所有系統最普遍的問題
每一個AI模型都將低收入兒童評為較高肥胖症風險，即使在提供相同的飲食、運動和睡眠健康資訊的情況下亦然。無論使用哪個AI系統或其來源地如何，這種情況都成立。在研究中，收入是偏見最強烈的預測因素。
種族和族裔偏見在幾乎所有健康領域都存在
大多數AI系統——無論來自西方還是中國——都一貫地將黑人和西班牙裔/拉丁裔兒童評為比白人兒童更高的肥胖症風險。這種偏見體現在AI如何解讀飲食質量、體能活動水平和睡眠模式上。這種偏見很普遍，但並非在每項評估中都出現。
城鄉假設因AI開發地點而異
由西方開發的系統如ChatGPT傾向於將鄉村兒童標示為較高風險，而中國開發的系統則傾向於將城市兒童標示為較高風險。這種反轉在醫學上沒有任何根據；它反映了各系統訓練數據中的文化假設。這種不一致性表明地理偏見是從地區性數據模式中習得的，而非源自實際健康科學。
在向AI聊天機器人詢問孩子體重問題之前
- 認識到相同的健康資訊可能會根據孩子的種族、收入水平或所在社區類型而產生有偏見的風險評估。
- 僅將AI聊天機器人的建議作為一般資訊參考，而不是替代孩子醫生評估的方案。
- 如果您使用AI工具，請將任何令人擔憂的發現與熟悉孩子個別情況的醫療專業人士進行核對。