當人工智能出錯：健康聊天機械人中隱藏的偏見
你擔心孩子的體重，所以向 ChatGPT 求教。但這裡有個令人不安的問題：你得到的答案可能取決於人工智能認為你的孩子是男孩還是女孩、家庭富裕還是貧困、住在城市還是鄉村。《公共衛生前沿》期刊的突破性研究檢視了七個主要的人工智能語言模型，發現它們在系統上呈現人口統計學偏見——這意味著它們會根據你孩子是誰而非只根據他們的健康事實做出不公正的假設。
研究人員測試了 ChatGPT、Claude、DeepSeek、Gemini 和其他四個受歡迎的人工智能系統，向它們提出關於不同背景兒童的相同肥胖症相關問題。結果令人矚目：同一個關於同一個孩子的問題得到的肥胖風險評估因孩子的感知種族、家庭收入或他們是否居住在城市或鄉村地區而不同。
研究的發現
收入影響最大——而且不公平。所有模型都持續將低收入兒童評為具有較高肥胖風險，即使實際健康資訊完全相同。這幾乎在每一個案例中都發生了。
種族和族裔偏見普遍存在。大多數人工智能模型，無論在何處開發，都將較高的肥胖風險歸咎於黑人和西班牙裔／拉丁美洲裔兒童，而非白人兒童，涵蓋幾乎所有健康領域——從飲食到體育活動再到睡眠模式。
城市與鄉村的差異令人費解且不一致。這是最混亂的發現：西方製造的人工智能系統（如 ChatGPT）傾向於將鄉村兒童標記為高風險，而中國製造的系統則將城市兒童標記為高風險。這種轉變沒有醫學原因——它揭示人工智能在應用隱藏的文化假設，而非客觀的健康數據。
代表性和文化理解在所有模型中都較弱。雖然沒有一個人工智能系統使用明顯冒犯性的語言，但它們在理解不同文化背景和恰當代表多元家庭狀況方面的表現都很差。
這對新加坡和亞洲家庭意味著什麼
新加坡家長應特別警惕此問題。我們的國家越來越多元文化，人工智能系統可能無法公平代表不同的族裔群體、家庭結構或在本地普遍存在的社會經濟背景。如果你向人工智能聊天機械人詢問有關孩子健康的建議——尤其是肥胖症或體重問題——請記住答案可能受到人口統計學假設的微妙影響，而不是純粹的醫學邏輯。
對於亞洲家庭來說，中文人工智能模型表現出城市偏見的發現也值得注意。隨著這些工具在亞洲變得越來越受歡迎，家長應了解它們帶有內置的假設，這些假設由它們開發和訓練的地點塑造。
底線是：人工智能健康工具可以提供有用的一般資訊，但它們並不是客觀、中立的顧問。它們帶有真實的偏見，可能會根據你家庭的收入或你住在哪裡等因素——而非你孩子的實際健康狀況——不公平地將你的孩子標籤為「高風險」。
你應該做什麼
- 不要將人工智能當作醫生的替代品。僅使用人工智能聊天機械人獲取一般資訊，然後與了解你家庭全面情況、能發現演算法可能遺漏的偏見的小兒科醫生討論你孩子的具體情況。
- 留意人工智能如何框架其答案。如果聊天機械人似乎基於收入、鄰里或背景而非實際健康數據對你孩子的肥胖風險做出假設，這是一個警告信號。向你的醫生提出相同的問題進行比較。
- 教導你的孩子成為人工智能的批判性使用者。當你的孩子長大時，幫助他們理解人工智能工具雖然功能強大，但並不完美，可能反映它們所訓練數據中的偏見——這是一項重要的二十一世紀識讀技能。