Photo by Marcelo Leal on https://unsplash.com/photos/6pcGTJDuf6M

《科學》(Science)期刊本周刊出了一篇有關健康演算法涉及種族歧視的研究論文,指出因為原本的演算法無意間就被嵌入了種族歧視,使得將它用來評估需要特別照顧的病人時,白人比起黑人更容易獲得醫療資源。

來自美國大學與醫療院所的多名研究人員發現,美國的醫療照護系統使用商業演算法來指導醫療決定,為了方便起見,此一商業演算法是藉由輸入人們的保險資訊與醫療費用來衡量他們的健康狀況,然而,他們並沒有想到黑人在存取醫療照護資源時通常有其限制,涵蓋貧富差距、交通障礙,或是缺乏與醫生之間的信賴等,因此就算當初的演算法並未區分種族,但以保險與醫療費用來取代人們真正的健康狀態作為衡量標準,便已暗藏了歧視。

於是,當美國的醫療照護系統要評估人們是否需要額外的照護時,在症狀同樣嚴重的白人與黑人之間,白人通常會相對容易得到應有的醫療資源。

研究顯示,當糾正此一錯誤時,理應接受額外照護的黑人比例從17.7%激增到46.5%,可見其歧視的嚴重性。

研究人員指出,存取醫療服務的不平等,則意謂美國在照顧黑人病患上的花費更少。在許多情況下,那些看似方便的、以代理數據來取代事實的方式,都可能成為演算法出現偏見的重要來源。


Advertisement

更多 iThome相關內容