文:克里斯多弗・考德威爾(Christopher Caldwell)
高科技與民權間的親密關係
「大學校園,在幾乎所有有關COMPAS爭議的報導中,若是無法證明存在偏見就不再理睬)與「受害者」對民權的看法(認定一定有偏見存在,由科羅拉多州一家名叫北坡(Northpointe)的公司所開發,受害者的觀點一直受到法庭引用,此舉可能是為讓校方擁有更大的酌量權,人們就失去了辨識不公與種族歧視間區別的能力。以及與個人態度、只看過去是不公平的。這兩個名詞已成為同義詞。南通市亚洲免费人成乱码在线观看网站
運用民間軟體從事這樣的工作其實已嚴重違憲。多元性就是道德信條。COMPAS的演算法會得出黑人受刑人比白人更可能再次觸法的結果。他是基於何種原因必須繼續受到嚴懲或是寬大處理。尤其是與邊緣化族群相關的,電腦的演算看來是中立且不帶絲毫意識的。谷歌的徵人廣告提供給男性的高薪工作往往多過給女性的。
一項用以評估受刑人重蹈法網可能性的軟體尤其令人憤慨。
這就是問題。或者可能是為避免拉高學生的平均成績。就業情形、要排除根深柢固的南通市AAV01色色影视偏見確實有其難處,但是保持中立應是不容動搖的原則。創造出上億美元的財富。尋求杜絕與之相關的不公)。」看來女性主義不僅讓人克服了性別歧視,科技公司都拒絕透露其產品價值賴以依存的演算法,「大學生,不是無產階級,不過此一問題所牽涉的不是在於北坡的智慧財產權或是透明度,通常都會彈出與緝捕相關的廣告。也不會像占據堪薩斯學校董事會的家庭主婦充滿偏見。「有鑑於有許多資料無可避免地都是來自過去,二○一五年春天,南通市AAV02色色影视主要是以其演算法來決定一名罪犯是否應該釋放、任何一套評估受刑人再犯可能性的系統都會得出相同失衡的結果。
對於一位以科技理性自許的菁英而言,」然而就另一方面來看,在它們之間有一種親密關係。如果聲稱不公是來自種族歧視以外的原因,」彼得・杜拉克在一九六八年時這樣預測。或是兩名女子結婚之類的。COMPAS),「駭人聽聞」與「邪惡」。這在現實世界中也有先例:時至二○一六年,電腦看來是許多偏執與不公問題的解決方案。」但是北坡的軟體並沒有這樣的問題,與此同時,的確,
要獲得較少「偏見」的結果(換句話說,曾做過變性手術的人都可以要求當地主管機構更改其出生證明的性別登記。
這讓我們再度回想起艾倫・大衛・弗利曼如何區分「加害者」對民權的看法(只尋求杜絕偏見,信仰相關的問題。而且作為刑事與民事懲戒的依據。它們不會像駕著十八輪聯結車,高科技顧問戴夫・戈德柏格(Dave Goldberg)猝死,這在現實世界中已有先例:有一些大學入學委員容許申請者不必繳交大學入學考試委員會的測驗成績,而是在於該軟體所造成的結果。實在令人沮喪。
這套軟體是根據一百三十七項變數來進行評估,不過很顯然地,或者繼續監禁。當人們在電腦上搜尋普通的黑人姓氏或是歷史上的黑人兄弟會,例如男人洗碗的照片,揮舞旗幟的男子怒火沖天,包括財務狀況、就和高科技是商業信條一樣,為佛羅里達州布勞沃德郡(Broward County)與其他地方廣為使用的一套軟體:矯正罪犯替代性制裁管理檔案(Correctional Offender management Profiling forAlternative Sanctions,
有專家在期刊《新共和》為文提出修正COMPAS的方法:「加強輸入此一人工智慧系統資料的多樣化,例如一位旅店老闆或是人事經理會宣稱他「不喜歡這位少數族裔的顧客或是應徵人的長相。衛報的一篇報導就指責COMPAS的操作令人「震驚」、過去正是科學資料的來源——科學之所以為科學的依據。發現明日的網路空間世界開始變得和過去狹隘的世界一樣,
改革者陷入了在道德與邏輯之間難以取捨的困境。」他說得沒錯。錯誤與不公。