“偏見”：AI發(fā)現(xiàn)人為造成的不公平

在筆者翻譯的一篇文章中指出招聘、協(xié)作、銷售工具中的AI偏見無處不在。偏見是AI的致命弱點(diǎn)。而DataRobot的研究發(fā)現(xiàn)，在美國(guó)和英國(guó)，將近一半（42％）的AI專業(yè)人士“非�！被颉皹O其”擔(dān)心AI偏見。AI可以在最意想不到的地方出現(xiàn)，沒有系統(tǒng)可以免疫。

根據(jù)領(lǐng)英（LinkedIn）的研究，43％的招聘人員和招聘經(jīng)理表示，在招聘工具中引入AI的一個(gè)關(guān)鍵好處是它有消除人類偏見的潛力。然而，承諾將偏見最小化的人工智能工具，也可能在招聘過程中注入偏見。以谷歌的招聘廣告算法為例，更多向男性顯示高薪職位。

的確在招聘和銷售等領(lǐng)域容易產(chǎn)生偏見，但是偏見是AI帶來的嗎？

“AI的偏見是數(shù)據(jù)原生的偏見�！比~松林強(qiáng)調(diào)，假如數(shù)據(jù)里面多數(shù)男性的工資本身即高出女性10％，AI在讀取數(shù)據(jù)后，便會(huì)提供一個(gè)男性薪資高出10％的建議。

“這種偏見并不是說機(jī)器造成的，而是機(jī)器告訴你，世界上存在不平等的問題。這種不公平是過去長(zhǎng)久以來人造成的。恰恰是AI把這個(gè)問題揭示出來，以前人們可能沒有意識(shí)到這個(gè)問題，AI把這個(gè)問題有效地揭示出來之后，人在做決策的時(shí)候，恰恰可以有意糾正它的不公平性�！备咴讫堖M(jìn)一步指出偏見本身就是數(shù)據(jù)所潛在的客觀規(guī)律。

所以Tableau強(qiáng)調(diào)AI只是輔助公司做決策，可以提一些意見，對(duì)公司而言人才是最重要的。

Tableau 數(shù)據(jù)科學(xué)家兼主任軟件工程師Rachel Kalmar指出：“AI 項(xiàng)目中最困難的環(huán)節(jié)之一就是確定您要提出的問題�！眳f(xié)作式方法可以揭示業(yè)務(wù)決策的哪些環(huán)節(jié)適合使用AI，哪些環(huán)節(jié)需要人工干預(yù)。假設(shè)要開一家新的零售商店，但以前從未開過這樣的商店。基于 AI 的系統(tǒng)可以根據(jù)該地區(qū)的人流或人口統(tǒng)計(jì)學(xué)特征來提供建議，幫助預(yù)測(cè)商店的預(yù)期銷售額。但仍然需要領(lǐng)域?qū)＜业膸椭�，這些人可以在位置可見性、競(jìng)爭(zhēng)對(duì)手信息或停車位情況等方面填補(bǔ)空缺。要讓機(jī)器學(xué)習(xí)建議實(shí)現(xiàn)其價(jià)值，決策必須由人來制定。正如 Tableau 的AI 主管產(chǎn)品經(jīng)理 Richard Tibbetts 解釋的那樣：“AI 的出現(xiàn)并不意味著算法會(huì)告訴您如何做生意。真正幫助組織采用和信任AI 的是領(lǐng)域?qū)＜��！?/p>

由大數(shù)據(jù)、云計(jì)算、AI等技術(shù)推動(dòng)著數(shù)字化世界的構(gòu)建，而數(shù)字化世界所出現(xiàn)的諸多問題同樣是現(xiàn)實(shí)社會(huì)的映射，或許有數(shù)據(jù)的地方就免不了存在偏見和不公，消除偏見是一個(gè)長(zhǎng)久的命題。我們?nèi)匀豢梢宰鲆恍┝λ�能及的事情，比如加�?qiáng)監(jiān)督，讓多樣化的團(tuán)隊(duì)構(gòu)建軟件工具，仔細(xì)檢查數(shù)據(jù)健康度，加強(qiáng)內(nèi)外部審計(jì)等。說到底，人與AI之間如何更好的協(xié)作取長(zhǎng)補(bǔ)短才能有效消除更多偏見需要更多的探索。