隨著人工智能繼續(xù)進(jìn)軍企業(yè)，許多IT專業(yè)人士開(kāi)始對(duì)其使用的系統(tǒng)中可能存在的AI偏見(jiàn)表示擔(dān)憂。一份來(lái)自DataRobot的最新報(bào)告發(fā)現(xiàn)，美國(guó)和英國(guó)近一半的人工智能專業(yè)人士“非?！睋?dān)心人工智能的偏見(jiàn)。

這份報(bào)告于去年6月對(duì)350多名參與人工智能和機(jī)器學(xué)習(xí)（ML）采購(gòu)決策的美國(guó)和英國(guó)首席信息官、首席技術(shù)官、副總裁和IT經(jīng)理進(jìn)行了調(diào)查，報(bào)告還發(fā)現(xiàn)，“品牌聲譽(yù)受損”和“客戶信任喪失”是人工智能偏見(jiàn)最令人擔(dān)憂的后果。這促使93%的受訪者表示，他們計(jì)劃在未來(lái)12個(gè)月加大對(duì)人工智能偏見(jiàn)預(yù)防措施的投資。

DataRobot可信人工智能副總裁特德?夸特勒表示，盡管許多組織將人工智能視為游戲規(guī)則的改變者，但許多組織仍在使用不可信的人工智能系統(tǒng)。他說(shuō)，“鑒于企業(yè)在使用人工智能方面的重大失誤，組織必須確保人工智能方法符合其組織價(jià)值觀?！?/p>

DataRobot的報(bào)告稱，在企業(yè)內(nèi)部管理人工智能驅(qū)動(dòng)的功能可能很有價(jià)值，但也可能帶來(lái)挑戰(zhàn)。并非所有人工智能都得到平等對(duì)待，如果沒(méi)有適當(dāng)?shù)闹R(shí)或資源，企業(yè)可以選擇或部署人工智能的方式可能弊大于利。

調(diào)查發(fā)現(xiàn)，超過(guò)三分之一的人工智能專業(yè)人員仍然使用黑盒人工智能系統(tǒng)，這意味著他們對(duì)如何使用輸入到人工智能解決方案中的數(shù)據(jù)幾乎一無(wú)所知。DataRobot說(shuō)，這種缺乏可視性的情況可能會(huì)導(dǎo)致受訪者對(duì)其組織內(nèi)出現(xiàn)的人工智能偏見(jiàn)感到擔(dān)憂。

“AI偏見(jiàn)的出現(xiàn)是因?yàn)槲覀冋趯?duì)熟悉的檢索系統(tǒng)中的不完整數(shù)據(jù)做出決定，”認(rèn)知計(jì)算和內(nèi)容分析咨詢公司CythExIS的總裁費(fèi)爾德曼說(shuō)，“算法都對(duì)世界和用戶的優(yōu)先級(jí)做出假設(shè)。這意味著，除非你理解這些假設(shè)，否則你仍將盲目飛行。這就是為什么必須使用包括人在內(nèi)的系統(tǒng)，而不是在真空中做決定的原因?！?/p>

如何減少人工智能偏差

Gartner研究副總裁Jim Hare在一份聲明中說(shuō)：“需要新的工具和技能來(lái)幫助企業(yè)識(shí)別這些和其他潛在的偏見(jiàn)來(lái)源，在使用人工智能模型方面建立更多的信任，并降低企業(yè)品牌和聲譽(yù)風(fēng)險(xiǎn)。越來(lái)越多的數(shù)據(jù)和分析領(lǐng)導(dǎo)者和首席數(shù)據(jù)官（CDO）正在雇傭ML法證和道德調(diào)查人員?！?/p>

Facebook、谷歌、美國(guó)銀行、MassMutual和美國(guó)航天局等機(jī)構(gòu)正在或已經(jīng)任命人工智能行為鑒證專家，在人工智能模型部署之前，集中精力發(fā)現(xiàn)不希望出現(xiàn)的偏見(jiàn)。

如果人工智能要發(fā)揮其潛力，增加人們對(duì)系統(tǒng)的信任，就必須采取措施，盡量減少偏見(jiàn)。其中包括注意人工智能可以幫助糾正偏見(jiàn)的背景，以及人工智能有可能加劇偏見(jiàn)的背景；建立測(cè)試和減輕人工智能系統(tǒng)偏差的過(guò)程和實(shí)踐；參與基于事實(shí)的對(duì)話，討論人類決策中的偏見(jiàn)；探索人類和機(jī)器如何最佳地協(xié)同工作；加大對(duì)偏見(jiàn)研究的投入，提供更多的數(shù)據(jù)，同時(shí)限制隱私；以及加大對(duì)人工智能領(lǐng)域多樣化的投資。

研究發(fā)現(xiàn)，雖然美國(guó)受訪者最關(guān)心的是由于用戶和系統(tǒng)設(shè)計(jì)之間的偏差而產(chǎn)生的偏差，但英國(guó)受訪者更關(guān)心的是技術(shù)偏差或由技術(shù)限制引起的偏差。

研究顯示，為了加強(qiáng)人工智能偏見(jiàn)的預(yù)防工作，59%的受訪者表示，他們計(jì)劃投資更復(fù)雜的白盒系統(tǒng)，54%的受訪者表示，他們將聘請(qǐng)內(nèi)部人員管理人工智能信任，48%的受訪者表示，他們打算聘請(qǐng)第三方供應(yīng)商監(jiān)督人工智能信任。

組織需要擁有并內(nèi)化他們的人工智能策略，因?yàn)檫@有助于他們確保人工智能模型符合他們的價(jià)值觀。對(duì)于每個(gè)業(yè)務(wù)環(huán)境和行業(yè)，需要在部署之前和之后對(duì)模型進(jìn)行評(píng)估，以降低風(fēng)險(xiǎn)。

報(bào)告顯示，除了這些預(yù)防人工智能偏差的措施外，大多數(shù)全球受訪者認(rèn)為，人工智能監(jiān)管將有助于界定什么是人工智能偏差，以及應(yīng)該如何預(yù)防。