手機(jī)版| 您好,歡迎訪問(wèn)中國(guó)機(jī)電產(chǎn)品交易網(wǎng)! 網(wǎng)站地圖| 聯(lián)系我們
當(dāng)前位置: 首頁(yè) ? 行業(yè)資訊 ? 行業(yè)分析 ? 正文

當(dāng)AI學(xué)會(huì)偏見(jiàn) 企業(yè)當(dāng)為技術(shù)應(yīng)用劃線

放大字體??縮小字體 發(fā)布日期:2019-11-15
核心提示: 你對(duì)AI有什么印象,沒(méi)有感情、不會(huì)犯錯(cuò),還是公正客觀?但總之,AI是不食人間煙火的,既不會(huì)閃耀人性的光輝,也不存在七宗罪。
  你對(duì)AI有什么印象,沒(méi)有感情、不會(huì)犯錯(cuò),還是公正客觀?但總之,AI是不食人間煙火的,既不會(huì)閃耀人性的光輝,也不存在“七宗罪”。實(shí)際上,AI并非那么沒(méi)有人性,不過(guò)這并非一件好事。AI獲得智能的同時(shí),也學(xué)會(huì)了人類的“歧視”與“偏見(jiàn)”。
 
  AI偏見(jiàn)廣泛存在
 
  麻省理工學(xué)院媒體實(shí)驗(yàn)室的Joy Buolamwini曾研究過(guò)各個(gè)領(lǐng)先科技公司的面部識(shí)別系統(tǒng),研究發(fā)現(xiàn),所有的系統(tǒng)在識(shí)別男性面孔和淺色皮膚的面孔上擁有較高的準(zhǔn)確率,其中,淺色皮膚男性的錯(cuò)誤率不超過(guò)1%,而深色皮膚女性的平均識(shí)別錯(cuò)誤率則高達(dá)35%。
 
  提及對(duì)整個(gè)安防行業(yè)產(chǎn)生深刻影響的AI技術(shù),人臉識(shí)別肯定榜上有名,但AI人臉識(shí)別的這類偏見(jiàn),也已經(jīng)滲入了安防領(lǐng)域。安防領(lǐng)域中,帶有偏見(jiàn)的AI可能會(huì)讓清白無(wú)辜者蒙冤,受到無(wú)理審查,這并非杞人憂天。
 
  在英國(guó),曾有一名黑人男性因人臉識(shí)別技術(shù)失誤而被誤認(rèn)為嫌犯,在公眾場(chǎng)合遭到搜身檢查。Big Brother Watch UK報(bào)告也顯示,倫敦警察廳使用的面部識(shí)別技術(shù)有超過(guò)90%的性別識(shí)別錯(cuò)誤率。
 
  AI為何會(huì)產(chǎn)生偏見(jiàn)?
 
  當(dāng)前人工智能還處于弱人工智能階段,其“偏見(jiàn)”顯然取決于背后訓(xùn)練算法訓(xùn)練的數(shù)據(jù)。如上所述,如果AI訓(xùn)練數(shù)據(jù)庫(kù)中,白人、男性比黑人、女性更多,且膚色較深的人多與違法相關(guān)的場(chǎng)景同時(shí)出現(xiàn),就會(huì)導(dǎo)致AI產(chǎn)生偏見(jiàn),這是訓(xùn)練集和測(cè)試集特征分布不一致導(dǎo)致的,在技術(shù)領(lǐng)域被稱為“過(guò)擬合”。
 
  目前針對(duì)算法“過(guò)擬合”,已經(jīng)有權(quán)值衰減、交叉驗(yàn)證、添加正則項(xiàng)等方法。而關(guān)于如何解決算法歧視問(wèn)題,科技界則眾說(shuō)紛紜。曾有人提出開(kāi)發(fā)公正透明的算法,讓公眾進(jìn)行監(jiān)督,但這一方法壁壘較高,需受過(guò)專業(yè)訓(xùn)練才能夠進(jìn)行監(jiān)督。不過(guò),現(xiàn)在已經(jīng)有不少的科學(xué)家在努力開(kāi)發(fā)出一套“公平公正”的算法系統(tǒng)。
 
  科技向善 AI應(yīng)服務(wù)于人類
 
  無(wú)論哪種方法,都不可能立竿見(jiàn)影地糾正AI偏見(jiàn),因此,科技公司以及組織應(yīng)當(dāng)避免將“帶有明顯歧視性質(zhì)的算法”在不經(jīng)測(cè)試之下應(yīng)用到現(xiàn)實(shí)情景中。AI并無(wú)善惡之分,但人類需要推動(dòng)科技向善。
 
  在安防領(lǐng)域,公安部門(mén)應(yīng)用AI技術(shù)關(guān)愛(ài)孤寡老人,以往民警需要每天上門(mén)查看孤寡老人狀態(tài),現(xiàn)在可以通過(guò)人臉、人體及軌跡技術(shù)確認(rèn)孤寡老人活動(dòng)是否有異常;AI跨年齡人臉識(shí)別則可以憑借一張泛黃照片找回被拐十年的兒童。
 
  通過(guò)一張3歲的泛黃照片,騰訊優(yōu)圖利用AI技術(shù)突破“跨年齡人臉識(shí)別”,助力警方尋回被拐十年兒童。騰訊董事會(huì)主席馬化騰也多次在公開(kāi)演講中闡釋“科技向善”的愿景與使命。
 
  而在未來(lái)的算法開(kāi)發(fā)過(guò)程中,應(yīng)該對(duì)算法開(kāi)發(fā)者進(jìn)行適當(dāng)?shù)?ldquo;算法倫理”教育,并且確定一些算法的“基本準(zhǔn)則”,如同“機(jī)器人永不能傷害人類”一樣。
?
?
分享到:0
?
?
[ 行業(yè)資訊搜索 ]? [ ]? [ 告訴好友 ]? [ 打印本文 ]? [ 關(guān)閉窗口 ]
?
?

?
0條 [查看全部]  相關(guān)評(píng)論

?
推薦行業(yè)資訊
圖文資訊
人工智能+模擬電路的市場(chǎng)機(jī)會(huì)在哪里? “機(jī)器人+安防”珠聯(lián)璧合 機(jī)器換人指日可待
風(fēng)電清潔供暖電價(jià)問(wèn)題及經(jīng)濟(jì)性幾何 氣動(dòng)隔膜泵6大優(yōu)勢(shì)和在哪些地方可以派上用場(chǎng)?
點(diǎn)擊排行

客服熱線:0551-69106578 業(yè)務(wù)咨詢:0551-69106578 郵箱:2268263116@qq.com

媒體合作: 點(diǎn)擊這里給我發(fā)消息 ??在線客服: 點(diǎn)擊這里給我發(fā)消息

Copyright (c) 2012 機(jī)電產(chǎn)品交易網(wǎng) . 版權(quán)所有 皖I(lǐng)CP備12004440號(hào)-2