近期由多倫多大學(xué)和麻省理工學(xué)院的計(jì)算機(jī)科學(xué)家團(tuán)隊(duì)進(jìn)行的實(shí)驗(yàn)發(fā)現(xiàn)，當(dāng)前AI模型的設(shè)計(jì)存在嚴(yán)重問(wèn)題，可能給人類帶來(lái)災(zāi)難性后果。這是因?yàn)槭褂妹枋鲂詷?biāo)簽訓(xùn)練的AI系統(tǒng)往往做出比人類更為苛刻的決定。

　　隨著AI已經(jīng)廣泛滲透到我們生活的方方面面，如語(yǔ)音助手提醒、健康機(jī)器人診斷、判決算法建議監(jiān)禁時(shí)間等，未來(lái)幾乎所有領(lǐng)域都將由算法作為守門人。然而，如果AI算法的訓(xùn)練存在缺陷，那么在申請(qǐng)租房、貸款、手術(shù)或工作等方面，頻繁被拒可能并非純粹的倒霉，而是因?yàn)楸澈蟮墓�司在AI算法訓(xùn)練方面存在問(wèn)題。

　　研究人員通過(guò)一系列實(shí)驗(yàn)發(fā)現(xiàn)，人們?cè)诟郊用枋鲂詷?biāo)簽和規(guī)范標(biāo)簽時(shí)有時(shí)會(huì)給出不同的反應(yīng)。具體而言，描述性標(biāo)簽強(qiáng)調(diào)客觀陳述，而規(guī)范標(biāo)簽則包含價(jià)值判斷。他們?cè)谝豁?xiàng)實(shí)驗(yàn)中使用了狗的圖像數(shù)據(jù)集，其中一組參與者對(duì)數(shù)據(jù)附加描述性標(biāo)簽，另一組對(duì)規(guī)定禁止侵略性狗的政策有所了解并附加規(guī)范標(biāo)簽。

　　結(jié)果顯示，那些不知道公寓規(guī)定但被要求評(píng)論侵略性的描述性標(biāo)簽者相比那些知道規(guī)定并附加規(guī)范標(biāo)簽的人，無(wú)意中判定了更多的狗違反了規(guī)定。這一實(shí)驗(yàn)結(jié)果對(duì)人類生活的方方面面都有著深遠(yuǎn)的影響，尤其是對(duì)于不屬于主導(dǎo)子群體的人群。

　　比如，在設(shè)計(jì)評(píng)估博士申請(qǐng)者的算法中，如果數(shù)據(jù)偏向某一類人，算法可能會(huì)將高分、名校背景、種族為白人定義為成功的標(biāo)志，從而繼續(xù)強(qiáng)化社會(huì)中的偏見(jiàn)和不平等。目前，這一問(wèn)題在我們周圍已經(jīng)普遍存在，比如在美國(guó)廣泛使用的定罪算法被發(fā)現(xiàn)錯(cuò)誤地認(rèn)定黑人被告更有可能再犯罪，盡管事實(shí)證明相反。

　　這種問(wèn)題不僅限于種族，還包括性別、種族和年齡等方面的偏見(jiàn)，而AI算法的決策卻比人類的判斷更為危險(xiǎn)，因?yàn)樗鼈儾粌H僅是復(fù)制已有的社會(huì)偏見(jiàn)，還可能產(chǎn)生比社會(huì)偏見(jiàn)更糟糕的結(jié)果。研究人員強(qiáng)調(diào)，這種相對(duì)簡(jiǎn)單的AI數(shù)據(jù)集標(biāo)注過(guò)程如果不當(dāng)，可能成為一個(gè)時(shí)鐘炸彈，導(dǎo)致不可逆轉(zhuǎn)的后果。

　　在這個(gè)算法主導(dǎo)的時(shí)代，關(guān)鍵是要及早糾正這一問(wèn)題，以避免對(duì)人類生活造成嚴(yán)重影響。