亞馬遜的 AI 招聘工具觸動了人類敏感的神經(jīng)，據(jù)路透社報道，亞馬遜機器學習專家發(fā)現(xiàn)他們的 AI 招聘工具有一個明顯的傾向——在篩選簡歷過程中，重男輕女。

　　這事得追溯到 2014 年，亞馬遜那會兒便開始嘗試用人工智能篩選簡歷，幫助公司挑選出合適的員工。對于一個大公司來說，篩選簡歷是一項浩大的工程，每天的面試者可能來自五湖四海，要從堆積如山的簡歷中挑選出面試者的優(yōu)點，并確認其符合公司標準，難上加難。不僅耗費精力，還很花時間。

　　不用我贅述，我想面試經(jīng)驗豐富的人應該對一些大公司的面試周期記憶深刻。

　　通過系統(tǒng)的機器訓練，讓 AI 代替 HR 篩選簡歷，無疑能幫助公司節(jié)省大量的勞動力，并且更有效地挑選出合適的人才。萬萬沒想到的是，亞馬遜的 AI 卻戴上了有色眼鏡。

　　類似人類的情感傾向出現(xiàn)在了 AI 上，本身就有悖于人類訓練 AI 的目的。我們希望人工智能是中立、結果導向的，甚至在理性的前提下，會帶有一絲無情。

　　好在亞馬遜自己也發(fā)現(xiàn)了這個問題，去年已將負責該項目的團隊解散。

　　人工智能“性別歧視”的起因

　　在亞馬遜 AI 招聘歧視事件的最后，大家把問題歸咎于人工智能訓練樣本上。因為在具體的訓練方法上，亞馬遜針對性開發(fā)了 500 個特定職位的模型，對過去 10 年的簡歷中的 5 萬個關鍵詞進行識別，最后進行重要程度的優(yōu)先級排序。

　　因此簡單來說，AI 的工作還是抓取關鍵詞。然而在這些簡歷中，大部分求職者為男性，他們使用諸如“執(zhí)行”這樣的關鍵詞更加頻繁，而女性相關的數(shù)據(jù)太少，因此 AI 會誤以為沒有這類關鍵詞的女性簡歷不那么重要。

　　類似的事情同樣發(fā)生在了 Google 身上。早在 2017 年，Quartz 報道了一篇題為《The reason why most of the images that show up when you search for “doctor” are white men》的文章，如果你在 Google image 上搜索”doctor“，獲得的結果中大部分都是白人男性。

　　一項來自普林斯頓大學的研究表明，這一搜索結果與潛在的社會現(xiàn)狀有關。在普通人眼中醫(yī)生總是與男性相連，而護士總是與女性相連。

　　“正如一些數(shù)據(jù)科學家所言，什么樣的輸入就有什么樣的產(chǎn)出，沒有好的數(shù)據(jù)，算法也做不出正確的決策。”

　　Google 意識到了這一點，調(diào)整了搜索算法。目前“doctor”的搜索結果中，女性與男性的比例基本平等。

　　人工智能發(fā)展到現(xiàn)在，應用到實際的時間并不長。如果把它比作嬰兒，那它的成長有很大一部分依靠人類給予的養(yǎng)分與教育。人工智能在機器訓練的過程中，所輸入的數(shù)據(jù)便是養(yǎng)分�？茖W家盡力將算法調(diào)整到中立、客觀，但最終影響其輸出的還是數(shù)據(jù)。

　　即使數(shù)據(jù)中出現(xiàn)了一個小的偏差，人工智能的最終行為也會將這個偏差放大。人類獲得的結果便是“歧視”——我們?nèi)绾慰创�社會，人工智能也會以相同的視角去看待社會。這一情況屬于普遍現(xiàn)象，其涉及到的不僅是技術問題，更是一個巨大的哲學問題。

　　今年七月份，微軟同中國發(fā)展研究基金會發(fā)布了《未來基石》報告。報告涵蓋了兩家機構對人工智能的思考。例如微軟在人工智能的開發(fā)中，將遵循六個道德基本準則，以創(chuàng)造“靠譜”的人工智能。

　　在微軟的人工智能產(chǎn)品中，曾出現(xiàn)了聊天機器人小冰爆粗口的情況，同樣是源于訓練數(shù)據(jù)庫的影響。經(jīng)歷該事件后，微軟修改了小冰的對話原則，并加強了對數(shù)據(jù)庫的過濾。但實際上仍然無法百分百避開數(shù)據(jù)庫中不健康的信息。

　　想要訓練出更靠譜的人工智能，用戶同樣是很重要的力量群體。

共2頁 [1] [2] 下一頁  第1頁第2頁

• 亞馬遜難成美國版阿里巴巴
• 未來10年 阿里的機會是亞馬遜的一倍
• 印度發(fā)布電商規(guī)則草案 亞馬遜等或面臨挑戰(zhàn)
• 亞馬遜創(chuàng)始人貝佐斯：移民火星還不如去珠穆朗瑪峰
• 亞馬遜任命百事前女CEO盧英德?lián)�任董�?/a>

搜索更多: 亞馬遜