使用人工智能進行招聘聽起來像是一個萬無一失的計劃。畢竟，人類是有缺陷和偏見的。但事實證明，人工智能也有著偏見。

長期以來，人工智能的批評者一直擔心這項技術會減少勞動力中的就業機會。

新的研究表明，人工智能以一種意想不到的方式做到了這一點：基于性別、種族和年齡歧視合格的候選人。

人工智能有潛力在招聘中實現公平競爭——但并不是因為它是由人類訓練的。現在就讓我們來分析一下。

偏見是從哪里來的？

理論上，人工智能篩查工具是完美的。它不會思考或判斷，所以它可以做出客觀的決定，對吧？不完全是。

隨著人工智能應用的增加，報道的偏見事件數量也在增加。以下是僅2023年的一些：

–6月，彭博社報道稱，對Stable Diffusion生成的5000張圖像的分析強化了“比現實世界中更糟糕”的性別和種族刻板印象

–高薪工作總是以膚色較淺的受試者為代表，而低薪工作則與膚色較深有關。

–在性別問題上，也觀察到了類似的陳規定型觀念。收銀員和社會工作者等角色主要由女性代表，而政治家和工程師的形象幾乎完全由男性代表。事實上，數據集中的大多數職業都是由男性受試者顯示的。

對此，運營Stable Diffusion的初創公司StabilityAI的發言人回應彭博社稱，所有人工智能模型都存在基于訓練數據集的偏差。問題就出在這里。

公司擁有或獲取數據集。他們使用這些數據集訓練人工智能模型。人工智能模型根據觀察到的模式執行任務。所以，有缺陷的數據集=有缺陷的模型。

那么，當同樣的人工智能模型被用于招聘時會發生什么呢？詢問Workday，一家提供人力資源和財務解決方案的系統軟件公司。

他們目前正面臨由求職者Derek Mobley領導的集體訴訟，他說他們的人工智能篩查工具歧視老年人、黑人和殘疾人申請人。

莫布里是一名40歲的黑人，被診斷患有焦慮和抑郁。他聲稱，自2018年以來，他申請了大約100個職位，盡管符合工作資格，但每次都被拒絕。他代表的是報告中同樣被歧視的人數不詳的人。

Workday的一位發言人表示，該公司定期進行內部審計和法律審查，以確保遵守法規，該訴訟毫無根據。

陪審團將決定這是否屬實。但這并不是人工智能招聘軟件第一次顯示出偏見。

2017年，亞馬遜取消了自己的人工智能篩選工具，因為它不太可能認為女性申請人有資格在男性主導的行業工作。

今年7月，斯坦福大學的研究人員發現，七種人工智能檢測工具經常將非英語母語者的寫作錯誤歸類為人工智能生成。

人工智能檢測工具測量文本困惑。簡單地說，句子中的下一個單詞越復雜，人工智能生成的可能性就越小。

由于詞匯量有限，非英語母語的人可能會使用更簡單的單詞，檢測工具更有可能將這些申請人的作品標記為由生成人工智能組成。

在工作場所，根據非本地求職者使用的詞語，他們被篩選工具認為不太合格，因此風險可能會高得多。

這些事件都指向了同一個問題：當人工智能工具在存在文化、種族和性別差異的現有數據上進行訓練時，它必將反映出公司在招聘上的某些偏見。

政府對人工智能招聘的偏見怎么說？

有一段時間，他們沒怎么說話。

2019年，伊利諾伊州制定了一項法案，要求雇主在視頻面試中通知候選人在使用人工智能分析。

馬里蘭州緊隨其后，在未經申請人同意的情況下，禁止在就業前面試中使用面部識別。

然后，在2021年，平等就業機會委員會（EEOC）發起了一項名為“人工智能和算法公平倡議”的全機構倡議，以監測和評估技術在招聘實踐中的使用情況。

同年，紐約市議會通過了一項法律，要求使用人工智能技術的雇主向申請人披露信息，并每年進行偏見審計。

順便說一句，這項法律的實施始于2023年7月。但并不是所有人都認為這是一場勝利。

一些批評這項法律的人說，它不夠具體，留下了漏洞。其他人則指出，它不包括對老年人或殘疾人的歧視。

作為人工智能倡議的一部分，美國司法部和平等就業機會委員會還發布了一份聯合指南，提醒雇主在使用人工智能工具進行就業決策時存在歧視風險。

他們建議不要“盲目依賴人工智能”，這可能會導致侵犯公民權利。Workday今天就就面臨著這樣的問題。

最近，平等就業機會委員會在一次聽證會上聽取了一系列證人的證詞，包括計算機科學家、法律專家、雇主代表，討論人工智能在工作場所的潛在好處和危害。

人工智能在招聘方面的下一步是什么？

美國各地的許多公司已經將人工智能集成到招聘流程中。在2022年對1688名受訪者進行的一項研究中，SHRM發現79%的公司在招聘和招聘中使用自動化和/或人工智能。

在接下來的幾年里，各組織應該對其招聘實踐進行更多的監督。

紐約的這項新法律應該會在全國范圍內產生多米諾骨牌效應，據報道，加利福尼亞州、新澤西州、佛蒙特州和紐約州正在制定自己的法律，以規范人工智能在招聘和招聘中的使用。

像亞馬遜這樣的資源密集型企業集團可以構建、培訓和測試他們的工具，以獲得更好的結果。但對于通過第三方供應商購買工具的公司來說，偏見和侵犯公民權利的風險還是很高。

對于使用任何人工智能技術進行就業的公司來說，徹底的審查和審計流程則會顯得至關重要。

推薦閱讀