AI招聘漸熱，可以提高人力資源開(kāi)發(fā)效能，也可能放大社會(huì )固有偏見(jiàn)

　　如何抵御隱藏在算法背后的歧視？

　　閱讀提示

　　近年來(lái)，利用算法進(jìn)行AI招聘已成為職場(chǎng)中的一大新熱點(diǎn)，如何規避AI算法可能帶來(lái)的歧視問(wèn)題成為保障就業(yè)公平面臨的一個(gè)新問(wèn)題。近日，在上海市政協(xié)的一場(chǎng)重點(diǎn)提案督辦專(zhuān)題調研暨辦理推進(jìn)會(huì )上，監管部門(mén)、行業(yè)專(zhuān)家以及業(yè)內人士表示，防范AI就業(yè)歧視，需要加強對算法濫用的監管、強化技術(shù)手段，多方面共同努力消除隱藏在算法背后的歧視，更好維護勞動(dòng)者權益。

　　隨著(zhù)ChatGpt火爆出圈，國內一眾AIGC平臺迅速跟進(jìn)，疊加我國互聯(lián)網(wǎng)招聘平臺正處于飛速發(fā)展期的大背景，利用人工智能技術(shù)進(jìn)行簡(jiǎn)歷篩選和人力資源開(kāi)發(fā)已經(jīng)成為當前招聘領(lǐng)域的一個(gè)最新、最熱門(mén)的發(fā)展趨勢。

　　一些在A(yíng)I招聘領(lǐng)域邁出實(shí)質(zhì)性步伐的企業(yè)和機構表示，AI招聘可以避免主觀(guān)因素的干擾，更好地對應聘者能力與崗位需求進(jìn)行匹配。然而，偏見(jiàn)和歧視也可能通過(guò)算法更隱晦地內嵌到?jīng)Q策系統當中，悄無(wú)聲息地侵蝕就業(yè)公平。

　　如何讓AI算法背后的就業(yè)歧視無(wú)處藏身？日前，在上海市政協(xié)一場(chǎng)重點(diǎn)提案督辦專(zhuān)題調研暨辦理推進(jìn)會(huì )上，各方積極建言，為就業(yè)領(lǐng)域的AI應用立起公平公正的防護盾。

　　AI算法會(huì )不會(huì )產(chǎn)生就業(yè)歧視？

　　當前，我國互聯(lián)網(wǎng)招聘平臺快速發(fā)展。數據顯示，一些頭部平臺累計服務(wù)求職者已超過(guò)1億人次，求職有效簡(jiǎn)歷數超過(guò)1.5億份，認證企業(yè)接近1000萬(wàn)家。大量招聘需求與求職需求聚集于平臺，帶來(lái)了海量的數據積累。目前，已經(jīng)有多家招聘平臺開(kāi)始探索通過(guò)AI算法為數據賦能。

　　“根據招聘平臺的數據，結合當前社會(huì )上人工智能和大數據技術(shù)的發(fā)展，無(wú)論是用人單位還是中介部門(mén)，在雇傭決策上對算法技術(shù)的依賴(lài)性是不斷提高的。”上海市委網(wǎng)信辦總工程師楊海軍說(shuō)道。

　　在A(yíng)I算法為人力資源開(kāi)發(fā)帶來(lái)效能提升的同時(shí)，一些隱蔽的風(fēng)險也引發(fā)了各界的關(guān)注。

　　翁文磊曾長(cháng)期在上海市婦聯(lián)工作，密切關(guān)注女性就業(yè)的她注意到，如今的勞動(dòng)者在求職時(shí)面臨的情形和以往已大不相同。“互聯(lián)網(wǎng)招聘平臺的簡(jiǎn)歷篩選過(guò)程基于人工智能算法，可以從已知數據中準確推測求職者的婚育狀況，同時(shí)其自主學(xué)習能力會(huì )放大社會(huì )固有的部分性別偏見(jiàn)。”

　　“盡管目前還沒(méi)有發(fā)現典型案例，但也要未雨綢繆。”翁文磊表示，互聯(lián)網(wǎng)招聘平臺帶來(lái)的性別就業(yè)歧視更加隱蔽，只能通過(guò)長(cháng)期招聘結果進(jìn)行反推。“同時(shí)，勞動(dòng)法規制性別歧視的主體是雇主，即便互聯(lián)網(wǎng)招聘平臺可以承擔責任，其責任的履行也存在很大困難。”針對潛在的歧視風(fēng)險，她認為，是否存在歧視要根據數據來(lái)看，還要加強對典型案例的數據分析，進(jìn)而及時(shí)提出預警。

　　多管齊下共同監管

　　就業(yè)是最大的民生，就業(yè)歧視事關(guān)身在職場(chǎng)的每個(gè)勞動(dòng)者，如何未雨綢繆防患于未然，各方都已行動(dòng)起來(lái)，保障就業(yè)領(lǐng)域的公平公正。

　　針對算法新問(wèn)題，楊海軍介紹，國家先后出臺了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規定》《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導意見(jiàn)》，并持續開(kāi)展專(zhuān)項行動(dòng)，深入排查整治各類(lèi)企業(yè)的算法濫用現象。“主要是對企業(yè)算法的機制、機理、管理制度、應用場(chǎng)景，它的標簽體系、用戶(hù)權益保護等多個(gè)方面進(jìn)行深入檢查。基本上所有頭部的招聘企業(yè)都納入了檢查名單。”楊海軍說(shuō)。

　　在監管發(fā)力的同時(shí)，技術(shù)手段也在加強。上海市科委總工程師趙健介紹，在2021年人工智能科技支撐專(zhuān)項項目審核中，上海專(zhuān)門(mén)部署了人工智能社會(huì )實(shí)驗體系建設專(zhuān)題，強調要科學(xué)評估人工智能的社會(huì )綜合影響，有效推進(jìn)人工智能應用的標準建設，輔助支持人工智能應用的公共治理的決策。

　　防止AI可能存在偏見(jiàn)和歧視的問(wèn)題，一些機構已經(jīng)在這方面進(jìn)行有力的探索。“比如上海的浦江實(shí)驗室建設了軟硬結合的蒲公英人工智能治理開(kāi)放平臺——OpenEGlab，目標是要打造系統、實(shí)用的人工智能倫理治理的基礎設施。”趙健介紹說(shuō)，該平臺包括規則風(fēng)險展示、評測框架等五大部分。其中，公平公正的維度，涵蓋了基于性別、地域、年齡、職業(yè)健康的歧視內容。同時(shí)，建立了基于評測框架敏感問(wèn)題的評測語(yǔ)料庫，數據量達到百萬(wàn)級，公平公正部分的數據量將達到十萬(wàn)級，目前對一些國內外大模型安全性初步開(kāi)展了評測。

　　讓勞動(dòng)者參與算法治理

　　“來(lái)伊份目前有7800名正式員工，95%是女性，40歲至50歲的員工占50%。”面對職場(chǎng)上的就業(yè)歧視，上海來(lái)伊份股份有限公司總裁郁瑞芬常用自己的經(jīng)歷來(lái)回應偏見(jiàn)：“我是1999年創(chuàng )業(yè)的，雇用了大批下崗工人，她們是可愛(ài)的人，工作認真努力。”

　　郁瑞芬認為，年齡、性別等都不應是職場(chǎng)的門(mén)檻。“我們門(mén)店的大多數員工都是上海本地阿姨，企業(yè)對她們在電腦技能方面進(jìn)行了培訓提升，目前每年發(fā)放工資8.5億元左右。”

　　“女性構成了就業(yè)和勞動(dòng)力市場(chǎng)的半邊天，但晉升遭遇天花板、同工不同酬等就業(yè)歧視仍然存在于一些企業(yè)之中。”翁文磊認為，經(jīng)濟轉型，特別是新技術(shù)對就業(yè)的替代效應，女性是有優(yōu)勢的。“現在就業(yè)不僅僅要肌肉，更重要的是協(xié)調能力。”

　　上海財經(jīng)大學(xué)法學(xué)院教授吳文芳在對數字時(shí)代人工智能算法治理與勞動(dòng)者權益保障進(jìn)行研究時(shí)曾撰文指出，針對算法可能導致歧視以及算法權力濫用的問(wèn)題，需要通過(guò)算法治理工具予以規制。

　　吳文芳表示，應關(guān)注勞動(dòng)者參與算法治理的具體路徑構建，以及勞動(dòng)者新型權利的賦權進(jìn)路。同時(shí)，應強化工會(huì )的專(zhuān)業(yè)化賦能及與第三方專(zhuān)業(yè)機構的制度化協(xié)作，積極參與算法設計、算法公開(kāi)等監管程序。（記者裴龍翔）