9月27日，由聯(lián)合國婦女署資助支持、瑪娜數(shù)據(jù)基金會主辦的“促進人工智能算法性別平等”報告發(fā)布會暨政策研討會在上海舉行，會上發(fā)布了《促進人工智能算法性別平等研究報告(2021)》(下稱《報告》)。

　　聯(lián)合國婦女署駐華辦公室高級項目官員馬雷軍、上海市浦東新區(qū)婦女聯(lián)合會副主席國云丹、瑪娜數(shù)據(jù)基金會秘書長張唯、瑪娜數(shù)據(jù)基金會課題組專家負責人周旅軍、專家況琨，以及小米集團科技委員會技術(shù)向善議題召集人朱汐、信也集團首席算法科學家王春平、Thought Works(中國)數(shù)據(jù)智能團隊解決方案架構(gòu)師任添石等各界嘉賓出席本次會議，共同探討如何促進人工智能算法中的性別平等，協(xié)同政府、企業(yè)和社會的力量促進人工智能的倫理與治理的發(fā)展。

　　馬雷軍首先發(fā)表了主旨演講，他指出在聯(lián)合國可持續(xù)發(fā)展目標的17個目標工作領域里，性別平等是第5個核心目標。中國在促進性別平等以及保護婦女權(quán)益方面，也有很多實質(zhì)性的舉措，如《民法典》和即將出臺的《中國婦女發(fā)展綱要》等。由瑪娜數(shù)據(jù)基金會實施的聯(lián)合國婦女署的“促進人工智能算法性別平等”項目是聯(lián)合國CGF項目第9批項目招標(2019年)的中標項目，該項目填補了國內(nèi)關于人工智能領域性別問題研究的空白。

　　聯(lián)合國婦女署駐華辦公室高級項目官員馬雷軍

　　國云丹肯定了“促進人工智能算法性別平等”項目的前瞻性意義，并指出“算法性別平等議題討論尚且處于起步階段，現(xiàn)在討論算法性別治理議題將影響到今后我們所面對的、我們所置身的社會是何種樣貌?！彼岢隽藢λ惴ㄆ妴栴}的觀察，“隨著數(shù)字化轉(zhuǎn)型的開展，性別平等的推動遇到了更大的挑戰(zhàn)。技術(shù)本身無性別偏見，但算法的應用使既有的、存在于社會中的性別偏見得到強化”。在瑪娜數(shù)據(jù)基金會的項目開展過程中，浦東婦聯(lián)給予了充分關注和支持。期待通過該項目撬動社會意識，探索有效的落地措施，發(fā)揮浦東在人工智能數(shù)字化轉(zhuǎn)型路上的引領者角色。

　　上海市浦東新區(qū)婦女聯(lián)合會副主席國云丹

　　據(jù)了解，2019年，國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則——發(fā)展負責任的人工智能》，提出了人工智能治理的框架和行動指南，明確提出要在數(shù)據(jù)獲取、算法設計、技術(shù)開發(fā)、產(chǎn)品研發(fā)和應用過程中消除偏見和歧視。該委員會近日又發(fā)布了《新一代人工智能倫理規(guī)范》，第十三條特別強調(diào)避免偏見歧視，在數(shù)據(jù)采集和算法開發(fā)中，加強倫理審查，充分考慮差異化訴求，避免可能存在的數(shù)據(jù)與算法偏見，努力實現(xiàn)人工智能系統(tǒng)的普惠性、公平性和非歧視性。

　　“正是在這樣的背景下，基金會開展了‘促進人工智能算法性別平等’的項目，通過基礎研究和學術(shù)倡導揭示出算法中存在的性別偏見問題，提煉出有益于促進算法性別平等的建設性意見?！睆埼ㄔ跁媳硎?，“此外，對企業(yè)開展性別意識及能力建設，對社會倡導提升對于該問題的認知和討論，都是促進算法性別平等的舉措?！?/p>

　　據(jù)《報告》介紹，目前人工智能算法的諸多應用場景中均存在一定的性別歧視現(xiàn)象。以人工智能開放平臺為例，一張“端著水果籃的男性”圖片被AI人臉識別平臺檢測為“女性”，單獨截出頭像卻能夠被檢測為“男性”。在就業(yè)場景中，2018年亞馬遜公司的自動招聘算法傾向于給關鍵詞含“女”字的簡歷打低分，降低了女性工作申請成功率，最后棄用了該招聘算法。

　　某人工智能開放平臺監(jiān)測結(jié)果，截圖于2019年4月

　　“算法中存在性別歧視問題，主要源于訓練AI的數(shù)據(jù)集反映了人類社會存在的性別偏見，而算法工程師對這一問題缺乏意識，未將解決性別偏見納入開發(fā)需求，從而使得算法放大了性別歧視?！霸擁椖空n題組專家況琨向記者解釋算法為何會產(chǎn)生性別歧視問題。

　　《報告》通過專題社會調(diào)研的數(shù)據(jù)顯示，58%的人工智能算法從業(yè)者不知道算法當中存在的性別偏見問題，73%的從業(yè)者不知道存在專門針對女性的惡意算法。而對于如何解決這一問題，更是有72%的從業(yè)者不了解數(shù)據(jù)偏誤(或數(shù)據(jù)偏差)的解決方案或技術(shù)措施，80%的從業(yè)者不了解實現(xiàn)算法公平的解決方案或技術(shù)措施。表明從業(yè)者對算法性別平等的意識及能力較為欠缺，亟需提升。

　　為女性提供更多的科技教育機會，企業(yè)提供性別平等的職業(yè)準入、培訓、晉升機會，增強企業(yè)內(nèi)部的性別平等意識培訓等，都是解決這一問題的重要舉措。在參與調(diào)研的從業(yè)者當中，有72%的從業(yè)者參與的人工智能算法項目中女性開發(fā)者比例少于30%，66%參與的團隊中女性決策者比例少于30%。該項目課題組專家負責人周旅軍認為，提升女性開發(fā)者和決策領導者比例，也將有利于促進算法中的性別平等，促進科技納入更加多元包容和性別友好的視角。

　　開發(fā)者和程序員等相關從業(yè)群體對算法偏見與算法公平性的認知尚存在很大改善空間。企業(yè)可以采取一系列手段直接干預算法偏見，在算法產(chǎn)品開發(fā)和應用過程中提升性別公平性?！秷蟾妗分袕拈_發(fā)、審計、反饋改進和應用決策四個方面提出建議：

　　1、減少算法模型在開發(fā)過程中的性別偏見。

　　2、公開算法審計結(jié)果，確保數(shù)據(jù)公平性。

　　3、為產(chǎn)品用戶設置反饋性別偏見的渠道，將公平性需求納入產(chǎn)品改進過程。

　　4、在高風險場景中，應當由人而非算法來做出決策。

　　此外，立法為審計可行性提供制度保障、研究機構(gòu)和社會團體開展第三方算法審計等舉措均有利于促進人工智能算法性別平等。

　　瑪娜數(shù)據(jù)基金會秘書長張唯

　　對于生產(chǎn)和使用數(shù)據(jù)的個人，周旅軍也提供了幾點建議：1、作為數(shù)據(jù)生產(chǎn)者，認識到算法偏見，避免生產(chǎn)出帶有性別偏見的話語；2、將偏見反饋給平臺，參與到算法產(chǎn)品性別平等的改進過程中；3、要求企業(yè)公開訓練數(shù)據(jù)的審計結(jié)果；4、要求了解算法的使用場景和目的，選擇企業(yè)使用數(shù)據(jù)的方式。

　　張唯在會上強調(diào)，一方面是要在人工智能的倫理層面建設和倡導性別平等的意識理念和話語體系，另一方面則是要尋找將性別平等觀念落地的途徑和措施，不能只止于反思和批判，要真正將性別平等的理念貫穿于人工智能行業(yè)中組織機構(gòu)的內(nèi)部運轉(zhuǎn)，為其提供可行的操作方法，使算法能夠為促進性別平等服務。

免責聲明：以上內(nèi)容為本網(wǎng)站轉(zhuǎn)自其它媒體，相關信息僅為傳遞更多信息之目的，不代表本網(wǎng)觀點，亦不代表本網(wǎng)站贊同其觀點或證實其內(nèi)容的真實性。如稿件版權(quán)單位或個人不想在本網(wǎng)發(fā)布，可與本網(wǎng)聯(lián)系，本網(wǎng)視情況可立即將其撤除。