天天看點

AIGC:我太“男”了?——大模型中的性别偏差問題 | YEF2024

作者:CCFvoice

掃描報名二維碼:

AIGC:我太“男”了?——大模型中的性别偏差問題 | YEF2024

(掃碼報名)

大模型正在引發深刻的社會變革,重構資訊社會的生态,多元度公正、公平的大模型是促進智能社會良性發展的重要因素。

人工智能發展的曆程中,“性别偏見”已經不是一個新詞。有觀點認為,訓練方法和訓練資料中存在的性别偏見可能被大模型學習并反映在其輸出中,影響決策公正性和準确性。該問題長期發展下去可能會産生諸多不良影響,甚至引發“蝴蝶效應”,例如加劇機會不平等、對女性造成冒犯或者在人機互動的過程中加深性别刻闆印象。如何實作大模型中的性别偏差問題的治理,需要政策、産業和研究領域的對話。

論壇邀請AIGC領域與性别差異研究相關的專家,從大模型的發展、大模型對齊、情感認知探索與大模型中的性别塑造幾方面圍繞大模型中性别偏差問題及其應對政策展開深度讨論,主要探讨偏見的來源和影響,提出解決方法,目的是促進AI技術的公平、透明和責任性,推動智能社會健康發展。

論壇安排

順序 主題 主講嘉賓 機關
1 大模型的發展:順應過去還是改變未來? 高揚 北京理工大學
2 大模型對齊 邱錫鵬 複旦大學
3 情感認知探索與大模型中的性别塑造 姚鴻勳 哈爾濱工業大學

思辨環節

1. AIGC是否存在性别偏差,其根源是什麼?是否會引發“蝴蝶效應”?

2. 如何利用技術對AIGC進行“女性賦權”,使其去性别化?

3. AIGC中“她力量”的應為、可為與難為

徐小敏 騰訊雲公司
姚長江 青島洞聽智能科技有限公司
王菲兒 中國工商大學

執行主席

AIGC:我太“男”了?——大模型中的性别偏差問題 | YEF2024

趙樣

雲南師範大學教授

CCF進階會員,CCF YOCSEF昆明2023-2024年度主席、YOCSEF一方沙龍2024-2025年度輪值主席,中國高等教育學會青少年人工智能教育分會理事。專業領域為學習分析與智慧教育,模式識别與智能系統。主持教育部人文社科規劃基金面上項目1項,省級項目4項,參與國家社科基金1項等課題10餘項。第一作者發表論文30餘篇,獨著學術專著1部,參編6部;主編線上學習教材2部(用量超10萬冊),參編3部。登記軟體著作權15項。參加省級以上創新創業大賽獲得國家級銅獎1項、省級金獎2項、銀獎6項、銅獎4項。

共同執行主席

AIGC:我太“男”了?——大模型中的性别偏差問題 | YEF2024

李洋

東北林業大學副教授、計算機與控制工程學院副院長

CCF YOCSEF哈爾濱2024-2025年度主席。主要研究方向為自然語言處理、人工智能與生物資訊處理。主持國家自然科學基金2項,黑龍江省自然科學基金優秀青年項目、面上項目等多個省部級項目。在國際頂級期刊和會議發表論文20餘篇。獲東北林業大學“十佳研究所學生導師”獎等。

論壇講者

AIGC:我太“男”了?——大模型中的性别偏差問題 | YEF2024

姚鴻勳

哈爾濱工業大學計算學部長聘教授

黑龍江省政府特殊津貼專家,教育部"新世紀優秀人才",中國圖象圖形學學會第七、第八屆常務理事,現任中國圖象圖形學學會情感計算與了解專業委員會主任,曾任第一屆國際情感計算會議 ACII2005大會共同主席,國際網際網路多媒體計算與服務會議ACM ICIMCS2010大會主席,2021世界人工智能大會哈爾濱分會論壇主席,2023年中國圖象圖形學學會青年科學家大會共同主席、2023 第一屆情感智能大會主席。主要研究領域為計算機視覺智能、多媒體資料分析與了解、情感計算等。已發表 ICCV,CVPR, ACMMM等頂級國際會議及 IJCV, TPAMI, TIP,TMM等高影響因子國際期刊文章學術論文 300 餘篇,H指數>50,Google 引用量10000+,入全球人工智能 TOP 2000 榜單學者榜單,中國人工智能100位榜單人物。獲國家發明專利30餘項,出版教材6部。主持或負責完成國家自然基金重點、面上項目12項,主持新一代人勞工智能國家科技重大專項課題1 項,完成國家863、973項目以及國際合作項目多項。獲國家及省部級自然科學獎項4項,獲中國計算機專業優秀教師獎(2021)。已培養成長為“國家級高層次人才”1人、“國家級青年人才”4人,“優博”“優碩”學生6名,省級優秀畢業生十餘名。

報告題目:情感認知探索與大模型中的性别塑造

摘要:

此次報告以圖像情感分析任務為例探讨人工智能從語義感覺到情感認知的轉變過程,強調圖像作為豐富情感資訊載體的重要性,并介紹通用圖像情感分析與傳統圖像感覺研究的差別。在此基礎上,指出圖像情感分析所面臨的兩個主要挑戰:情感差距和主觀性。情感差距展現為圖像特征與使用者預期情感狀态之間的不一緻性,而主觀性則涉及不同觀衆對同一圖像産生不同情感反應的現象。報告介紹上述挑戰引出的研究方向:特征提取層面的研究和标簽噪聲的處理,并展望圖像情感分析領域的發展方向,強調多模态大模型的重要性,提出情感資訊推理和多模态大模型特征融合等方面的潛在影響。

AIGC:我太“男”了?——大模型中的性别偏差問題 | YEF2024

邱錫鵬

複旦大學計算機學院教授

CCF YOCSEF上海2024-2025年度主席,主要研究方向為自然語言處理基礎技術和基礎模型,發表CCF-A/B類論文100餘篇,引用19,000餘次,入選愛思唯爾“中國高被引學者”和“終身科學影響力排行榜(全球前2%頂尖科學家榜單)”,曾獲中國科協青年人才托舉工程、國家優青等項目,獲錢偉長中文資訊處理科學技術獎一等獎(第一完成人),入選教育部“高校計算機專業優秀教師獎勵計劃”,兩次獲得上海市計算機學會教學成果獎一等獎;主持研發的MOSS已經成為國内影響力最大的開源大型語言模型之一。著作《神經網絡與深度學習》被上百家高校作為教材。

報告題目:大模型對齊

摘要:

在目前技術快速發展的時代,大模型在我們的日常生活中扮演着越來越重要的角色。然而,這些技術系統常常顯露出性别偏差,這不僅反映了訓練資料的偏見,也可能加劇社會性别不平等。本報告着重探讨了如何通過提升女性在AI領域的代表性和參與度,對大型模型進行性别對齊,以減少和消除這些偏見。

AIGC:我太“男”了?——大模型中的性别偏差問題 | YEF2024

高揚

北京理工大學計算機學院副教授

從事生成式語言模組化十餘年,發表高水準論文60餘篇,先後主持國家自然科學基金2項,專利成果轉化1項,核心參與7項國家及省部級重點/重大研究計劃。《大模型:算法與實踐》課程入選教育部人工智能關鍵領域工程碩博士核心課程。主持從頭訓練的明德基座大模型(MindLLM)及國産生态大模型建設,開源 “端側”對話大模型,上線首月下載下傳量超4000餘次,總計下載下傳過萬次,并上線檢索增強大模型的智能政務服務。成果獲電子學會科學進步一等獎,國防科學進步二等獎。擔任Web Intelligence等期刊編委,EMNLP、CCL等會議領域主席,多次擔任高水準國際會議程式委員。

報告題目:大模型的發展:順應過去還是改變未來?

摘要:

大模型所呈現出來的性别偏見很大程度上是人類過往的資料和認知造成的,現有模型方法是順應這種資料分布。面對已經存在社會歧視、性别偏見,AI技術可以發揮怎樣的能量,做出怎樣的改變?此次報告将針對以上問題展開讨論,從資料構造、模型訓練方法、評估體系方面探讨AI賦能的“她力量”。繼而,展望AI時代下女性力量的優勢,以及為整個社會帶來可能的益處。

思辨嘉賓

AIGC:我太“男”了?——大模型中的性别偏差問題 | YEF2024

徐小敏

騰訊雲公司雲桂區域總經理

CCF昆明分部第三屆(2023~2025)副主席、大資料專業委員會委員。畢業于清華大華環境科學與工程系,2022年12月加入騰訊公司,進入騰訊前曾任職阿裡雲雲南總經理。十餘年的IT從業經驗,關注數字技術前沿趨勢,緻力于運用雲計算、大資料、人工智能及區塊鍊等領先技術,推動行業數字化轉型和産業創新,助力數字經濟與傳統實體經濟融合發展。

AIGC:我太“男”了?——大模型中的性别偏差問題 | YEF2024

姚長江

青島洞聽智能科技有限公司産品總監

獲得國際産品經理資格認證,國際項目經理資格認證。擁有近十年人工智能領域工作經驗,對資料分析、NLP、大模型應用、企業智能化改造有着豐富經驗。曾負責多項企業資訊化改造工程,對大模型微調與應用有獨特見解,并規劃設計多項大模型實際應用系統。

AIGC:我太“男”了?——大模型中的性别偏差問題 | YEF2024

王菲兒

CCF YOCSEF一方沙龍性别問題顧問

管理學博士,畢業于格拉斯哥大學亞當斯密商學院。現于北京工商大學經濟學院任職博士後,主要研究領域為數字經濟,AI發展與勞動力等。

繼續閱讀