人民網
人民網>>上海頻道

應對全球AI治理挑戰 系統推進治理原則落地

“蒲公英”人工智能治理開放平台亮相2022世界人工智能大會

2022年09月02日12:53 | 來源:人民網-上海頻道
小字號

人民網上海9月2日電 為積極應對全球人工智能治理挑戰,系統解決規則落地難、軟硬研究分離、治理碎片化等問題,上海人工智能實驗室治理研究中心,聯合清華大學、復旦大學合作團隊共同發起蒲公英人工智能治理開放平台——OpenEGLab。

9月1日,該平台1.0版本於2022世界人工智能大會科學前沿全體會議上,由科技部高新技術司司長陳家昌、科技部戰略規劃司副司長邢懷濱、上海市科技工作黨委書記徐楓和國家新一代人工智能治理專業委員會主任薛瀾教授共同啟動。

目前,國際上尚少見規則和技術雙輪互動的治理體系性平台。最新亮相的“蒲公英”OpenEGLab,目標是打造系統、實用的人工智能倫理與治理基礎設施,探索“規則-技術-場景-評測”一體協同的人工智能治理體系。蒲公英代表著希望、溫暖與友誼,蒲公英人工智能治理開放平台秉持促進跨學科研究、多元主體共建共享的理念,讓蒲公英的種子飛的更遠。

此次平台共發布了包括規則集、治理圖譜、風險展示、評測框架和行業方案在內的五大亮點。規則集致力於構建全球治理知識庫,目前已收錄約1500條標注規則文件,包括倫理原則、政策戰略、法律法規和標准等。治理圖譜脫胎於平台收錄的全球AI治理標注規則集,旨在打造人工智能治理全景圖像,呈現各地治理情況,支撐研判國際治理動向和趨勢。規則集標簽全部開放,用戶可根據需求自主構建、自由探索各種“蒲公英”式的治理圖譜。風險展示的目標是打開人工智能模型價值影響“黑箱”,通過互動方式,幫助用戶理解AI模型的基本結構、魯棒性、安全性、隱私性等。結合業界研究,該平台提出“人工智能六維評測體系”,用於綜合評估一個人工智能模型的基礎屬性。目前,平台提供10個常用人工智能模型的初步評測結果。行業方案致力於推動人工智能治理在典型應用場景的落地。比如,在醫療領域,平台聚焦人工智能醫療影像中的倫理問題,嘗試提出對策建議,推動人工智能醫療影像從倫理原則到實質性落地。

薛瀾教授在發言中表示,希望業界同仁能在平台上持續積澱治理創新成果和工具,促進人工智能治理理念的落地,服務提升人工智能治理效率,共促人工智能可信、可持續發展。

(責編:唐小麗、軒召強)

分享讓更多人看到

返回頂部