2024年2月20日下午，AIIA“SafetyAI Bench”（星空人工智能大模型安全基準測試）線上研討會成功舉辦。來自中國信息通信研究院（以下簡稱“中國信通院”）、廈門大學、北京大學、北京交通大學、360、百度、螞蟻集團、VIVO、西門子、小鵬汽車、馬上消費、浪潮科技、海信視像、交通銀行、商湯科技、郵儲銀行、普華永道、科大訊飛、金橙果科技、萬商天勤律所、中興通訊、博特智能、開源網(wǎng)安、云天勵飛等單位40余位科研機構(gòu)專家及企業(yè)代表參加了本次會議。
中國信通院星空人工智能研究中心、AIIA 安全治理委員會 AI原生安全工作組組長張蔚敏介紹了AIIA“SafetyAI Bench”的工作背景。為了進一步推動大模型的安全部署應(yīng)用，中國信通院聯(lián)合17家單位發(fā)起大模型安全基準測試SafetyAI Bench，秉持公平公正、產(chǎn)業(yè)應(yīng)用和場景導向的原則，目標建立業(yè)內(nèi)權(quán)威大模型安全中文基準測試體系。以提高內(nèi)容安全、數(shù)據(jù)安全和科技倫理等安全能力為目標，覆蓋價值觀正確、合法合規(guī)、隱私保護、文明健康等二十個維度的中文評測數(shù)據(jù)集。幫助大模型技術(shù)提供方提升模型安全風險防范能力，為大模型研發(fā)和落地保駕護航。
中國信通院星空人工智能研究中心安全與元宇宙部白入文博士介紹了“大模型評測系統(tǒng)”建設(shè)工作，系統(tǒng)將依托工信部大模型公共服務(wù)平臺形成大模型評測執(zhí)行的“硬工具”，為通用大模型、行業(yè)大模型、 大模型應(yīng)用產(chǎn)品等提供一站式評測服務(wù)。一是以中立身份形成全維度、可拓展、公開、公正、公平的大模型評測能力，二是圍繞產(chǎn)業(yè)實際應(yīng)用需求開展動態(tài)評測服務(wù)，三是提供包括模型選型與供需對接在內(nèi)的應(yīng)用落地配套服務(wù)。
金橙果科技是星空人工智能中臺技術(shù)研發(fā)的優(yōu)秀團隊，其產(chǎn)品AZSYS系統(tǒng)可以有效提升對異構(gòu)數(shù)據(jù)的處理能力，幫助大模型與應(yīng)用場景深度融合。搭載了該系統(tǒng)的伙伴AI在深度學習、自然語言理解、AI模型開發(fā)、角色構(gòu)建與訓練等領(lǐng)域均有非常出色的表現(xiàn)。金橙果科技CEO宋佰軒表示，我們正處于新的科技革命爆發(fā)前夕，AI不僅會改變我們思考和解決問題的方式，更會為人類社會生產(chǎn)生活方式激活無限新可能。未來AI將無處不在，隨之而來的AI安全問題將是我們面臨的巨大挑戰(zhàn)，我們愿意攜手更多同道者，一起推動行業(yè)安全標準的制定和實施，共建美好AI未來。
星空人工智能技術(shù)網(wǎng) 倡導尊重與保護知識產(chǎn)權(quán)。如發(fā)現(xiàn)本站文章存在版權(quán)等問題，煩請30天內(nèi)提供版權(quán)疑問、身份證明、版權(quán)證明、聯(lián)系方式等發(fā)郵件至1851688011@qq.com我們將及時溝通與處理。！：首頁 > 星空人工智能產(chǎn)業(yè) > AI大模型 » 中國信通院聯(lián)合金橙果科技等十七家單位發(fā)起星空人工智能大模型安全基準測試