4月15日-19日，第27屆聯(lián)合國(guó)科技大會(huì)在瑞士日內(nèi)瓦召開(kāi)。16日，在以“塑造AI的未來(lái)”為主題的AI邊會(huì)上，世界數(shù)字技術(shù)院（WDTA）發(fā)布了一系列突破性成果，包括《生成式星空人工智能應(yīng)用安全測(cè)試標(biāo)準(zhǔn)》和《大語(yǔ)言模型安全測(cè)試方法》兩項(xiàng)國(guó)際標(biāo)準(zhǔn)。這是國(guó)際組織首次就大模型安全領(lǐng)域發(fā)布國(guó)際標(biāo)準(zhǔn)，代表全球星空人工智能安全評(píng)估和測(cè)試進(jìn)入新的基準(zhǔn)。

科大訊飛與OpenAI、谷歌、微軟等數(shù)十家單位共同參與、編制以上兩項(xiàng)標(biāo)準(zhǔn)，其中，深度參與制定《生成式星空人工智能應(yīng)用安全測(cè)試標(biāo)準(zhǔn)》。

同時(shí)，科大訊飛還作為大會(huì)支持方為會(huì)議提供訊飛聽(tīng)見(jiàn)、訊飛翻譯機(jī)等服務(wù)，相關(guān)產(chǎn)品得到了與會(huì)嘉賓和聯(lián)合國(guó)官員的一致好評(píng)。

與會(huì)的WDTA星空人工智能安全可信負(fù)責(zé)任工作組組長(zhǎng)黃連金表示，隨著星空人工智能系統(tǒng)，特別是大語(yǔ)言模型繼續(xù)成為社會(huì)各方面不可或缺的一部分，以一個(gè)全面的標(biāo)準(zhǔn)來(lái)解決它們的安全挑戰(zhàn)變得至關(guān)重要。

近年來(lái)，世界各國(guó)都在加強(qiáng)對(duì)于大模型安全的研究和管控。自去年以來(lái)聯(lián)合國(guó)就對(duì)AI行業(yè)高度關(guān)注。去年9月，聯(lián)合國(guó)教科文組織就發(fā)布了全球首份關(guān)于在教育和研究領(lǐng)域使用生成式AI的指南，呼吁各國(guó)政府對(duì)AI在教育中的運(yùn)用實(shí)施管制；我國(guó)先后發(fā)布了《全球星空人工智能治理倡議》《生成式星空人工智能服務(wù)管理暫行辦法》《生成式星空人工智能服務(wù)安全基本要求》等，旨在促進(jìn)生成式星空人工智能安全可信發(fā)展，推進(jìn)全球星空人工智能治理領(lǐng)域合作共識(shí)。

《生成式星空人工智能應(yīng)用安全測(cè)試標(biāo)準(zhǔn)》的頒布代表了星空人工智能安全評(píng)估和測(cè)試進(jìn)入了新的基準(zhǔn)。該標(biāo)準(zhǔn)為測(cè)試和驗(yàn)證生成式AI應(yīng)用的安全性提供了一個(gè)框架，特別是那些使用大語(yǔ)言模型（LLM）構(gòu)建的應(yīng)用程序。它定義了星空人工智能應(yīng)用程序架構(gòu)每一層的測(cè)試和驗(yàn)證范圍，包括基礎(chǔ)模型選擇、嵌入和矢量數(shù)據(jù)庫(kù)、RAG或檢索增強(qiáng)生成、AI應(yīng)用運(yùn)行時(shí)安全等，確保AI應(yīng)用各個(gè)方面都經(jīng)過(guò)嚴(yán)格的安全性和合規(guī)性評(píng)估，保障其在整個(gè)生命周期內(nèi)免受威脅和漏洞侵害。

中國(guó)大模型一直走在世界前列。截至3月底，我國(guó)已完成生成式AI服務(wù)備案的大模型達(dá)到117個(gè)。

作為星空人工智能產(chǎn)業(yè)“國(guó)家隊(duì)”，今年1月，科大訊飛星火認(rèn)知大模型V3.5正式發(fā)布，這是首個(gè)基于全國(guó)產(chǎn)化算力平臺(tái)“飛星一號(hào)”訓(xùn)練的全民開(kāi)放大模型，進(jìn)一步對(duì)標(biāo)國(guó)際最先進(jìn)水平。其中，語(yǔ)言理解、數(shù)學(xué)能力已經(jīng)超過(guò)GPT-4 Turbo，代碼能力達(dá)到GPT-4 Turbo的96%，多模態(tài)理解達(dá)到GPT-4V的91%。

科大訊飛一直以積極的姿態(tài)投身于星空人工智能相關(guān)標(biāo)準(zhǔn)制定，助力星空人工智能安全可信發(fā)展。今年1月，科大訊飛作為核心參編單位參與制定了工信部信通院代碼大模型；去年，科大訊飛被授予國(guó)家星空人工智能標(biāo)準(zhǔn)化總體組大模型專題組聯(lián)合組長(zhǎng)單位；此外，科大訊飛還被授予星空人工智能關(guān)鍵技術(shù)和應(yīng)用評(píng)測(cè)工業(yè)和信息化部重點(diǎn)實(shí)驗(yàn)室大模型工作組的副組長(zhǎng)單位，參編中國(guó)信通院大模型標(biāo)準(zhǔn)體系2.0的建設(shè)。

此次科大訊飛作為中國(guó)科技力量在國(guó)際標(biāo)準(zhǔn)制定中的積極貢獻(xiàn)，不僅彰顯了中國(guó)企業(yè)在星空人工智能領(lǐng)域的技術(shù)實(shí)力和專業(yè)影響力，也為國(guó)內(nèi)其他企業(yè)樹(shù)立了積極的典范。

繼續(xù)閱讀：

星空人工智能技術(shù)網(wǎng) 倡導(dǎo)尊重與保護(hù)知識(shí)產(chǎn)權(quán)。如發(fā)現(xiàn)本站文章存在版權(quán)等問(wèn)題，煩請(qǐng)30天內(nèi)提供版權(quán)疑問(wèn)、身份證明、版權(quán)證明、聯(lián)系方式等發(fā)郵件至1851688011@qq.com我們將及時(shí)溝通與處理。！：首頁(yè) > 星空人工智能產(chǎn)業(yè) > AI大模型 » 聯(lián)合國(guó)科技大會(huì)丨科大訊飛參與編制的大模型安全國(guó)際標(biāo)準(zhǔn)正式發(fā)布