致：

各國(guó)領(lǐng)導(dǎo)人、聯(lián)合國(guó)秘書(shū)長(zhǎng)、世界頂級(jí)科學(xué)家與學(xué)者、知名企業(yè)家、知名媒體人。

展信之時(shí)，ChatGPT、DeepSeek等生成式AI正以每秒數(shù)百萬(wàn)次的交互席卷全球——它能撰寫(xiě)文章、設(shè)計(jì)方案，甚至模擬人類(lèi)思維，可當(dāng)我們驚嘆于生成式AI的便捷時(shí)，是否意識(shí)到：這把“智能鑰匙”，已悄然打開(kāi)了科技失控的新潘多拉魔盒?

四十余年來(lái)，我始終在為人類(lèi)生存吶喊：從核武器擴(kuò)散到基因編輯風(fēng)險(xiǎn)，從早期AI倫理爭(zhēng)議到今日生成式AI的爆發(fā)，每一次科技躍進(jìn)背后，都藏著“非理性發(fā)展”的致命陷阱。此前十一封公開(kāi)信中，我曾懇請(qǐng)諸位正視“科技無(wú)節(jié)制發(fā)展將會(huì)很快致人類(lèi)于滅絕”的危機(jī)，呼吁以人類(lèi)大統(tǒng)一的治理力量約束高危技術(shù)。而今，生成式AI的普及速度與潛在風(fēng)險(xiǎn)，已遠(yuǎn)超過(guò)往任何一項(xiàng)技術(shù)，若此刻仍不行動(dòng)，我們或?qū)?huì)錯(cuò)過(guò)守護(hù)人類(lèi)生存的最后窗口期。

諸位當(dāng)知，生成式AI的風(fēng)險(xiǎn)絕非“算法偏見(jiàn)”或“就業(yè)替代”這般簡(jiǎn)單。它的“自主學(xué)習(xí)能力”正突破人類(lèi)預(yù)設(shè)邊界：有研究顯示，先進(jìn) AI 模型可自行推導(dǎo)軍事技術(shù)原理，甚至生成誤導(dǎo)性信息操縱輿論;更令人憂(yōu)心的是，全球已有超20個(gè)國(guó)家在秘密推進(jìn)“AI 武器化”研究，若任由國(guó)家間的技術(shù)競(jìng)賽失控，無(wú)需百年，自主決策的AI武器、被惡意利用的生成式AI，或?qū)⒊蔀闅缛祟?lèi)的“無(wú)形利刃”。這不是危言聳聽(tīng)——正如2007年我在第一封公開(kāi)信中預(yù)警科技發(fā)展的整體風(fēng)險(xiǎn)，2015年呼吁防范AI自主意識(shí)，今日生成式AI的風(fēng)險(xiǎn)，顯得尤為具體而現(xiàn)實(shí)。

過(guò)往信件中我始終強(qiáng)調(diào)：人類(lèi)需要科技，但需“有敬畏的科技。生成式 AI 若缺乏全球統(tǒng)一的監(jiān)管框架，它終將淪為少數(shù)國(guó)家爭(zhēng)奪霸權(quán)的武器、少數(shù)企業(yè)逐利的工具，而進(jìn)一步的失控則必定是危及人類(lèi)的整體生存。當(dāng)前“各國(guó)自定規(guī)則” 的治理現(xiàn)狀，恰是科技失控的根源——你若禁止高危AI研發(fā)，他國(guó)卻加速推進(jìn);你若規(guī)范數(shù)據(jù)使用，跨境數(shù)據(jù)流卻無(wú)跡可尋。這種“囚徒困境”，與我?guī)资陙?lái)一直預(yù)警的科技整體風(fēng)險(xiǎn)，以及人們過(guò)去重點(diǎn)關(guān)注的核擴(kuò)散風(fēng)險(xiǎn)如出一轍，而生成式AI的擴(kuò)散速度，卻比核武器快百倍，而其隱蔽性則是強(qiáng)千倍。

因此，今日我再次以人類(lèi)生存的名義懇請(qǐng)諸位：

第一，由聯(lián)合國(guó)牽頭，立即啟動(dòng)全球生成式AI監(jiān)管公約談判，匯聚科技專(zhuān)家、倫理學(xué)者與各國(guó)代表，明確禁止AI自主決策武器研發(fā)以及大規(guī)模輿論操縱 AI等高危應(yīng)用。

第二，將生成式AI監(jiān)管納入聯(lián)合國(guó)核心議題，在聯(lián)合國(guó)主導(dǎo)下建立AI安全測(cè)試全球中心，對(duì)各國(guó)AI產(chǎn)品進(jìn)行統(tǒng)一安全認(rèn)證，杜絕監(jiān)管洼地帶來(lái)的風(fēng)險(xiǎn)外溢。

第三，以上兩點(diǎn)目前來(lái)看是當(dāng)務(wù)之急，但是，在我看來(lái)也只是臨時(shí)性措施。要避免科技滅絕危機(jī)的根本之道是要實(shí)現(xiàn)全人類(lèi)的大統(tǒng)一，采用世界政權(quán)的力量掌控科學(xué)技術(shù)。因此，要加速“人類(lèi)大統(tǒng)一”的理念共識(shí)。懇請(qǐng)諸位，將“人類(lèi)整體生存權(quán)”置于國(guó)家利益之上，置于企業(yè)利益之上，讓科技真正服務(wù)于人類(lèi)，而非毀滅人類(lèi)。

諸位領(lǐng)袖，四十多年來(lái)我從未因質(zhì)疑而退縮，只因深知：人類(lèi)的整體生存沒(méi)有“試錯(cuò)機(jī)會(huì)”。生成式AI 引發(fā)的熱議，恰是喚醒全球共識(shí)的契機(jī)——它讓普通人也意識(shí)到，科技風(fēng)險(xiǎn)并非遙遠(yuǎn)的科幻，而是當(dāng)下必須面對(duì)的現(xiàn)實(shí)。此前十一封信件中，已有諾貝爾學(xué)者響應(yīng)、有國(guó)際組織關(guān)注、有企業(yè)主動(dòng)參與監(jiān)管，這證明“守護(hù)人類(lèi)”的共識(shí)正在凝聚。

今日提筆，我已從四十多年前的少年變成了老人，但卻仍是那個(gè)為人類(lèi)生存奔走的執(zhí)著者，所求唯有：讓科技成為人類(lèi)進(jìn)步的階梯，而非滅絕的深淵;讓我們的子孫后代，能在理性的時(shí)代安心生活，而非在科技失控的恐懼中掙扎。

人類(lèi)的整體生存高于一切!懇請(qǐng)諸位以行動(dòng)回應(yīng)使命，以共識(shí)守護(hù)未來(lái)——這不僅是對(duì)當(dāng)下負(fù)責(zé)，更是對(duì)我們?nèi)祟?lèi)這一物種的嚴(yán)肅承諾。

人類(lèi)會(huì)(原拯救人類(lèi)行動(dòng)組織)創(chuàng)始人

胡家奇

2025年12月10日