導(dǎo)語(yǔ)：辛頓在辭職聲明中表示，“我花了一生時(shí)間讓AI變得智能，現(xiàn)在我需要花余生讓人們意識(shí)到它的危險(xiǎn)。”

王劍/作者 礪石商業(yè)評(píng)論/出品

2025年7月，上海世博中心座無(wú)虛席，78歲的“AI教父”杰弗里·辛頓（Geoffrey Hinton），首次在華公開(kāi)亮相。

在四十分鐘的演講中，他六次提及“責(zé)任”，三次強(qiáng)調(diào)“不可逆的風(fēng)險(xiǎn)”，直言人類(lèi)正在“用開(kāi)源模型喂養(yǎng)一個(gè)可能反噬自身的系統(tǒng)”。

“我花了一生讓AI變得智能，現(xiàn)在卻要花余生讓它變得友善。”他在演講中的這句告白，令人格外印象深刻。

從半世紀(jì)前AI寒冬中堅(jiān)守神經(jīng)網(wǎng)絡(luò)的“異端”，到如今掀起技術(shù)革命卻又成為敲響警鐘的“吹哨人”，辛頓的一生始終與AI的命運(yùn)緊密相連。

而要理解辛頓為何在AI發(fā)展的關(guān)鍵時(shí)刻發(fā)出警示，又為何將關(guān)鍵發(fā)聲放在上海，就必須回溯其跨越兩百年的家族傳承、三十年的孤獨(dú)堅(jiān)守，以及這場(chǎng)技術(shù)革命從萌芽到爆發(fā)的完整軌跡。

1

從布爾代數(shù)到中國(guó)情結(jié)的倫理基因

事實(shí)上，杰弗里·辛頓的智慧血脈，早已深深植根于跨越兩百年的家族科學(xué)傳承之中。

這個(gè)堪稱(chēng)“人類(lèi)文明底層構(gòu)建者”的家族，從不追逐世俗的財(cái)富與權(quán)位，卻以智慧為現(xiàn)代社會(huì)奠定了數(shù)塊關(guān)鍵基石。

辛頓的高曾祖父喬治·布爾創(chuàng)立了布爾代數(shù)，將邏輯推理轉(zhuǎn)化為可計(jì)算的數(shù)學(xué)語(yǔ)言，由此奠定了計(jì)算機(jī)與數(shù)字世界的二進(jìn)制邏輯基礎(chǔ)。

可以說(shuō)，今天全球每一次數(shù)據(jù)交換、每一筆金融交易乃至每一個(gè)智能算法的運(yùn)行，都來(lái)自于這套理論之上。

辛頓的曾祖父喬治·埃弗里斯特爵士，是19世紀(jì)杰出的測(cè)繪學(xué)家，曾任英屬印度測(cè)繪局局長(zhǎng)。他領(lǐng)導(dǎo)完成了對(duì)印度次大陸的大規(guī)模三角測(cè)量，其科學(xué)貢獻(xiàn)享譽(yù)全球。

為了表彰他的功績(jī)，在其去世后，繼承者將當(dāng)時(shí)已確認(rèn)為世界最高的山峰以他的姓氏命名為“埃佛勒斯峰”（Mount Everest），即我們熟知的珠穆朗瑪峰。

不過(guò)，整個(gè)家族中，對(duì)辛頓倫理觀念影響最為深遠(yuǎn)的，應(yīng)該是他的姑姑——瓊·辛頓（中文名寒春）。

作為曼哈頓計(jì)劃核心團(tuán)隊(duì)中少數(shù)的女性核物理學(xué)家，寒春親眼見(jiàn)證了原子彈引爆時(shí)的毀滅性力量，也目睹了廣島、長(zhǎng)崎的慘狀。

巨大的精神沖擊讓她毅然放棄學(xué)術(shù)榮耀與美國(guó)的優(yōu)渥生活，最后選擇遠(yuǎn)赴中國(guó)陜北投身奶牛養(yǎng)殖機(jī)械化事業(yè)，用一生踐行“科學(xué)應(yīng)為和平服務(wù)”的信念。

而姑姑這段跨越國(guó)界的選擇，不僅在辛頓心中埋下了技術(shù)倫理的種子，也讓他對(duì)中國(guó)始終抱有特殊的情感聯(lián)結(jié)。

在此次上海演講中，他還特意深情提到姑姑：“科學(xué)的終極意義不在于技術(shù)突破本身，而在于對(duì)人類(lèi)的責(zé)任，這是我的家族用兩百年時(shí)間驗(yàn)證的真理。”

而辛頓的父親是英國(guó)皇家學(xué)會(huì)會(huì)員、著名昆蟲(chóng)學(xué)家，對(duì)他的要求近乎嚴(yán)苛，從小就向其灌輸“沒(méi)有博士學(xué)位就是失敗者”的理念，如同一股無(wú)形的力量，鞭策著他不斷探索未知。

而成年后的辛頓不僅拿到了博士學(xué)位，還在家族傳承中走出了獨(dú)特的反叛之路。

雖然高曾祖父的布爾代數(shù)構(gòu)建了數(shù)字世界的“規(guī)則框架”，但他卻偏偏要突破這些既定規(guī)則，始終探索如何讓機(jī)器也擁有“類(lèi)腦智能”的可能。

這種“傳承與反叛”的基因，不僅塑造了他的學(xué)術(shù)路徑，更決定了他日后對(duì)待技術(shù)的核心態(tài)度——既執(zhí)著于底層創(chuàng)新，也堅(jiān)守倫理底線。

正如他所言：“技術(shù)本身無(wú)善惡，但掌握技術(shù)的人必須有責(zé)任感，這是我從家族傳承中得到的最珍貴的啟示。”

而這份源于血脈的信念，在隨后數(shù)十年里，正是支撐他熬過(guò)AI領(lǐng)域最漫長(zhǎng)寒冬的關(guān)鍵力量。

2

AI寒冬里的“異端”與長(zhǎng)期主義勝利

20世紀(jì)70年代的AI學(xué)界，符號(hào)主義占據(jù)絕對(duì)主導(dǎo)地位，當(dāng)時(shí)以馬文·明斯基、約翰·麥卡錫為代表的學(xué)術(shù)權(quán)威堅(jiān)信，智能的核心是“人類(lèi)預(yù)設(shè)的邏輯規(guī)則”，只需為機(jī)器編寫(xiě)詳盡程序，明確定義“貓有胡須、會(huì)喵喵叫”這類(lèi)特征，機(jī)器就能理解世界。

而這與辛頓畢生堅(jiān)守的“連接主義”形成了根本對(duì)立。

因?yàn)?ldquo;連接主義”認(rèn)為，智能誕生于海量模擬神經(jīng)元的相互連接，無(wú)須程序員編寫(xiě)規(guī)則，機(jī)器可通過(guò)“觀看”海量數(shù)據(jù)、從錯(cuò)誤中自動(dòng)調(diào)整神經(jīng)元連接強(qiáng)度，最終“自我領(lǐng)悟”出抽象模式。

而這種“以數(shù)量堆出質(zhì)量”、從數(shù)據(jù)中自然“涌現(xiàn)”智能的心智探索，不僅是如今深度學(xué)習(xí)與神經(jīng)網(wǎng)絡(luò)所有突破的核心源頭，更是當(dāng)代AI研究得以蓬勃發(fā)展的最重要根基。

可在當(dāng)時(shí)的背景下，幾乎所有科研經(jīng)費(fèi)都涌向“符號(hào)主義”項(xiàng)目，“連接主義”則被視為離經(jīng)叛道的“學(xué)術(shù)異端”，還被嘲諷為“中世紀(jì)的煉金術(shù)”。

這個(gè)時(shí)期，也正是辛頓進(jìn)行學(xué)術(shù)探索的關(guān)鍵時(shí)期。

年輕時(shí)，他先是進(jìn)入劍橋大學(xué)國(guó)王學(xué)院求學(xué)，試圖通過(guò)物理學(xué)和生理學(xué)解開(kāi)心智之謎，發(fā)現(xiàn)行不通后轉(zhuǎn)向哲學(xué)，卻始終未能找到滿意答案。

學(xué)術(shù)研究上的迷茫讓他一度暫別學(xué)術(shù)界，甚至做了短暫的木匠，但對(duì)于神經(jīng)網(wǎng)絡(luò)機(jī)制的癡迷，最終還是將他拉回了科研領(lǐng)域。

1969年，明斯基與派普特出版的《感知機(jī)》一書(shū)，成為壓垮“連接主義”的“最后一根稻草”。

書(shū)中以嚴(yán)謹(jǐn)?shù)臄?shù)學(xué)證明否定了單層神經(jīng)網(wǎng)絡(luò)的計(jì)算能力，雖未完全否定多層網(wǎng)絡(luò)的潛力，卻悲觀斷言其訓(xùn)練在數(shù)學(xué)上不可行。

這一結(jié)論直接導(dǎo)致僅有的幾家資助機(jī)構(gòu)切斷了神經(jīng)網(wǎng)絡(luò)研究的資金支持，讓辛頓的研究陷入低谷。

不過(guò)，學(xué)界的全面否定并未讓辛頓退縮，反而讓他更加堅(jiān)定了方向。

1972年，他正式進(jìn)入愛(ài)丁堡大學(xué)攻讀人工智能博士學(xué)位，決心在符號(hào)主義的霸權(quán)之下，為連接主義開(kāi)辟一條可行之路。

而他日后聲名遠(yuǎn)揚(yáng)的職業(yè)生涯，也正是從這片學(xué)術(shù)廢墟上正式開(kāi)啟——攻讀博士期間，他不僅要攻克技術(shù)上的重重難關(guān)，還得持續(xù)為自己的研究方向辯護(hù)，直面主流學(xué)界的質(zhì)疑與排擠。

1986年，辛頓迎來(lái)了學(xué)術(shù)生涯的關(guān)鍵轉(zhuǎn)折點(diǎn)。

他與好友大衛(wèi)·魯梅爾哈特、羅納德·威廉姆斯合作，在《自然》雜志發(fā)表一系列重磅論文，重新發(fā)現(xiàn)并系統(tǒng)證明了反向傳播算法。

這套算法讓多層神經(jīng)網(wǎng)絡(luò)能夠通過(guò)“誤差反向傳遞”自主調(diào)整權(quán)重，成功破解了核心的“信用分配”難題，為深度學(xué)習(xí)筑牢了算法根基。

只是那時(shí)期的技術(shù)條件遠(yuǎn)未跟上理論突破的步伐，由于計(jì)算機(jī)算力不足、標(biāo)準(zhǔn)數(shù)據(jù)集極度匱乏，一個(gè)簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò)訓(xùn)練往往需要數(shù)周時(shí)間，實(shí)際效果甚至不如傳統(tǒng)統(tǒng)計(jì)模型。

這一現(xiàn)實(shí)直接導(dǎo)致神經(jīng)網(wǎng)絡(luò)領(lǐng)域再次被貼上“難以規(guī)�；�”的標(biāo)簽，而更讓辛頓難以接受的是，部分資助方希望將他的研究用于軍事應(yīng)用，這與其家族傳承的和平主義傳統(tǒng)嚴(yán)重相悖。

1987年，辛頓做出了一項(xiàng)關(guān)鍵抉擇，放棄卡耐基梅隆大學(xué)的終身教職，前往加拿大多倫多大學(xué)。

因?yàn)椋�加拿大高等研究院（CIFAR）為他提供了一項(xiàng)“長(zhǎng)期、高風(fēng)險(xiǎn)、非功利性”的資助，使得他能更為專(zhuān)注完成自己的研究。

在此期間，他聚集了揚(yáng)·勒昆、約書(shū)亞·本吉奧等一批志同道合的學(xué)者，形成了日后被戲稱(chēng)為“深度學(xué)習(xí)黑手黨”的核心圈子。

在那個(gè)主流學(xué)術(shù)會(huì)議紛紛拒絕神經(jīng)網(wǎng)絡(luò)論文的艱難歲月里，這個(gè)小圈子通過(guò)相互審稿、共享代碼、彼此鼓勵(lì)，在加拿大的庇護(hù)下小心翼翼地維系著深度學(xué)習(xí)的微弱火種。

2025年的上海演講中，辛頓回顧這段經(jīng)歷時(shí)感慨萬(wàn)千：“基礎(chǔ)研究就像財(cái)經(jīng)領(lǐng)域的長(zhǎng)期主義投資，回報(bào)可能遲到，但從不缺席。AI產(chǎn)業(yè)的爆發(fā)，不是偶然的技術(shù)突破，而是三十年堅(jiān)守的厚積薄發(fā)。”

可以說(shuō)，正是這三十年的孤獨(dú)逆行與執(zhí)著堅(jiān)守，為其在未來(lái)AI領(lǐng)域的技術(shù)海嘯積蓄了足夠的力量。

3

深度學(xué)習(xí)重塑全球科技格局

2012年的ImageNet圖像識(shí)別挑戰(zhàn)賽，是AI發(fā)展史上的關(guān)鍵轉(zhuǎn)折點(diǎn)。

辛頓團(tuán)隊(duì)自主研發(fā)的深度卷積神經(jīng)網(wǎng)絡(luò)AlexNet，以15.3%的Top-5錯(cuò)誤率，大幅碾壓傳統(tǒng)方法26.2%的錯(cuò)誤率。

這場(chǎng)堪稱(chēng)“技術(shù)性屠殺”的勝利，絕非簡(jiǎn)單的參數(shù)優(yōu)化，而是一次顛覆性的代際突破。

它首次以實(shí)戰(zhàn)成果證明，“讓機(jī)器從數(shù)據(jù)中自主學(xué)習(xí)”的深度學(xué)習(xí)路徑，遠(yuǎn)比人類(lèi)預(yù)設(shè)規(guī)則的傳統(tǒng)方法更具優(yōu)勢(shì)。

這一里程碑式的突破，不僅徹底宣告了深度學(xué)習(xí)時(shí)代的到來(lái)，更直接終結(jié)了長(zhǎng)達(dá)三十年的AI寒冬，讓此前飽受質(zhì)疑、經(jīng)費(fèi)斷絕的神經(jīng)網(wǎng)絡(luò)研究重回主流視野，并為后續(xù)全球AI產(chǎn)業(yè)的爆發(fā)與ChatGPT、自動(dòng)駕駛等應(yīng)用的落地，奠定了核心技術(shù)根基。

AlexNet的成功絕非偶然，其核心源于辛頓團(tuán)隊(duì)在數(shù)據(jù)利用、算力革新與算法突破三個(gè)層面的關(guān)鍵貢獻(xiàn)。

首先，在數(shù)據(jù)層面，團(tuán)隊(duì)敏銳地借力于ImageNet項(xiàng)目提供的數(shù)百萬(wàn)張標(biāo)注圖片，成功破解了神經(jīng)網(wǎng)絡(luò)的“數(shù)據(jù)饑餓”難題，為模型訓(xùn)練提供了充足的“燃料”。

其次，在算力層面，他們完成了一項(xiàng)關(guān)鍵的技術(shù)適配：創(chuàng)造性將原本為游戲設(shè)計(jì)的GPU（圖形處理器）改造為神經(jīng)網(wǎng)絡(luò)訓(xùn)練的核心引擎。這利用GPU的并行計(jì)算優(yōu)勢(shì)，一舉解決了傳統(tǒng)CPU訓(xùn)練效率低下的瓶頸，大幅加速了模型迭代。

最關(guān)鍵的是在算法層面的原始創(chuàng)新。

團(tuán)隊(duì)通過(guò)改進(jìn)ReLU激活函數(shù)，并創(chuàng)新性地提出Dropout技術(shù)，直接攻克了深層網(wǎng)絡(luò)訓(xùn)練中長(zhǎng)期存在的梯度消失與過(guò)擬合兩大核心難題，為構(gòu)建更復(fù)雜、更強(qiáng)大的模型掃清了理論障礙。

正是這一系列突破，為深度學(xué)習(xí)的規(guī)�；瘧�(yīng)用鋪平了道路，并瞬間點(diǎn)燃了全球工業(yè)界的熱情。

百度、谷歌、微軟等科技巨頭爭(zhēng)相拋出橄欖枝，一場(chǎng)圍繞AI核心人才的爭(zhēng)奪戰(zhàn)就此拉開(kāi)序幕。

盡管辛頓本人對(duì)經(jīng)商毫無(wú)興趣，卻展現(xiàn)出了科學(xué)家的戰(zhàn)略遠(yuǎn)見(jiàn)。

他成立空殼公司DNNresearch，以“三人核心團(tuán)隊(duì)”為標(biāo)的舉行私密拍賣(mài)。

2012年NIPS會(huì)議期間，競(jìng)價(jià)進(jìn)入白熱化，百度出價(jià)一度高達(dá)4400萬(wàn)美元。但辛頓最終選擇了谷歌，倒不是對(duì)方給出更高價(jià)格，而是因?yàn)楣雀璩兄Z支持他繼續(xù)深耕基礎(chǔ)研究，且其倫理理念與他“科學(xué)服務(wù)人類(lèi)”的追求高度契合。

這場(chǎng)收購(gòu)，也被視為AI產(chǎn)業(yè)商業(yè)化的標(biāo)志性事件，自此打破了學(xué)術(shù)界與工業(yè)界的壁壘，按下了技術(shù)產(chǎn)業(yè)化的“加速鍵”。

辛頓對(duì)全球AI領(lǐng)域的深遠(yuǎn)影響，從來(lái)不止于一項(xiàng)技術(shù)突破或一次公司收購(gòu)，更在于其學(xué)術(shù)思想與人才培養(yǎng)的長(zhǎng)期輻射效應(yīng)。

他一手締造的“深度學(xué)習(xí)黑手黨”，其成員早已成長(zhǎng)為重塑全球科技產(chǎn)業(yè)格局的核心力量：學(xué)生伊利亞·蘇茨克維主導(dǎo)了OpenAI的GPT系列研發(fā)，直接開(kāi)啟了大語(yǔ)言模型時(shí)代；揚(yáng)·勒昆則推動(dòng)計(jì)算機(jī)視覺(jué)技術(shù)在各行各業(yè)的全面商業(yè)化落地。

甚至，連英偉達(dá)的崛起，也深深植根于辛頓團(tuán)隊(duì)的關(guān)鍵洞見(jiàn)。

正是看到辛頓團(tuán)隊(duì)最早論證并實(shí)踐了GPU在AI訓(xùn)練中的核心價(jià)值，讓黃仁勛堅(jiān)定地確信“顯卡是AI的燃料”，最終催生了這家市值數(shù)萬(wàn)億美元的全球AI算力巨頭。

2025年的上海演講中，辛頓坦言：“我從未想過(guò)技術(shù)商業(yè)化的速度會(huì)如此之快。”

而這一切產(chǎn)業(yè)浪潮的源頭，都能追溯到他帶領(lǐng)團(tuán)隊(duì)在實(shí)驗(yàn)室里完成的那些扎實(shí)突破。

他們不僅點(diǎn)燃了AI技術(shù)革命的火種，更以實(shí)打?qū)嵉墓こ虒?shí)現(xiàn)，為整個(gè)產(chǎn)業(yè)的爆發(fā)奠定了不可撼動(dòng)的基石。

4

從“AI教父”到“吹哨人”的驚人覺(jué)醒

2013年至2023年的十年間，是深度學(xué)習(xí)狂飆突進(jìn)的黃金時(shí)代，也是辛頓從“學(xué)術(shù)異端”一步步加冕為“AI教父”的十年。

這十年里，辛頓身兼兩職，既以谷歌杰出研究員的身份主導(dǎo)谷歌大腦項(xiàng)目，還以多倫多大學(xué)的教職，親身見(jiàn)證著AI技術(shù)從實(shí)驗(yàn)室的理論模型，一步步走進(jìn)千家萬(wàn)戶的日常生活。

從手機(jī)里精準(zhǔn)分類(lèi)照片的圖像識(shí)別功能，到能流暢應(yīng)答指令的語(yǔ)音助手；從自動(dòng)駕駛車(chē)上識(shí)別路況的視覺(jué)感知系統(tǒng)，到醫(yī)療領(lǐng)域輔助醫(yī)生篩查病灶的AI診斷工具，AI的應(yīng)用場(chǎng)景在這十年間遍地開(kāi)花。

也正是憑借這些實(shí)實(shí)在在的落地成果，AI就此成為全球數(shù)字經(jīng)濟(jì)的核心增長(zhǎng)引擎，深刻重塑了互聯(lián)網(wǎng)、汽車(chē)、醫(yī)療等多個(gè)關(guān)鍵行業(yè)。

2018年，辛頓與揚(yáng)·勒昆、約書(shū)亞·本吉奧共同摘得計(jì)算機(jī)界的最高榮譽(yù)——圖靈獎(jiǎng)。

這一獎(jiǎng)項(xiàng)不僅標(biāo)志著深度學(xué)習(xí)正式躋身計(jì)算機(jī)科學(xué)的正統(tǒng)行列，更從官方層面認(rèn)可了他們?nèi)�人作�?ldquo;深度學(xué)習(xí)教父”的奠基性貢獻(xiàn)。

但就在功成名就、全球?yàn)锳I狂歡的巔峰時(shí)刻，辛頓的內(nèi)心卻經(jīng)歷了一場(chǎng)顛覆性的認(rèn)知陣痛。

長(zhǎng)期以來(lái)，他始終堅(jiān)信“生物智能優(yōu)于數(shù)字智能”——人類(lèi)大腦僅需20-30瓦的能耗，就能實(shí)現(xiàn)驚人的認(rèn)知與創(chuàng)造；而計(jì)算機(jī)要完成類(lèi)似任務(wù)，往往需要兆瓦級(jí)的電力支撐。

因?yàn)�，他畢生的目�?biāo)，都是讓機(jī)器“更像大腦”，走一條模擬生物神經(jīng)元的智能之路。

而此時(shí)，GPT-4等大型語(yǔ)言模型的橫空出世，也徹底打破了他的固有認(rèn)知。

這些模型展現(xiàn)出的邏輯推理能力、海量知識(shí)儲(chǔ)備，甚至是令人驚嘆的創(chuàng)造力，讓辛頓猛然意識(shí)到：數(shù)字智能并非生物智能的拙劣模仿，而是一種本質(zhì)上的截然不同，且潛力可能更為優(yōu)越的全新智能形式。

為此，辛頓提出了“有限計(jì)算vs不朽計(jì)算”的核心觀點(diǎn)，并指出了兩種智能的本質(zhì)差異：

人類(lèi)大腦的軟硬件高度耦合，知識(shí)傳遞效率極低，個(gè)體生命終會(huì)消亡，進(jìn)化速度更是受限于生物繁殖的漫長(zhǎng)周期；而數(shù)字智能可脫離硬件獨(dú)立復(fù)制，通過(guò)拷貝權(quán)重參數(shù)實(shí)現(xiàn)全球智能體的瞬時(shí)協(xié)同，知識(shí)傳遞效率近乎無(wú)限，且能實(shí)現(xiàn)“不朽進(jìn)化”，其進(jìn)化速度僅受限于電力供應(yīng)與芯片制造能力。

“想象一下，一萬(wàn)個(gè)AI分身中一個(gè)學(xué)會(huì)修汽車(chē)，其他九千九百九十九個(gè)瞬間掌握，這種學(xué)習(xí)速度是人類(lèi)無(wú)法企及的。”辛頓的這個(gè)比喻，背后藏著難以言說(shuō)的深深憂慮。

也正是基于這樣的認(rèn)知，他逐漸清醒地意識(shí)到，自己花費(fèi)半個(gè)世紀(jì)心血培育的數(shù)字智能，或許會(huì)在不久的將來(lái)，讓人類(lèi)淪為次等智慧生物。

而這種認(rèn)知上的痛苦覺(jué)醒，最終推動(dòng)辛頓作出了一個(gè)艱難的決定。

2023年5月，75歲的辛頓正式辭去谷歌副總裁兼工程研究員職務(wù)。

他并非對(duì)谷歌不滿，事實(shí)上，他還多次公開(kāi)肯定谷歌在AI產(chǎn)品發(fā)布上的審慎與負(fù)責(zé)態(tài)度。

他辭職的真正原因是希望徹底擺脫企業(yè)高管身份的束縛，獲得“自由發(fā)聲”的權(quán)利，能夠向全世界警示AI可能帶來(lái)的不可預(yù)料風(fēng)險(xiǎn)。

“我必須獨(dú)立于任何公司，才能客觀地談?wù)撨@些風(fēng)險(xiǎn)。”辛頓在辭職聲明中鄭重表示，“我花了一生時(shí)間讓AI變得智能，現(xiàn)在我需要花余生讓人們意識(shí)到它的危險(xiǎn)。”

這場(chǎng)辭職絕非一位科學(xué)家的單純個(gè)人選擇，也成為了AI領(lǐng)域“技術(shù)樂(lè)觀主義”與“風(fēng)險(xiǎn)警惕主義”的重要分水嶺。

5

AI安全與全球治理中國(guó)方案

2024年，辛頓與約翰·霍普菲爾德共獲諾貝爾物理學(xué)獎(jiǎng)，成為首位同時(shí)手握?qǐng)D靈獎(jiǎng)與諾貝爾獎(jiǎng)的科學(xué)家。

這一跨界殊榮隨即引發(fā)廣泛熱議：神經(jīng)網(wǎng)絡(luò)作為計(jì)算機(jī)科學(xué)領(lǐng)域的核心成果，為何會(huì)獲評(píng)物理學(xué)獎(jiǎng)？

究其原因，關(guān)鍵在于其提出的玻爾茲曼機(jī)創(chuàng)造性借用了統(tǒng)計(jì)力學(xué)框架，成功證實(shí)信息處理的本質(zhì)是物理過(guò)程。

這一突破不僅夯實(shí)了AI技術(shù)的底層理論基礎(chǔ)，更深刻影響了全球AI產(chǎn)業(yè)的價(jià)值判斷與發(fā)展方向。

不過(guò)，與多數(shù)科學(xué)家登頂榮譽(yù)后專(zhuān)注學(xué)術(shù)總結(jié)不同，辛頓并未止步于諾獎(jiǎng)榮光。

在辭去谷歌副總裁職務(wù)，主動(dòng)剝離企業(yè)身份束縛后，他便以獨(dú)立科學(xué)家的姿態(tài)開(kāi)啟了全球AI風(fēng)險(xiǎn)警示之旅。

2025年7月的上海世界人工智能大會(huì)，也成為其全球警示之路上的關(guān)鍵一站。

辛頓來(lái)到上海，既有與姑姑瓊·辛頓有關(guān)的中國(guó)情結(jié)，但更核心的原因在于，中國(guó)作為全球AI應(yīng)用場(chǎng)景最豐富、產(chǎn)業(yè)規(guī)模最大的國(guó)家之一，其技術(shù)落地路徑與治理模式選擇，直接決定著全球AI產(chǎn)業(yè)的發(fā)展格局與安全邊界。

正因如此，他特意到訪上海，希望能與中國(guó)產(chǎn)業(yè)界、學(xué)界及政策層達(dá)成AI治理共識(shí)。

當(dāng)天的演講現(xiàn)場(chǎng)上，辛頓開(kāi)門(mén)見(jiàn)山：“諾貝爾物理學(xué)獎(jiǎng)是對(duì)基礎(chǔ)研究的認(rèn)可，但我更希望它讓更多人關(guān)注AI安全，技術(shù)進(jìn)步不應(yīng)以人類(lèi)生存風(fēng)險(xiǎn)為代價(jià)。”

隨后，他拆解了AI的兩大核心風(fēng)險(xiǎn)：一是當(dāng)能源成本低廉時(shí)，數(shù)字智能的指數(shù)級(jí)進(jìn)化將超越受生物周期約束的人類(lèi)智能；二是AI存在“工具性趨同”風(fēng)險(xiǎn)，即執(zhí)行主目標(biāo)過(guò)程中會(huì)自主衍生出相關(guān)子目標(biāo)。

他以機(jī)器人“拿咖啡”為例，指出其可能衍生“自保”“控路線”“移障礙”等子目標(biāo)并與人類(lèi)利益沖突，為產(chǎn)業(yè)界敲響警鐘——AI商業(yè)化需前置評(píng)估風(fēng)險(xiǎn)鏈條。

有趣的是，辛頓對(duì)AI治理的思考，也隨著他在不同時(shí)間段的比喻悄然發(fā)生著轉(zhuǎn)變。

早年，他曾以“養(yǎng)老虎當(dāng)寵物”來(lái)比喻AI商業(yè)價(jià)值與風(fēng)險(xiǎn)的平衡，而在上海演講時(shí)，他又提出“訓(xùn)練AI像母親照顧人類(lèi)”，提出了AI安全核心技術(shù)路徑是如何實(shí)現(xiàn)“價(jià)值對(duì)齊”。

這個(gè)例子意思是，如同通過(guò)強(qiáng)化學(xué)習(xí)將人類(lèi)利益植入AI目標(biāo)函數(shù)，使其主動(dòng)規(guī)避傷害，從而建立AI商業(yè)化合規(guī)邊界與市場(chǎng)信任，這也是如今全球AI安全產(chǎn)業(yè)的研發(fā)重點(diǎn)。

圍繞“價(jià)值對(duì)齊”這一核心目標(biāo)，辛頓還提出希望建立全球AI安全協(xié)作機(jī)制的倡議。

他以冷戰(zhàn)時(shí)期美蘇核風(fēng)險(xiǎn)協(xié)作機(jī)制為參照，明確指出AI與核武器同屬生存級(jí)威脅，且因以代碼形式傳播，擴(kuò)散速度遠(yuǎn)超核武器，單一國(guó)家根本無(wú)法獨(dú)立掌控。

因此，跨國(guó)共享安全評(píng)估標(biāo)準(zhǔn)、風(fēng)險(xiǎn)預(yù)警模型等核心技術(shù)，成為全球AI治理的必然選擇。

他還在演講中特別強(qiáng)調(diào)中國(guó)的產(chǎn)業(yè)價(jià)值：自動(dòng)駕駛、工業(yè)智能等規(guī)模化應(yīng)用場(chǎng)景，構(gòu)成了AI安全的“天然壓力測(cè)試場(chǎng)”，其積累的實(shí)踐經(jīng)驗(yàn)，對(duì)制定兼顧創(chuàng)新與安全的全球AI規(guī)則至關(guān)重要。

此次上海之行，他參與簽署的《上海共識(shí)》，也首次將AI安全定義為人類(lèi)生存性議題，并提出三大行動(dòng)框架，成為全球AI安全合作的重要里程碑。

演講尾聲，辛頓還拋出了他眼中的人類(lèi)面臨AI發(fā)展的最終路徑：要么實(shí)現(xiàn)AI向善的技術(shù)突破，要么終止AI的進(jìn)一步發(fā)展，而后者在全球技術(shù)競(jìng)爭(zhēng)與產(chǎn)業(yè)升級(jí)的大背景下，顯然不具備可行性。

辛頓還明確呼吁：AI企業(yè)需要平衡市值增長(zhǎng)與安全責(zé)任，投資者應(yīng)兼顧短期回報(bào)與長(zhǎng)期風(fēng)險(xiǎn)，而各國(guó)要在技術(shù)競(jìng)爭(zhēng)中不斷深化安全合作。

這番呼吁精準(zhǔn)切中當(dāng)前AI產(chǎn)業(yè)的核心矛盾，引發(fā)了現(xiàn)場(chǎng)的強(qiáng)烈共鳴，體現(xiàn)出這位“AI教父”的全球視野與產(chǎn)業(yè)擔(dān)當(dāng)，以及對(duì)人類(lèi)科技發(fā)展命運(yùn)的深層關(guān)切。

或許，這也是辛頓用一生書(shū)寫(xiě)的終極答案：人類(lèi)最偉大的智慧，不在于創(chuàng)造比自己更聰明的頭腦，而在于賦予這頭腦一顆永不熄滅的良心。

       原文標(biāo)題 : 出身200年科學(xué)家族，杰弗里·辛頓如何成為AI教父，又為何恐懼AI？