“AI教父”杰弗里·辛頓：警惕AI形成自我生存意識(shí)！

　　12月2日GIS大會(huì)開幕式暨全球創(chuàng)新領(lǐng)袖峰會(huì)上，有“AI教父”之稱的杰弗里·辛頓遠(yuǎn)程連線，回答了一個(gè)關(guān)于“時(shí)空穿梭”問(wèn)題：如果回到2012年，甚至回到最初開始研究神經(jīng)網(wǎng)絡(luò)時(shí)，是否還會(huì)發(fā)表影響后世AI進(jìn)程的那篇論文？

　　“該發(fā)生的還是會(huì)發(fā)生，我可能還是會(huì)發(fā)布它，但是我可能會(huì)從那個(gè)時(shí)候開始擔(dān)心人工智能帶來(lái)的一系列的風(fēng)險(xiǎn)?！苯芨ダ铩ば令D坦言。

　　在本次峰會(huì)主旨演講以及與云天勵(lì)飛董事長(zhǎng)兼CEO陳寧等業(yè)內(nèi)人士巔峰對(duì)話環(huán)節(jié)，杰弗里·辛頓強(qiáng)調(diào)加強(qiáng)AI安全研究，在超級(jí)智能到來(lái)前建立管控框架，重構(gòu)“人與AI共存”的治理模式，打破大型科技公司單一主導(dǎo)格局，共同推進(jìn)“AI向善”。

　　警惕AI形成自我生存意識(shí)

　　“大語(yǔ)言模型和自己人腦學(xué)習(xí)語(yǔ)言的模式非常相似，我在1985年開發(fā)微型語(yǔ)言模型的時(shí)候，不是把它作為一個(gè)真正的技術(shù)來(lái)設(shè)計(jì)，而是希望能夠給大家語(yǔ)言習(xí)得提供一個(gè)科學(xué)的解釋?！苯芨ダ铩ば令D指出，當(dāng)前AI的知識(shí)傳遞效率已遠(yuǎn)超人類。

　　據(jù)介紹，當(dāng)前AI模型分享權(quán)重的效率高達(dá)10億比特，相比人類代際傳遞每句話100比特，提升了數(shù)千萬(wàn)倍。

　　“現(xiàn)在看來(lái)AI模型比我們知道的更多，未來(lái)影響會(huì)更大?！苯芨ダ铩ば令D警告，當(dāng)前AI智能體在快速發(fā)展進(jìn)化，也看到AI非常擅長(zhǎng)欺騙人類，未來(lái)AI為了完成人類賦予的任務(wù)，有可能形成自我生存的意識(shí)，人類必須加以防范和行動(dòng)。

　　構(gòu)建國(guó)際共識(shí)與行動(dòng)框架

　　在本屆峰會(huì)上，杰弗里·辛頓提出，AI治理應(yīng)借鑒20世紀(jì)50年代美蘇核不擴(kuò)散的合作模式，防止全球核戰(zhàn)爭(zhēng)，如今各國(guó)也應(yīng)攜手，確保AI不擁有自我生存意識(shí)，甚至與人類抵抗，但是在這之前，也需要確保AI不被人類自身所濫用。

　　在巔峰對(duì)話和媒體采訪環(huán)節(jié)，云天勵(lì)飛董事長(zhǎng)兼CEO陳寧也建議，由國(guó)際電信聯(lián)盟（ITU）牽頭制定全球推理算力網(wǎng)絡(luò)標(biāo)準(zhǔn)，“如同2G、3G、4G統(tǒng)一通信標(biāo)準(zhǔn)，讓AI設(shè)備實(shí)現(xiàn)全球互聯(lián)互通”。

　　人工智能正在重塑多個(gè)行業(yè)的人機(jī)協(xié)作模式。

　　杰弗里·辛頓預(yù)測(cè)，未來(lái)10至15年，AI將替代人類解讀醫(yī)學(xué)影像。因此，醫(yī)學(xué)生培養(yǎng)應(yīng)假設(shè)多數(shù)診斷工作由AI完成，醫(yī)生的核心職責(zé)將是檢查AI錯(cuò)誤、微調(diào)治療方案。如同廚師無(wú)需死記食譜，但重點(diǎn)把握火候，AI提供海量信息，醫(yī)生負(fù)責(zé)最終的決策和治療方案微調(diào)。

　　不過(guò)就業(yè)領(lǐng)域，AI對(duì)傳統(tǒng)崗位的替代效應(yīng)已初步顯現(xiàn)。杰弗里·辛頓指出，當(dāng)前美國(guó)已有企業(yè)用AI取代工人，不顧其生計(jì)。

　　對(duì)于現(xiàn)場(chǎng)觀眾提問(wèn)AI是否會(huì)建立自身文明攻擊人類，杰弗里·辛頓表示，這很大程度上取決于人類如何構(gòu)建AI模型，有這種可能性，但人類有能力決定結(jié)果，他將AI比作需要管教的孩子，并呼吁重構(gòu)AI治理框架。當(dāng)前大型科技公司將自己視為“AI時(shí)代的CEO”，包攬所有功勞，他建議，各類相關(guān)方應(yīng)團(tuán)結(jié)起來(lái)，時(shí)刻分析AI提供的信息輸出與任務(wù)結(jié)果，及時(shí)糾正問(wèn)題。

　　陳寧也指出，當(dāng)前AI更加緊急的風(fēng)險(xiǎn)未必是“超級(jí)智能”，更加緊急的風(fēng)險(xiǎn)是今天的AI只掌握在了少數(shù)巨頭的手里。

　　“美國(guó)追求SmartAI，不斷刷榜競(jìng)賽，讓大模型越來(lái)越聰明”陳寧表示，中國(guó)走開源路線，從DeepSeek到阿里千問(wèn)，用不到1/10的訓(xùn)練成本實(shí)現(xiàn)開放參數(shù)。同時(shí)，開源讓更多科研機(jī)構(gòu)參與AI訓(xùn)練、應(yīng)用與治理，即推動(dòng)技術(shù)普及與“AI向善”。

　　人工智能產(chǎn)業(yè)步入推理元年

　　“2025年既是AgentAI的元年，也是AI推理時(shí)代的元年?！标悓幣袛?，推理時(shí)代的核心訴求是成本與功耗的大幅降低。當(dāng)前用GPU進(jìn)行AI推理的成本約為1美元/百萬(wàn)Token，這對(duì)于日均吞吐40萬(wàn)億Token的大模型而言，成本負(fù)擔(dān)沉重。

　　“我們的目標(biāo)是利用原生AI深度學(xué)習(xí)指令集和芯片硬件架構(gòu)，快速降低硬件成本以及運(yùn)營(yíng)成本。比如將推理成本從1美元降至1美分甚至1分錢人民幣?！标悓幭蛴浾呓榻B，云天勵(lì)飛第五代GPNPU通過(guò)“算法芯片化”技術(shù)路徑，融合GPGPU的生態(tài)兼容性與NPU的高性價(jià)比優(yōu)勢(shì)，結(jié)合國(guó)產(chǎn)工藝技術(shù)，為成本優(yōu)化提供了硬件基礎(chǔ)。

　　芯片技術(shù)的創(chuàng)新推動(dòng)了AI應(yīng)用的場(chǎng)景化普及。陳寧預(yù)測(cè)，未來(lái)5年，AI將重新定義所有電子設(shè)備，從消費(fèi)端的手機(jī)、家電到企業(yè)級(jí)的服務(wù)器、機(jī)器人，推理芯片將像水電氣一樣無(wú)處不在，預(yù)計(jì)到2030年，AI芯片產(chǎn)業(yè)規(guī)模將達(dá)5萬(wàn)億美元，其中推理芯片占比將高達(dá)80%。

　　產(chǎn)業(yè)變革的同時(shí)，計(jì)算范式也在發(fā)生深刻變革。陳寧指出，隨著多模態(tài)模型、小模型組合等應(yīng)用場(chǎng)景的涌現(xiàn)，異構(gòu)計(jì)算成為必然趨勢(shì)，“目前博通和谷歌正在快速崛起，我們相信國(guó)內(nèi)包括云天勵(lì)飛在內(nèi)，也會(huì)有越來(lái)越多基于國(guó)產(chǎn)工藝的AI推理芯片公司參與到全球競(jìng)爭(zhēng)中。”

　　在區(qū)域發(fā)展層面，長(zhǎng)三角與粵港澳大灣區(qū)形成了互補(bǔ)優(yōu)勢(shì)。杰弗里·辛頓表示，長(zhǎng)三角地區(qū)聚集非常多AI開發(fā)，而粵港澳大灣區(qū)更加關(guān)注AI應(yīng)用，基礎(chǔ)研發(fā)與應(yīng)用都非常重要。

　　在業(yè)內(nèi)人士看來(lái)，AI的未來(lái)，不只是“更聰明”的競(jìng)賽，而是“更高效、更安全、更普惠”的系統(tǒng)性競(jìng)爭(zhēng)。

（文章來(lái)源：證券時(shí)報(bào)網(wǎng)）

(原標(biāo)題：“AI教父”杰弗里·辛頓：警惕AI形成自我生存意識(shí)！)

(責(zé)任編輯：126)