圖靈獎得主、中國科學(xué)院院士、清華大學(xué)交叉信息研究院院長、清華大學(xué)人工智能學(xué)院院長姚期智發(fā)表演講。
姚期智演講的核心觀點有：
1.AI未來核心發(fā)展方向是達成具備類人認(rèn)知推理能力的AGI，其在科學(xué)、戰(zhàn)略、經(jīng)濟層面意義重大。
2.中國近5年在大模型、具身智能領(lǐng)域進步迅猛，已躋身國際第一方陣甚至領(lǐng)先，另外兩大方向也有發(fā)展。
3.具身智能需硬件身體與“小腦”“大腦”結(jié)合，能完成靈巧任務(wù)，可彌補傳統(tǒng)機器人不足，替代部分人類不愿做的工作。
4.科學(xué)智能將顛覆科研方式，未來科學(xué)家需與AI協(xié)同，AI還能助力量子計算機研發(fā)，尤其在量子糾錯上成效顯著。
5.谷歌借助AI神經(jīng)網(wǎng)絡(luò)實現(xiàn)量子比特糾錯，為大規(guī)模量子計算機發(fā)展奠定基礎(chǔ)，中國相關(guān)團隊具備競爭力。
6.AI存在算法不魯棒、沖擊社會倫理、導(dǎo)致失業(yè)及失控等風(fēng)險，需重視安全性與治理問題。
7.應(yīng)對AI風(fēng)險需研發(fā)安全對齊算法，借助多學(xué)科理論構(gòu)建可證明安全的AI系統(tǒng)，同時建立國際治理共識。
8.中美歐科學(xué)家已發(fā)起定期對話，推動AI治理的國際合作與交流。
9.大模型革新各行業(yè)，中長期AI將向AGI邁進，賦能科學(xué)且需保障安全可靠，發(fā)展前景廣闊。
10.中國不缺AI應(yīng)用人才與場景，關(guān)鍵是培養(yǎng)尖端創(chuàng)新人才，助力AI持續(xù)突破。
以下是姚期智演講正文：
非常高興有機會能夠和大家在這兒見面。
我今天想和大家談?wù)勅斯ぶ悄艿奈磥戆l(fā)展。無論怎么樣看，人工智能未來發(fā)展最重要的下一步就是怎么樣能夠達到大家都滿意的AGI，就是通用人工智能。AGI的定義，它能夠讓機器具有認(rèn)知推理、復(fù)雜場景種種的相似人的能力。如今的人工智能既能夠?qū)崿F(xiàn)部分功能，離AGI的理想還有一些距離。
因為AGI一旦完成了以后，它的效用非常強大，所以它不但是科學(xué)上，而且是戰(zhàn)略上、經(jīng)濟上，各國經(jīng)濟的科技高地。
未來我們走向通用人工智能，到底會在哪幾個方向發(fā)展呢？當(dāng)然會有很多不同的可能性，將來會陸續(xù)涌現(xiàn)。但是從現(xiàn)在看來，下面四個方面是不可避免的。中國非常可喜的就是在過去5年里面，在“十四五”規(guī)劃里面做出了非常令人驚訝，而且欽佩的工作。特別是大模型技術(shù)演化方面，還有具身智能，就是智能機器人方面，在過去5年，中國基本上從一個和國際上有相當(dāng)距離的程度，到達了能夠在第一方陣，甚至領(lǐng)先的地步。另外兩項，中國也有不少的發(fā)展。
大模型的演進不多講了，基本上智能越高，可以做的事兒越大。關(guān)于人工智能大模型怎么樣做得更好，甚至有一些不同的方式來做，這都是一個非常重要的方向。因為今天講AI+，所以不談大模型演化部分了。
第一，關(guān)于具身智能，顧名思義，它需要有一個硬件的身體，需要有一個小腦，像人一樣，能夠讓它的行動更加穩(wěn)定、更加敏捷，同時還需要進一步有一個大腦，能夠有各種認(rèn)知，各種決策，各種計劃的能力。
人工智能機器人，一方面是科學(xué)研究的高地，原因就是我們怎么樣從大語言模型變成具有物理知識，能夠了解世界的智能，這在科學(xué)上非常重要；另一方面在經(jīng)濟上、產(chǎn)業(yè)上非常重要，因為它基本上能夠補足以前機器人產(chǎn)業(yè)比較呆板的不足，使得機器人加上小腦、大腦，基本上就有這個可能性，能夠替人取代很多我們不想做的工作。
國內(nèi)和世界的機器人的成就，大家耳熟能詳，今天王興興王總等下也會和大家談，我現(xiàn)在跟大家談一下，大學(xué)里面對于具身智能也做得非常出色。今天清華大學(xué)有兩個教授設(shè)立了展示廳。
這是星動紀(jì)元，這是用強化學(xué)習(xí)做的，跳得非常高，達到世界紀(jì)錄，它能夠使用大模型做各種靈巧的事情，像這種都是不太容易的，每秒4米，是相當(dāng)厲害了。
第二，關(guān)于科學(xué)智能，在科學(xué)上，AI+顧名思義就是AI能夠賦能各種行業(yè)，特別令人驚奇的，它不僅能夠賦能普通的產(chǎn)業(yè)，甚至在人類覺得最高智能的領(lǐng)域，就是科學(xué)研究，現(xiàn)在AI也能夠使得科學(xué)里面每個領(lǐng)域在以后的5年、10年會對科學(xué)研究者做科學(xué)的方式起翻天覆地的變化，基本上我們過去這幾十年，做科學(xué)的方法在5年、10年以后會很不一樣。以前我們具有的一些科學(xué)家的特性，適合做科學(xué)家的，將來5年、10年以后不見得一定就能夠成為最好的科學(xué)家。將來任何一個科學(xué)家的工作都必須是科學(xué)家加上大模型之類的人工智能。這兩個人怎么樣能夠最好地配合，這個團隊才是將來最有競爭力的單位。
舉例，這里面有很多的進步。AI能夠賦能另外一個戰(zhàn)略高地、戰(zhàn)略方向就是做量子計算機，AI有這個能力，甚至能夠幫助量子物理學(xué)家構(gòu)造下一個真正的量子計算機。量子是相當(dāng)深奧的科學(xué)，它最重要的觀念就是有一個量子比特，它的量子比特和普通經(jīng)典的0和1不一樣，有更大的自由度。量子比特做計算的基本單位，有一個很大的缺點，就是很容易受到環(huán)境的干擾。一旦受到環(huán)境的干擾，它的值就和你想要的不一樣了。怎么樣能夠糾錯，這個事情一直困擾著物理學(xué)家。甚至早年物理學(xué)家覺得量子計算機原則上不能做，因為糾錯是物理上不能解決的問題。1996年有一個計算機科學(xué)家發(fā)現(xiàn)如果我們能夠把最基本的糾錯做好，就可以在一個有規(guī)模、大的量子計算機上就可以繼續(xù)穩(wěn)定，怎么樣在一個最簡單的解碼上能夠做好。量子糾錯一直是做量子計算機的人的心病，如果這個做不好，做了很多的量子比特也沒有用。
怎么樣糾錯的事情，在經(jīng)典的計算機里面也是一個重要的問題，F(xiàn)onomen(音)想到了一個簡單的方法做糾錯。比如說一個0，如果用100個0表示，即使中間有一兩個比特發(fā)生變化，整體上還可以知道它是一個0，因為98個都是0。但是在量子上，這個事情就很困難。
差不多一年以前，谷歌發(fā)表了一篇文章，里面做好了量子芯片。這個芯片有105個量子比特，但是它長處不是有105個量子比特，有很多人也會做，主要就是利用了這100個比特，它能夠做一個量子比特的糾錯。它能夠使得一個量子比特在原則上讓它無限期的生存，能夠保持它本來的狀態(tài)，無限期的延長，這個事情最重要的是能夠低于一個1%，就是小于了剛才提到最重要的條件。這就讓量子計算機的群體非常高興，覺得有非常大的鼓舞。
這是一個重大的成就，它實現(xiàn)了大規(guī)模量子計算機的可能性。它和人工智能有什么關(guān)系呢？主要就是量子糾錯用人工智能來達到的。它的核心技術(shù)就是用一個AlphaQubit的手段，它是為量子糾錯而設(shè)計的解碼器。這個解碼器是一個神經(jīng)網(wǎng)絡(luò)，它采集了很多用量子模擬得到的樣本，用機器學(xué)習(xí)的方法訓(xùn)練出來，所以這個重要的方向?qū)碓诟鞣N方面提升，在比特準(zhǔn)確率和速度方面也有大幅提升，中國也有幾個團隊在這方面非常有競爭性。
第三，關(guān)于人工智能的安全性，我們有一個這么有能力的科學(xué)手段，它也產(chǎn)生了一定的危險性。所以怎么樣治理它也是大家很關(guān)心的方向。
AI的風(fēng)險有哪些？一是因為AI算法有它天生的性質(zhì)，就是不魯棒，不確定，不可解釋，不善于抵抗惡意。在AI的應(yīng)用上也會產(chǎn)生一些對于社會運行的沖擊，它可能沖擊社會價值或者倫理，比如說隱私保護，同時即使我們把它用到好的方面，它能夠替代很多人的工作，它也帶來了可能大量失業(yè)的問題?，F(xiàn)在我們已經(jīng)看到，在亞馬遜、谷歌，在微軟，這些做AI特別好的公司里面有很多解雇的浪潮。
二是生存性的風(fēng)險，它和以前盒子的科技、生物科技都有一點不一樣的地方。因為盒子科技、生物科技最危險就是有恐怖分子運用它做一些不好的事情。但是AI的風(fēng)險除了剛剛所提到的這些非常大的風(fēng)險以外，還有一個風(fēng)險就是AI非常像人，我們和AI的關(guān)系可能會升級到AI失去控制，違背了人類想讓它做的事情。我們要把這個事情做好，就產(chǎn)生了一個新的交叉領(lǐng)域，特別是關(guān)于失控的處理方面，牽涉到AI、密碼學(xué)、博弈學(xué)和各種科學(xué)。研發(fā)AI算法的確定，魯棒性、可解釋性和社會價值對齊，我們要做這些對齊的算法。尤其是對于生存性風(fēng)險，我們應(yīng)該最有效徹底解決問題的方法就是怎么研發(fā)出可以證明安全的AI系統(tǒng)。
借助密碼學(xué)、博弈學(xué)等理論，同時在科學(xué)發(fā)展的基礎(chǔ)上，要能夠取得設(shè)置AI治理的協(xié)議，在區(qū)域和全球減少風(fēng)險，需要建立國際共識?，F(xiàn)在這方面中國做得不錯，比如說中美歐科學(xué)家發(fā)起了定期對話，這個對話有Bengio、Russell、張亞勤和我們，第一次是在2023年在英國，第二次在北京，第三次在威尼斯，差不多每半年開展一次。今年7月的時候在上海舉行了這個大會。
總結(jié)，多年的科技進步與積累，讓人工智能發(fā)展得到新動力，大模型的出現(xiàn)帶來了人工智能的新潮流，有無限發(fā)展機會。近期AI大模型正在革新各個行業(yè)，中長期要走向AGI，賦能科學(xué)，同時能夠建設(shè)安全可靠的，它的前景遼闊，影響深遠，我們必須不斷地創(chuàng)新突破，中國不缺應(yīng)用人才和場景，最重要的是多培養(yǎng)尖端創(chuàng)新人才。
謝謝大家。
