從安全性講，最前沿公司的無人駕駛技術(shù)是人駕駛安全性的10倍左右。無人駕駛目前已經(jīng)開始商用，但要大規(guī)模推出還需要四五年時(shí)間。推出有很多的影響因素，不僅是技術(shù)因素，還有人為因素，比如政策、法規(guī)、基礎(chǔ)設(shè)施等。”26日，在博鰲亞洲論壇2025年年會(huì)上，中國工程院院士、清華大學(xué)智能產(chǎn)業(yè)研究院(AIR)院長張亞勤對中新經(jīng)緯說。
中國工程院院士、清華大學(xué)智能產(chǎn)業(yè)研究院(AIR)院長張亞勤。中新經(jīng)緯 薛宇飛 攝
在博鰲亞洲論壇2025年年會(huì)上，對于過去一年人工智能取得的進(jìn)步，張亞勤說：“今年以前，我們沒有想到會(huì)發(fā)生這么大的變化，AI已經(jīng)走向AI Agent(智能體)階段。同時(shí)，DeepSeek也給行業(yè)帶來震撼，我認(rèn)為，這是ChatGPT推出以來在人工智能領(lǐng)域最大的、系統(tǒng)性、規(guī)模性的創(chuàng)新，也是中國對全球的重要貢獻(xiàn)。”
張亞勤稱，還有一個(gè)趨勢是，AI已經(jīng)從信息智能走向物理智能，特別是無人駕駛、機(jī)器人等，也走向生物智能，如人腦接口、生物體大模型等。他認(rèn)為，無人駕駛是具身智能最大的應(yīng)用，也是第一個(gè)可以真正能夠落地的方向，而人形機(jī)器人還需要更長時(shí)間。
他也談到了AI Agent大規(guī)模應(yīng)用后的安全風(fēng)險(xiǎn)問題。他稱，相關(guān)安全風(fēng)險(xiǎn)至少要增加一倍。智能體是很好的技術(shù)，能夠自我規(guī)劃、學(xué)習(xí)、試錯(cuò)并達(dá)到目的，它是非常好的工具，但它本身也會(huì)帶來很大的風(fēng)險(xiǎn)，這里面有很多未知的因素。中間的路徑是不可控的，智能算法并不完全是“黑盒子”，但很多東西并不清楚其中的機(jī)理，所以會(huì)帶來風(fēng)險(xiǎn)。
“一種是可控性風(fēng)險(xiǎn)，一種是被壞人所利用的風(fēng)險(xiǎn)，所以，整個(gè)安全風(fēng)險(xiǎn)增加了。另外，我認(rèn)為，對智能體需要設(shè)置一些紅線，比如智能體不能自我復(fù)制。能力越大，帶來的風(fēng)險(xiǎn)越高，特別是AI從信息智能到物理智能再到生物智能，風(fēng)險(xiǎn)會(huì)增加很多倍。”張亞勤說。
張亞勤還表示，人工智能很重要，但很多重要問題還需要人來做最終的決策。