科技的發(fā)展不應(yīng)忽視人文關(guān)懷。9月5日，在2024 Inclusion·外灘大會的開幕式上，24歲的獨(dú)臂男孩周鍵借智能仿生手演奏鋼琴，在舞臺上定格了溫暖的一幕。隨后，復(fù)旦大學(xué)計(jì)算機(jī)科學(xué)技術(shù)學(xué)院教授、上海市數(shù)據(jù)科學(xué)重點(diǎn)實(shí)驗(yàn)室主任肖仰華，與浙江強(qiáng)腦科技創(chuàng)始人兼CEO韓璧丞就人機(jī)共生的未來展開對談。

他們認(rèn)為，AI等技術(shù)的大規(guī)模應(yīng)用將重塑人的內(nèi)涵，進(jìn)而重塑我們的社會關(guān)系。面對AI倫理等一系列風(fēng)險(xiǎn)挑戰(zhàn)，應(yīng)提前建立AI應(yīng)用準(zhǔn)則， 以人為本作為首要出發(fā)點(diǎn)。

在肖仰華看來，隨著腦機(jī)接口與AI技術(shù)的廣泛應(yīng)用，機(jī)器已經(jīng)成為人類的外腦、人類的四肢，人已經(jīng)不再是傳統(tǒng)生物意義上的人。他表示，智能時代，人將變成哲學(xué)家尼采筆下的“超人”，即自我超越的人。只不過這種自我超越，將是在機(jī)器智能等外力工具協(xié)助下而完成的。人將成為機(jī)器智能增強(qiáng)下的超人，或許這將會是在長期使用先進(jìn)技術(shù)后，對人類社會的生產(chǎn)和生活帶來的終極影響。”

“與之伴隨的是，人與人之間的社會關(guān)系也將隨之發(fā)生變化，AI將成為人類從事各種生產(chǎn)和活動的代理。人與機(jī)器之間的關(guān)系、機(jī)器與機(jī)器之間的關(guān)系，將不可避免的納入到我們對社會關(guān)系考察范圍，” 肖仰華說。

作為腦機(jī)接口技術(shù)應(yīng)用的推動者，韓璧丞認(rèn)為，腦機(jī)接口在未來5-10年內(nèi)，會發(fā)生三個階段的變化，分別是：修復(fù)、增強(qiáng)和更高階的交互。修復(fù)是幫助最需要的人如有腦疾病、肢體殘疾的人恢復(fù)正常生活。其次是增強(qiáng)，比如是不是可以借助腦機(jī)接口技術(shù)，根據(jù)老人的意識為其提供機(jī)能補(bǔ)充，讓每個老人多走5-10年的路。下一代的交互則會變得更高階，比如對話，現(xiàn)在是通過語言，未來可能不需要再通過語言對話，收到提問我們想一想就傳遞出去了。

在他們看來，新技術(shù)將帶來更多新可能，但潛在的科技倫理問題也同樣值得關(guān)注。

“AI大規(guī)模應(yīng)用對人類生活有4大突出挑戰(zhàn)，”肖仰華表示，首要挑戰(zhàn)在于，我們的生產(chǎn)關(guān)系等社會發(fā)展上層建筑，如何適應(yīng)以人工智能為代表的先進(jìn)生產(chǎn)力的快速發(fā)展。“生成式人工智能技術(shù)發(fā)展，已經(jīng)需要以月為單位進(jìn)行記錄。但是人類的情感、價(jià)值、倫理觀念調(diào)整是十分緩慢的。如何調(diào)和這個矛盾，是我們需要直面的挑戰(zhàn)之一。”

肖仰華認(rèn)為，其次是技術(shù)普惠問題。要避免少部分人借助先進(jìn)技術(shù)形成不正當(dāng)?shù)母偁巸?yōu)勢。此外，我們還應(yīng)該特別注意防范技術(shù)成癮，防止先進(jìn)技術(shù)對人類造成反噬。

人工智能可以“造人”，甚至可以“造超人”。韓璧丞認(rèn)為，在助力肢體、視力障礙等人群上，AI技術(shù)已經(jīng)發(fā)揮出越來越大的作用，幫助視障者重新“看見”，幫助肢體殘疾的人重新恢復(fù)行動能力。但技術(shù)也可以使人獲得一些超出常人的能力，如何平衡這些風(fēng)險(xiǎn)值得思考。

面向未來，他們認(rèn)為，AI應(yīng)用的首要原則應(yīng)該是以人為本，回歸科技服務(wù)于人的本質(zhì)，凡是傷害人之本性的要格外謹(jǐn)慎。

在肖仰華看來，AI的大規(guī)模濫用是可能損害人之為人的本性的。要有所為有所不為，但凡傷害人之為人之本性的AI應(yīng)用，我們要謹(jǐn)慎，要加以限制。為此，“我們要重視技術(shù)治理，并將治理提前考慮，做到未雨綢繆。”

韓璧丞表示，AI倫理委員會的存在非常重要。技術(shù)前進(jìn)的時候，更應(yīng)該關(guān)注“走的慢”的人。“當(dāng)一個足以改變世界的技術(shù)出現(xiàn)時，我們先用它來幫助最需要的人”。

科技和人文的結(jié)合，是外灘大會不變的底色，如何發(fā)揮科技的力量，讓每一個人的生活變得更好，是外灘大會持續(xù)的關(guān)注點(diǎn)。9月3日，2024 inclusion·外灘大會發(fā)布科技人文十大熱點(diǎn)問題，涵蓋科技普惠、綠色發(fā)展、生命科學(xué)、技術(shù)倫理等專業(yè)領(lǐng)域，與會嘉賓將共同探討科技人文十問的前沿新觀點(diǎn)和新思路。

2024 Inclusion·外灘大會于9月5日-7日召開，由外灘大會組委會主辦，上海市地方金融管理局和上海市黃浦區(qū)人民政府支持。近期，長期關(guān)注全球科技趨勢的權(quán)威媒體《亞洲科技日報(bào)》，評出了四大“2024下半年最值得期待的全球創(chuàng)新科技大會”，外灘大會入選。