過去一年,有1000多個家庭跟張澤偉定制了“數字人”,要“復活”離開的親人。作為科技公司“超級頭腦”工作室創始人,90后的張澤偉觀察到,大部分人是為了尋求陪伴的慰藉,在權衡之下制造一個善意的謊言。
而不少聲音對此懷有警惕,認為這只是一劑精神鴉片:“人作為人的概念會被淡化。”“那些內容沒有關于‘愛’的回憶不會有共鳴,更多的是一種欺騙,是對彼此之間珍貴情感的褻瀆。”“會取消死亡的嚴肅性。如果所有遺憾都能被隨意填補,那珍惜和牽掛也無從談起。”
張澤偉和團隊進入多個“謊言”后,不斷迭代“數字永生計劃”,也發覺這是逐漸被市場和客戶訓練出來的。這些交易背后,藏在理性之下的是什么?又如何考量倫理與法律邊界?我們與張澤偉聊了聊,試圖從他的實踐中靠近答案。以下根據他的口述整理。
文 | 魏榮歡
編輯 | 毛翊君
當別人告訴你,如果把(親人去世)這個事情告訴老人,老人可能撐不過一兩個月了——在生命跟謊言面前,你選擇什么呢?
2022年底,我一個老朋友的父親意外去世了。他奶奶身體不好,家里怕老人受不了這種打擊,就一直瞞著,說他父親在外面做生意或者怎么樣的。后面老人長時間看不到兒子,一直在問。那段時間,網上“數字人”特別火,我朋友就問我,能不能復刻一下他父親的形象、聲音。當時我在創業做AI教育,還沒有做過這塊業務。
我們選了AI換臉。這需要人的外輪廓是相似的,這點我和他父親差別不太大,最后就我來扮演。聲音主要靠改變音色。我們從小一起長大,跟他父親也認識很久,不會有太大的語言習慣偏差,主要學了一下他父親的表達方式。
第一次視頻通話,差不多三五分鐘,我告訴老人在國外出差。因為他父親是做采購,有時候會出去。反正盡量減少交流,主要是報平安。直到現在,每次重要的節日,比如春節和老人生日,都會打一打。一開始會比較緊張,后面也就習慣了,像跟自己的爺爺奶奶一起隨便聊聊。
后來我們就開始做這個(“AI數字人”)業務,發現這一塊的市場需求還是很大的。目前,去世親人的主要服務對象是老人和中年人,老人多是像這種高齡失去子女的,中年人很多是失獨家庭。可以給他們制作一段視頻、AI換臉互動,或者提供隨時互動的數字人。
之前一個浙江金華的父親來找我,要克隆他一段孩子的聲音,沒有固定要說什么話,“就想聽一聽”。他孩子2022年在英國讀書的時候,玩賽車去世了。他之前大概也找了已經有十幾家了,都不能達到他的預期。因為他的語料樣本比較少。
我給他做了一段孩子思念和安慰父親的話,大概意思就是說爸爸媽媽不要難過了,我在天上很好。十幾秒,做了三天,研究了不同的技術方案,看哪一種就會相似度更高。他當時挺滿意,不過很快就提出了更高的期待。
他要有10個版本可以讓他選,每個字都跟他兒子的感覺是一樣的。就是說他對這個執念已經太深了,目前(這項)科技發展階段沒有達到這個地步。他一直跟我說,如果后面技術有大的更新迭代,要立刻告訴他。
還有些善意的謊言是給孩子的。這兩天有個客戶來找我們,說女兒要出嫁了,跟外婆關系很好。外婆前不久中風去世,她還沒敢告訴女兒。她希望在女兒的婚禮上,外婆可以說一些祝福詞。
![當1000個「AI數字人」被交易](http://www.dfulqf.cn/uploads/image/2024/0501/15030151550.jpg)
●換臉效果圖。講述者供圖
10秒的語音樣本技術門檻不高,要效果好得1分鐘以上。很多客戶想復刻自己的爺爺奶奶或者父母,一看他們的數據都不夠多,這樣沒有辦法制作得很好。
現在我們核心團隊是5個人,需要AI換臉扮演的時候,如果人手不夠的話,或者我們沒有符合這種臉型和特殊聲音的,我們會外聘一些臨時演員。如果有一些特殊的需求,一般都是我們自己上。是要做功課的,比如一些家庭隱私,或者老人可能會提到的事情。還有些小習慣——之前復活過一個老人,喜歡在每句話前面或后面加個“嗯”。
更高級一些的是要制作可隨時互動的數字生命,現在這一類需求是最多的。我們做過一個9歲的小女孩,因為白血病,已經走了三年。她母親來找到我們做這么一個數字生命,相當于是“把孩子從天上接回來”。
也有的客戶我們拒絕了。也是個失去孩子的母親,因為她的狀態很不穩定,已經自殺過四五次了。這種情況我們拿不準,專門去咨詢了心理咨詢師,說如果受到這種刺激,怕她再起輕生的念頭,盡可能還是不要讓對方心理有太大波動。不過這是很特殊的情況,也就遇見過這一例。
也有遇見過一些人,要做這種AI形象去做一些不好的事情,比如說能不能繞過人臉識別,但是你人臉識別用的地方就那么幾個是吧,其實一聽就知道。這種我們都是嚴格禁止的,直接就說沒有辦法實現。
還有異地戀的年輕人要做一個對方的數字分身陪伴自己。我們要有他們一些合照證明關系,對比身份證,還要得到對方的簽字授權。不管說分沒分手,只要是他簽字授權同意,我們就可以做這個事情。
目前我國法律只對比較大的方向有明文規定,像怎么樣的一個情況會涉及到侵權。所以我們會很謹慎,合同里會明確不可以用于任何違法違規途徑的,如果我們發現有任何這種企圖或者事情的話,會立刻向公安機關舉報。
![當1000個「AI數字人」被交易](http://www.dfulqf.cn/uploads/image/2024/0501/1503011Q51.jpg)
●3D數字人效果圖。講述者供圖
數字生命這一塊是AI一個非常重要的領域和應用,可以說是當下一個主要的賽道。我們現在主做的數字分身是往陪伴、傳承方向。
目前市場最大的混亂點在于,大部分人還不清楚到底什么是AI的,也就造成了很多人對AI的理解非常片面。我們其實更多的是做一種情感的交付,一種心智生產力的交付,而不是僅僅去合成一段視頻。
今年我們的業務也變得更多元了,延伸到很多場景,包括醫療、養老、殯葬、教育行業。從生前就開始制作自己的數字分身的話,資料各方面會非常齊全的。這種連續訓練,最終可以訓練得跟人本身非常接近。
兩個月前,有個四川的養老院老板,要給養老院老人提供增值服務,讓每個人都能做一個數字分身,子女未來可以隨時跟老人的分身互動。他主動來的,需求很明確。你問任何一個東西,他都可以用他的一個聲音、形象包括一些說話習慣和知識回答。
大部分人是愿意的,最后做了200多個。我們有一些客戶,比如父親走了,母親看到這個東西,還主動要求去做一個。他們覺得這個挺有意思的,而且當自己未來百老歸天以后,相當于是給后輩留下一些念想。
養老院這個,一千多塊錢一個。針對于逝者的價格高,5千到1萬。不僅僅是技術方案不一樣,成本也會不一樣。活著的人可以標準化地去采樣,讓他坐在那里,按照一個模板,我在鏡頭前面用手機對著拍拍他說話,5分鐘左右就行了。不需要處理太多的東西。但是對于逝者的話,沒有辦法去約束他的樣本。目前這是行業內首例,也在跟很多養老單位在聊。
其實這些東西都是一步一步根據用戶需求不斷做出調整的,就像用戶引導我們一樣,某種程度上也可以說是被市場和客戶訓練了。我們通過單元模型訓練好核心知識庫,相當于是這個數字生命已經融入了這個人生前大部分記憶跟思維模式。
有粉絲想做張國榮,但因為粉絲沒辦法給我們授權,還在研究這一塊怎么弄。目前我們國家法律并沒有涉及到死者意愿這一塊的問題,但是我相信在未來可能,比如說當技術各方面都普及以后,可能會在遺囑上有呈現,你愿不愿意往生后做個數字生命。
不過,目前的數字人都只能達到真人的一部分。因為我們是基于用戶提供的數據來去制作一個人的數字生命的。至于未來AI發展帶來的風險,我們是會格外謹慎的,但是目前來說還可控。