網(wǎng)站導航
用AI技術(shù)“復活”親人，是全新機遇還是倫理挑戰(zhàn)？
近日，音樂人包小柏用AI技術(shù)“復活”了已經(jīng)去世的女兒，惹得全網(wǎng)熱議。因病去世了幾年的女兒忽然獲得了“數(shù)字生命”，鮮活的存在于電腦里，她可以唱歌，還能與家人進行對話。這樣的狀況與《流浪地球2》中的情景幾乎毫無二致。也正因此，這條新聞無論是在技術(shù)層面，還是從情感層面，都給了大家極大的觸動。
當然，因此而引起的評論也呈現(xiàn)出了兩極化的趨勢。有人認為，讓親人的音容笑貌得以延續(xù)，這恰恰是AI存在的偉大意義。也有人對“數(shù)字生命”持保留態(tài)度，生老病死是生命的普遍規(guī)律，很無奈，但沒有人可以阻止。通過技術(shù)不斷的“復原”逝者，只會是自欺欺人，給在世的親人帶來更大的痛苦。
關(guān)于道德與倫理方面的爭論還沒有一個確定的結(jié)果，可科技發(fā)展的車輪卻如此迅速，全然沒有要停下來的意思。
上海00后小伙用AIA技術(shù)“復活”奶奶：只是希望用AI技術(shù)彌補遺憾。
用AI技術(shù)“復活”親人的，遠不止包小柏一個人。
就在上海的00后視覺設(shè)計師，B站UP主吳伍六用AI技術(shù)生成了去世奶奶的虛擬數(shù)字人，并和自己開展了對話。這段視頻在B站上引發(fā)了網(wǎng)友的關(guān)注。
吳伍六在接受媒體采訪時表示，之所以用AI“復活”奶奶，是因為自己不能接受奶奶的突然離去。吳伍六平時從事AI工作，就想到了用AI技術(shù)“復活”奶奶。他導入了奶奶生前的照片，制作出了奶奶的動態(tài)頭像，又將奶奶生前的通話音頻導入AI，訓練AI模擬出奶奶的聲音和語氣。他這么做的初衷只是希望用AI技術(shù)彌補與奶奶沒有好好告別的遺憾，并希望大家珍惜當下，現(xiàn)實的陪伴永遠是重要的。
值得一提的是，吳伍六還在視頻中分享了整個“AI奶奶”的制作流程，主要就是使用了大火的AI繪圖網(wǎng)站Midjourney以及AI語言模型ChatGPT等。其中的語音素材，源自吳伍六和奶奶連續(xù)兩年的手機通話錄音，他以此為數(shù)據(jù)訓練AI模擬出奶奶的聲音和語氣。照片則是從殯儀館要來的，上傳到Midjourney進行優(yōu)化，制作出了奶奶的動態(tài)頭像，然后在ChatGPT中輸入關(guān)于奶奶的信息，從而生成虛擬數(shù)字人。
打破真實和虛擬的邊界，用AI“復活”親人極有可能成為未來的熱門賽道。
如果說博主吳伍六用AI“復活”奶奶是為了寄托自己對逝去親人的思念，那么有些人則是因此窺見了商機，純純打起了生意經(jīng)。
電商平臺上就存在不少做AI“復活”生意的商家。在某電商平臺，AI“復活”的商品標價從幾元，幾十元，到上百元乃至數(shù)千元不等。有的商家甚至掛出了“只需要52.1元，就能還原逝去親人的容貌并和ta聊天”的噱頭。
譬如一位網(wǎng)友認為自己比較大的遺憾就是身在異鄉(xiāng)，沒能見到父親一面。他在辦完父親的身后事后，還是會止不住的思念父親，會把自己關(guān)在房間里一遍又一遍的翻看自己和父親的聊天記錄。直到某一天，他在短視頻平臺上刷到有商家提供AI“復活”親人的服務(wù)，他感覺自己好像是抓住了救命稻草，趕緊支付了200多元并提供了父親生前的錄音和照片。隨后，網(wǎng)友收到了一段短視頻。視頻里，父親微笑著對他說著話，視頻只有短短幾十秒的時間。
想必大家都能意識到，說是用AI“復活”逝者，其實生成的內(nèi)容與逝者本身一點關(guān)系都沒有。商家只是利用AI技術(shù)，將逝去親人的文字描述，圖片，視頻和聲音資料輸入AI算法模型，從而模擬生成一個數(shù)字形象，這個形象具備了逝者的某些典型特質(zhì)（性格，聲音，容貌等），就這樣而已。
就連“AI奶奶”的博主吳伍六都說，“這件事的本質(zhì)就是要求AI當演員，去扮演一個人，如今的AI可以很好的去模仿一個人的相貌和聲音，但就目前的科學水平而言，它無法模仿一個人的靈魂”。很多想AI“復活”親人的網(wǎng)友，也不過是想謀求一個心理安慰。
全新技術(shù)引發(fā)爭議：緬懷固然重要，保護隱私謹防被騙也是要緊事。
一直以來，針對AI應(yīng)用，特別是“AI復活” 應(yīng)用的爭論就從未停止。即便現(xiàn)在，“AI復活”的技術(shù)已經(jīng)突飛猛進，形成了井噴式的發(fā)展，也依然無法幫助其在倫理，道德以及法律方面找到一個足夠有力的支撐點。
一方面，“AI復活”這件事對于社會倫理和社會道德產(chǎn)生了不小的沖擊。很多人認為人死不能復生，一味的沉湎于過去，只會讓自己更加痛苦。更重要的是，那個克隆出來的，所謂的“親人”與逝者是毫無關(guān)系的。
另一方面，盡管目前還沒有明確的法律法規(guī)對于“AI復活”的行為進行明確規(guī)范，但制作方在利用數(shù)字技術(shù)行“復活”時，是需要承擔一些法律責任的，諸如“制作出來的形象與實際偏差太大”“侵害逝者名譽權(quán)，肖像權(quán)”等相關(guān)權(quán)益。
2023年7月，中國頒布了《生成式人工智能服務(wù)管理暫行辦法》，要求研發(fā)方要在生成式AI技術(shù)研發(fā)過程中進行數(shù)據(jù)標注的，提供者應(yīng)當制定符合本辦法要求的清晰，具體，可操作的標注規(guī)則；開展數(shù)據(jù)標注質(zhì)量評估，抽樣核驗標注內(nèi)容的準確性；對標注人員進行必要培訓，提升守法意識，監(jiān)督指導標注人員規(guī)范開展標注工作。誠然，這個法規(guī)可以對當下興起的“AI復活”技術(shù)起到一定的監(jiān)管和威懾作用，但它畢竟不是專門監(jiān)管“AI復活”的具體法案，無法做到面面俱到，都貼合。畢竟，立法都是略微滯后的，特別是在新技術(shù)領(lǐng)域。
不可否認，科技是把雙刃劍，AI也不例外。我們可以利用飛速發(fā)展的AI技術(shù)實現(xiàn)一系列的革新和突破，諸如人臉識別，語音識別，提高安防效果等。而備受關(guān)注的“AI復活”，還能夠彌補一些人沒能“好好和親人告?zhèn)€別”的遺憾。但是，一旦這些技術(shù)被壞人利用，就可能成為滋生詐騙，邪惡，丑陋的溫床。
歷史的每一次巨大革新和變革，總會伴隨著對于社會規(guī)則，道德和倫理方面的挑戰(zhàn)。在不久的未來，如何去把握科技倫理與社會發(fā)展的邊界，在加速發(fā)展和審慎規(guī)范之間找到平衡點，這將會成為全人類關(guān)注的焦點。
公司信息
我要咨詢
每日熱詞
