和迪麗熱巴“接吻”、長得和特朗普“一模一樣”、馬斯克身陷“貧民窟”、乘地鐵的照片被“一鍵脫衣”……隨著AI技術(shù)的成熟和發(fā)展，一鍵“換臉”“換裝”因帶來意想不到的效果，受到很多關(guān)注，屢屢沖上熱搜。
近日，不少網(wǎng)友在社交媒體和短視頻平臺上開始秀出AI換臉內(nèi)容，比較常見的是在熱播劇中換上自己的臉或者喜歡的明星的臉。但此舉也引發(fā)網(wǎng)友擔(dān)憂，AI換臉在影視劇中“大行其道”，這是否尊重演員和版權(quán)，這種換臉未來是否也會出現(xiàn)在非法視頻里?
(資料圖)
事實上，ChatGPT走紅后，生成式AI技術(shù)的發(fā)展和應(yīng)用，引發(fā)了新一輪AI技術(shù)熱潮。多家巨頭涌入，并開發(fā)面向消費者的AI應(yīng)用，讓人工智能開始在用戶生活中“生根發(fā)芽”。但除了自娛自樂之外，不少人試圖利用AI牟利，甚至做出違背倫理、觸犯法律的事情。
如何讓AI在不傷害人類的前提下，有利于人類和社會發(fā)展，正在成為新的課題。
當(dāng)AI換臉走紅
“終于實現(xiàn)和喜歡的愛豆合照了”，有不少網(wǎng)友近日在社交媒體平臺上曬出自己和愛豆的正臉照片，被網(wǎng)友戲稱為“拿去騙我媽，我媽以為我談戀愛了”。這些照片皆來自一鍵生成的AI換臉APP，這些APP有海量的視頻和照片模板，能夠讓不少粉絲實現(xiàn)和愛豆合照的愿望。
不過很多網(wǎng)友表示，這些APP此前基本都免費，現(xiàn)在則需要充錢辦會員。在手機中的應(yīng)用商店搜索，不少關(guān)于AI換臉的APP近期的下載量排名都有大幅提升，在評論區(qū)，很多網(wǎng)友覺得新鮮有趣，但也有網(wǎng)友產(chǎn)生了質(zhì)疑。
一位博主公開發(fā)布聲明，稱“被AI換臉軟件盜圖做模板了”，該博主表示，自己作為模特，和攝影師辛辛苦苦拍攝，但就這樣被盜用了，是有點“傷心”。另一位博主也稱自己在1月份發(fā)布的一組照片，目前在國內(nèi)社交媒體平臺上被不少人用AI換臉軟件私自使用，涌現(xiàn)出大批類似素材的視頻和照片，甚至有人因相關(guān)內(nèi)容還上了熱門榜單，流傳到海外平臺。
在短視頻平臺上，有不少主打AI換臉內(nèi)容的博主因使用這項技術(shù)圈粉不少。最近還有博主惹出了不小的爭議。
特效師洪某在短視頻平臺上有超過百萬粉絲，此前他經(jīng)常通過電腦后期制作替換影視視頻中的鏡頭，日前他通過AI換臉的方式，將女明星迪麗熱巴出演的電視劇中激吻鏡頭的男主角替換為自己，該視頻引發(fā)了不少爭議，多位粉絲表示了不滿，甚至找到他要討說法。洪某后續(xù)在抖音上曬出自己被迪麗熱巴粉絲抓傷臉的情況，最終的結(jié)果是洪亮把關(guān)于迪麗熱巴的內(nèi)容都隱藏刪除。他的賬號因違反社區(qū)規(guī)定，也被封了15天。
該事件引發(fā)了法律界人士關(guān)注，同時也讓AI換臉的行為更受到關(guān)注。在不少人下載APP使用時，這種技術(shù)背后帶來的倫理挑戰(zhàn)和法律風(fēng)險越來越凸顯。浙江曉德律師事務(wù)所主任陳文明則表示，該博主進行AI換臉時，如果得到演員的同意，尊重了演員個人的相關(guān)權(quán)利，那么這種行為就變得可行，能夠適當(dāng)應(yīng)用。但如果沒有得到演員的同意，有可能違反道德和法律的雙重規(guī)范。
萬商天勤律師事務(wù)所合伙人張烽告訴中國新聞周刊，上述博主這種行為可能侵害了相關(guān)錄像制品或視聽作品的版權(quán)改編權(quán)，侵害女明星的人格權(quán)、肖像權(quán)、名譽權(quán)，傳播這種內(nèi)容如果被認(rèn)定為不良內(nèi)容可能違反互聯(lián)網(wǎng)信息內(nèi)容治理相關(guān)規(guī)定和公序良俗。
賽迪智庫網(wǎng)絡(luò)安全研究所所長劉權(quán)則指出，這種行為涉及多方面的問題，包括道德倫理和法律法制等。對個人而言，這種行為將會對被害人的心理健康造成損害;對于公眾而言，通過AI技術(shù)進行合成創(chuàng)作，可能會模糊真實與虛假之間的界限，損害社會公信力和價值觀念。從法律法制角度看，如果未經(jīng)授權(quán)使用他人肖像或作品進行合成或創(chuàng)作，可能會構(gòu)成侵犯他人肖像權(quán)和知識版權(quán)，涉及侵權(quán)問題，需要承擔(dān)相應(yīng)的法律責(zé)任。
技術(shù)成本越來越低
今年以來，隨著ChatGPT的爆火，生成式AI逐步被人們關(guān)注。當(dāng)一款A(yù)I產(chǎn)品可以像“人”一樣回答問題，與用戶產(chǎn)生互動時，不少業(yè)內(nèi)人士認(rèn)為“通用型AI”已經(jīng)到來。
劉權(quán)告訴中國新聞周刊，過去市場上的AI產(chǎn)品主要是所謂的“分析式AI”，這類產(chǎn)品的主要功能是對數(shù)據(jù)進行學(xué)習(xí)和分析，以此來進行預(yù)測、輔助用戶進行判斷。與這類AI不同，生成式AI的主要功能是通過學(xué)習(xí)來生成與訓(xùn)練數(shù)據(jù)不同的新數(shù)據(jù)。得益于這種創(chuàng)造能力，生成式AI可以比分析式AI應(yīng)用于更多不同的場景、完成更為多樣化的任務(wù)，因而正在成為一種“通用型AI”。
他進一步指出，生成式AI技術(shù)通過換臉、變裝等技術(shù)，可以創(chuàng)造出非常逼真的視頻和圖片，能夠為互聯(lián)網(wǎng)生態(tài)提供大量的內(nèi)容產(chǎn)品，并且相比于傳統(tǒng)的UGC(用戶生產(chǎn)內(nèi)容)，AIGC(AI生產(chǎn)內(nèi)容)在內(nèi)容制作成本、內(nèi)容數(shù)量、質(zhì)量的穩(wěn)定性等方面都更有保證，這些特點決定了生成式AI在電影制作、游戲、虛擬現(xiàn)實等領(lǐng)域中有著廣泛的應(yīng)用潛力。
張烽表示，從內(nèi)容生成創(chuàng)作角度而言，生成式AI為內(nèi)容生產(chǎn)創(chuàng)作提供了低成本、高效的方式，一方面從創(chuàng)作主體上看，讓更多普通用戶也能很方便地借助AI工具創(chuàng)作出基本符合自己需求的數(shù)字內(nèi)容;另一方面，從創(chuàng)作內(nèi)容上看，讓數(shù)字內(nèi)容的創(chuàng)作更加貼近用戶需求和使用場景;此外從結(jié)合方式上看，讓內(nèi)容生成創(chuàng)作能夠智能化地結(jié)合到各種場景中。
一位資深電商從業(yè)者近期發(fā)現(xiàn)不少利用生成式AI的創(chuàng)作工具相繼問世，以前對很多中小廠家來說，拍攝非常精美的產(chǎn)品圖令人頭疼，一方面沒有相關(guān)人才，另一方面成本也不低。近期有很多利用AI做電商設(shè)計的產(chǎn)品，一般會按年收費，能夠多快好省進行營銷內(nèi)容的制作。
中央財經(jīng)大學(xué)數(shù)字經(jīng)濟融合創(chuàng)新發(fā)展中心主任陳端表示，目前來看，生成式AI最容易帶來改變或產(chǎn)生沖擊的，就是在內(nèi)容生產(chǎn)領(lǐng)域。原因在于內(nèi)容生產(chǎn)鏈條相對較短，通過打造IP的價值鏈延展空間比較大，目前來看有商業(yè)變現(xiàn)的可行性。
劉權(quán)指出，生成式AI在消費端和產(chǎn)業(yè)端的多個領(lǐng)域都可能進行顛覆性的變革。在消費端日常辦公領(lǐng)域，相對重復(fù)、創(chuàng)造性較低的任務(wù)都可以由生成式AI來輔助完成;在搜索領(lǐng)域，生成式AI+搜索的模式可以大幅提升人們從海量信息中檢索出自己所需要信息的效率，因而可能會成為新一代的搜索方式。
此外，他還指出，在產(chǎn)業(yè)端，如在工業(yè)設(shè)計領(lǐng)域，生成式AI不僅可以根據(jù)設(shè)計人員的思路迅速提出多套方案，還可以直接對各套方案進行比較評估，供設(shè)計人員選擇，這樣就可以有效節(jié)省設(shè)計成本、縮短設(shè)計時間，例如目前谷歌、英偉達(dá)等企業(yè)已經(jīng)在芯片設(shè)計中運用AI進行輔助設(shè)計;在藥物研發(fā)領(lǐng)域，引入生成式AI可以輔助研究人員識別化合物的分子結(jié)構(gòu)，并根據(jù)需要對分子結(jié)構(gòu)進行重構(gòu)和修改，可以幫助縮短研發(fā)時間，減少研發(fā)投入。
根據(jù)美國Western Securities (西部證券)分析，預(yù)計到2025年，AIGC市場空間將達(dá)到40.352億美元，到2030年市場將達(dá)到217.558億美元。這意味著整個市場在未來幾年可能迎來爆炸式增長。
“不加限制將會面臨嚴(yán)重挑戰(zhàn)”
在不少社交媒體和電商平臺上，搜索“AI換頭”“AI特效”，不少人都在用這些技術(shù)接單，但并不是明目張膽，一般會讓用戶加微信，然后從朋友圈看視頻案例，收費在幾十元到上百元不等，商家表示“提供一張照片即可”。
陳文明指出，不論是收費來做這類視頻還是進行教學(xué)，這些營利活動的前提必須是征得相關(guān)人士的同意，否則有可能造成侵權(quán)。
而上述商家則表示，“自己娛樂有啥風(fēng)險，只要不商用，誰會來找你?”陳文明強調(diào)，隨著技術(shù)的發(fā)展，所謂的“一鍵變臉”，如果完全放開不加限制的話，肯定是弊大于利。從法律層面來看，隱私權(quán)、知識版權(quán)等領(lǐng)域都可能面臨嚴(yán)重的挑戰(zhàn)。
劉權(quán)的擔(dān)心之處則在于，生成式AI的濫用也可能造成很大的公共危害，例如不法之徒可以以更低的成本、更高的效率來偽造文本、圖片，甚至視頻的資料，并以此來從事詐騙、恐嚇、誹謗等犯罪行為。
張烽進一步指出，隨著技術(shù)發(fā)展，純從技術(shù)角度而言生成制作成本確實可能會越來越低，但是從相關(guān)技術(shù)監(jiān)測檢測手段和法律規(guī)制、管理制度角度來說，會加大違法成本。
近兩年，隨著AI風(fēng)起，融資超千萬美元的AI產(chǎn)品不在少數(shù)，不少產(chǎn)品因此深陷色情信息和虛假信息輿論風(fēng)波。在不少媒體的報道中，ChatGPT也可以按照用戶的指令生成虛假信息。上月底，馬斯克和1000多名人工智能專家簽署聯(lián)名信，呼吁暫停訓(xùn)練比GPT—4更強大的人工智能系統(tǒng)至少六個月，理由是這種系統(tǒng)對社會和人類構(gòu)成潛在風(fēng)險。
張烽指出，在未來發(fā)展方面，目前比較一致的意見是，人工智能自然語言大模型本身因為涉及海量參數(shù)模型開發(fā)、海量數(shù)據(jù)訓(xùn)練、巨大算力支持，并非一般小公司可承擔(dān)，競爭主要存在于中美兩國互聯(lián)網(wǎng)巨頭?；ヂ?lián)網(wǎng)巨頭們謹(jǐn)慎小心對待監(jiān)管，其自身也有比較強烈的社會責(zé)任感，有實力也有意愿以合規(guī)方式推進研發(fā)和應(yīng)用。至于未來受益公司，凡是擁有大數(shù)據(jù)、大算力和大量應(yīng)用用戶或應(yīng)用場景的公司，會享有很多機會。比如目前以圖片類版權(quán)授權(quán)和使用為業(yè)務(wù)模式的公司會受到一定影響，但是基于其擁有的巨量正版圖片數(shù)據(jù)資源，相應(yīng)調(diào)整業(yè)務(wù)模式的話，還是會有很多機會。
4月11日，為促進生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用，國家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法(征求意見稿)》，并向社會公開征求意見。陳端解讀此舉為在一輪新的立法和政策制定過程中，國家秉承包容開放的態(tài)度，通過鮮明的政策導(dǎo)向和指引幫助創(chuàng)新創(chuàng)業(yè)人士，明確底線意識，從而更充分釋放創(chuàng)新創(chuàng)業(yè)的潛力和動能”。
劉權(quán)指出第三條給出監(jiān)管的原則是國家明確支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國際合作，鼓勵優(yōu)先采用安全可信的軟件、工具、計算和數(shù)據(jù)資源。一鍵換臉等行為變得更加普及和容易后，有必要建立相關(guān)的規(guī)范和監(jiān)管機制，確保該技術(shù)的合法、合規(guī)和安全使用，并維護良好的社會秩序和價值觀念。同時，企業(yè)和個人也應(yīng)該自覺遵守相關(guān)法律規(guī)定和社會道德標(biāo)準(zhǔn)，不進行侵權(quán)行為和虛假宣傳，促進AI技術(shù)的健康發(fā)展。
免責(zé)聲明：以上內(nèi)容為本網(wǎng)站轉(zhuǎn)自其它媒體，相關(guān)信息僅為傳遞更多信息之目的，不代表本網(wǎng)觀點，亦不代表本網(wǎng)站贊同其觀點或證實其內(nèi)容的真實性，如有侵權(quán)請聯(lián)系(0531) 8519 6822。
標(biāo)簽：
滾動