中新經緯6月14日電 題：直播虛擬人也會“塌房” 須重視合規(guī)問題

作者 黃斌 北京德和衡律所元宇宙科技與法律研究中心主任、《互聯(lián)網法律評論》特約專家

持續(xù)近三年的新冠疫情讓人們開始習慣于長時間的“線上工作和學習”，同時推動虛擬人大規(guī)模集中出現(xiàn)，以滿足人們的“線上工作和娛樂”。虛擬人是連接現(xiàn)實、開啟元宇宙的重要角色，并且成為元宇宙中一條重要的交互賽道。與此同時，商家的虛擬人直播如雨后春筍般出現(xiàn)在各大平臺，“虛擬人+故事場景”直播顛覆了傳統(tǒng)的真人直播模式，刷新了用戶對平臺、品牌的認識，構建起一種全新的營銷生態(tài)。為實現(xiàn)可持續(xù)運營，平臺和直播虛擬人商家有必要高度關注其中的運營、合規(guī)風險。

直播虛擬人發(fā)展概況

虛擬人起源于20世紀80年代，近年來隨著建模、AI、動捕、渲染技術的發(fā)展進入高速成長期。2021年10月20日，廣電總局發(fā)布《廣播電視和網絡視聽“十四五”科技發(fā)展規(guī)劃》，在虛擬主播方面提出“探索短視頻主播、數(shù)字網紅、直播帶貨等虛擬形象在節(jié)目互動環(huán)節(jié)中的應用，增加個性化和趣味性”，首次明確地鼓勵和支持虛擬人的發(fā)展?！艾F(xiàn)在進入了一個時間點，已經不太需要去教育客戶，同他說為什么要給你推虛擬人，很多品牌直接問有哪些虛擬人可以和他們合作，目的性非常強，這也和市場成熟度有關，”動圖宇宙創(chuàng)始人丁焱表示。

2022年6月8日，Anycolor于東京證券交易所上市，這是全球首家以虛擬人為主營業(yè)務的上市企業(yè)，其旗下有彩虹社，也有直播事業(yè)部。如今出現(xiàn)了一些品牌虛擬人深度定制，以及提供虛擬人IP代運營服務的公司，平臺、商家都開始定制品牌虛擬人，或者與提供虛擬人IP代運營服務的公司合作，試圖以虛擬人形象的IP價值輸出打開在Z時代中的影響力，拓展新消費人群。

直播虛擬人同樣會“塌房”

業(yè)界普遍認為，真人主播有人設崩塌的風險，而直播虛擬人不存在人設崩塌的風險。但事實上，虛擬人人設同樣也會崩塌。人工智能虛擬人是通過大量的預設人格相關數(shù)據進行機器學習，然后通過算法進行自動化決策，并與用戶實現(xiàn)交互。人工智能虛擬人的人格塑造可能貫徹了平臺、商家的商業(yè)目的，該商業(yè)目的可能因為一些歧視和偏見導致人設崩塌。算法設計者固有的偏見和歧視也有可能導致人設崩塌，例如，某品牌智能音箱在回復用戶心動周期的相關問題時建議用戶自殺，某人工智能軟件將黑人識別成靈長類動物等。

《頂流虛擬偶像A-SOUL一夜塌房，背后的五個女孩真的就是工具人？》一文也指出：但無論是AI直播，還是完全按照劇本設計的人設，都不是粉絲真正想要的。資本或許認為粉絲愛的是皮套，但是對很多粉絲來說，虛擬偶像提供的情緒價值比冰冷的皮套更重要。皮套和靈魂是相輔相成的，粉絲第一眼肯定是被皮套吸引，但有趣的靈魂才是維持人氣的關鍵。

真人驅動型虛擬人及人工智能虛擬人面臨合規(guī)問題

虛擬偶像雖然是技術產物，但目前還是得依靠人來驅動。智能虛擬人是指利用人工智能技術，通過多模態(tài)技術和深度學習模型的運算結果，實時或離線驅動虛擬人的語音表達、面部表情、具體動作，其通過人工智能技術打造直播虛擬人的完整人設，并賦予直播虛擬人“靈魂”。

人工智能的運用應符合可理解原則和公平原則，人工智能應該能夠為人類社會現(xiàn)有的道德所理解；人工智能的運行應當保持透明可見的原則，不讓特定個人或少數(shù)群體遭受偏見、侮辱和歧視；人工智能應當尊重人格尊嚴和個人隱私，保障人工智能參與者的知情權和選擇權；最后，人工智能的發(fā)展應當可控，人類不從屬于人工智能，也不應受到人工智能的脅迫，保障人類在人工智能中的決定作用，當人工智能失控時，應當有毀滅裝置。針對智能虛擬人的直播運營，平臺及商家需要關注的合規(guī)風險如下：

對于匯集大量直播虛擬人的平臺而言，平臺的善良管理者義務是與其從虛擬人直播中直接獲得的經濟利益正相關的(例如，在直播虛擬人獲得的打賞中分成)，獲得的經濟利益越大，自然應對此負有較高的注意義務，其應當承擔的法律責任和注意義務與之前所述真人驅動型虛擬人基本一致。

商家在制作和運營直播虛擬人時，應當堅持科學倫理先行。倫理是指在處理人與人、人與社會的相互關系時，應遵循的道理和準則，是指一系列指導行為的觀念，是從概念角度出發(fā)，對道德現(xiàn)象的哲學思考。它不僅包含處理人與人、人與社會、人與自然之間關系時的行為規(guī)范，而且也蘊涵著依照一定原則來規(guī)范行為的深刻道理。

人工智能最大的弱點是，缺乏直接的感受能力，在價值判斷上存在弱點，而人工智能倫理準則所倡導的造福人類、避免傷害、公平正義等價值理念，為人工智能技術層面的開發(fā)和運用提供了價值判斷標準。

以機器學習為代表的人工智能技術需要大量數(shù)據，數(shù)據是機器學習的根基，數(shù)據的真實性、完整性，以及數(shù)據的規(guī)模和質量是人工智能進行分析與建模的關鍵。人工智能公平性的核心基礎是數(shù)據，數(shù)據的不公平主要體現(xiàn)在：不同群體在數(shù)據中所占比例不均衡，數(shù)據固有的歧視，數(shù)據固有的偏見，數(shù)據的包容性不夠，數(shù)據的通用性及數(shù)據的準確性等。數(shù)據具有固有的歧視和偏見，是因為一些帶有歧視和偏見的價值觀映射在數(shù)據上。如果沒有對上述數(shù)據不公平現(xiàn)象進行調試和校驗，這種不公平將反饋到人工智能算法模型，并最終映射到人工智能的公平性上。

算法是一種“數(shù)據處理活動”，包括收集和處理數(shù)據，挖掘數(shù)據價值，涵蓋數(shù)據的生成、采集、存儲、轉換、處理和輸出的全過程。智能直播虛擬人需要通過算法實現(xiàn)自動化決策，以達到與用戶之間的強互動。算法的出現(xiàn)和使用，是為了執(zhí)行大規(guī)模重復的任務和計算，是為了實現(xiàn)商業(yè)上高效快速的交易，是為了實現(xiàn)公權力具有廣度、深度和效率的運行。隨著算法的日益廣泛應用，算法成為促進政治、經濟、文化和社會發(fā)展的工具，應當遵循人類共同價值觀，遵守國家或地區(qū)的倫理道德；算法應當尊重人類主體地位，給用戶選擇權和決策權；算法應當抑制人類社會無處不在的歧視和偏見；算法應當保障用戶的人身權和財產權。(中新經緯APP)

本文由中新經緯研究院選編，因選編產生的作品中新經緯版權所有，未經書面授權，任何單位及個人不得轉載、摘編或以其它方式使用。選編內容涉及的觀點僅代表原作者，不代表中新經緯觀點。

責任編輯：孫慶陽 實習生 李佳文