“三隻羊盧某”網傳錄音系大模型僞造，AI安全問題何解？

以“三隻羊”爲事件核心的輿論仍在繼續發酵，這次是由錄音僞造引起的AI安全顧慮。

此前，三隻羊網絡科技有限公司因直播帶貨的“香港美誠月餅”涉嫌虛假宣傳、欺騙消費者等問題引發輿情風波。同一時間，網上一段流傳的“三隻羊盧某某”錄音爲這家MCN招致更多批判聲音。

該錄音顯示爲“三隻羊盧某某”在酒後的一段言論，內容牽連三隻羊旗下多位女主播，整體呈現盧某面對市場與消費者持有的傲慢態度，以及對相關人士的不尊重表達。

9月26日晚，合肥市公安局高新分局通報，該局接三隻羊公司報警稱，網上傳播涉盧某某的音視頻不實，嚴重侵害其合法權益。經過偵查，9月22日晚，該局將犯罪嫌疑人王某某（男，25歲）抓獲，並在其電腦、手機和製作AI音頻的網站中發現僞造相關音視頻的證據；結合其供述、調查取證，並經部、省專業機構檢驗鑑定，認定報案所涉網傳音視頻系僞造。

隨後，9月27日，一家名爲Reecho睿聲的AI公司發佈聲明稱，近日，公司收到合肥警方調取證據通知書，針對網絡上廣泛傳播的“盧某錄音門”事件所涉及的音視頻部分，經與合肥警方配合查實，確係嫌疑人使用該司自主研發的AI配音大模型平臺，由盧某此前直播片段的約30秒錄音進行克隆，並通過文本進行生成。

上海大邦律師事務所高級合夥人遊雲庭對界面新聞記者表示，在上述案件中，嫌疑人王某某涉嫌誹謗罪，行爲特徵是以虛構的事實毀壞他人聲譽。盧某可以要求發佈內容的網站刪除侵權內容，並且在刑事調查結束，取得相應法律文書後民事起訴侵權者。

隨着人工智能技術的飛速發展，AI技術已經滲透到社會生活的各個角落，但隨之而來的AI安全問題也日益凸顯。在這背後，以AI技術對他人的音視頻素材進行“克隆”並惡意使用成爲AI安全問題的重災區。

目前市場上的AI大模型音視頻生成產品涵蓋了多個領域，包括但不限於視頻內容創作、音頻處理、角色動畫合成等。這些產品一方面從效率層面爲大量企業和個人用戶帶去了便利，但另一方面也成爲不法分子的牟利工具。

今年以來，全國各地已經發生多起“AI換臉”導致的詐騙案件。其中，一起發生在香港的詐騙案件涉案金額高達2億港元，而犯罪嫌疑人正是使用Deepfake技術“AI換臉”和AI音頻合成了一場“高管會議”。

面對這些容易紊亂視角或直接導致財產損失的AI安全問題，除了公衆層面的每一位個體都對接受的音視頻內容提高警惕性與分辨能力，在產品層面，平臺如何從技術與法律的角度預防負面事件的發生也同樣重要。

就前述案件中提供技術的公司是否要擔責的問題，遊雲庭表示，還是要看該公司是否履行平臺的合規責任。“根據互聯網信息服務深度合成管理規定，如果履行了合規義務的，我覺得他們責任比較小，否則的話會有麻煩。”

首先，該公司需要進行算法備案，並在實際運行當中使用的是備案算法。其次，公司應該對使用的用戶身份有認證，如果沒有，公司也會存在法律風險。另外，平臺應當對用戶進行提示，要求用戶不得利用平臺的服務進行違法行爲。

ReechoAI睿聲官網顯示，其是由深圳市言域科技有限公司提供的AI語音大模型技術產品及AI有聲內容社區。經界面新聞記者在互聯網信息服務算法系統查詢，“深圳市言域科技有限公司”這一主體旗下暫無相關備案記錄。另外，其關聯主體“深圳市呦絡科技有限公司”也無備案記錄。

在技術角度，遊雲庭認爲需要判別一個問題，即對於用戶生成的可能涉嫌違法的內容，這些內容根據現有的識別違法和不良信息的特徵庫，是否能審覈出具有違法屬性。“如果明顯涉嫌違法的，但他們沒有審覈出來的，也會存在問題。”遊雲庭表示，但更大可能性在於用戶內容難以完全落實審覈，這種情況下平臺的責任也會較輕。

此外，平臺應當對用戶生成的內容進行“AI生成”等相關標註。但由於這類生成內容被標註後的刪除操作也相對簡單，AI內容的辨識問題仍然任重道遠。