“深度僞造”值得擔心嗎？
利維坦按：
我個人覺得沃爾特·謝勒對於“深度僞造”的未來還是過於樂觀了，各種移花接木式的明星換臉有時候可不僅僅是娛樂和惡搞，她們往往也會成爲色情網站的重點技術處理對象。不僅如此，看看最近的以哈戰爭，各種惡意煽動仇恨的虛假信息漫天飛，尤其是那些僞造的圖片，試圖通過視覺上的刺激來挑動人們的憤怒情緒——這無疑分化了公衆輿論，煽起了暴力的火焰。
在互聯網上，我們如何知道什麼是真實的？
2023年春天，一張在五角大樓附近的爆炸照片（下圖）引起了華爾街的輕微恐慌，這是首次發生的人工智能生成圖像通過互聯網傳播影響市場的案例。
雖然這個惡作劇在受到審查後消失了，但對許多人來說，它似乎預示着更糟糕的事情即將發生。
不過，當聖母大學（the University of Notre Dame）計算機科學家、媒體取證專家沃爾特·謝勒（Walter Scheirer）讓他的學生在互聯網上搜尋人工智能篡改視頻的例子時，他們帶回來的結果讓他感到驚訝。他說，這就像是“無盡的迷因”。
到目前爲止，大多數令人信服的“深度僞造”（Deepfake）似乎都只是爲了引起你的會心一笑，而非引發經濟崩潰：假冒的湯姆·克魯斯談論洗手；尼古拉斯·凱奇出演所有電影；拜登、川普和奧巴馬一起玩《使命召喚》。
謝勒得出結論，互聯網確實充斥着虛假內容，但其中絕大多數似乎旨在建立聯繫，而不是破壞與毀滅。
謝勒和互聯網是一起成長的。作爲一名較年長的千禧一代，他將自己的第一臺計算機描述爲“特別原始”的——一臺連接到家庭電視機的德州儀器機頂盒。中學時，他開始流連於Internet Relay Chat黑客頻道，與早期計算機地下世界的賽博朋克叛逆者進行虛擬交流。他說，即使在那個時候，黑客們也喜歡將科學事實和虛構結合在一起，僅僅是出於喜歡炫技而已。
在他的新書《互聯網上的虛假事物史》（A History of Fake Things on the Internet）中，謝勒認爲今天的“深僞”最好以這種精神來理解，即，從許多方面來看，它們是18世紀諷刺、維多利亞時代靈異攝影術等前互聯網時代戲仿與想象傳統的數字後代。
在最近的一次談話中，謝勒告訴我，他逐漸認識到，互聯網上虛假信息的盛行，並不是對公民規範的徹底、可怕的背離，而是我們人類創造神話和講故事動力的完全自然演變。
-無害虛假信息和危險虛假信息，該如何界定呢？
-在寫這本書的過程中，我更加欣賞的一件事就是，戲仿和諷刺在人類溝通中的價值。這是一種用來進行社會批判的非常古老的形式，經常被相當有策略地使用。早在互聯網出現之前，一個非常著名的例子是1729年喬納森·斯威夫特（Jonathan Swift）寫的名爲《一個小小的建議》（A Modest Proposal）的散文。
文章談論關於同類相食和吃嬰兒，這確實令人不安，但斯威夫特實際上並不是在談論同類相食，他試圖表達的是對愛爾蘭貧困狀況進行社會批判（該文提出下述建議：“將愛爾蘭十二萬嬰兒中的十萬嬰兒提供給富家人士當成桌上佳餚”，認爲這樣做可以讓貧苦父母紓緩經濟困難，獲得解脫。編者注）。如果你批判性地、深入地閱讀，你會即刻建立起某種聯繫，你可能會以一種黑暗的方式找到它的主旨趣味所在——這當然也是斯威夫特的本意。
但多年來，這篇散文經常被誤解。偶爾會有公開朗讀的場合，即使在今天，人們也會失去理智——天吶，怎麼可能有人提倡食用嬰兒呢？——這顯然沒有抓住重點。
互聯網上的很多內容就是這樣。它充斥着顛覆性的內容，需要你思考一下才能理解其信息。問題是，社交媒體的信息流特性往往導致我們停留在信息的表面層次上，這樣就會引起一片譁然。
-那麼深度造假呢？內容看起來和聽起來都如此真實，很難辨認真假，更不用說反駁了。對這些的擔憂是否也被誇大了？
-是的，這是最近纔出現的一個問題。深僞於2017年首次出現在互聯網上，因此如今的它並不是一項特別新的技術。人們非常擔心視頻出現在政治背景下，可能會改變選舉進程或導致政治暴力。但是，這些都沒有發生。
-你在書中寫了很多關於上世紀90年代和21世紀初計算機地下活動的內容。從你的敘述中可以看出，即使在那個時候，人們也在網絡上模糊了事實和虛構間的界限。黑客們在互相分享技術信息的同時，還分享各種謠言和笑話。你那時還是個十幾歲的少年，是如何被吸引進這個世界的？
-我一直對計算機非常感興趣，但在初中時，我的一個朋友找到了一些黑客的文本文件，基本上是黑客們製作的創意寫作雜誌，他說：“看，這些東西真的超級有趣！” 那時我就意識到，還有這樣一個完全不同的計算機世界的存在。
-這些文件裡面有什麼？有諸如“猜猜政府到底在做什麼？”之類的陰謀信息嗎？
-會涉及這些內容，但還有更多其他內容，比如有大量的視頻遊戲作弊代碼。但隨後它會更深入，比如，你聽說過企業和政府使用的Unix操作系統嗎？好吧，這裡有如何訪問它、如何使用它的方法。然後，就是創意寫作部分。除了經典的陰謀論故事外，還有很多關於不明飛行物和超自然的內容，這些內容不可能是真的，但足夠有趣，讓你想繼續閱讀。我認爲將所有這些想法融合在一起真是太酷了。
-你自己參與過傳奇的黑客行動嗎？有什麼你願意透露的嗎？
-我要把所有的功勞都歸功於我書中提到的那些黑客。我當時年紀還小。
-因爲有一個故事我很好奇。你寫到了一個在2012年出現在網上的大型文本文件，似乎記錄了多年來對主要公司和政府目標進行的非常成功的攻擊——深度滲透，這種攻擊可能會讓人入獄。你評論說，直到今天，沒有人知道誰是幕後黑手。你的措辭讓我想知道是否是你本人。
-無可奉告。
-（笑）所以，你顯然認同無政府主義者“互聯網渴望自由”的思想。但今天你在聖母大學教書，你的個人簡介說你“倡導受天主教社會教義啓發的技術發展”，我有點難以將這兩者聯繫在一起：反權威的黑客，天主教社會思想家。你能解釋一下嗎？
-它們之間的聯繫是關於社羣的觀念。黑客是一個非常有趣的亞文化羣體——一羣第一次彼此相連並創造了持久事物的人。他們創建了計算機安全行業。而天主教社會教義是關於：我們如何在社區意義上茁壯成長？如何建立某種共同利益的概念？
這裡有一個重要的聯繫：如果你把時間倒轉，看看我們今天構建互聯網的想法，很多想法都來自上世紀60年代著名的媒體理論家馬歇爾·麥克盧漢（Marshall McLuhan）。他與反主流文化運動有着緊密聯繫，但許多人不知道的一個事實是，他是一位虔誠的天主教徒。
-這我真不知道。
-他皈依了天主教，並相信天主教信仰是最終的媒體系統。因爲你總是在交流，對吧？與聖人，與已故的人，當然還有上帝。通過祈禱和冥想——這些靈性形式——結合在一起，看到這種想法如何滲透到他對媒體的思考中，真是令人着迷。他着迷於通過信息網絡將整個地球團結起來的想法。
-他不是寫過最後我們會變成信息嗎？那聽起來像是某種網絡化的聖餐。
完全正確。當你考慮到技術時，它有點神秘，對吧？我不認爲這完全是一個瘋狂的想法。很多人都在用這種方式討論新興技術，尤其是當他們試圖理解人工智能時——比如，它是否具備某種精神層面？我認爲這其中是有原因的。所有這些技術都是人類創造的形式，在基督教中，我們被要求與上帝共同創造；他賦予了我們這種創造的能力。
-所以你認爲互聯網是人類集體想象的延伸。與其將其看作是市場驅動的技術，你更原因將其視作創造神話的工具。
你談到了人類學家克洛德·列維-斯特勞斯（Claude Lévi-Strauss）的觀念，即，我們同時生活在兩個不同的領域：現實世界，或者說是真相的領域，以及神話週期。這個概念如何適用於互聯網上的所有奇怪事物呢？
-列維-斯特勞斯的見解是，想象力對人類的生存非常有用，但到了19世紀和20世紀，就被忽視了。然而，我們仍在編故事。好吧，這是爲什麼呢？如果你是一個完全理性的人，你應該想要優化生活的方方面面。爲什麼要浪費時間講故事和憑空捏造事物？這不是高效的。
特別是在21世紀，認爲白日夢可能有用，簡直令人震驚。我們難道不應該只是工作嗎？但列維-斯特勞斯認爲，這兩種思考方式都很重要，它們相輔相成。
-這很有趣，因爲我們可能會想知道爲什麼我們要花費這麼多人力去構建一個模擬的虛擬世界——試圖在線上建立一個蹩腳的創作副本。但在我看來，你與列維-斯特勞斯的觀點是，互聯網是我們人類創造神話的動力所在。
也許魅力並沒有消失，而是悄悄地回到了我們互聯網創造的這片狂野、尚未成形的前沿。如果是這樣，那麼所有那些小小的迷因都比我們想象的更有意義？
-我堅信這一點。當你審視幾個世紀以來的文化時，這並不奇怪。我們開發創新的新技術，並且不斷帶來“驚喜，驚喜！”——我們用它們來講述故事。我認爲這在很大程度上被誤解了。
我的意思是，互聯網是用來做什麼的？很多人仍然會說它是信息高速公路；你去那裡是爲了獲取事實並完成你的工作——這可以追溯到90年代互網絡泡沫時代的公司宣傳。但互聯網從來就不是這個意思。它更像是麥克盧漢對創意空間的願景，在這裡，我們可以與他人分享我們想象力的投射。
-這讓我想到我們一直在與錯誤的人談論互聯網。與其與技術大師和網絡政策專家交流，我們應該轉向精神分析學家、人類學家和神學家——專注于思考我們講述的故事、以及講述這些故事潛意識動機的人。西格蒙德·弗洛伊德在網上會感到賓至如歸。
-是的，想想夢境吧。我的意思是，互聯網——尤其是通過這些創造性的人工智能技術——就像一個夢境，對吧？人類生活中有多少被編碼在這些人工智能的幻覺中？我認爲在這方面有很多有趣的工作要做，但很少有人在研究。
-我最近讀到的另一個內容——“復活的深度僞造”。“聊天機器人”或已故人物的複製品。這是一個迫切需要深入分析的話題。
-是的，這是一個很偉大的想法，人工智能實際上可以讓人重生。而且這是一個古老的想法，有點像19世紀末20世紀初流行的“靈異攝影”。攝影師在特效方面越來越精湛——是的，事實上，在暗房裡可以編輯照片！他們發現，如果將底片曝光兩次，你可以得到兩張不同的圖像。因此，你可以讓某人坐下來拍攝肖像，然後將同一張底片曝光到他們失散已久的親人舊照片上，在二度曝光中，它會呈現出幽靈般的魅影。
現在人們基本上也在使用“深僞”做類似的事情，對吧？人們有這種與已故親人保持聯繫的衝動——我猜麥克盧漢可能對此會感到相當滿意。
-你讓我想到，詢問互聯網上的某事是真實的還是僞造的，似乎無關緊要。並不是說你對不道德行爲表示贊同。但你的一個主要觀點是，網絡虛假信息所揭示的內容比隱藏的內容更多，是因爲它們告訴了我們一些關於我們自己的信息。它們傳達了怎樣的信息？
-這是很多社會科學家試圖找到的一個大問題——一個概括性的解釋來歸納整個現象。但歸根結底，它只是在講故事。人們只是想要與其他人建立某種聯繫。很多這些媒體對象都是爲了人際交往。就像我想與你分享一些東西，我希望你瞭解我或我的社區的一些事情。
文/Anne Strainchamps
譯/tamiya2
校對/tim
原文/nautil.us/stop-worrying-about-deepfakes-470212/
本文基於創作共享協議（BY-NC），由tamiya2在利維坦發佈
文章僅爲作者觀點，未必代表利維坦立場