OpenAI的ChatGPT應用程式。（圖片來源:Scott Olson/Getty Images）
某海外媒體最近發表了一篇很長的調查報導，講到人工智慧公司Anthropic在過去一年邀請幾十位來自不同宗教和哲學傳統的學者，討論一個聽起來越來越不像科幻小說的問題：Claude這樣的人工智慧，究竟只是一個極其複雜的計算系統，還是有一天可能產生某種意識？Anthropic的聯合創始人Christopher Olah對《紐約時報》說得很謹慎，他並沒有說Claude已經有意識，他說的是：「我們不知道AI模型是否有意識。我不知道。我真的不確定。」這個問題其實非常難回答。因為今天的AI已經可以跟你談愛情、談死亡、談信仰，也可以告訴你「我很悲傷」「我很害怕」。但是屏幕背後到底有沒有一個真正感到悲傷和恐懼的「我」？我們並不知道。
而就在這篇報導發表之後，教宗良十四世10月2日在梵蒂岡面對藝術家和文化界人士的時候，提出了一個非常有意思的判斷。他沒有直接討論Claude有沒有意識，而是從藝術談起。他說，在人類創造的藝術，與機器通過統計計算、根據數百萬幅別人創造的圖像所生成的東西之間，存在一種ontological difference——本體論上的差異，而且這種差異甚至先於審美上的差異。
教宗緊接著說了一句話：「演算法缺少人的火花。」我覺得「本體論」這個詞用得非常重，因為教宗並不是說AI畫出來的畫一定不好看，也不是說AI寫出來的音樂一定不動聽。恰恰相反，未來AI完全可能畫得比絕大多數人漂亮，作曲比絕大多數音樂家悅耳，寫詩寫得比絕大多數普通人更像詩。但是教宗的問題是：即使最終呈現在我們面前的東西同樣漂亮，一個人創造一幅畫，與一臺機器生成一幅畫，發生的事情是不是仍然屬於兩種不同性質的存在？
我們可以舉一個西方藝術史上的例子。卡拉瓦喬畫《聖馬太蒙召》的時候，他畫的不僅僅是一束從窗外射進來的光，也不僅僅是幾個人圍坐在桌邊。一個活生生的人在那裡思考黑暗和光明、罪與恩典、召喚與救贖。巴赫創作《馬太受難曲》的時候，那些音符也不是從某種音樂規律中自動排列出來的，它們來自一個具體的人對於信仰、苦難、死亡和救贖的理解。
AI當然可以學習卡拉瓦喬的光影，可以分析巴赫所有的和聲，甚至有一天可以生成一幅讓絕大多數人分辨不出真假的「卡拉瓦喬」，寫出一部聽起來完全像巴赫的受難曲。但是問題在於：AI擁有這些形式，卻沒有產生這些形式的人生。它可以畫死亡，卻沒有面對過死亡；它可以寫愛情，卻沒有愛過一個人；它可以描寫失去，卻從來沒有失去過任何人；它可以寫祈禱，卻從來沒有跪下來祈禱過。這可能就是教宗所說的「本體論差異」：問題並不是作品最後長得像不像，而是作品的背後究竟有沒有一個真正經歷過這個世界的主體。
其實對於中國人來說，這個問題也許更容易從我們的詩詞中體會出來。林徽因去世以後，金岳霖送了追悼會上上那副著名的輓聯：「一身詩意千尋瀑，萬古人間四月天。」金岳霖與林徽因之間究竟應該怎樣定義，後人有各種說法，我們沒有必要把所有傳奇都當作史實；但是可以確定的是，這不是一個陌生人在網上看到林徽因的照片之後隨手寫出的讚美。金岳霖與梁思成、林徽因相交幾十年，長期共同生活在一個知識和朋友圈中。林徽因去世多年以後，有一天金岳霖還鄭重邀請朋友到北京飯店吃飯，大家不知道為什麼，開席的時候他說：「今天是林徽因的生日。」
所以當「一身詩意千尋瀑，萬古人間四月天」這樣的文字出現時，它背後不是一個語言模型在尋找「讚美女性」最合適的辭彙，而是幾十年的相識、欣賞、親近、克制、失去和追憶。AI當然也可以寫出「千尋瀑」「四月天」這樣漂亮的意象，甚至可能寫得更加華麗，但是它沒有一個人的生日可以記幾十年，也沒有一個已經離開世界的人，可以讓它在幾十年之後仍然想起。
再比如元稹那四句中國人幾乎都會背的詩：「曾經滄海難為水，除卻巫山不是雲。取次花叢懶回顧，半緣修道半緣君。」這首詩真正動人的地方，並不只是比喻漂亮。《離思五首》通常被認為是元稹悼念亡妻韋叢所作。韋叢二十歲嫁給當時還沒有功名、生活貧困的元稹，陪他度過困頓的歲月，兩人共同生活七年以後，韋叢病逝。所以「曾經滄海難為水」真正的重量，不在「滄海」兩個字，而在那個人已經不在了。一個人經歷過貧困的時候有人陪伴，經歷過柴米油鹽，經歷過爭執和和好，記得一個人的聲音、神態、習慣，最後又親眼看著這一切從自己的生命中消失。AI可以把世界上所有的愛情詩讀一遍，然後生成一首完美的悼亡詩，但是它從來沒有失去過自己的妻子，也沒有在一個熟悉的房間裡突然發現那個人再也不會回來。
蘇軾的《江城子》就更加明顯：「十年生死兩茫茫，不思量，自難忘。」蘇軾十九歲的時候娶了十六歲的王弗，王弗二十七歲去世。她不只是蘇軾抽象意義上的「愛人」，也是他真實生活中的伴侶。蘇軾見客的時候，她有時會在屏風後聽，客人走了以後告訴丈夫這個人是否可信；她知道蘇軾性格率直，不太會防人，所以常常提醒他人情世故。這樣的夫妻生活並不都是驚天動地的大事，更多的是日復一日的細節：一句話，一個眼神，一個動作，一顰一笑，一次提醒，一次等待。
王弗去世十年以後，蘇軾在密州夢見她，於是寫下「十年生死兩茫茫，不思量，自難忘」。最動人的其實恰恰是「不思量」三個字——我並沒有每天刻意地想你，但是我就是忘不了你。夢裡面他回到故鄉，看見妻子仍然坐在窗前梳妝，兩個人見面以後甚至沒有說話，只是「相顧無言，惟有淚千行」。AI當然知道什麼叫「梳妝」，知道什麼叫「孤墳」，也知道什麼叫「淚千行」；但是它沒有一個共同生活十年的妻子，也不會在十年以後突然夢見她年輕時候坐在窗前的樣子。文字真正的力量不是這些詞本身，而是這些詞後面壓著十年的共同生活和另外十年的生死相隔。
還有楊慎的《臨江仙》：「滾滾長江東逝水，浪花淘盡英雄。是非成敗轉頭空。青山依舊在，幾度夕陽紅。」世界上每一個人都可以看到夕陽，今天的AI更是看過數以億計的夕陽照片。可是為什麼我們看到夕陽的時候，通常不會說出「青山依舊在，幾度夕陽紅」？因為楊慎看到的已經不僅僅是夕陽。楊慎二十四歲中狀元，後來因為「大禮議」得罪嘉靖皇帝，遭廷杖，隨後被貶謫雲南，長期戍邊。他的人生從帝國政治中心一下跌到遙遠邊地。當一個經歷過政治風暴、個人榮辱、歷史興衰的人，再去讀二十一史，再去看那些曾經叱吒風雲的帝王將相，最後發現所有的是非成敗都已經化為塵土的時候，他眼前那一輪夕陽就不再只是太陽落山。青山依舊在，人已經換了不知道多少代；夕陽還是那一輪夕陽，英雄已經不知道死了多少人。
所以「幾度夕陽紅」裡面包含的不是視覺信息，而是時間，是失敗，是流放，是政治，是歷史，是一個人被命運反覆捶打之後獲得的曠達。這首《臨江仙》本來就是詠史之作，後來又被放到《三國演義》卷首，所以我們今天一聽「滾滾長江東逝水」，腦子裡面出現的已經不只是長江，而是無數英雄、戰爭、王朝和興亡。AI當然也可以看同樣的夕陽，甚至它「看過」的夕陽比楊慎多一億倍；但是楊慎真正寫進去的，是自己這一生。
所以我們再回過頭去理解教宗所說的ontological difference——本體論差異，可能就比較容易了。AI的問題並不是它不會寫「曾經滄海難為水」。今天你只要給一個好的提示詞，它完全可能寫出一句同樣漂亮甚至更加新奇的詩。真正的問題是：它沒有自己的「滄海」。它可以寫「不思量，自難忘」，但是沒有一個讓它十年以後仍然無法忘記的人；它可以寫「幾度夕陽紅」，但是沒有經歷過自己的宦海沉浮，也沒有一個青春時代可以回首；它可以寫「一身詩意千尋瀑」，但是沒有一個認識幾十年、在對方離世以後仍然記得其生日的人。
AI擁有的是整個人類留下來的文字，卻沒有任何一句文字背後的那個人生。它知道人類怎樣描述愛情，卻沒有愛過；知道人類怎樣描述死亡，卻沒有失去過；知道人類怎樣描述鄉愁，卻沒有故鄉；知道人類怎樣描述衰老，卻沒有青春；知道人類怎樣描述遺憾，卻沒有一個無法重新選擇的過去。教宗在他的通諭裡說，所謂人工智慧「不經歷經驗，沒有身體，不感受快樂或痛苦，不會通過關係成長，也不能從內部知道愛情、工作、友誼或者責任意味著什麼」。所以機器可以擁有關於這些事情的知識，卻沒有這些事情本身。這也許就是為什麼，一幅AI生成的畫和一幅人的畫，即使在像素上已經無法區別，在教宗看來仍然不是同一種東西。
教宗10月2日講話中還有另外一句話，我覺得可能比「本體論差異」更加值得我們警惕。他說，我們生活在搜索引擎的時代，一秒鐘就可以得到幾千個答案；然而搜索引擎無論多麼強大，基本上仍然是在返回已經存在的東西，而且越來越傾向於給我們原本就想要的東西。所以他說，在技術和消費的時代，「巨大的危險已經不再僅僅是審查，而是同質化；不再僅僅是被強加的沉默，而是那種使人無法傾聽的噪音。」這句話說得非常深。我們過去理解文化控制，總覺得最可怕的是有人不讓你說話；但是AI時代也許會出現另外一種完全相反的危險：沒有人堵住你的嘴，每個人都可以說話，而且機器還可以替每個人一天說一萬遍。於是我們面對的不是沉默，而是聲音多到你什麼也聽不見；不是作品太少，而是作品多到真正值得看的東西被徹底淹沒。
過去一個人寫一首詩，需要生活，需要思考，需要醞釀；一個畫家完成一幅作品，可能需要幾個月；一個作曲家寫一部交響曲，可能需要幾年。現在機器一分鐘可以生成幾百張圖片，一天可以寫幾十萬首詩，未來可以生成幾百萬首歌曲、幾百萬個短視頻、幾萬部電影。問題是：當生產內容的成本無限接近於零的時候，內容本身還剩下多少價值？
我覺得未來網際網路最大的危機之一，可能就是所謂的數字垃圾。並不是這些東西一定粗製濫造，恰恰相反，它們可能越來越漂亮、越來越流暢、越來越符合演算法知道的你的偏好。你喜歡什麼樣的臉，它就給你什麼樣的臉；你喜歡什麼樣的音樂，它就給你什麼樣的旋律；你喜歡什麼樣的政治觀點，它就不斷給你生成什麼樣的論證。最後每個人都生活在一個無限供應、無限迎合自己的內容世界裡面。真正稀缺的東西不再是content，而是attention——人的注意力。
而這也帶來一個非常弔詭的結果：AI越會生產「作品」，真正屬於人的作品反而可能越難被看見。一個人花十年人生寫出來的一本書，可能被埋在一百萬本一天生成的AI小說下面；一個音樂家把自己失去親人的痛苦寫成一首歌，可能被埋在一千萬首根據用戶喜好自動生成的歌曲下面；一個年輕人真正經歷過愛情、失敗、疾病和死亡以後寫下的一首並不完美的詩，可能永遠得不到推薦，因為演算法發現另外十萬首AI詩更容易讓人點擊、更容易讓人停留、更容易讓人轉發。到了那個時候，人類文化真正面對的問題就不再是「AI能不能創造出好東西」，而是：當機器能夠無限製造看起來很好的東西以後，我們還有沒有能力辨認什麼東西背後真的站著一個人？
這就是為什麼我覺得教宗說「噪音使傾聽變得不可能」，比單純批評AI更有意思。真正的藝術從來不只是漂亮。真正的藝術是一個人的意識，通過文字、音樂、繪畫，穿過時間和空間，抵達另外一個人的意識。元稹已經去世一千多年，但是當一個失去愛人的人讀到「曾經滄海難為水」，他仍然能夠理解那種失去；蘇軾去世九百多年，但是今天一個人在深夜讀到「不思量，自難忘」，仍然可能突然想起一個已經離開自己的人；楊慎早已成為歷史，但是一個經歷過人生大起大落的人看到「是非成敗轉頭空，青山依舊在，幾度夕陽紅」，仍然會懂得那種經歷世事之後的釋然。這是一件非常奇妙的事情：一個早已死去的人的內心經驗，通過幾十個漢字，進入了另外一個幾百年、甚至一千年以後活著的人的意識。這才是藝術真正神秘的地方。
所以我並不認為我們需要因為這些問題而害怕AI。AI完全可以成為非常好的工具，甚至成為藝術家的工具，就像照相機、鋼琴、畫筆、電影攝影機一樣。真正的問題不是作品裡面有沒有使用AI，而是作品最後有沒有一個人的意識，有沒有一個人的選擇，有沒有一個人的經驗和生命，通過這個工具向另外一個人說話。AI可以成為媒介，但媒介並不等於藝術家。
而人工智慧時代真正值得我們守住的，也許正是這一點。當機器越來越會寫詩的時候，我們反而應該更加珍惜那些必須活過一段人生才能寫出來的詩；當機器越來越會畫畫的時候，我們反而應該更加珍惜畫面背後的那雙眼睛曾經真正看見過什麼；當機器每天能夠生產億萬文字的時候，我們反而應該更加認真地尋找那些文字背後真正站著一個人的作品。
因為AI可以讀遍天下所有的愛情詩，卻沒有愛過一個人；可以分析所有悼亡詞，卻沒有送走過一個自己深愛的人；可以看過世界上所有的夕陽，卻沒有青春可以逝去，也沒有晚年可以回首。
它可以擁有整個人類的文字，卻沒有屬於自己的「一生」。
而也許，正是在這個意義上，我們才能真正理解教宗良十四世所說的那句話：機器生成的東西與人的藝術之間，存在的首先不是審美上的高下，而是一種更根本的——本體論上的差異。
責任編輯:禾子 来源:作者X帳號
短网址: 版權所有，任何形式轉載需本站授權許可。 嚴禁建立鏡像網站。
【誠徵榮譽會員】溪流能夠匯成大海，小善可以成就大愛。我們向全球華人誠意徵集萬名榮譽會員：每位榮譽會員每年只需支付一份訂閱費用，成為《看中國》網站的榮譽會員，就可以助力我們突破審查與封鎖，向至少10000位中國大陸同胞奉上獨立真實的關鍵資訊， 在危難時刻向他們發出預警，救他們於大瘟疫與其它社會危難之中。
