Will there be ghost in machine?

上週寫完 I, self, mind, immortality and death 之後,在 Comment 裡收到了推薦「Ghost in the Shell」(攻殻機動隊)的留言,所以就跑去看了~不得不說在發現原著是 1989 年開始連載的時候,真的震撼了,原來在那麼早之前就已經有對這些問題的各種討論了∑(゚Д゚)

「Ghost in the Shell」在整體貫穿主線的同時,每集故事探討的話題相對獨立,所以其實有很多可以聊的點。比如宗教對於人體「cyborg / 機械義體 / 電子腦」化的態度;cyborg 社會中的各種問題 —— 階層、貧富、難民、電子毒品等;電子腦化之後自己的記憶、視覺都可能被輕易地被 Hack,那麼什麼才是真實與自我?

回到作品名本身 ——「Ghost in the Shell」—— 軀殼中的靈魂

「Ghost」一詞也是《攻殼機動隊》中的術語,指義體無法複製代表人類個性的意識。人造的義體、假肢、電子腦不過只是「shell」——一個空殼,無法複製的Ghost才是真正定義每個人存在的「靈魂」,沒有Ghost的機器人或者仿生人僅僅是由人工智慧驅動的哲學殭屍,並不是真正的人類。《攻殼機動隊》世界中的義體化、電子化人類就相當於「Ghosts in shells」——棲息在人造軀殼裡的人類意識。—— https://zh.wikipedia.org/zh-tw/攻殼機動隊

在看完第一季「Ghost in the Shell: Stand Alone Complex」和第二季「Ghost in the Shell: S.A.C 2nd GIG」之後,印象最深的還是 9 臺萌物們 —— 思考戰車「タチコマ」(塔奇克馬)。在第一季中萌物們有過如下對話

「廢棄處分等於死亡嗎?」—— タチコマ D

「在我們可能體驗到的領域中,並沒有死亡這一項,所以也不能這麼說…」—— タチコマ A

「這就是我們這種沒有靈魂的AI的極限吧,怎麼說都是半不死身。不算活著,所以也不會死」—— タチコマ C

「沒錯,果然是因為我們沒有靈魂才會引發這種種的問題」—— タチコマ A

「廢棄處分應該不等於死亡吧」—— タチコマ B

「咦?是這樣嗎?」—— タチコマ E

「物理性身體以及靈魂,必須不多不少完全一致的時代,早就結束了。極端的說,沒有身體的資料集合體也並非完全不可能孕育出靈魂」—— タチコマ B

……

「我問你,你覺得「活著」是怎麼一回事呢?」—— タチコマ E

「嗯…這個嘛,「生命」這個字的定義本身就是流動的」—— タチコマ B

「怎麼說?」—— タチコマ E

「因為跟機器人有了接觸,人類對生命的印象在不知不覺中產生改變。不過發生變化的不是機器人,反而應該說是人類那邊吧」—— タチコマ B

——「Ghost in the Shell: Stand Alone Complex」Episode 15, 08:30 - 09:54

先說說其中那句「物理性身體以及靈魂,必須不多不少完全一致的時代,早就結束了。極端的說,沒有身體的資料集合體也並非完全不可能孕育出靈魂」。這兩天正好看到了一張圖 ——

The nervous system. That is us...the rest of the body is an organic spacesuit worn by this creature to live on this particular rock revolving around a star.

(人類的)神經系統。那就是我們……身體的其餘部分只是這種生物為了居住在那個環繞著一顆恆星轉的巨大岩石上而穿著的有機太空服而已。

顯然,一個人即使身體有殘缺,哪怕他依賴體外迴圈活著,也不影響我們認為他是活著的人。此外,當下的醫學也認為,腦死亡才是真的死去了。也就是說,我們的最重要的神經系統 —— 大腦,定義 / 標誌著一個人。而大腦的作用至少包含了「思考」、「記憶」、「認知」和「感受」,我們人類的靈魂似乎也隱匿其中。

那麼什麼才是 Ghost 靈魂呢?當沒有 Ghost 的 AI 開始思考「活著」與「死亡」的時候,它們算是擁有了 Ghost 嗎?

按照“常識”來看,似乎只有「人」才擁有靈魂、意識,或者更廣一些,動物也都擁有自主意識,可是機器人、AI 被認為只是按照其程式程式碼執行的智慧體,沒有真正意義上的「思考」能力,沒有「靈魂」。

那什麼才是「思考」呢,以及如果有了「思考」能力的話,要「思考」什麼才算是擁有「靈魂」?

Alan Turing 在其 1950 年發表的論文「Computing Machinery and Intelligence」(計算機器和智慧)一文中,第一句話則提出了

I propose to consider the question, "Can machines think?" —— A. M. Turing (1950) Computing Machinery and Intelligence. Mind 49. p.433

其後引出了「The Imitation Game」(模仿遊戲)~讓一個人 A 和一臺計算機 B 作為被測試物件在一間屋子裡,讓另一個人 C 作為測試者在隔壁屋子裡,測試者和被測試者只能通過某種沒有影象和聲音的工具(比如電腦鍵盤)交談;測試者 C 的任務是判斷每個回合和自己交談的是人還是計算機。

Basically, if a machine can fool us into believing that it's a person, we should probably grant that it's intelligent.

基本上,如果一臺機器能夠讓我們相信它是一個人的話,我們就應該承認它是有智慧的。

—— Charles Petzold (2008) The Annotated Turing: A Guided Tour Through Alan Turing's Historic Paper on Computability and the Turing Machine. Wiley Publishing. p. 10

Turing 沒有告訴我們什麼是「思考」,但是如果我們誤把一臺機器當成是人類的話,它至少是擁有智慧的,但這種智慧也被反駁並不等於「思考」。比如 Searle 在 1980 發表的「Minds, brains, and programs」一文中提出的「Chinese Room Argument」(中文房間爭論),簡單來說可以將這個思想實驗總結如下

讓一個只懂英語的人在一個小房間裡充當計算機的 CPU,然後給他一組寫滿了中文的紙。當然,那個人甚至可能都不知道紙上面寫的是中文還是日文,甚至於是隨便畫的符號而已。接下來給他另一組寫滿了中文的紙,以及一組用英語寫成的規則,這些規則告訴他一種有效的方法(演算法),僅僅通過那些符號的形狀,將第一組中文符號與第二組中文符號對應起來。最後,他拿到第三組寫滿了中文符號的紙和英文規則,這次的規則是告訴他,如何根據特定的形狀符號(中文)返回對應的形狀符號(中文)。

而他不知道的是,房間外的人把第一組中文稱之為“劇本”,第二組中文是“故事”,第三組中文是“所有關於故事的問題”,他返回的那些形狀符號被房間外的人叫做“答案”,他遵守的那些英文規則被叫做“程式”。

—— Searle, J. R. (1980) “Minds, brains, and programs,” Behavioral and Brain Sciences. Cambridge University Press, 3(3), pp. 417–424. doi: 10.1017/S0140525X00005756.

現在,即使讓真正的中國人來做測試者提問,他們也未必能分清屋裡的人是否真的理解這個故事,理解中文。屋裡的人現在通過了中文測試,他的行為就如同計算機一樣,他其實並不理解屋外人給他提出的問題,他也不理解他所返回的“答案”,只不過是因為擁有了“對應規則(程式)”與“事先告訴的答案(資訊)”。

那麼,當屋外的人問他一些不存在於表上的問題的話,他自然就無法給出正確的答案了。也就是我們可以認為,哪怕一臺機器可以在某些方面模擬得與人類幾乎一致,但是也不等價於「思想」或者「意識」。

其後,Searle 在「Minds, brains, and science」一書中寫到

The prevailing view in philosophy, psychology, and artificial intelligence is one which emphasises the analogies between the functioning of human brain and the functioning of digital computers. According to the most extreme version of this view, the brain is just a digital computer and the mind is just a computer program. One could summarise this view - I call it 'strong artificial intelligence', or 'string AI' - by saying that the mind is to the brain, as the program is to the computer hardware.

哲學、心理學和人工智慧的主流觀點強調人腦的功能和數字計算機的功能之間的相似性。根據這一觀點的最極端版本,大腦只是一臺數字計算機,心智只是一個計算機程式。可以一句話總結這一觀點——我稱之為“強人工智慧”或“強 AI”——就是說,心智對大腦,就像程式對計算機硬體一樣。

—— Searle, J.R. and Willis, S. (1984) Minds, brains, and science. Harvard University Press. p. 26

Searle 當然是反對這樣的觀點的,但是其中「心智」這個詞,又不禁讓我回想起萌物「タチコマ」(塔奇克馬)在第一季最後去救巴特的時候,

在第二季的最後也是,タチコマ們找到了防止核導彈攻擊的方法 —— 劫持衛星,讓衛星正好墜落到核彈飛行到平流層的航路上,這樣就只會變成普通爆炸,而不引起核爆。然而タチコマ們發現最佳的是搭載了自己 AI 的那一顆衛星

在這之前不久時,當素子下令說要準備將難民們的意識上傳到網路中時,タチコマ們也討論了那個經典的問題 ——

「各位,你們實際上怎麼想的,把難民的記憶上傳到網絡,真的能夠維持靈魂存在嗎?」—— タチコマ A

「記憶雖然是生命活動上很重要的要素,不過 ï¼Œæ²’有靈魂就只是單純的資料」—— タチコマ B

即便知道自己在此之後可能永遠無法見到 9 課的朋友們了,タチコマ們也依然做出了最後的決定,同時也上傳了自己所有的記憶

然後就隨著衛星消失了(>﹏<) 啊啊啊啊啊啊 又虐我タチコマ!

最後 9 課的課長跟總理彙報時說的也是「似乎因為部下的犧牲,阻止了核導彈的發射」。

至於“強人工智慧”,有很多吹得天花亂墜的,也因此導致有人擔心人類自身會不會因為“強人工智慧”的出現而滅亡,其中一種說法則是 —— 會不會某天強人工智慧計算出來,為了達到某個目標,只有讓全人類滅絕才可行,然後就執行了呢。

在我看來,如果有了強人工智慧,這種假設 —— 必須選擇需要一部分人或者全人類犧牲的話,無異於是把「有軌電車難題」的道德選擇的鍋丟給 AI 來背了。別說有 GHOST 的 AI,就算是有 GHOST 的人,都未必真的敢說,在這樣的情景中作出所謂“萬全”的選擇的同時,又絲毫不覺得愧疚。

至少,我們現在還不用過於擔心,畢竟

声明: 本文为0xBBC原创, 转载注明出处喵~

6 thoughts on “Will there be ghost in machine?”

  1. 说起来ghost是怎么产生的探讨起来也很有意思,塔奇克马用“孕育”这个词(西部世界形容这个过程叫Evolution),就好像准备好一潭水里面就能自动孕育出鱼儿一样,事实上并不是这样,关键应该在于经历某种“变化”。“Evolution forged the entirety of sentient life on this planet using only one tool… The mistake.”——Westworld S1.Ep1

  2. 2333很棒吧!攻壳是我最喜欢的作品之一。难民把记忆上传到网络那一段,有点类似西部世界里第二季最后Dolores将那群原始人的记忆上传到卫星上,身体坠下了山谷,灵魂获得了永生。

    1. 攻壳超棒啊!不过有时在想,这样 mind-uploading 之后的「我」还是「我」吗?
      看到不同的作品里有不同的观点,有些认为说那只是「copy」,不能等价于原本的「我」
      而有的作品却认为这样的 uploading 可以使得我们摆脱 biological substrate,达到永生

      后者的问题主要在于,如果「拥有肉身的我」和「uploading 之后的我」同时存在的话,那么就会有两个「意识」了
      拥有肉身的我的「意识」还被 trap 在 shell 里诶

      1. 在攻壳的世界观里,mind-uploading之后「我」还是「我」呀,「拥有肉身的我」和「uploading 之后的我」都是“我”,对于素子这样全身包括电子脑都义体化的人类来说是不存在“肉身”的说法的吧。我的理解是,攻壳的世界观里唯一无法数字化的就是ghost,即使是在neta切格瓦拉那一集里,人类能做到的也只是复制ghost,而且只能复制有限的次数。(啊。。我好像自相矛盾了,无法数字化的话又怎么copy和upload,也许是人类只能制造出容纳ghost的容器?)这样好像就转到了ghost究竟能不能数字化的问题上了。

        1. 也就是说,GHOST 好像只能「自然地」出现,并不能复制或者数字化,不受人为的操作摆布,,

          这么一想的话,那么我的「GHOST」才是「我」,「我的 copy」只是「我的 copy」。也许「我的 copy」里会孕育出另一个「GHOST」吧w

Leave a Reply

Your email address will not be published. Required fields are marked *