I, self, mind, immortality and death

Dasein is a being that does not simply occur among other beings. Rather it is ontically distinguished by the fact that in its being this being is concerned about its very being. Thus it is constitutive of the being of Dasein to have, in its very being, a relation of being to this being.

前两周到现在,一直在跟玲讨论一个巨大的话题 —— Immortality and death

在翻了不少文献之后发现,要实现 immortality 的话,目前为止最 promising 的方式则是 mind-uploading ,或者也可以叫 mind-cloning.

mind-uploading,简单来说就是把你的意识「mind」 扫描到计算机里,然后利用计算机来模拟原来的大脑的功能。(暂且让我们假设以后某天可以做到这一点,因为 mind-uploading 技术方面的事情不是本文所关心的内容,但是可以参考 Sandberg and Bostrom 在 2008 年发表的一篇论文)

可是,这样真的算达到了 immortality 吗?

Love, Death and Robots

在 Netflix 原创剧集「Love, Death and Robots」Season 1 Episode 15 中,Rookie 认为他的队友都死了,然而最后大家的意识都被 Bob 投影了出来,这个时候 Hawk 才告诉 Rookie,

「Bob always makes a full backup of our brains before each mission.」

也就是说,在那个世界中,一个存在(being,因为不能说是人,也不能简单的说是机器人)的意识是可以被数字化的,被数字化也就意味着有了上传、下载、备份的可能性。同时在这集「Love, Death and Robots」中,编剧也靠 Sui, Hawk, Kali 和 Bob 暗示我们,他认为只要有你的意识的备份存在,你就是一直存在的,即 immortality。

当然,mind 的备份也并非是公开的或者随意的,否则不难想象会有人利用这一点随意作恶等违法的事;同时也包含了 identity 的问题 —— 如果同时出现了两个甚至多个你的话,到底谁才是「你」?

「Love, Death and Robots」的编剧显然也考虑到了这两点,因为 Rookie 一开始是不知道有这项技术的,他是参加了这次作战,且队友不幸“牺牲”才知道的。Bob 在最后告诉迷惑的 Rookie,「You should have read your contract, kid」。也就是说编剧认为,在未来即使对 mind 的复制、备份等是可行的,也不是任何人想做就能做的,很可能是限制在军事行动中,或者只有少数人才有能力做到(包括钞能力hhhhhh)。

其实在剧中编剧也有不少暗示,比如 Sui 在最后面对 Boss 时,头被扯掉了。而通常都认为「大脑」在头上,头与身体分开了,也就无法再控制身体,或者是「死了」。然而后一幕中,眼看 Rookie 无路可逃时,Sui 却站起来了,随之镜头一转,原来 Sui 的「Brain」并不在头上,而是在身体上。其实这里的话,就已经隐约可以感觉到剧中的世界有 mind-uploading 类似的技术了。

I

在看完这一集之后开始思考

虽然说是有 mind-cloning 这样的技术,可是几个物理存在的机器人上也有 mind,我认为它们死的时候,如果会的话,也是一样的恐惧或无奈吧

玲表示说,「那时候 可能就没有这么恐惧了吧,因为她们知道 自己还会回来」

可是,对于那个 mind 来说,它就不存在了吧,因为之前的只是备份,没有这段经历。感觉备份下来的只是思考方式,以及备份时所有的记忆。那个 clone 可能不算真的「我」,只是一个有跟「我」极其类似的处理信息的 mind(或者说程序),有我之前所有的回忆。

就像比如说,哪天大数据分析很牛逼了,同时我的生活受到24小时监控,然后他们做了一个可以完全模拟我各种思考方式的大数据模型,并且提取了我的记忆,就算这个模型+记忆可以完美的模仿我,我也不会认为他就是「我」。

说到这里的时候,玲正好在某篇 paper 上看到了这一点,

In the book The Ego Tunnel Thomas Metzinger asks a question: “Who is the feeler of your feelings and the dreamer of your dreams? Who is the agent doing the doing, and what is entity thinking your thoughts? Why is your conscious reality your conscious reality?” (Metzinger 2009, 5)

These are questions that cannot be dismissed. Before we can download the self we have to know what the self is. According to Metzinger self is a false definition, a sort of illusory projection of consciousness.

Self

那么,什么是自我「Self」呢?

当一个人的意识被复制出来,数字化之后,按照设想,我的意识的 copy 也会认为「自己」就是「我」。

就像「Black Mirror」Season 2 Special Episode「White Christmas」Part 3 的末尾与 Part 4 向我们所讲述的一个故事:

Greta 向 Smartelligence 公司购买了一个服务,制作了一个自己的意识的副本,那个副本被放置在一个称为「Cookie」的类似蛋壳一样的小装置里。

当然,Greta 的副本非常的疑惑自己的状态

「Do you know what a copy is?」—— Smartelligence

「As in a copy of something? Of course, I know what that is.」—— Copy of Greta

「Well, that's what you are.」—— Smartelligence

「A copy of?」—— Copy of Greta

「A copy of you.」—— Smartelligence

「But I am me.」—— Copy of Greta

原本的 Greta 为什么要付钱买这么一个服务呢?剧中虽然没有非常明确的交代,但是可能的、非常明显的暗示:在医院准备手术前,护士给她的面包没有烤到她最爱的程度,她纠结了一下要不要说,最后告诉护士之后又觉得自己很可能被护士讨厌了。

那么我们可以合理推测,Greta 购买这项服务可能是因为她对自己以前的管家不满意,又碍于人际关系不好说出口。毕竟只有自己是最了解自己的,而 Smartelligence 公司推出的这项服务 ——

通过植入一个空白的「Cookie」到客户的大脑中,在皮下一周,「Soaking up the way this particular mind works」,如影复制客户的意识,随后通过某些无情的手段驯服这个副本成为自己的管家。这样就能达到让最了解自己的人——自己——为自己工作。

听起来比较残酷吧,那是你自己啊。

在这集「Black Mirror」中,可以看到原本的 Greta 对于自己的副本有怎么样的遭遇并不关心,因为她觉得那并不是「自己」,只是一个由代码组成的模拟大脑。那个副本同样认为自己就是 Greta——因为这就是这项技术的根本,要实现 mind-uploading 与 immortality 的话,连意识的副本都不觉得自己是「自己」的话,还有什么意义?——自己被这样要求工作是被奴役了。

让我们换一个思路 —— 假设你选择了 mind-uploading,然后手术非常成功,你被告知要激活这个数字化的你的话,则需要消灭物理上存在的你,你会答应吗?

站在这个角度,我会认为它只是一个 copy,而物理上的我「自己」还被 trap 在身体里,如果要实现我所认为的 mind-uploading 的话,应该这一个 mind 的我从身体里出来,而不是复制一个自己到网上。

「可是 copy 的你真的就觉得你是你啊,你的本体觉得他不是 Cocoa,副本觉得我是 Cocoa」—— Ling

诚然,我的副本一定会认为他就是「我自己」,就像上面 Greta 的副本一样。可是站在原本的「我」的角度的话,谁才是「我」仿佛并不是一个问题,我们知道那是一个副本,是一个程序。

「那如果 你马上要死了 这时候赶紧把你复制下来 放到一个载体上 这时候 你是你嘛」—— Ling

我觉得,这只是一个高度与我思维重合的 copy。因为就算科技再牛逼,机器也只能复制到目前为止的所有的我。在那之后两个 mind 所看到的世界不一样了(输入的信息不一样了)

所以,在快死的时候复制一个自己的话,副本的「我」会觉得自己重生、永生了,而「我」却的确死了 —— 微妙的 Immortality and Death

也就是说我认为,副本的「我」与真实的「我」记忆相同、能力相同但是并不identical。当然,这也要看我们如何定义 identical —— 如果表现相同叫 identical 的话,那么他是我;如果要细分是不是一个 instance 的话,他不是我。

突然觉得这里可以借用 C++ 的类解释。

#include <iostream>
#include <vector>

using namespace std;

// C++ 使用的是 `this`, 不少别的语言使用的是 `self`
// 意义相同,这里为了方便阅读与理解
// 故增加一个宏使得代码中可以用 `self` 代替 `this`
#define self this

class Human {
public:
    // 名字
    // 当然还有很多别的属性
    // 这里为了保持简洁,故略去
    const char * name;
    
    // 记忆
    vector<const char *> memory;
    
    // Constructor (出生)
    template<typename ...Args>
    Human(const char * name, Args ... other_characteristics) {
        // 真实的「我」的出生
        self->name = name;
        printf("[Constructor] I(%s) am alive!\n", self->name);
    }
    
    // Copy Constructor
    // 这里可以算是 Mind-uploading ~~~~~
    Human(const Human & other) {
        // 因为我们在这里复制了
        // 原来的「我」的所有的信息
        // 名字也好
        self->name = other.name;
        self->memory.resize(other.memory.size());
        // 记忆也好
        copy(other.memory.begin(), other.memory.end(), self->memory.begin());
        
        // 「我」的副本出生了
        printf("[Copy Constructor - Mind-uploading Done] I(%s) am alive!\n", self->name);
    }
    
    // 你是谁?
    void who_are_you() {
        printf("[Who are you?] I am %s\n", self->name);
    }
    
    // 做事情
    void event(const char * e) {
        // 记住这件事情了~
        self->memory.emplace_back(e);
    }
    
    // 你有哪些回忆?
    void things_I_have_done() {
        // 讲出所有「我」做过的事
        copy(self->memory.begin(), self->memory.end(), ostream_iterator<const char *>(cout, ", \n"));
        cout << '\n';
    }
    
    // Deconstructor (死亡)
    ~Human() {
        printf("[Deconstructor] I(%s) am dead!\n", self->name);
    }
};

int main(int argc, char *argv[]) {
    // Cocoa 出生了~
    Human cocoa = Human("Cocoa");
    // 这个「Cocoa」的 instance 
    printf("[Cocoa]: %p\n", &cocoa);
    //  Cocoa「你是谁」
    cocoa.who_are_you();
    // 做事情~
    cocoa.event("2019/11/10: Discussion with Ling");
    cocoa.event("2019/11/11: Writing this post");
    //  Cocoa「这两天做了什么」
    cocoa.things_I_have_done();
    
    
    // Mind-uploading
    // Cocoa 的副本出生了~
    Human copy_of_cocoa = cocoa;
    // 这个「Cocoa」的 instance 
    printf("[Copy of Cocoa]: %p\n", &copy_of_cocoa);
    //  Cocoa 的副本「你是谁」
    copy_of_cocoa.who_are_you();
    //  Cocoa 的副本「这两天做了什么」
    copy_of_cocoa.things_I_have_done();
}

这段程序的输出则是

[Constructor] I(Cocoa) am alive!
[Cocoa]: 0x7ffeefbff580
[Who are you?] I am Cocoa
2019/11/10: Discussion with Ling, 
2019/11/11: Writing this post, 

[Copy Constructor - Mind-uploading Done] I(Cocoa) am alive!
[Copy of Cocoa]: 0x7ffeefbff550
[Who are you?] I am Cocoa
2019/11/10: Discussion with Ling, 
2019/11/11: Writing this post, 

[Deconstructor] I(Cocoa) am dead!
[Deconstructor] I(Cocoa) am dead!

可以看到,两个「我」的 instance 的名字、记忆相同,副本虽然什么都没有做过,但是他也拥有跟原本的「我」一样的记忆,并且他会认为那就是他所做过的。

当这段代码运行时,每个 instance 所认为的 self 就是「我」。即使它们的「底层」已经不一样的了,一个是 0x7ffeefbff580,另一个是 0x7ffeefbff550

假如有一天技术上真的可以做到 mind-uploading,把我们自己数字化了,我们更进一步的成为了 posthuman,那么所谓的意识备份,也大抵不过像上面这样。

如果同时出现了多个「我」,哪一个才是真的「我」?

这个问题我也问了玲,如果是她的话,会怎么想同时出现的两个「她」。

她有部分想法认同这个时候的「她」的话,是这两个「她」所组成的集合。可是又不能记忆 / 意识共享,所以她觉得这也是两个人,是不同的个体了。

除了自己对「自我」的认知问题外,与此同时,不得不考虑的就是社会 identity 的问题 ——

「因为我喜欢你嘛,在你变成两个之后,那么我是等于喜欢上了一个集合的“你”这样?」—— Cocoa

「那你便宜占大了,其实我觉得还是两个人,因为就算我们的人格一模一样,但是之后就不一样了。」—— Ling

「假如你是我,你选择哪一个呢(还是“我全都要🙈”?」—— Cocoa

「所以,是玲和玲玲的区别了。原则上,两个都一样的话选一个就够了。而且自己吃自己的醋会不会很好笑,毕竟也没有意识共享,就是两个独立的个体」—— Ling

即使人类全都数字化,也还是会存在社会或者说社交,如果每个人都有无限多的副本,同时却又没有记忆共享的话,可以想像处理一件事到时会有多复杂😂

Immortality and Death

暂且让我们把「self」、identity 之类的问题放在一边,如果真的可以到 immortality 的话,是否是好的呢?因为 ——

True immortality, once granted, cannot be rescinded.

Thomson and Bodington, Against Immortality: Why Death is Better than the Alternative

在这篇 paper 中,作者认为真正的「immortal」的话,就是死不了的(注意这里的「immortal」与不死族「undead」区分开来)

也就是说,一旦我们真的达到了 immortality 的程度,我们就等于是拥有了无限的时间(大概直到宇宙的终末吧,如果有的话)我们可以在无尽的时间里穷尽所有的可能性,字面意义上的。

穷尽了所有的可能性,然后呢?然后你依然拥有无尽的时间,因为你是 immortal。真正的 immortal 不是意味着「活很长的时间」,它就是意味着「永恒的活下去」,且你「死」不了。

到这里之后,真的很难想象要在无尽的时间里毫无所求的活着。当我们是 mortal 的时候,「看一生的日出日落、浩瀚星辰,还有你」大概很美很浪漫,可是当我们成为 immortal 之后,已经不存在「一生」这个概念了……

那个时候唯一没有做过的,大概就是「死」。却又不能。

如果说以前是 mortal 的我们是被 trap 在 biological substrate 里的话,那么 成为 immortal 的我们,大概就是被 trap 在 eternality 里的 being 吧。

声明: 本文为0xBBC原创, 转载注明出处喵~

6 thoughts on “I, self, mind, immortality and death”

  1. 不晓得你有没有看过《攻壳机动队》,攻壳整部剧都在探讨ghost(灵魂)是否可以复制,我希望是不能的。
    素子、久世还有塔奇克马都可以将自己的意识上传到网络中,感觉那样的永生的话我并不拒绝。
    黑镜和netfiex那部剧都是浅尝辄止,攻壳比较深吧。
    话说我也想加入你们的讨论ovo!

    1. 还没有看过,但是你这么一说突然感觉很想去看!
      决定了~今晚上补!
      加入讨论的话,其实我不知道你平时用什么 IM 诶?
      可以私发给我hhhhhh

      1. 找了一下只找到公众号诶,在公众号上给你留言了,看了攻壳你一定会爱上素子姐姐的_(:з」∠)_。(建议从神山健治的第一二季tv版开始,然后补剧场版,Arise可以不用看)

Leave a Reply

Your email address will not be published. Required fields are marked *