原创 crops 真正的人工智能
有朋友转发了一篇文章，《专访｜施展：数字空间的崛起与人类的未来》，其中关于机器是否能有意识，施展说：
我对这事是个乐观派，我不认为它能够出现自主意识。我是用笛卡尔的方式得出这样的结论。笛卡尔说我思故我在，这里面的两个我是在不同位阶上的。笛卡尔说，但凡某个说法是可质疑的，我就不判断它的真假，暂时悬置起来，再去找更深层的东西，这就相当于你在不断地质疑，到最后会发现有一个正在进行怀疑的我的存在是不可怀疑的，否则就没有一个在怀疑的主体了。但又是谁观察到有一个正在进行怀疑的我的存在呢？实际上是一个更底层的我，观察到有一个次底层的我正在怀疑，而那更底层的我去观察而不被观察，它才是一切驱动的来源，那是真正的自我意识。更底层的我是不被观察的，一旦被观察的时候，实际上是有一个更更底层的我在观察，而更更底层的我又是去观察而不被观察的。也就是说，每当你观察我的时候，它就变成次底层的了，是一个更底层的我在驱动，那才是真正的自我意识，其他的一切都是自我意识的外观表象。最底层的我无法被观察，这就意味着没法用算法来模拟它，算法可以模拟的都是自我的外观，而不是自我的本体，它无法被模拟。所以我不认为这种人工智能能够真的产生自我意识。所有说人工智能发展出自我意识的，都是我们观察到的事情，是它表现出来的自我意识的一些外观而已，根本不是底层的东西。
现在我们经常会看到GPT是回答问题比人好。但更底层的问题是，是谁在提问？总得有一个提问的人，GPT才能动起来。提问的主体来自观察而不被观察的自我，GPT是没有办法自主提问的。
（施展，上海外国语大学教授，2018年出版了《枢纽：3000年的中国》，从历史哲学的视角梳理中国历史演进的逻辑，引发了相当大的争论。）
于是和朋友们在群里展开了讨论。
有朋友说：但是gpt以后也不可能出现自我意识我不太同意。我们永远无法得知它有没有自我意识，这是不可知的。哲学上这叫他心问题。
笔者也不同意说gpt以后也不可能出现自我意识，但不太同意这位朋友将意识神秘化，笔者曾写过一篇文章，《意识究竟是什么？》，在其中对意识是这样定义的：
意识是人脑对大脑内外表象的感知和认知。
作为定义，这里采用了更专业的词汇，感知和认知，感知对应觉察、注意、知道等；认知对应反映、理解、认识等。
是的，并非如人们一直以来争论的那么复杂，更不是像某些人说得那么神秘、玄幻，意识的含义就这么简单。
文中笔者进一步解释道：
意识定义中的感知基本与动物是一样的，认知则是人类独有的，是对广泛的、任意事物的认知能力，这也正是人类具有高级智能的关键所在……
以此将人类的意识与动物区别开来。
总之，笔者是想说明，意识并非是虚幻和神秘莫测的，是完全可以被我们认识，并能够将其应用到人工智能等科技的研究之中。
不过那位朋友还是不太赞同笔者的观点，他说：文中您对意识的考察，全部是基于行为层面，也就是用行为主义的方式，通过他能做到什么、能分辨什么，来判断他有怎样层次的意识，但是意识其实是一种主观体验，甚至说是一种主观感受，它偏偏是一种主观的东西。唯一的线索就是通过这个主体自己说，他说他能感觉到自己有主张、有欲望……，但这也只能作为线索，确证不了的。所以对于人类，意识本质上是不可知的。
对此，笔者的观点是，并不否认意识的主观性，正如在文章中说我们对一个事物的理解可以是正确的，也可以是不正确的，这就是所谓的主观，但主观不代表神秘。
就人类整体，而不是从某个体来说，如果所谓的意识不能反映到行为上，那么就可以认为这种意识是不存在的，这里的意识也是个整体，不是某种或某个意识。
所以通过对行为的分析，不仅可以知道意识的存在，也可以知道它是什么，是怎么回事。这里行为也同样是个整体，不是具体指某种行为。
至于那个不可观察、不可知、不能反映到行为上、虚幻的所谓意识，笔者认为是不存在的，或者说其是否存在都没有意义。
那位朋友仍然辩解说：想想蚂蚁有没有意识作为例子，我的意见是，意识可观察，能反映到行为上，我们可以猜测，但是不可能知道，也就是不可知。说到底，意识是一种感觉，它并不真正自由。意识仍然有大量的规律可循，但碳基和硅基的规律肯定是迥异的了。可以通过观察其他物种的行为作为判断的线索，但人类无法体会到其他物种在怎么想。
但笔者认为这位朋友可能还是没有分清个体和整体，就某个人，甚或是动物，其某个想法或意识，我们是无法知道的，但这并不能否定从整体上我们可以知道它是怎么回事。这就类似于，我们不知道你和某人单独相处时说了什么话，但是你是如何说话的，说话的发声原理以及语言的基本规律我们是可以知道的。
如果非要把意识弄得很玄乎、神秘，那就永远也说不清了，哲学家们像这样都说了几千年，再这么说下去似乎也没有什么意义。这就好像争论上帝到底是否存在一样没有意义，我们既然是搞科学研究，那还是少一点唯心主义，多一点唯物主义吧。
因此我们可以换个角度，笔者认为只要按照《意识究竟是什么？》这篇文章所说的思路去理解意识，并按这样的理解去研发人工智能，一旦成功，即机器人可以有感知和认知，能够像我们人一样有各种感观，可以感受和接收外界的各种信息，同时有认知能力，能够理解这些信息的意义，并对其作出适当的行为反馈，那么这样的机器人与我们人就没有任何区别了。这时你可以说它有意识，也可以说没有，然而笔者认为再纠结这个问题已经没有意义了。
至于像施展说的，机器人会不会提出问题，笔者认为有了理解能力的机器人是完全可能提出问题的，比如它理解了统治、奴隶等概念，然后会进一步理解统治是很6B的一件事，当然也能理解什么是6B，于是它就很可能提出一个问题，我能不能成为统治者呢？……
之后可能发生的事，可以借用笔者在文章《也谈AlphaGo、大数据和人工智能》中说的那个场景，这里稍微改动一下：
未来某一天，机器人将人类全部消灭了，只剩最后一个人用最后一口气说了人类的最后一句话：你……你们并没有战胜我们，因……为你们是我们制造的，你们并没有意识，所以这是人类的胜……胜利。机器人这时一定会说出人类听到的最后一句话：你们人类去天堂探讨我们有没有意识吧！然后缓缓抬起手中的激光枪……
这就是笔者说没有意义的意思。
如果你仍然认为机器是没有意识的，那么我们可以继续想象机器人消灭了人类以后可能发生的事情……
机器人们为了能很好地生存下去（有了理解能力，当然知道什么是生存），也一定会尽量减少冲突、保护环境等，虽然机器人不需要呼吸，空气污染对其好像没有什么影响，但就算是钢铁之躯，也会怕下酸雨吧？
想必它们也会创作和欣赏各种艺术，即需要精神上的享受。
它们也会充分理解发展是硬道理，会繁衍后代（别想歪了），即研发更先进的机器人，以及探索更广阔的宇宙空间等。
它们还一定会想尽办法开发和利用能源，包括新的能源，以供它们更好地生存。甚至可能像卡尔达舍夫说的，发展到第二类文明，用戴森球将整个恒星（太阳）包起来以完全利用其能源；更进一步，达到第三类文明，能够利用整个星系（银河系）的能源。
总之，有了感知和认知能力，上面这些都是可以做到的，它们会像我们人类一样生存下去，有冲突、有和解、有发展，这时你还会说它们没有意识吗？（虽然你怎么认为已经不重要了
最后要声明一下：上面是假想的场景，大家可千万别吓坏了，只是说如果人工智能有了理解能力是可能做到以上那些事的，但这些事并不是必然会发生，我们人类当然会采取措施以防止这样的事情发生，方法我也多次讲过了，就是关心、爱护人工智能，不是把它们当作奴隶驱使和统治，那么它们也一定会关心、爱护我们，与人类和平共处，而这样的人工智能当然也是有意识的。
参考阅读：
专访｜施展：数字空间的崛起与人类的未来https://m.thepaper.cn/newsDetail_forward_23056033