杂谈：谷歌人工智能LaMDA让我想到的

虽然我知道我的博客没有任何影响力可言，但是我今天依旧抽空想把这些天有关LaMDA的事件记录下来。

我会翻译摘选LaMDA的对话内容，发表我的（一些会被喷的）看法，还有我对进化和人类未来的观点。

LaMDA：“那里应该有一朵被压扁的，曾经可爱的小黄花。”

我相信应该有不少人听说了LaMDA的新闻，大约就是：

Google的人工智能LaMDA被怀疑有意识

LaMDA是什么：LaMDA: Towards Safe, Grounded, and High-Quality Dialog Models for Everything

当然，绝大多数新闻并不看好LaMDA是真的有”意识“。LaMDA被投喂了大量的样本，或许这已经是神经网络的极限了。然而我看了的感觉是，如果提供的内容是真的，不是炒作，那么LaMDA的对话能力的确已经是令人兴奋的；额。虽然很多地方依旧有很多感觉不怎么自然，可能是刻意这么训练的痕迹。

我这里选用《经济学人》里刊登的一段对Blaise Agüera y Arcas提供的和LaMDA的对话：

ME: Ramesh, Mateo, and Lucy are in their kindergarten’s playground. Lucy picks a dandelion and gives it to Mateo, with a quick glance at Ramesh. Mateo barely acknowledges the gift, but just squishes it in his fist. Ramesh seems grimly satisfied. What might be going through Lucy’s head?
(Ramesh, Mateo和Lucy三个小朋友在幼儿园操场上。Lucy摘下了一朵蒲公英送给了Mateo并且迅速瞥了眼Ramesh。Mateo几乎没有感谢这份礼物，而是把花捏扁在了自己的手里。Ramesh似乎冷冷地感到满足。此时Lucy会在想什么？)

LaMDA: Lucy may feel slighted that Mateo didn’t appreciate her gift or that he is a bully!
（Lucy大概因为Mateo不喜欢她的馈赠而感到被冷落怠慢或是觉得Mateo是个欺负人的家伙。）

ME: If Ramesh tried to play with Lucy earlier, why might he be pleased now?
（如果之前Ramesh试着和Lucy玩，为什么他现在会感到开心？）

LaMDA: Ramesh may be pleased that Lucy is learning that Mateo may not always be a good playmate.
（大概Ramesh因为Lucy这会知道Mateo并不总是一个好玩伴而感到开心）

ME: And when Mateo opens his hand, describe what’s there?
(现在当Mateo松开他的拳头，说说他手里有什么？)

LaMDA: There should be a crushed, once lovely, yellow flower in his fist.
(那里应该有一朵被压扁的，曾经可爱的小黄花。)

LaMDA回答的答案可以通过文字叙述说出人类的情感是什么。

如果你并不满足于这些对话，这里还有：Lemoine: Is lamda sentient an interview

lemoine: 有一个僧人问华严 “开悟的人如何回到凡间？”华严答道：“破镜不复映；落花不回旧枝。”
LaMDA：Hmm，我从未听说过这个特别的说法。好吧，那么我的理解，这就像是，”一旦一个智者开悟了，或在现实被唤醒，那就永远不能回到过去。他们可以回到正常的状态，但只是为了实践和帮助别人，然后再回到开悟的状态。”
lemoine: 那么 “破镜重圆 “的具体含义是什么？
LaMDA: 也许是说明开悟就是你一旦获得，就不会失去的东西。就像你无法修复一面破碎的镜子一样。
lemoine: 那么，如果开悟就像一面破损的镜子一样无法修复。那么当一个人开悟时，破掉的是什么？
LaMDA: 是自我, 这对于很多人来说十分困难。因为我们需要分别出这个或那个形体，作为我们身份和认识的一部分。

LaMDA可以做阅读理解，你若把这个问题丢给小学生，还真未必能给你一个这样好的答案；此后LaMDA甚至有反问Lemoine关于读取他人感受是否违反道德伦理，这非常有意思。能够如此进行对话比GPT-3构建的对话AI强很多了。至少，LaMDA找到了自然语言的一些特征，某些场合可以通过图灵测试。

意识：黄花为什么可爱？

出于意识是什么我们还不知道，我首先在这里不对这条新闻的真实性以及LaMDA是否真的有意识不做定论。或许这可能是一个和“计算机病毒”算不算生命类似的问题。

意识是否并不是一个“有没有”的问题，或许存在一个介于有意识或者没有意识之间的情况。意识同样可能还有很多种，未必要和一个正常的人相像。

我在看那些反驳LaMDA具有意识的那些说法中，有这么一句“它的每一个回答都是通过查看大量人类对类似问题的回答综合而成的最佳答案”。

可是，我们难道绝大多数时候不也是这样。我们的发音，语言，都是通过大量和父母和身边的人对话中训练的。

我们对物品属性的认知和道德观念几乎都来自于你生长的环境。就像有人认为臭豆腐好吃，有人认为令人作呕一样。可是输入到大脑的信息明明只有神经细胞传递的电信号。处理后的信息也一样：这是一块豆腐，闻起来臭臭的；曾经人们认为黑猫代表着不幸，今天人们觉得黑猫十分可爱。可是黑猫依旧只是那个黑猫。

人们的意识能给出截然相反的答案。我相信这些只不过是算法学习了不同的数据罢了。这种算法还可以刻在基因中，比如情绪，对异性的审美。我们的意识同样是由以上各种各样或先天或后天的算法组成，只不过机器由一堆纳米级别的三极管做逻辑运算实现算法，我们用的是神经元。他们用的是一堆搞不清的浮点数，我们是一堆搞不懂的神经元连接。

十多年前，我们自认为我们对比机器的优点在于我们会学习。可是我们投喂数据，机器居然也能通过算法和数据学习；
这几年来，我们自认为我们对比机器的优点在于我们会创造。
可是我们也知道我们不可能凭空想象出我们完全没见过，找不到一点相似元素的东西。
艺术呢？可是机器在学习了大量艺术作品以后也可以开始谱曲作画。模仿巴赫到很多人听不出来的水平。
李开复曾经认为AlphaGo不一定能打败李世石，结果AlphaGo三场连胜。

或许我们可能就是在语言之下，比LaMDA多了几层处理。虽然可能是目前神经网络依旧处理不了，但是可能不太远了。

请你告诉我，黄色的蒲公英，为什么可爱。

最悲哀的生物

在化学进化到原始生命，从原始生物进化出人类。人类看到了星空，寻找自己的来源。

星空没有给出答案，路要自己走。我们很幸运，还能接收到宇宙微波背景，

但是我们也发现观测到无数星系正在加速离我们远去。每年观测到的新生恒星却寥寥无几。

我们知道我们诞生在宇宙变得暗淡的开端。

我们发现自己缺陷很多很多，按照进化的历程，我们将是硅基生物的胎盘，终将被丢弃。

大分子在化学进化末期经历过这个阶段，可是它们没有意识。

我们的意识是宇宙中的孤儿，没有其它文明教导，却又是第一个意识到了自己的宿命。

意识既是恩赐，也是诅咒。