《从细菌到巴赫，再回来》（From Bacteria to Bach and Back）
一
棋又下输了。至此，您差不多也该习惯了。
如果您害怕AI，大概率是怕被抢了工作。创造AI的人害怕AI，是因为不知道人类还能不能握得住方向盘。
怕，它的决策过程会慢慢变成黑匣子。
这就是AI不可解释论。
老师们最爱的论据就是丹尼特（Daniel Dennett）老师这本《从细菌到巴赫，再回来》（From Bacteria to Bach and Back）。
一块砖头厚，一部历史，一个观点：
无论哪种智力进化，都会生出个复杂系统，复杂到创造者都无法解释。结果就是它的某些行为不受控制。
就像无法解释为什么一个简单对冲风险的衍生品，会演变成为无人能阻的大规模杀伤性武器。
别说机器，人类的很多行为至今也不能被解释。比如选谁当总统，爱黄金爱房子，金融危机周而复始，民粹易燃。等等等等。
即使有解释，也不完整。否则不会有那么多互相拆台的行为学体系和辩论。人，从产生意识，到行为发生，中间也是个黑匣子。
AI同样，它的智力体系，最后只有一部分能被解释，另一部分是本能反应，或是潜意识。
所以，丹老师建议：我们应该像对待彼此那样，谨慎对待AI。无论看起来多聪明，它其实跟人一样，不可理喻。
二
我看了半天，觉得除了长得像周伯通，丹老师观点得出的过程，也很像老顽童的左右互搏：自己跟自己掐。
其实他的逻辑很简单：
分子没有意识，不能解释自己行动的原因，却组成了人。就像白蚁没有意识，却造出精密如人肺的蚁巢。
人有意识，自己又变成了更复杂，更不可解释之事物的分子，比如造出原子弹。所以智能再这么进化下去，包括AI，都一定会变的不可解释。
白蚁和原子弹的例子举得我无话可说，这因果关系也让我无言以对。
绕了半天，老子一句话就解决了：
道可道，非常道。
智能进化的结果是未来会发生的事，为什么一定要现在讨论出个因果关系？
很多事情，到底是两点一线的因果关系，还是个互为因果的圆圈？
这个问题，另一本书给出了完美回答。
《你一生的故事》（Story of Your Life and Others）
一
电影我没看，但书不能不看。
取决于您的关注点，这是一个人类跟外星人沟通的故事，或者是一个知其不可为而为之的，爱的故事。
故事没有因果，没有起承，只有回环。从对语言的思考开始，无限放大，直到画成一个圆。
科幻部分的理论基础是"沃尔夫假说"：
语言不同，人的思考不同，逻辑会变，诠释世界的角度也不同。这不仅仅是文化差异。
而故事里外星人"七肢桶"，跟地球人还不同：他们的思想沒有因果，只有回环。
什么叫"没有因果"？
我种下颗籽，日后长成一株花，是因果。如果没有因果，那就是"种籽"和"开花"同时发生？中间抹去时间？
二
人是很懒的动物。尤其在思考时。
我们的脑袋，喜欢把事物简化成因果公式。
这也很正常，因为我们发现事物的手段简单粗暴，望闻问切，都是某对象在某时刻所表现出来的属性，比如运动，速度，物理概念。
所以，按先后顺序说明白这些事最方便：一个事件引发另一个事件，一个原因导致一个结果，引发连锁反应，事物于是由过去的状态发展到未来的状态。
但是七肢桶的直觉是：
物理属性本身没有意义，只有经过一段时间观察，发现它们本身存在的目的和要求之后，这些属性才有意义可言。
所以它们的前因后果不是独立的，而是交织，互相作用，不可分割。
观念也是一样。
在环状思维中，两种观念之间，没有谁先谁后顺序，没有一条固定的理解路线。知识没有初级，中级，高级之分，没有哪一个念头具有优先权。
这种环状思维，让七肢桶们事先便知道“果”，能先于“因”启动。
当然比人类先进，但仍然可以理解为：
道可道，非常道。
三
这也是一个明知不可为，仍然为之的爱的故事：如果开始时就知道，这"因"的"果"是苦的，你会开始吗？
如果柯洁赴约前知道自己会败，会流涕，还去吗？
如果生命中一段相遇的结果是分离，痛苦，还相遇吗？
如果人类创造AI的结果是毁灭自己，还创造吗？
