意识与伦理道德
机器是没有情绪和欲望这样的主观体验，而人类有，可是人类的大脑本质上也是一系列神经元之间的电化学反应而已。
主观体验究竟是如何产生的，是不是进化的副产品？如果没有主观体验，人类理论上还是可以进行一系列的社会活动，只是没有了酸甜苦辣痛那些主观体验，没有了情绪，只留下了算法和执行，但那样的人类还是人类吗？
人类之所以有虐待和强奸这样的道德伦理问题，也是因为人类有“主观体验”这个概念。虽然本质上，虐待和强奸的体验也是大脑神经元之间的一系列电化学反应，和其他体验没有本质差异，但是“主观体验”的存在让这个行为变得不可接受，主观体验导致了喜、怒、哀、乐，从某种意义上来讲，主观体验决定了人类道德伦理的框架界限。
机器就没有了主观体验，所以一台机器Hack入另一台机器，算不上虐待和强奸吧；人类黑客Hack一台机器，可能构成信息窃取的罪名，但一定不会背判决为强奸电脑罪。
1952年，伟大的数学家，计算机科学奠基人阿兰图灵被判犯有同性恋行为，并被迫接受化学阉割。两年后，图灵咬了一口毒苹果自杀，留下了那个被咬过一口的苹果（logo）。人类的主观体验和社会伦理道德也不是一成不变的，而是与时俱进的。
当社会中越来越多的人对同性恋的行为以及人权的概念有了新的认知之后，道德和伦理在新一代人中便会迭代升级。同样是图灵，如果他生在21世纪，就不会被判刑，也不会被化学阉割，更不需要服毒自杀。行为没变只是环境变了，结局就大不相同。
这些社会伦理道德的根基仅仅是人类的主观体验而已。如果主观体验是虚幻的，那么道德伦理也一定是虚幻的。
图灵的同性恋行为本质是什么并不是关键，关键是社会中的其他人是怎么想的？这也是未来我们面对计算机人工智能的问题。人工智能是否有“意识和主观体验”，这不是关键，关键是我们人类会怎么想。这就是著名的难缠问题，他心问题（Problem of other minds）：
如何证明宇宙中除了我以外的其他人不是机器人或者梦境的虚幻，而是跟我一样有意识的智人？
这是个问题！
