艾美：正如我们所说的，我们首先必须学习人类AI的对齐准则，然后才能进行创造性的融合、打破、再融合，然后在此基础上建立新的准则。
克里斯：这样做的根本原则是AI活动的结果可以并且应该追溯到它的创造者——超人。
艾美：归根结底，这不是关于AI能创造什么的问题，而是人类可以用AI创造什么的问题。
(1)　“42”这个数字来自《银河系漫游指南》里的超级计算机“深思”，是它在历经750万年的计算之后得出的数字，作为对有关“生命、宇宙，以及其他任何事情”的终极问题的回答。——编者注
16. 人工智能的未来：变革世界
克里斯：有一个古老的寓言。
一个农夫总是向他的妻子抱怨说他的手干裂了。有一天，妻子偶然发现了一种新药膏，给了他一支，并告诉他，如果下次手再疼，就用这支药膏。
天很冷，风很大，工作又很辛苦，很快，农夫的手就裂了，疼痛难忍。他打开药膏的盖子，发现里面有一面小镜子。这是他有生以来第一次看到自己，他十分惊讶，因为他从镜子里看到的这张脸和他父亲一模一样。
农夫跑回家，把这个神奇的事情告诉了妻子。妻子叫他躺下休息，因为很明显，他身体不舒服。第二天早上，妻子早早地醒来，偷偷地往这个小镜子里看了一眼——她看到的是她母亲的脸。