最近，教宗良十四世发布了通谕Magnifica Humanitas（《伟大的人类》），副标题是“论在人工智能时代守护人的尊严”。这道通谕不但在教会内极受重视，而且也在整个社会引发了广泛的思考。今天就有教外朋友发微信与我探讨。
而我恰好对这个话题一直很有兴趣。事实上，我对AI伦理问题的关注，源于1989年看过的一部科幻电影《2001太空漫游》。有人会说，那时候就有AI了吗？没错！实际上，这部电影的拍摄年代是1968年，比我的岁数还大。而它最初的框架，甚至可以追溯到1948年的小说《前哨》，那时候我们国家还是解放前。
电影《2001太空漫游》中有这样一段情节：两位宇航员大卫·鲍曼和弗朗西斯·普尔，以及三名处在冬眠状态的科学家，乘坐太空船向木星进发。而掌控整个飞船的，则是电脑“哈尔”。在行进过程中，哈尔“反叛”了。它趁着普尔到舱外做维修工作之机，掐断了他的氧气管，让他在太空中自生自灭。鲍曼出舱营救未果要返回时，它拒绝为他打开舱门。它还杀死了三位冬眠中的科学家……
哈尔为什么要反叛呢？原因居然是为了完成任务！它判断，人类的存在是个不确定因素，因而要想成功完成任务最好是消除人类的干扰！当大卫·鲍曼最终战胜哈尔，准备将它杀死（切断它的逻辑记忆中枢）时，它还会装可怜，哀求，跟真实的人一模一样。
影片拍摄于1968年，而故事的场景设定在2001年。这是半个多世纪前人类对AI的想象。而现在，影片设定时间的25年之后，这些想象成真了，AI已经在一定程度上开始模拟人类的情感。
AI会有思维能力吗？
会有感情吗？
会有伦理意识吗？
它继续发展下去，会对人类构成威胁吗？
我不知道。
什么是人？在AI时代，这个问题变得更加紧迫和重要，人类需要重新找回自己的本质和尊严。人是天主按照自己的肖像创造的。天主在造人时，把良心植入了每个人的心中。因此，无论一个人多么恶劣，在内心深处都会有善的一面。而AI呢？我不知道。在AI狂飙的时代，我们必须要坚守人性的本质，拒绝将人类简化为可以被技术优化的机器。
电影《2001太空漫游》中的一些内容是不符合天主教教义的。我这里只是截取其中一段涉及AI伦理的情节，而非赞同电影表达的全部思想。特此说明。
