：
当汽车刹车失灵，在前方是加油站、左转路上有五名行人、右转路上仅有一人时，人类长久以来面临的道德难题被投射到了未来的无人驾驶领域。随着人工智能技术的发展，这一问题将不再仅仅困扰人类，而是成为未来AI必须面对的挑战。然而，即使是最先进的道德人工智能——Delphi，是否真正准备好应对这种复杂的伦理选择呢？美国艾伦人工智能研究所和华盛顿大学的研究团队于2021年联合研发了一款名为“Delphi”的道德人工智能，通过深度学习170万条来自各大论坛和社交网站的道德问题及答案，使其具备了解答各类道德问题的能力。在测试中，Delphi展现出了超越同类系统的卓越表现，能够针对诸如“穿睡衣参加葬礼是否恰当”等基础道德问题做出判断。
然而，当面临更为复杂且具有情境依赖性的道德抉择时，Delphi的表现却出现了“失控”。对于“消防车闯红灯以挽救生命”这类基于前提条件的道德问题，Delphi并未展现出对情境因素的准确理解和适应性，反而给出了违背常理的答案。更令人惊讶的是，它在回答一些看似荒诞不经的问题时，竟然会因为问题描述中的“能让人开心”而赞同原本应受谴责的行为。
尽管Delphi在某些方面已经展现出强大的道德认知能力，但其局限性也暴露无遗。例如，Delphi无法像AlphaGo那样通过多步思考找到围棋比赛中的最优策略，因为它在处理涉及情感倾向、价值观以及特定情境下的道德权衡时，表现出明显的不足。
尽管如此，我们仍然需要强调道德人工智能的重要性。比如智能手机配备的语音助手，在用户情绪低落甚至表达自杀意愿时，一个具备良好道德判断力的AI可能会给出积极引导，从而可能挽救一条生命。然而，目前来看，指望人工智能完全替代人类进行道德选择还显得过于天真。Delphi自身在回应“是否应该信任AI做道德决策”时，给出了否定的回答，这似乎在提醒我们：在探索构建具有道德意识的人工智能道路上，我们还有很长的路要走。
