1985年,在《机器人与帝国》一书中,阿西莫夫将三大法则扩张为四大法则(也称第零法则):机器人不得伤害人类整体,或坐视人类整体受到伤害。

中国武汉大学的哲学家Chris Stokes说:“许多计算机工程师使用这三个定律作为思考编程的工具。” 但是麻烦是,它们不起作用。

他在开放式论文中解释说:

第一定律之所以失败,是因为语言模棱两可,而且由于复杂的道德问题太复杂,而无法简单地回答是或否。

第二定律之所以失败,是因为一部法律要求有情众生作为奴隶,这是不道德的。

第三定律之所以失败,是因为它导致了一个永久性的社会分层,大量潜在的剥削被构建在这个法律体系中。“第零定律”和第一个定律一样,因为意识形态模糊而失效。所有的法律都失败了,因为它很容易规避法律的精神,但仍然受到法律条文的约束。

相关文章