Cuòwù - 错误

 错误

我们会犯错吗？软件会犯错吗？人类的错误与软件给出的错误答案之间有什么区别？

如果你设计了一个计算软件（比如说），程序可能会设计得不好，从而得出错误的结果。机器并没有犯错。它只是按照自身的程序，完美地执行了命令。如果你编了一个乘法表的程序，当你输入 2 × 2 时，它却显示出 5，你或许会说它出错了，但其实这并不是它的错。它只是给出了一个与预期不同的结果。你本来希望机器回答 4，可它按照它的程序，回答了 5。它执行得非常正确。

如果程序设计得不好，你可以说程序员在编程时犯了错。但假设程序员本身是另一个软件，一个主控软件。这个软件能设计并编程另一个软件。这在现实中是可能的，且已经实现。那么我们是否要说这个主控软件犯了错误？毕竟它和它所设计的软件本质上是同一种机器。我们只能说，它设计出的程序没能给出正确的结果。那就意味着主控软件本身也被设计得不好。它只是按照自己的编程行事。

现在假设这个主控软件是一个人工智能系统，它可以学习，而不是被直接编程来做某件特定的事情，它必须自我适应。比如说一个国际象棋或围棋的AI。当它执行了一个我们不期望的行为时，这是否构成一种错误？我们是否把它称为错误，还是说它只是一次不良的AI设计？

事实上，我们会说那是一个“错误”，因为这个词简单且通用，但没人会真正责怪AI或主控软件。它们只是按照我们设计的方式在运作。这些“伪错误”并不会把它们送上法庭。

你如何区分这个AI软件与那个由你制造出来的孩子？那个你强迫存在，只为了为你服务的孩子？这个孩子是怎么运行的？他是否也在重现你在他身上所犯的错误与缺陷？他是否重现了你在设计与教育，也就是“编程”方面的不足？

你在“制造”这个孩子时，对他的生成过程和教育过程根本无法掌控；而你自己心知肚明。教育者也知道，司法机构知道，立法者知道，政府也知道。要成功“制造”与教育一个孩子，需要极其专业的知识——这是任何一个人类都无法独自具备的。尽管如此，你却仍然可以指责孩子犯错。

你甚至可以砍下他们的头，把他们枪决、绞死、折磨，或将他们囚禁于孤独之中。你是“无辜”的，因为你自己也被极其糟糕地制造和教育了。你没有犯错，你只是被设计得很差，由其他同样被设计得很差的人所制造；你的行为，就如他们的行为一样，都是你被设计得糟糕的直接结果。

正是你父母对你糟糕的设计，才导致了你今天的行为。你对此无责。你只是一个运作中的机制。他们的机制亦是如此。那么，你为什么必须承受“被设计得很差”这一事实？你甚至为什么要承受“被设计”本身？

当我们说“我做这个”、“我做那个”的时候，其实是我们的设计者教会我们在适当时候说“我”。至少，他们是这么尝试的，而且大多数时候，他们成功了——但他们并不知道自己是怎么成功的。而他们制造了多少人格障碍？多少被社会排除在“正常运作”轨道之外的透明人？

“意志”同样是学来的，“意图”也是，所有其他心理功能都是如此。它们由神经机制构成，而我们对这些机制的真实运作方式一无所知。大脑是一个黑箱，由一堆黑色机制组成。我们的思想由一组“程序”构成，这些程序控制着另一组“程序”；而那个被我们称作“我”的主控程序，也不过是一种被“构建”与“编程”出来的程序。

你不觉得自己像是一台机器？我也不觉得。尽管我已经知道这一切（或大部分）超过四分之一个世纪了而且早在半个世纪前我就有所预感。

那么，我们如何在不诉诸暴力的前提下改变现状？答案是：说出来。去修正教育。去改变法律。把这个事实灌输进每个人的大脑：我们存在无罪，因此我们的行为无罪，因为我们是被强迫存在的。要让大家知道，我们不过是制造与教育的产物。要向司法系统发声，司法必须全面执行法律的真义：我们是存在无罪的，我们没有责任。

如果我们用这小小的螺丝刀在我们的心理程序上重新拧紧一丝，也许就会成功。但我们必须停止相信，尤其是停止相信自己有神圣的起源。如果真是神所造，那这位神程序员可真是太差劲了。若我是神，我肯定比他强上百倍。尤其重要的是，我永远不会指责你们因我设计失误而产生的行为。我永远不会将我

的设计错误怪罪于你们，更不会设计你们成要自责于自己被设计错误的存在。被强加以如此愚蠢行为，是无法想象的。

结束 —— E. Berlherm