首先机器人不可能具有创造性，不会生成事先没有放进去的东西。当然，这样说不包括偶然出故障的情况。
机器所表现出来的“意识”是事先已明确化的人类程序员的意向，或是依照程序员所指定的规则从这些意向中导出的子意向。我们甚至可以期望更高的抽象层次，在那些层次上程序不仅修改子意向，而且也修改导出规则，或修改其修改规则的方式，如此等等。在那种层次上甚至一台机器会设计和构造另一台具有更强能力的机器。但重要的是，除非机器已经得到如何去做这些事的指令，否则它不会也不可能去做这些事。这里有一条逻辑上永远存在的鸿沟，一边是实现人的愿望的过程中任何一种极力的扩展和精心的构造，另一边是在机器中开发属于它自己的意愿。如果不相信这一点，则要么就相信魔法，要么就相信人的意愿只是一种错觉，而人的行为是和机器一样机械的。
反对机器
自我意识（或愿望）的论点是建立在这样的见解之上的：对意愿的任何机械化都需要一种无穷回归。类似地，任何一步推理，无论多么简单，如果不援引更高的层次上的规则来证实其合理性，都不能进行。但这种证实本身不是一个推理步骤，这样你不得不求助于更高层的规则，如此等等。结论：推理包含着一个无穷回归。
“推理是不可能的”这一结论对人类不适用，因为无论有多少更高的层次，我们的确是在进行许多推理，这对任何人都是习以为常的。这表明我们人类的活动不需要规则：我们是“非形式的系统”。但从另一方面来说，上述结论可以作为一种论证，说明对推理进行机械化解释是不可能的，因为任何机械系统势必明确地依赖于规则。因此，除非有元规则告诉它何时使用规则，有元元规则告诉它何时使用元规则，如此等等，否则它不可能开始工作。我们可以断言，推理能力永远不可能机械化。它是为人类所独有的能力。
没有任何计算机真正“想要”去做任何事，因为它是被别的什么人编好了程序的。只有当它能从零开始为自己编程序——这是荒唐的——它才可能有自己的关于愿望的意识。本回答被提问者采纳