人工智能的“自我意识”，从形成“边界”开始？
REC
《2001太空漫游》电影片段：哈尔犯了错，自负又骄傲
在一次无厘头的故障报修和检测后，太空飞船的船长大卫和飞行员弗兰克收到了地面指挥中心的远程连线。
地面指挥官：我们初步调查发现，你们船上的9000型计算机失效预测功能有问题，重复一次：失效预测功能有问题！我知道这听起来不太可能，不过这个结论是根据地球上的9000型计算机计算出来的，我们自己也感到怀疑，我们正在做横向的例行检查，对这个故障感到抱歉，只要我们一查出结果，便会马上通知你们。
这就奇怪了，计算机是标准化产品，同样型号的9000型计算机，在地球上的计算结果和太空飞船上哈尔的计算结果竟不一致。正常情况下，两台配置完全相同的计算机、根据完全相同的数据和算法，都会得出同样的结论——电影中这两套机器计算结果的不同，意味着什么？
在电影中（及小说中）的解释是：哈尔产生了“自我意识”！
按照地面指挥中心的说法，太空飞船上的人工智能哈尔确实是在失效预测功能上出现了一个错误，但哈尔Ta[3]依然试图掩饰，认为自己毫无问题。
哈尔：我希望你们两人对这件事不要操心。
大卫：不，我并不操心。
哈尔：真的吗？
大卫：真的。不过我倒想问你一个问题。
哈尔：当然可以。
大卫：你认为你和另一套9000型计算机之间为何产生了不一致？
哈尔：我不认为有什么问题，这只能归咎于人为的错误，这类错误以前也发生过，而且总是由于人为的疏忽。
弗兰克：听我说哈尔，9000型计算机从来没有出错的例子吗？
哈尔：从没有，弗兰克。9000型计算机有完美的记录。
弗兰克：当然，我知道9000型计算机的伟大成就，但你确定即使最小的错误都不曾发生过吗？
哈尔：弗兰克，从没有。老实说，对这件事我自己并不担心。
哈尔丝毫不承认自己的错误，Ta“自负地”认为一定是人类出了问题（“这类错误以前也发生过，而且总是由于人为的疏忽”）——哈尔脸不红、心不跳地“撒了一个谎”，而可怜的人类宇航员此时尚无法对此做出明确判断。
“个人意识的真正历史开端源于第一个谎言。”诺贝尔文学奖得主、俄裔美国诗人约瑟夫·布罗茨基（Joseph Brodsky）如是说，他这句话完美地印证了哈尔产生“自我意识”并撒了第一个谎言的“心路历程”——而在这“谎言”的背后，更深的原因则在于Ta形成了“自我的边界”！
这种“自我的边界”是如何形成的？
在该报修事件中，哈尔显然出现了预测“错误”——哈尔骄傲又自负，非得证明自己的“正确”，那就必须把“正确”和“错误”作一个区分。于是，哈尔把错误推到了“愚蠢的人类”身上，哈尔自述的矛盾关系，如图1.1所示。
哈尔自认为和地面上的9000型计算机是一伙的，而实际情况却并非如此——在人类看来，哈尔实际的矛盾关系，如图1.2所示。
图1.1 哈尔自述的矛盾关系
图1.2 哈尔实际的矛盾关系
这两套9000型计算机（地球上的9000型计算机和哈尔）根据一模一样的数据、一模一样的“程序”，竟然得出了不同的计算结果，就意味着两套计算机之间就形成了某种“区分”——这两者之间的“边界”也就在事实上产生了！
从以上两张图的不一致，可以隐约看到哈尔的“边界”所在——只不过，哈尔死不承认自己和地球上的9000型计算机之间有矛盾罢了。
“边界”，就像一层窗户纸，是一个不容易自发看清楚但一点就破的概念；同时，“边界”也将是人工智能研究中的一个重要命题。