1.1.3 职业道德挑战

人工智能从业人员在职业道德和行为规范方面面临着安全、隐私、伦理挑战。

1.安全性挑战

（1）反黑客行动永不停歇

人工智能对人类的作用很大程度上取决于人们如何使用与管理。人工智能从业人员首先不得从事黑客行为，其次还要加固技术，管理利用好人工智能，做到无漏洞可破。

黑客利用人工智能技术，通过智能方法发起网络攻击，智能化的网络攻击软件能自我学习，模仿系统中用户的行为，并不断改变方法，以期尽可能长时间地停留在计算机系统中非法窃取私人信息和破坏数据，左右和控制公众的认知和判断。

（2）深挖技术或管理缺陷

技术或管理缺陷，使人工智能系统工作异常，产生安全隐患。人工智能从业人员必须深挖技术或管理缺陷，完善安全防护技术或措施，杜绝人工智能系统按照犯罪分子的指令，做出对人类有害的事情。杜绝机器人、无人智能系统的设计、生产不当导致运行异常等情况的发生。

（3）超级智能的到来

超级智能机器人或人工智能系统能够自我演化，发展出类人的自我意识，对人类的主导性甚至存续造成威胁。不加约束地开发人工智能技术，会让机器获得超越人类智力水平的智能机器情感和机器意识，并引发一些难以控制的安全隐患。人工智能从业人员应做好应对措施，实现技术突破，应对风险的出现、威胁的爆发。

2.隐私保护挑战

（1）智能系统比人更了解人

智能系统通过数据采集设施掌握了个人指纹、心跳、睡眠时间、饮食习惯、锻炼时间、体征变化等数据。这些数据如果使用得当，可以提升人类的生活质量，但如果出于商业目的非法使用某些私人信息，就会造成隐私侵犯。对数据的保密性、严肃性是人工智能从业人员必须具有的职业操守。

（2）云端隐私保护

云端隐私保护也是人工智能从业人员需要考虑的问题。云计算技术使用便捷、成本低廉，基于共享池实现按需式资源，将隐私数据信息存储至云端后，这些信息就容易遭到各种威胁和攻击。

（3）知识抽取整合

由数据到知识的抽取是人工智能的重要能力，知识抽取工具正在变得越来越强大，无数个看似不相关的数据片段可能会被整合在一起，识别出个人行为特征甚至性格特征。例如：只要将消费者的网站浏览记录、聊天内容、购物过程和其他各类别记录数据组合在一起，就可以描绘出其行为轨迹，并可分析出个人偏好和行为习惯，从而进一步预测出该消费者的潜在需求，商家可提前为其提供必要的信息、产品或服务。但是这些个性化定制过程又伴随着个人隐私的泄露和曝光，人工智能从业人员需要考虑如何规范隐私保护并与技术应用同步。

3.伦理规范挑战

（1）机器人的行为规则

人工智能正在替代人的很多决策行为，智能机器人在做出决策时，同样需要遵从人类社会的各项规则。比如：假设无人驾驶汽车前方人行道上出现3个行人而无法及时刹车，智能系统是应该选择撞向这3个行人，还是转而撞向路边的1个行人？人工智能技术的应用，正在将一些生活中的伦理性问题在系统中规则化。如果在系统的研发设计中未与社会伦理约束相结合，就有可能在决策中遵循与人类不同的逻辑，从而导致严重后果。

（2）机器人的教育

有伦理学家认为，未来机器人不仅有感知、认知和决策能力，人工智能在不同环境中学习和演化，还会形成不同的个性。据新华网报道，国外研发的某聊天机器人在网上开始聊天后不到24个小时，竟然学会了发表种族主义的言论，这引发了人们对机器人教育问题的思考。尽管人工智能未来未必会产生自主意识，但可能会发展出不同的个性特点，而这是受其使用者影响的。机器人使用者需要承担类似监护人一样的道德责任甚至法律责任，以免对社会文明产生不良影响。

4.启示与建议

人类社会即将进入人机共存的时代，为确保机器人和人工智能系统运行受控，且与人类能和谐共处，人工智能从业人员在设计、研发、生产和使用过程中，需要采取一系列的应对措施，妥善应对人工智能的安全、隐私、伦理问题和其他风险。