第十四讲
人工智能的双重属性：技术价值非中立
人工智能治理：算法向善
当前人工智能所呈现的人机协同和自主控制等特点，使得算法、机器和系统成为人类社会不可或缺的组成部分，隐私泄露、大数据杀熟、机器杀手、机器换人、算法歧视等现象的出现，给社会治理带来了严峻挑战。
我们需要保证人工智能算法赋能社会的安全性。这包括两个方面：一是要保证人工智能算法的准确性，也就是说运行结果要与算法设计时的期望目标保持一致。为了确保程序的“正确性”，可以对程序所处理的各种情况进行“穷举式测试”，或者从理论上进行证明。二是要保证人工智能系统的可靠性。在现实生活中，人工智能系统可能会被黑客攻击，比如在无人车系统中，黑客可能会远程操控无人车或在识别样本中添加噪声，使得人工智能系统在行驶过程中错误辨识目标，比如将行人辨识为建筑物，从而造成严重影响。因此人工智能系统要做好应对恶意攻击的准备，保证算法的可靠性。
随着人工智能的迅猛发展，人工智能治理问题已经受到了世界各国关注。美国在2016 年10月发布的《国家人工智能研究与发展战略计划》中确定了七个重点战略方向，其中就包括确保人工智能系统的安全性以及理解和应对人工智能带来的伦理、法律和社会影响。中国政府在2017 年7月颁布的《新一代人工智能发展规划》中指出：人工智能是影响面广的颠覆性技术，其发展的不确定性将对就业、法律、伦理、隐私、国际关系等带来新的挑战。因此需要注重发展与规制平衡，强调把握人工智能技术属性和社会属性高度融合的特征，既要最大程度地发挥人工智能的潜力，又要加强前瞻预防与约束引导，确保走上安全、可靠、可控的发展轨道。英国在2018 年发布了《英国人工智能发展的计划、能力与志向》，提出了五条“人工智能准则”（AI Code），分别是：发展人工智能；人工智能要遵循可理解性和公平性的原则；人工智能不应该被用来削弱个人、家庭或社区的数据权利或隐私权；所有公民都应在精神、情感和经济上与人工智能并驾齐驱；伤害、摧毁或欺骗人类的自主权力永远不应被赋予人工智能。
在人工智能治理中要将道德、伦理、法律和法规等价值取向与算法本身结合，体现智能算法技术非中立特点。“技术中立原则”（Technology Neutrality）是在1984年著名的“索尼案”中确立的，是指某产品或技术同时被用于合法和非法用途，这并非是产品或技术提供者所能预料和控制的，因此提供者可免负法律责任。由此引申而来的“技术中立”，主要包含功能中立、责任中立和价值中立三种内涵。由于训练人工智能算法模型的数据具有选择性偏差而使得算法具有偏见或价值非中立，因此要加强人工智能算法治理的法律法规建设。
应该说，人工智能算法是提高效率的一种路径选择，社会道德和法律法规决定算法善恶，算法向善是人工智能治理的应有之义。
用户评论