AI隐患重重？人工智能之初应当性本善

当下，人工智能正在以革命的形式横扫科技圈。智能音箱、alphago、无人驾驶、nlp……世界发生了深刻的变化，我们可以时刻感受到科技带来的便利与乐趣。如同电力、蒸汽改变人类世界一样，人工智能也逐渐渗透进了我们的毛细血管当中。

在阿里巴巴、谷歌等国内外科技巨头的引领下，国内有诸如旷视科技、极链科技video++、依图科技等聚焦于人工智能垂直领域的初创企业蓬勃发展。但与此同时，人工智能带来的安全隐患与道德争议，也让各界对ai治理更加重视。新兴技术的商业化之路，如果方向不稳，终将是空中楼阁，ai的发展之路，需要建立在“以人为本”的初心上。

来自科学和社会的双重警告

人工智能发展带来的安全隐患与道德争议，包括数据泄露、算法偏见、ai技术被滥用、安全隐患、法规不完善等问题。例如ai技术被滥用引发安全威胁。智能化网络攻击软件具备一定的自我学习能力，可模仿系统中的用户行为，并不断改变方法，以实现长时间停留在计算机系统中的目的，黑客则可以通过人工智能发起网络攻击，引发安全威胁。例如不法分子利用人工智能电视的各种安全隐患进行：远程控制电视，远程安装恶意软件，远程监控家庭等，造成用户隐私泄露或财产损失。

近来，ai换脸技术应用于明星影视剧中引起热议，人脸识别技术已经得到普遍应用，诸如上班打卡、刷脸购物、支付、手机解锁、抓交通违章等场景，拥有大量的用户群体。假如有人利用ai 换脸技术在这些领域弄虚作假，人脸识别又无法辨识真伪的话，那么个人隐私信息、财产等都会被盗，后果难以想象。

隐私问题是数据资源开发利用中的主要威胁之一，智能系统掌握了个人的大量信息，这些数据如果使用得当，可以提升人类的生活质量，但如果出于商业目的非法使用某些私人信息，就会造成数据泄露、隐私侵犯。去年，科技部公布了6张行政罚单，其中涉及基因隐私问题，公众对于基因隐私的担忧愈加严重。虽然国内正在推进电子病历等医疗大数据的科研应用，但仍存在数据使用的安全规范和法律保障不够等问题。

其三，目前的人工智能系统目前还不够成熟，技术缺陷导致工作异常，可能出现安全隐患。例如机器人、无人智能系统的设计或生产不当会导致运行异常，近年来已有多起安全事故发生，waymo无人驾驶汽车事故、uber无人驾驶汽车撞死了行人、特斯拉车祸等让大家对无人驾驶的安全性打上了问号。ai医疗领域，在图像诊断等领域以实用化为目标的开发正不断推进。如果配备疾病识别ai的医疗设备投入使用，有望通过ai分析大量的医疗图像，从而更易发现病变部位。

而伦理问题可能是人工智能技术带给人们最为特殊的问题，未来人工智能不仅具有感知、认知和决策能力，还会形成不同个性，在决策中可能会遵循与人类不同的逻辑，造成严重后果，对社会文明产生不良影响。

人工智能治理的未来规划

人工智能的影响普及全球，然而目前还没有任何实质的政策或措施去制定能使人工智能的潜力最大化并管理其风险的治理机制。这并不是因为*认为人工智能的治理不重要，而是因为这需要政策制定者、企业和用户等所有利益相关者一起去打开“潘多拉”魔盒，去讨论所有可能涉及到的问题。

人工智能的基石是数据，*和企业在实际应用中所收集的数据如若被不当地处理或操纵，则会引发比以往数据隐私丑闻更大的风险，以及*和企业尚未内化的声誉风险。因此，要防止大数据和人工智能的滥用和失控，应该从意识形态开始建立科学的数据价值观体系。

除了从技术安全角度研究确保ai安全的可行技术方法和手段外，还需要从伦理层面为ai安全提供引导和约束，以确保“ai向善”。伦理规范需要在公司、行业、国家层面就人工智能伦理原则和框架达成共识并落实到人工智能研发应用中，因为在技术加速、法律滞后的趋势下，需要更多依靠伦理规则来发挥事前的引导和规范作用，来确保ai向善。

同时，社会也亟待法律规范的制定，从具体的行业出发对自动驾驶、无人机、医疗诊断、机器人等具体的人工智能应用进行监管，以实现鼓励创新与保障安全的平衡。国际标准、规则的制定可以确保人工智能的研发应用符合伦理、国际法等共同性要求。

未来已来，普惠全民

未来的人工智能会发展怎样已有迹可循，而构建一个开放的人工智能生态系统，确保技术进步造福人类更是我们应该关注的。当下的中国正进入新技术带来的全球大变局，*、科技公司、学术机构和用户等所有利益相关者应该联合起来，坚持以未来共同体的心态，建立积极的生态规则。

科技的进步带来的是社会生活方式的重塑，普罗大众都能平等地享受科学技术带来的便利与可能。在这个机会与挑战并存的时代，让我们以负责任的态度开启智能美好生活。