脑课堂编程教育

AI赋能不能仅会打麻将 两院院士:“穿马甲”要不得

人工智能 1年前
906 0 0
脑课堂编程培训

语音识别、无人驾驶、智慧城市……人工智能技术快速迭代,AI应用全面普及,人类智慧与智能机器实现深度融合,充满无限可能的人工智能时代正全面来临。但人类对人工智能安全担忧从未停止,随着人工智能技术走向成熟,安全警报正全面拉响。8月30日下午,2019世界人工智能安全高端对话在上海世博中心举行,各界专家学者与行业精英共聚一堂,探讨人工智能的最大变量——安全问题。

会上颁发了2019世界人工智能产业安全十大创新实践和十大优秀论文,同时发布了《人工智能安全与法治导则(2019)》,今年的年度重点是算法安全、数据安全、知识产权、社会就业和法律责任。

让人工智能安全可信

AI的目标是什么?中国科学院院士何积丰在演讲中表示,AI是一种赋能技术,应该与行业、社会治理结合在一起。所谓可信人工智能,这一安全问题不单是在伦理、道德、法律层面上,还与产品的高品质密切相关。“人工智能从已有技术向通用人工智能发展,AI的经济价值必须要实现。专用AI的通用性太弱,就像衣服一样,一件只能一个人穿,所以现在通用AI的发展不可阻挡,这是整个社会经济发展的需求。”何积丰表示,AI赋能不能仅停留在下棋、打麻将等“游戏AI”上,而是要对人类的生活提高有所帮助。

人工智能的发展也伴随着信任危机。例如因AI未能识别道路清扫车造成的特斯拉“无人驾驶”致死事故;因血溅导致摄像头“失明”的达芬奇手术机器人事故;因人脸识别公司数据库泄露导致256万人信息泄露等。何积丰指出,人工智能的安全问题既有内忧,也有外患。内忧包括样本均衡、数据偏倚、用户隐私等问题。外患则包含对抗攻击、信息安全、场景受限等。

何积丰指出,人工智能算法的关键安全问题包括分布转变的稳定性、探索的安全性、避免奖励条件的错误解读、可扩展的监管和避免人工智能副作用。他总结可信人工智能的特征应该具备与人类智能类似的特质。包含对未知或对抗条件的鲁棒性;对自身性能或错误有感知的自我反省;对新的环境或目标的自适应;对分析过程的透明性、可解释性;对决策过程的公平性。

“穿马甲”与卡脖子

中国工程院院士倪光南针对AI安全可控问题发表演讲,他总结出人工智能伦理的8条原则:可控性、公平性、安全性、隐私保障、包容性、透明度、增加社会福祉和问责制。倪光南表示,人工智能是人类创造的,应保证人类控制人工智能而不是相反。要避免人工智能系统可能会在不可预见的情况下造成伤害,或者被人恶意操纵。此外,还要解决深度学习算法的“黑盒”问题,以免导致出现不可预测的情况,还要确保人工智能技术造福、赋能每一个人,而不只是惠及个别人。

倪光南表示,我们要吸取中兴、华为事件教训,努力实现AI关键核心技术的自主可控。自主可控是网络强国战略不可或缺的部分,要“做好我们自己的事情”就必须抓自主可控。为什么网信技术有短板会被人“卡脖子”?倪光南认为,一方面我国还是发展中国家,国力和科技水平等与发达国家仍有差距,外国对我国实行禁运封锁,另一方面“造不如买,买不如租”思想造成影响,“穿马甲”问题危害严重。

什么是“穿马甲”问题?倪光南介绍,就是将不能自主可控的外国技术,假冒国产自主可控技术,混入政府采购和重要领域,成为“特洛伊”木马。例如有人将微软的“Win10”“穿马甲”,泡制“Win10政府版”,对我国网络安全造成威胁。倪光南指出:“过去对自主可控没有形成制度支撑,因而不能及时发现‘短板’,容易被人卡脖子。因此我们亟需制订自主可控测评标准,并由专门机构实施,形成制度保障。”

收藏

本文标题:AI赋能不能仅会打麻将 两院院士:“穿马甲”要不得

本文链接:https://naoketang.com/p/z0m74j0v7gk6

评论区

推荐课程