7月10日，2020世界人工智能安全高端对话在上海世博中心成功举办。在面对常态化疫情防控的特殊时期，此次高端对话以线上线下、视频直播相结合的方式举行。作为2020年世界人工智能大会主题论坛，安全高端对话以“在线经济，安全赋能”为主题，由世界人工智能大会组委会主办，赛博研究院承办，腾讯安全战略研究部、上海观安信息技术股份有限公司、上海社会科学院互联网研究中心协办，杭州安恒信息技术股份有限公司、丰畇智能科技（上海）有限公司等支持。

当前，人工智能正处在技术孕育突破、场景深度应用、产业加速变革的活跃期。上海把人工智能置于战略发展优先位置，促进其更好地与产业转型、创造美好生活、优化城市治理紧密结合，加快建设“上海高地”。此次高端对话通过高级别研讨形式，汇聚国内外政府决策者、学界专家和业界精英，共话智能时代的机遇与挑战，深入研讨人工智能安全的战略、技术与产业图景，护航在线新经济健康发展。

在领导致辞环节，原国家信息化专家咨询委员会常务副主任周宏仁表示，当前信息技术的创新性发展正在形成全球信息化发展的第二个拐点，即信息化转向以智能化为中心，构造一个人工智能驱动的世界。同时应避免片面性、重视安全研究的科学性，处理好安全与发展的关系。中国互联网发展基金会理事长马利强调，如何沉着应对挑战、深入把握创新机遇，提升国际话语权、引领世界人工智能安全发展方向，是当前中国人工智能安全发展的重中之重。

上海市人民政府办公厅副主任、上海市城市运行管理中心常务副主任徐惠丽谈到，近年来上海紧抓城市现代化治理“牛鼻子”，以升级建设“一网统管”系统为抓手，通过智能化手段，聚焦疫情防控、复工复产等重点工作，不断提高城市管理精细化水平和现代化能级。城市生活有多丰富，城市治理就有多复杂。“人民城市人民建，人民城市为人民”，保障人工智能、大数据、云计算等新兴技术的安全应用是现代化城市治理工程的关键所在。上海市委网信办总工程师杨海军认为，必须全面认识人工智能安全问题，统筹协调网络安全与信息化的关系，充分发挥人工智能的“头雁”效应，引导人工智能安全、健康发展。上海市经济和信息化委员会总工程师刘平指出，人工智能技术是推动新一轮产业变革的核心驱动力和重要引擎，赋能在线新经济、数字新基建发展，但人工智能的“双刃剑”影响日益显现，需要更加宏观的思考和更务实的实践应对新的挑战。腾讯安全战略研究部总经理李佳谈到，人工智能技术为应对安全问题提供了得力助手，与此同时，人们关注的技术伦理也给技术应用带来启发，如何高效、长远地应用技术，实现科技发展，是技术应用面临的新课题。

护航AI安全应用，启动AI数据安全风险评估平台

论坛上，中国科学院何积丰院士、上海市委网信办总工程师杨海军、上海市经信委软件和信息服务业处处长刘山泉、观安信息首席专家张照龙共同启动了数据安全风险评估平台。该平台在上海市人工智能产业安全专家咨询委员会指导下，由观安信息牵头，针对人工智能应用场景中的数据安全实现多层级、多维度风险评估，为企业对人工智能系统开展自评以及第三方测评机构针对人工智能项目开展风险评估提供技术、工具和平台。此外，高端对话延续往届论坛特色研究成果，由赛博研究院和观安信息联合发布了《人工智能数据安全治理报告》。报告旨在数字新基建、数据新要素、在线新经济背景下，构建包括治理思路、治理原则和治理路径的综合性人工智能数据安全治理框架。

畅谈AI安全赋能，共话智能化科技健康发展未来

在此抗击新冠疫情中，人工智能、大数据、5G等新兴技术在疫情联防联控中发挥了重要作用。赛博研究院和腾讯安全战略研究部联合研究编著了《人工智能时代公共安全风险治理》最新图书。全书探讨了人工智能在公共安全风险治理中的创新应用，提出运用人工智能技术变革，提升公共安全风险治理水平的前瞻性策略和路径。该书是面向新时代国家治理体系和治理能力现代化建设的一次探索，也是以科技与人文相融合探寻科技善治前沿思想的一次实践。

随后，上海市经信委软件和信息服务业处处长刘山泉、上海市大数据中心副主任王晓妹、上海市委党校城市社会研究所所长马西恒、上海社会科学院互联网研究中心主任惠志斌、复旦大学数字与移动治理实验室主任郑磊、腾讯安全战略研究部网络治理研究专家赵玉现就“人工智能时代公共安全风险治理的机遇与挑战”等议题做了圆桌分享。

保障AI安全发展，探讨产、学、研多方共治之道

人工智能安全注入数字经济新动力。中国科学院院士何积丰阐述了人工智能与人类社会的共生关系以及智能制造中的人工智能体系。对人工智能带来的数据安全、算法安全等安全风险做了全面的评估，提出算法可解释性、隐私保护、公平建模、可信验证、主动防御、伦理法律、系统伦理等七条人工智能安全对策。中国工程院院士倪光南强调“新基建”要重视信息技术体系创新，坚持独立自主和对外开放相统一。

数据安全保障人工智能新发展。观安信息首席技术官胡绍勇认为，随着人工智能发展与数据安全更加深度地交织融合，数据安全问题已然成为人工智能突破关键转轨期所必须解决的重要制约瓶颈。安恒信息首席科学家刘博指出，数字经济时代，网安烟囱式建设依然普遍，保障数据安全成为重中之重。网络安全能力建设应该从策略、模型到能力中台的方向进化，能力中台是业务前台与数据后端的枢纽，健全的安全能力中台包括识别、防御、检测和响应等四体系。通过网络安全运营中心、安全能力资源池、智能检测、自动化响应、全栈感知、动态防护立体构建安全大脑，打造数字经济时代网络安全运营新模式。

智能时代开启公共安全新治理。联合国人工智能和机器人中心主任伊莱克利·伯利兹提出应该开放和共享人工智能案例和数据，提高技术透明度。腾讯云政务行业技术总监李晓辉介绍了健康码作为科技赋能公共安全治理的典型应用的启发意义，通过城市“上码”构建基础码、业务码体系，塑造城市基础信息管理体系，连接城市服务，实现智慧城市建设。德国波恩大学教授梅飞则追问了智能时代下技术对社会的治理与个人自主性影响的新议题。