聚焦人工智能技术前沿与治理 中外专家学者国际论坛建言献策******

　　中新网北京12月5日电 (记者 孙自法)2021人工智能合作与治理国际论坛“人工智能技术前沿与治理”主论坛，12月5日在清华大学以线上线下结合方式举行，中外人工智能(AI)领域专家学者聚焦人工智能技术前沿与治理这一主题，发表主旨演讲建言献策，并深入研讨交流。

　　美国国家科学院院士、美国艺术与科学院院士、约翰·贝茨·克拉克奖得主、斯坦福大学商学院技术经济学教授、以人为本人工智能研究所副所长苏珊·阿西(Susan Athey)认为，大学在指导人工智能创新方面可以发挥优先引导的关键作用。由于私营部门的技术人员缺乏伦理、哲学方面的训练，难以开发出具有可解释性的算法框架，深化这类研究能够在人工智能治理的问题识别、建立开发实践框架、提供指引等方面发挥重要作用。此外，由于数据可以带来巨大的规模效应，当前“软件即服务”的平台经济模式已非常普及。人工智能和数据需求可能带来“伪”市场集中，因此，未来对“机器换人”的预测非常具有挑战性，需要重新关注和思考人工智能如何用于应对老龄化等公共管理问题，使基于人工智能的公共服务变得更加高效。

　　国际人工智能协会前主席、清华大学人工智能国际治理研究院学术委员约兰达·吉尔(Yolanda Gil)指出，由于人类对智能机制认知不足、智能行为本身的复杂性、观测手段的有限性以及个体知识、职业、信仰、文化背景等的差异性，导致当前人工智能研究中面临着一系列挑战，因此，需要加强人工智能基础研究工作，这需要跨领域、跨学科的共同努力。当前，理解人工智能机理和构建人工智能世界模型是人工智能研究面临的两大挑战。一方面，理解人工智能机理需要构架“感知-思考-行动”的智能模型，加强对大脑思维机理的理解，建议借鉴神经科学研究联合体的有益经验，建立全球性的人工智能研究数据库，形成全球共享的研究社区。另一方面，构建人工智能世界模型则需要建立在人类经验、社会习俗、专业技能的基础上，建议建立类似于自由协作式的知识库，通过全民民众参与，推动知识在全球层面共享。

　　中国科学院院士、清华大学人工智能研究院名誉院长、清华大学人工智能国际治理研究院学术委员张钹表示，由于深度学习等算法存在不可解释性，导致前两代人工智能算法存在着公平性、安全性问题和不可靠、不可信等缺陷。发展第三代人工智能关键在于发展可解释的、鲁棒的人工智能理论和方法，开发安全、可信、可靠、可扩展的人工智能技术，以“数据驱动+知识驱动”构建支持可解释的人工智能算法的深度学习平台，赋能人工智能安全与防御优化。从数据中真正获取智能要靠知识的帮助与引导，并需要政策法规对数据使用的正确规范，充分利用知识、数据、算法和算力四个要素结合，推动人工智能的创新发展。

　　中国工程院院士、北京大学信息科学技术学院院长、鹏城实验室主任、清华大学人工智能国际治理研究院学术委员高文认为，当前人工智能发展处于新一代人工智能向强人工智能发展的关键阶段，至2030年，中国人工智能发展总体要达到世界领先水平。从战略问题看，中美欧三方在人工智能人才、研究、开发、应用、硬件、数据等方面竞争激烈，当前中国人工智能发展在战略政策、数据资源、应用场景、潜力人才方面具有优势，而在基础理论、原创算法、关键部件、国际平台、高级人才等方面还存在短板。从战术问题看，人工智能2.0需采用基于大数据的统计AI解决大规模AI应用需求，鼓励各种可能的强人工智能探索，“可解释机器学习+推理”和“仿生系统+AI大算力”是可能的技术路线图；在安全问题层面，强人工智能的安全风险主要来源于模型的不可解释性、算法和硬件的不可靠性和自主意识的不可控性，人工智能2.0应采用DPI与“防水堡技术”解决数据安全与隐私保护，重视探索人工智能伦理问题，并基于“理论-技术研究-应用”的阶段性采取不同的风险防范策略。

　　美国国家工程院外籍院士、英国皇家工程院外籍院士、清华大学高等研究院双聘教授沈向洋表示，AI已经应用于生活和工作的方方面面，目前甚至在法律上也具有一定的应用，比如美国已经有很多法庭用机器学习和人工智能方法帮助判刑，包括决定刑期这样非常重要的问题。但是我们还无法理解一些AI决策的缘由。未来发展过程中我们不能只看见AI决策的“黑箱”，应该打开“黑箱”，探究和理解其中的具体内容和因果关系，我们一定要做可解释性的AI。同时，他提到负责任的AI应具备公平性、可靠性、隐私性、包容性、透明性和责任性的特点，作为新兴领域，还需要向其他领域学习，从而更好的服务于人类。

　　中国工程院外籍院士、清华大学智能产业研究院院长、人工智能国际治理研究院学术委员张亚勤指出，“碳中和”是人类能源结构的又一次变革。“碳中和”既是可持续发展的必然选择，又是产业结构调整和发展的重大机遇。企业在“碳中和”背景下都面临转型增效的压力。人工智能+物联网是智联网，智联网可以赋能绿色计算，助力“碳中和”。智联网助力“碳中和”主要包括三个环节：首先，由数据驱动和人工智能优化引擎来实现智能决策。其次，多参数全链系统配置优化。最后，通过多源多维异构感知融合实现智能感知。智联网可用于能源融合、降低ICT产业的碳排放和推动新兴产业发展等。他还介绍了智联网赋能的绿色计算平台的框架，该平台包括人工智能驱动节能减排和高能效人工智能系统，应用路径包括绿色园区和工业节能。

　　2021人工智能合作与治理国际论坛由清华大学主办，清华大学人工智能国际治理研究院承办，国际支持机构为联合国开发计划署。论坛为期两天，设有三场主论坛、一场特别论坛和七场专题论坛。“人工智能技术前沿与治理”主论坛由清华大学计算机科学与技术系教授、人工智能研究院常务副院长孙茂松主持。(完)

【网络强国这十年】微步在线薛锋：以“新安全”应对“新威胁”******

　　【网络强国这十年——行业观点篇】

　　当今时代，信息技术发展日新月异，实体产业数字化、云化转型的加速，提升了社会基础设施的运转效率。与此同时，网络攻击技术持续演进，供应链攻击、勒索攻击等新式网络攻击手段屡见不鲜，也带来了更多的网络安全“新威胁”。

　　近日，微步在线创始人、CEO薛锋做客光明网“网络强国这十年”专栏，畅谈关于网络安全态势及行业发展趋势的观察与思考。

　　用户需求逐渐侧重“疗效”

　　薛锋表示，“新威胁”主要体现在几个方面，首先是基础设施的变化。通俗来说，网络安全其实是保护基础设施的，所以一旦基础设施发生变化，网络安全也就随之变化。

　　我们可以看到，在基础设施端，随着5G、云计算技术的发展，物联网、车联网等技术应用日趋成熟和广泛，网络安全态势也在同步发生变化。

　　其次是网络攻击的发起方发生变化。比如，人们经常在新闻上能看到的“挖矿勒索病毒”，就成为了近几年网络攻击占比最大的攻击方式之一。背后攻击者的利益和驱动发生了很大变化，包括一些类似于数字货币的存在，都为黑客顺利完成勒索攻击和变现提供了极大便捷性，所以，网络攻击也越来越多。

　　在此背景下，国家相关单位在监管提出了更高的要求，对推动网络安全技术和产业发展出台了一系列举措。

　　最后，网络安全行业的需求端也发生了一定变化。用户需求更加数字化，企业随之更重视网络安全、更重视效果。“大家不像很多年前，更在乎买了什么，现在大家更在乎安全有没有问题，怎么解决问题，怎么发现问题，更在乎‘疗效’。”薛锋说。

　　安全服务不再是“一锤子买卖”

　　当今世界正处于百年未有之大变局中，我国面临的网络安全态势也同步发生了前所未有的变化，网络安全产业不断焕发活力，正呈现从传统安全向“新安全”的转变。

　　薛锋介绍，当下网络安全行业中，威胁端和需求端都在发生变化，“新安全”是网络安全产业供给端逐渐演化出的新业态。主要有以下几个特征：

　　首先在交付方式上走向“云化”。过去的网络安全通常是以软件或硬件的本地化交付为主，就像过去买电视机是在线下，而现在的互联网电视或者视频APP，其交付方式、内容和能力更多的集中在云端。针对近两年飞速发展的远程办公、混合办公场景，安全行业这种“云化”的订阅服务显得正当其时。

　　其次服务模式上采取“安全即服务SECaaS”的订阅模式。订阅的本质是持续服务，以客户的满意和成功为目标，更关注客户的使用体验与效果，促使政企客户认可为效果付费，而非仅仅是“一锤子买卖”。

　　“我们对此提出了安全行业的‘客户成功’概念。你是否真的关心你的客户，你的客户是否取得了成功，这在整个SaaS行业都很重要。”薛锋说。

　　最后，“新安全”更加注重面向安全运营的实战效果。面向新监管要求和新威胁带来的需求，需求端的用户更在乎实战效果，作为供给方理应捕捉市场需求，帮助其真正解决问题，而非简单的满足用户填补安全空白。

　　产业创新更注重实战效果

　　薛锋表示，以“新安全”应对“新威胁”，应当以提升网络攻防技术为基础，以政策导向提升网络安全产业链转速，推动网络安全产业发展壮大，紧密结合数字经济、智慧社会的规划建设，提高我国网络安全整体水平，为建设网络强国提供强有力的保障。

　　薛锋介绍，传统网络安全除了以软件和硬件为交付方式外，背后技术原理也多依赖一些特征码、规则和策略来开展防范，存在一定滞后性，误报和漏报的空间也相对较大。

　　对此，微步在线通过威胁情报技术开展创新，用数据来保护数据。“通俗来说，因为每个企业要保护的资产对象通常是一些有价值的数据，通过大数据实时关联和分析，对黑客、木马等进行持续、实时分析追踪，这样的话，攻击方要对抗的就不是某一个特征，而是一个类似‘天网’的信息量巨大的黑客知识图谱。攻击方逃避这张图谱要花费的代价是非常高的，所以这种新技术突破实战效果是非常好的。”

　　对于网络安全行业技术创新现状，薛锋也表达了自己的见解。他认为，当前，整个行业都在尝试新的安全创新，其中一大标志就是多数行业同仁都看到了需求方对于实战效果的需求，所以面向实战效果的创新越来越多。目前来说，这种“心往一处想，劲往一处使”的创新，在需求端也得到了一定积极反馈。

　　对于网络安全行业发展趋势，薛锋表示，面对不断出现的新威胁，希望网络安全领域各参与方携手共进、互信共治，综合运用在技术、产品、服务和实战方面的新安全手段有效应对，不断推动网安产业步入新阶段，让网络空间命运共同体更具生机活力。

　　监制：张宁 李政葳

　　采访：雷渺鑫 李飞

　　拍摄/后期：雷渺鑫