关于征集2023数字科技领域（科技项目）成果评价的通知
为此，人民智库与旷视 AI 治理研究院第二次成立联合课题组，并邀请中国人工智能产业发展联盟（AIIA）为课题支持单位，共同开展“2021 年度全球十大人工智能治理事件”（以下简称“十大事件”）遴选、评议，组织相关领域权威专家学者和企业代表，以《新一代人工智能伦理规范》中提到的六条原则（具体是：人类福祉、公平公正、隐私安全、可控可信、责任担当、伦理素养）为遵循，依据理论价值、实践价值、新闻价值、研究价值等四个评价标准进行评议，并对国家相关部委、行业协会领导，高校院所专家学者以及人工智能产业领域从业者等典型群体进行深入访谈。经综合各方面资料、数据、意见、观点，最终得出 2021 年度全球十大人工智能治理事件和事件背后的发展趋势。
2021年度全球十大人工智能治理事件
十大事件三年考：
重点化、国际化、法治化
纵观 2019 年到 2021 年的全球十大人工智能治理事件，可以看到社会各界对 AI 治理领域高度关注的若干条脉络线：
一是人工智能治理的重点领域日渐明晰。基于当前人工智能技术发展阶段和经济社会生活现实，人脸识别、辅助驾驶、算法推荐作为人工智能应用较广泛、发展较迅速、现实意义强、问题矛盾也相对集中的三大重点领域，其轮廓日趋清晰，国际国内人工智能治理的重心、重点和规则规范制定出台也日趋向这三个领域及相关应用场景集中。
二是人工智能治理领域的国际合作日趋密切。随着人工智能技术迅猛发展和世界经济格局迅速演变，各国普遍认识到，人工智能的有效治理是全球性、全局性议题，没有一个区域、国家可以成为“孤岛”，也很难在缺乏有效国际共识、协作机制的前提下真正实现人工智能领域的善治。尤其是推动人工智能技术发展和应用的三大主要经济体中国、美国、欧盟，在抢占技术制高点竞争日趋激烈的同时，政府、企业和相关社会组织、行业组织之间也逐步加强了对话与合作，联合国也在国际人工智能治理规则制定等方面发挥日趋重要作用。
三是人工智能治理领域的法治化程度逐步提升。中美欧普遍高度重视人工智能领域立法，逐步实现了人工智能重点领域“有法可依”，重要应用场景均有法律法规和相关规则予以规范，为人工智能技术的可持续健康发展奠定了良好法治基础。与此相应，相关领域司法实践日趋走向成熟、稳定、可预期，成为人工智能治理领域重要“善治”基石。
四是人工智能治理领域的意识形态风险挑战日益成为焦点。世界百年未有之大变局下，大国竞争博弈日趋激烈，人工智能等前沿科技领域竞争尤其趋于白热化。算法推荐、机器人账号、社交媒体精准推送等日趋成为人工智能应用热点，个人信息乃至经济社会信息、地理信息等问题备受关注，这些都与意识形态领域安全乃至国家战略安全息息相关，人工智能治理领域的竞争与国际话语权竞争的联系日趋紧密，“元宇宙”等新的应用场景还将继续加速这一进程。
开启算法治理元年
建构平衡包容的治理体系
人工智能产业作为经济体量巨大的新兴产业，其算法对网络生态的发展亦产生了深刻影响。人工智能算法在降低公众筛选有效信息的时间成本同时，也扩大了网络生态失衡、失真的风险。在本次调查中，涉及算法治理的事件得到了专家和公众的广泛关注。“九部委发文：防止利用算法干扰社会舆论等行为；网信办拟规定不得利用算法控制热搜，用户可选择关闭算法推荐。”国际方面，“美国新提案将赋予社交媒体用户禁用算法的权利。”清华大学人工智能国际治理研究院名誉院长傅莹指出，我国目前已经初步建立起算法治理的“法治之网”，特别是在 2021 年，各部门相继出台了针对不同问题的指导意见与管理规定等文件，并且各部门出台的规章还彼此起到互益互补的作用，共同推进我国算法治理进一步规范发展，走向综合治理的发展格局。
2021 年堪称中国算法治理元年。北京科技大学法学院副教授、国家人工智能伦理与道德标准小组成员张凌寒认为，我国的算法治理体系以信息安全、市场竞争秩序和消费者权益保护为指导思想，2021 年的算法综合治理活动与相关立法，使得我国率先建立了世界上最为完备的囊括数据安全、个人信息保护和算法安全的互联网治理体系。世界第一部系统性、全面性规制算法的法律文件《互联网信息服务算法推荐管理规定》的出台和实施。《关于加强互联网信息服务算法综合治理的指导意见》宣布我国将在三年内建立起算法综合治理体系。欧盟和美国在数据保护立法领域走在了中国之前，算法规制方面中国则当仁不让地开世界先河。
人工智能时代，算法应用场景的持续丰富，推动着人们工作生活空间的“全面数字化”。因此需要对人工智能算法的风险与不确定性进行准确的识别与判断，以保障公民的算法自由与算法安全。
浙江理工大学法政学院特聘副教授、杭州长三角大数据研究院副院长郭兵认为，算法推荐等技术为网络用户和网络平台带来便利和经济利益的同时，也引发了一系列新的法律问题。平衡好算法推荐等技术的创新发展与安全风险，成为了算法治理的一大难题。
清华大学交叉信息研究院院长、人工智能国际治理研究院学术委员会主席姚期智指出，不断精进的算法、高效的算力和隐私保护是人工智能理论的新方向。“平衡包容”的人工智能治理体系的建构，将进一步释放人工智能的潜能，更大程度的保证人工智能的安全性。
法律厘清数据边界
敏捷治理回应民众关切
人工智能在造福人类的同时，带来的潜在风险也随之凸显，对于人工智能发展过程中出现的问题，需要明确其法律客体的地位，通过法律手段予以规制。传统的“先发展，后治理”的模式在人工智能时代并不适用，人工智能具有基础性与普遍性，作为一种通用技术和基础设施将对各行各业产生巨大的影响，给传统生产方式带来深刻的变革。
人工智能技术具备卓越的信息处理能力，可以将碎片化的信息进行整合，从而实现信息从“量”到“质”的飞跃。因此，如何有效保护和合理使用信息数据，成为人工智能技术健康发展所面临的重要课题。
对此，我国从司法实践角度，升级法律体系，适应人工智能时代的需要，保障个人信息安全。本次十大事件的评选中，涉及保护个人信息安全，规制个人信息收集的事件关注度最高，如《个人信息保护法》《数据安全法》正式实施，最高法出台人脸识别新规等。“人脸识别第一案在浙江省杭州市中级人民法院迎来终审宣判”受到广泛关注。在国际方面，“欧盟发布针对人工智能技术的监管法规草案，呼吁禁止公共场所人脸识别”受关注度最高。
对社会公众关注度高的热点事件进行敏捷治理，意味着及时、迅速的对人工智能的失范行为进行治理，实现治理对象的多元化。及时回应人民关切，通过法律手段对个人敏感信息收集进行治理，推动人工智能良性发展。
中国信息通信研究院云计算与大数据研究所魏凯副所长分析说，2021 年，备受关注的《数据安全法》与《个人信息保护法》出台，与《网络安全法》共同形成了数据治理法律领域的“三架马车”，标志着我国数据安全法律架构已初步搭建完成。在此基础上，聚焦重点行业、新兴技术的数据安全法律法规和司法解释也在同年密集出台，充分体现了我们国家在数据立法方面的前瞻性和创新性。这一系列法律法规的出台，为加快培育数据要素市场、保障数字经济健康发展奠定了坚实的制度基础。
清华大学公共管理学院教授、人工智能国际治理研究院副院长梁正认为，人工智能治理已经成为全球共识，且已从理念层面进入到建章立制、落地实施的阶段。除了自上而下的建章立制，自下而上的基于应用主体和用户选择的参与，也成为人工智能治理的一个重要特点。
数字广东网络建设有限公司产品研发部总经理刘亚单认为，数据安全事关国家安全和经济社会发展，提升数据安全治理能力是我们在新形势下需要着力解决的突出问题。专门法律相继发布生效，为明确数据产权与利用规则奠定了基础，推动了我国公共数据共享、开放和利用走向“规范化”发展道路，是全球个人信息法治发展的重大里程碑。
刚柔并济：
伦理标准推动科技向善
随着人工智能技术的快速发展和广泛应用，相关伦理问题愈发受到各界重视。各国政府、国际组织、学术机构和企业界都积极参与相关伦理标准的讨论和制定，确保人工智能技术发展“以人为本”。全球性、地区性及各国涉及法律、伦理、道德规范建设的新闻得到了社会各界的广泛关注。
目前，国内外对于人工智能的监管措施实现“刚柔并济”，覆盖了“柔性治理”与“刚性条款”。除了出台系列针对数据与技术的法律法规外，对于AI涉及伦理方面的内容也做出规定。中国政府高度向来重视人工智能产业发展中的伦理问题。2017 年 7 月，国务院在《新一代人工智能发展规划》中提出，要“制定促进人工智能发展的法律法规和伦理规范；开展人工智能行为科学和伦理等问题研究；制定人工智能产品研发设计人员的道德规范和行为守则”。2019 年 6 月，国家新一代人工智能治理专业委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》，旨在“更好地协调发展与治理的关系，确保人工智能安全可靠可控，推动经济、社会及生态可持续发展”。2021 年 9 月 25 日，《新一代人工智能伦理规范》发布，旨在将伦理道德融入人工智能全生命周期，为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引。
联合国是推动建立全球 AI 伦理规范的重要力量。2019 年，联合国教科文组织启动了全球AI伦理建议书的撰写，并于 2020 年 9 月完成草案，提交 193 个会员国协商，2021 年 11 月发布了《人工智能伦理建议书》，这是全球首个针对人工智能伦理制定的规范框架。这一历史性文本确定了共同的价值观和原则，用以指导建设必需的法律框架来确保人工智能的健康发展。此外，世界卫生组织(WHO)于 2021 年 6 月 28 日正式发布了“世界卫生组织卫生健康领域人工智能伦理与治理指南”，为不同的国家最大化人工智能的益处和最小化其风险并避免危害提供了指引。
中国信息通信研究院云计算与大数据研究所何宝宏所长指出，2021 年，国家新一代人工智能治理专业委员会发布了《新一代人工智能伦理规范》，细化落实《新一代人工智能治理原则》，是我国深化人工智能治理工作的又一重大举措。人工智能技术以数据、算法为驱动，发展速度迅猛，正在深刻改变人类的社会生产和生活模式。但人工智能技术的滥用也冲击社会伦理底线、侵犯个人权益。所以，既要大力发展人工智能，又要高度重视风险和挑战，科学处理好发展和治理的关系，发展可信的人工智能。
京东探索研究院院长陶大程认为，我们需要增强用户的信任，提升人工智能落地服务的质量，因此发展可信人工智能是当前社会各界的重要共识，加强 AI 治理将能够为人工智能技术的进一步发展及其更广泛应用落地提供可靠保证。
AI 增进民生福祉
前沿科技勾勒幸福未来
关于自动驾驶是否合法以及自动驾驶主体责任等问题的讨论一直是各界热议话题，从 19 年十大事件的“自动驾驶安全事故问责难”到“自动驾驶汽车 2021 年或将在英国合法化”入围 21 年十大事件，意味着社会对 AI 技术成熟度的逐步认可。南京大学计算机科学与技术系聂长海教授认为，这是人类迈出的一大步，必将推动这个领域的更大进步：除了道路等基础设施建设、自动驾驶汽车能力等自动驾驶相关技术的进步，以此为示范和契机，将会带动更多的无人系统和自治系统的繁荣和发展。
在国内，关于人工智能技术向善的事件十分令人暖心：中科院通过 AI 算法技术，开发了自杀意念识别模型，在社交网络上识别有自杀倾向的网友并对其展开救助；在 2022 冬奥会开始之际，AI 手语主播将全年无休为听障用户传达比赛资讯；此外，AI 首次预测未来两年气候，这对人类提前筹划预防自然灾害很有帮助。据外媒报道，某技术公司研发的微芯片装置有望 2022 年植入人类大脑，这一技术将为瘫痪者带来希望。
南京大学科学技术与社会研究所所长潘天群教授认为，当代社会有抑郁等心理障碍的人越来越多，因心理问题而自杀的人也越来越多。在网上“树洞”进行倾诉是心理障碍者的一个重要渠道。人工智能技术设计的软件用于阻止更多意图自杀的人，是公益性的，有巨大的社会价值，同时，也有示范性意义：即基于网上的资源可以开发出各种公益价值的软件。
“AI 手语主播，AI 数字人技术可以通过人工智能让机器用某些情感贯穿的表达方式，面部表情后台逻辑，在虚拟世界中打造一个真实的助手或者合作伙伴。未来AI 客服、AI 经理、AI 店长、AI 演示员等多种社会角色，或许将陆续在不同行业、不同领域‘上岗’，让人们切实体会到‘人工智能建设的美好世界’。”科大讯飞高级副总裁江涛如是说。
招商银行人工智能实验室主任李金龙认为，随着AI在生物医学、社会服务以及大气研究等多个领域落地开花，AI 的能力被进一步证明，并更好的服务人类，为基础研究加速。早期的如语音播报能力为视弱者提供移动服务，到现在的AI预测蛋白质结构节约研究成本等，无不证明，科学合理使用 AI 能力可以为人类社会造福。
趋势前瞻：
AI 为推动人类文明进步正向赋能
中国信息通信研究院副总工程师、中国人工智能产业发展联盟副秘书长王爱华认为，2021 年是全球人工智能治理极具实质性突破的一年，呈现出三大发展特点：一是治理“趋实”、二是治理“趋严”、三是治理“趋细”。将抽象的人工智能伦理原则、法律规范转化为具体实践，落实到技术、产品和应用中去，是产业界急需加快推进的紧迫工作。
旷视科技联合创始人兼 CEO 印奇认为，作为全球科技竞争的关键领域，人工智能不仅需要在技术创新和应用落地方面下工夫，也需要在治理上使力气。人工智能既是我们创造美好生活的重要手段，也是需要进行妥善治理的对象。AI 治理的向上向善发展需要理性的关注，深度的研究，建设性的讨论和坚持不懈的行动。用人工智能造福大众，这离不开所有 AI 从业者和社会各界的多元共治，共同努力。
未来，考察 AI 治理问题，一是需要增加新型全球化背景下的宏观考察，于构建人类命运共同体的时代议题之下，考量人工智能对人类文明的推动；更加聚焦前沿科技服务民生和助力公平，增强大众对 AI 改善民生福祉，助力幸福未来的期待和信心。二是通过法治手段厘清人工智能的法治伦理边界。有关部门密切追踪技术前沿，广泛吸纳意见和建议，对伦理规范进行科学、动态制定和调整，引导 AI 为推动人类文明进步正向赋能。三是更加强调 AI 治理的国际合作和政产学研合作，对于人工智能治理的问题需要全人类共同面对，相关标准规范的制定需要多方参与、共商共议、交流互鉴。
人民智库与旷视AI治理研究院 联合课题组
|
