解读上海人工智能立法   2022-09-09

        “上海条例为上海市的人工智能产业发展提供了一个方向指引。”丁波涛告诉记者，与《上海市数据条例》不同，上海条例是一个综合性的产业条例，目标是打造人工智能产业的“上海高地”，更加突出重大技术创新、重要产业发展以及重点应用场景的建设，为上海人工智能产业发展指明了方向。

        “当某个产业发展规则进入立法阶段，说明我们对它的调整或者促进形成了比较深入的认识。”陈吉栋向记者表示，征求意见稿的出台标志着上海市对人工智能产业和治理的认知有了一个新的提升。

         2017年，为贯彻落实国家《新一代人工智能发展规划》，上海市发布《关于本市推动新一代人工智能发展的实施意见》，首次将人工智能上升为上海优先发展战略，正式拉开上海人工智能产业发展序幕。

         顶层规划方面，上海先后推出《关于加快推进人工智能高质量发展的实施办法》、《关于建设人工智能上海高地 构建一流创新生态的行动方案（2019-2021年）》、《上海市人工智能产业发展“十四五”规划》（以下简称“规划”）等政策。

         组织保障方面，上海市成立人工智能产业工作领导小组、上海市人工智能战略咨询专家委员会。

         资源整合方面，上海建设全国首个人工智能创新应用先导区、国家新一代人工智能创新发展试验区。

         资本市场方面，上海人工智能产业投资基金成立，推动一批领军企业科创板上市。

         生态体系方面，上海市人工智能行业协会、全球高校人工智能学术联盟、青年AI科学家联盟等行业组织成立。

 

         治理体系方面，上海成立国家试验区专委会治理工作组、市级人工智能产业安全专委会等机构。

         论坛研究方面，上海市持续举办人工智能法治、安全、治理等论坛，发布《人工智能安全发展上海倡议》、《世界人工智能法治蓝皮书》等报告。

         此外，上海探索人工智能地方立法工作已有多年，不断推进可信人工智能研究。

         2021年，《上海市人工智能产业发展“十四五”规划》正式发布实施，规划提出，力争到2025年，上海人工智能技术创新能力和产业竞争力显著提升，部分领域达到世界领先水平，基本建成更具国际影响力的人工智能“上海高地”；人工智能深度赋能经济、生活、治理领域数字化转型，助力提升城市能级、核心竞争力和城市软实力，成为上海城市数字化转型发展的核心驱动力；人工智能创新人才集聚与培育体系进一步完善，人工智能法规体系、标准体系、监管体系初步建立，形成敏捷治理的“上海方案”，为全球人工智能治理贡献上海智慧。

         到2035年，上海人工智能整体发展达到世界领先水平，成为全球资源集聚、应用广泛深入、产业链条完备、治理敏捷可靠的世界人工智能中心节点城市，形成泛在、集智、全能的人工智能与城市发展深度融合格局，为建成面向未来的社会主义现代化国际大都市奠定坚实基础。

        丁波涛指出，上海在条例中突出了自己人工智能产业发展的特色与优势，其优势主要在于科学研发、产业聚焦两方面。

        突出上海科学研发优势方面，征求意见稿第二章第二节聚焦科技创新，支持高校、科研机构、企业开展基础理论研究、关键共性技术研发以及相关跨学科交叉领域研究；支持重点实验室、重大科研平台建设；支持设立新型研发机构；鼓励全域创新和自主研发；鼓励科技资源开放共享；支持人工智能创新专项；推动科研组织管理方式改革；建立有利于促进人工智能领域科技成功转化的激励机制。

        产业聚焦方面，第三章第二节明确了上海人工智能产业的重点促进方向。征求意见稿要求，上海市将通过加大政策支持、建设创新体系、推动集群发展等方式，促进基础硬件、关键软件、智能产品等方面的高质量发展。

        具体到产业方面，征求意见稿支持智能芯片、人工智能框架软件和系统软件、智能机器人、智能网联汽车、无人机与无人船等五大产业发展，并对相关细分产业行业组织制定一系列标准。

        智能芯片方面，支持相关主体研制云端芯片和云端智能服务器，鼓励前瞻布局类脑芯片，培育智能芯片应用生态体系。

        人工智能框架软件和系统软件方面，支持相关主体开发人工智能系统软件和服务器级操作系统。支持相关主体开发推广自动机器学习系统，进一步提升系统效率、通用性和易用性。鼓励相关主体开发面向智能产品的操作系统，促进各类应用功能开发。

        智能机器人方面，推动智能机器人软硬件系统标准化和模块化建设，支持培育智能机器人系统集成商，鼓励相关企业、产品使用方与金融机构采用产品租赁、服务采购等方式，拓展智能机器人应用场景。同时，有关部门将推动相关行业组织制定机器人智能化水平分级、应用安全测试等标准，引导智能机器人技术迭代，保障智能机器人的信息安全和使用安全。

       智能网联车方面，支持开展智能网联汽车关键技术、操作系统、专属芯片和核心零部件的自主研发和产业应用。支持相关主体根据有关规定，在本市公路（含高速公路）、城市道路（含城市快速路）、停车场等区域开展智能网联汽车测试、示范应用和示范运营，推动无人驾驶装备在特定区域或者道路上开展测试和应用。要求有关部门制定智能网联汽车测试、示范应用和示范运营等方面的具体规定。

       无人机和无人船方面，支持建设民用无人驾驶航空试验基地（试验区）、无人机起降点及通用机场、无人机运行管理服务平台，加强多部门协同监管，通过运行管理服务平台提供航路航线规划、电子围栏设置等服务，支持拓展无人机应用场景。完善无人船电子航道测绘、智能航运通信等保障体系，在特定区域开展无人船航道测试。

       丁波涛认为：“与此前深圳人工智能条例对行业较为宽泛的描述不同，《上海市促进人工智能产业发展条例（草案）》重点突出的几大产业非常聚焦，同时对相关细分领域规则出台作出规定，对产业发展有很强的引导作用。”

       陈吉栋向记者表示，上海条例明确了人工智能产业发展的方向和重点领域，通过立法为上海实现建设世界级产业集群这一目标提供了有力支撑。

      专家解读AI法治密码 体现哪些地方特色？

      丁波涛指出，征求意见稿为上海人工智能产业发展提供了动力源泉。例如其在优化要素资源配置方面，从高性能算力、先进性算法、高质量数据集方面提出了很多支持、促进举措，同时在发展资源方面，为人工智能产业发展所需要的人才、资金、研发、设备以及能耗等方面提供了综合性保障。

      记者注意到，征求意见稿第二章第一节即明确了促进人工智能产业发展的基本要素，涵盖算力资源、东数西算和长三角国家枢纽节点建设、算力研发与开源、算法流通交易市场、建设高质量数据集、应用数据的合理开发等。

       “上海条例与深圳相比最大的特点和创新，在于其促进基础要素的流通、使用和运营，在此过程中推动相关主体的权益保护，从而更好地调动激发市场活力，调动产业主体的积极性，促进人工智能产业生态发展和完善。”陈吉栋向记者表示，在应用赋能方面，围绕上海城市数字化转型，强调从经济、生活、治理等各方面来通过发挥人工智能产业的作用，深度赋能建设人工智能产业发展“上海高地”，强调场景培育、场景开放、场景运营等等。

       在记者的采访过程中，两位专家都提到，在《上海市促进人工智能产业发展条例》的立法之初，就与《上海市数据条例》互相支撑，从人工智能产业的角度对《上海市数据条例》进行衔接 与深化，推动人工智能产业的数据流通与使用。

       陈吉栋指出，尽管与上海市数据条例相比，征求意见稿对于数据的规定涉及条文并不多，但内容丰富并作出创新，具体体现在两大方面。

       第一，在高质量数据集方面，要求面向产业强调建立高质量数据集，要求面向本市建设大规模的人工智能数据库，对数据资源进行统计，便于后续资源汇总。

       在前期调研的过程中，丁波涛也发现，很多人工智能企业需要大量数据进行训练建模，但通过企业自身采集数据成本非常高，数据质量也难以得到保障。“我们希望通过这一条例鼓励人工智能企业，通过市场渠道，特别是通过上海数据交易所来获得这些高质量的数据集，一方面可以降低企业获取数据的成本和风险，另一方面也推动上海数据要素市场发展。”

        第二，在应用数据合理开发方面，从政府端扩大了公共数据分类分级有序开放供给的范围，从企业端明确支持相关主体单独或者联合申请公共数据开放，保障中小企业、个人开发者等公平使用开放数据。同时，上海支持人工智能企业对AI应用中生成的数据进行开发使用，鼓励企业通过上海数交所开展相关数据产品的交易，推动产业内数据流通交易。

        “这是我认为上海市促进人工智能产业发展条例的一大亮点，”陈吉栋告诉记者，“数据流通过程中，存在供给不均衡的问题，从企业侧，这一制度保护了中小企业和个人开发者使用公共数据的可能性。”

        丁波涛向记者透露，上海的人工智能立法思路对《上海市数据条例》有所借鉴。例如在人工智能资产评估方面，沿袭了数据条例中数据资产评估的思路，算法模型和算力资源的交易流通，也借鉴了数据交易与流通的规定，是对数据流通、交易、资产评估的衔接与突破。

        “上海市人工智能立法另一大创新，在第五章产业治理方面，设立人工智能伦理委员会，提倡创新分级治理，并对开发者伦理进行规范，要求企业合理应用人工智能技术，强化劳动者保护和特殊群体关照。”陈吉栋指出，对产业治理的规范奠定了产业发展的伦理基础，明确了产业发展的安全底线。

        丁波涛同样认为，条例为上海人工智能产业发展提供了基础的治理规则，监管模式的创新是一大特色。

        征求意见稿第五章第六十三条创新分级治理方面，要求市相关部门根据人工智能应用的风险情况、应用场景、影响范围等具体情境，实施分级治理，在特定区域和范围开展应用测试，探索沙盒监管。鼓励社会组织和个人对人工智能研发与应用进行监督。同时，上海市设立人工智能伦理专家委员会，推动建立人工智能领域伦理道德自律规范，对涉及生命健康、公共安全等重点领域人工智能应用的潜在风险开展评估。

       在伦理规范方面，要求人工智能伦理专家委员会指导有关行业组织、企业等，制定人工智能产品研发设计人员道德规范和行为守则，加强对人工智能潜在危害与收益的评估，研究提出人工智能复杂场景下突发事件的解决方案。

        同时，要求相关主体在提供人工智能产品和服务过程中，使用大数据与算法等技术时，不得进行不合理的差别待遇。相关主体在利用生物识别技术提供服务时，应当对生物识别信息内容进行标识，采取安全可控的技术保障措施。市网信部门应当对生物识别信息加强监管，监督指导生物识别服务提供者提供相关服务。

        在劳动者保护与特殊群体关照方面，条例指出，用人单位在使用人工智能技术辅助劳动纪律管理、劳动者工作调度、招聘和晋升决策等应用中，应当符合法律和伦理规范，不得设置歧视性条件，保护劳动者合法权益。也应加强人工智能在教育、医疗、养老、抚幼、助残等领域的应用，提升老年人、残疾人、未成年人等特殊群体的生活品质。提供智能化公共服务，应当充分考虑老年人、残疾人的需求，避免对老年人、残疾人的日常生活造成障碍。

        作为长三角区域的示范性城市，上海人工智能产业发展走在前列。

        大成律师事务所合伙人肖飒向21世纪经济报道记者表示，《上海市促进人工智能产业发展条例（草案）》为长三角区域的人工智能产业协同发展提供了法律保障，对于强化组织领导，推动制度创新，加强多元参与，优化统计监测，促进开放合作具有重要意义。

        条例多次提及长三角区域人工智能产业的协同融合发展。

        从总则来看，第一章第十条要求加强区域合作，与长三角区域人工智能产业协同融合发展，共同推进跨区域的人工智能产业发展规划衔接、技术标准互认、关键领域测试数据共享互认、基础设施建设成本分担和利益共享等工作。

        从基础设施来看，条例要求建设东数西算和长三角国家枢纽节点建设。按照国家部署实施“东数西算”工程，推进云网协同发展，提升数据中心跨网络、跨地域数据交互能力，加强面向特定场景的边缘计算能力，强化算力统筹和智能调度；协同长三角区域其他省市打造全国一体化大数据中心体系长三角国家枢纽节点，优化数据中心基础设施建设布局，引导数据中心集约化、规模化、绿色化发展，推动算力、数据、应用资源集约化和服务化创新，保障人工智能产业发展算力需求。

 

        上海社会科学院信息研究所副所长丁波涛指出，上海人工智能立法对长三角区域的人工智能产业发展作用有三大方面。

        第一，上海领先对人工智能产业进行立法，对长三角区域起到引领作用。“目前长三角地区也非常重视人工智能产业的发展，上海在产业发展中遇到的种种难题和困惑一定也是其他地区的难点痛点。”据丁波涛了解，在去年《上海市数据条例》出台后，长三角地区也在制定拟出台类似的法规，他相信在上海人工智能立法后，也会带动其他地区跟进相关产业立法工作。

  

        第二，上海的人工智能产业立法，对长三角区域地方立法起到示范效应。“长三角在地方立法过程中可以借鉴上海的很多思想和举措，甚至是具体的条纹，结合地方实际进行借鉴吸收。”

        第三，协同长三角地区人工智能产业发展。上海在条例中明确了上海人工智能产业发展的重点领域和重点方向，以及要采取的重点举措，这为长三角其他地区明确产业发展的自身定位提供一个参照。同时，也为其他地区与上海在人工智能产业协作提供了“指南”。

        “条例在制定之初，在基本理念上就非常注重区域协同发展，” 同济大学法学院副教授、上海市人工智能社会治理协同创新中心研究员陈吉栋向记者表示，“相信未来上海的人工智能立法不仅对长三角地区，也能对其他地区立法都起到引领示范作用。”

 作者是上海社会科学院信息研究所副所长丁波涛，同济大学法学院副教授、上海市人工智能社会治理协同创新中心研究员陈吉栋。

 来源：21世纪经济报道