【摘要】人工智能是引领新一轮科技革命和产业变革的重要驱动力，正深刻改变着人们的生产、生活、学习方式。人类将不再满足于肌肉力量的突破与超越，而是致力于大脑智慧的拓展与延伸，以创意和创新的力量，取代传统发展模式，进而实现“指数级增长、数字化进步和组合式创新”。发挥人工智能发展优势，助力中国人工智能不断成长，避免人工智能“成长烦恼”，方能不断深化对人工智能内涵、外延、功能和发展前景的认识，实现新一代人工智能健康发展，打造人工智能时代的中国新优势。
【关键词】人工智能 创新发展 社会治理 【中图分类号】C916 【文献标识码】A
自工业革命开始，人类社会进入现代发展阶段。与传统社会相比，技术创新已经成为现代社会不可或缺的生产因素。当前，以人工智能为代表的新一轮科技革命和产业变革正在孕育兴起，表现出与传统技术经济范式显著不同的特征。对于后发国家来说，如何抓住新技术革命的机遇，是创新发展研究的重要议题。
传统时代的创新发展
工业时代的创新发展及其问题。工业革命被看作现代经济的开端，标志着人类社会进入现代发展阶段。工业革命极大地促进了生产力发展，使人类摆脱了“马尔萨斯陷阱”的束缚，并对科技、经济、社会、文化产生了广泛而深远的影响。前两次工业革命都始于新型生产技术和能源的使用，从生产环节的创新逐步扩展到管理模式、组织结构、社会生活等方面的创新。与第一次工业革命相比，第二次工业革命的影响范围更广、程度更深。
随着传统工业技术的式微，人类社会开始面临严峻挑战。工业时代的经济增长很大程度上依赖于对自然资源的开发和使用，更高的产出意味着更多的能源消耗和更严重的环境污染，20世纪70年代的石油危机加重了人们对工业社会的质疑。在社会财富总量增加的同时，也产生了更加不均的财富分配和更大的社会分化，社会矛盾愈演愈烈。严重的环境污染、逐渐停滞的经济增长、居高不下的失业率和通货膨胀引发了人们对工业社会技术经济范式的广泛批评。工业革命带来的增长动力似乎已经消耗殆尽，第四次经济长波开始进入下降期，人类社会急需新的技术和增长引擎。
信息时代的创新发展及其优势。20世纪70—80年代兴起的信息技术革命，全面而深刻地改变了传统生产方式、企业组织形式、产业分工格局、人类生活方式和社会交往方式，推动人类社会进入一个新的历史纪元（吴敬琏，2011）。信息技术颠覆了工业时代的经济模式，企业理念、组织架构、雇佣关系都发生了巨大改变，给“旧经济模式”带来了巨大挑战（Lazonick，2011）。在信息社会，提升国际竞争力的关键是将自然资源禀赋转变为创造性资源禀赋，特别是知识和人力资本的存量（布鲁兰德和莫利，2009）。
信息技术革命创造了“新经济”和“股市繁荣”，特别是在互联网繁荣期，股东价值最大化主导了企业的经营理念，大量上市公司将其利润用于股票回购刺激股价，而不是投入研发。到了20世纪末，信息技术产业市场逐渐饱和、技术创新和突破愈发困难。2001年，美国互联网泡沫破灭，大量依赖风险投资的互联网企业破产，并为几年后的次贷危机埋下了伏笔。从经济周期来看，早期信息技术和产业作为第五次经济长波的核心驱动力已显露出疲态，也标志着本次长波进入下降期。经历了巨大的代价和深刻反思之后，人们渴望出现新的重大技术创新浪潮，带领全球经济走向新的繁荣。
人工智能时代的创新发展
前几次工业革命分别实现了机械化、电气化和信息化，由人工智能等技术驱动的新产业革命将实现智能化。人工智能作为新一轮科技革命和产业变革的代表性技术和通用性技术，具有广泛渗透性，会对人类科技、经济和社会发展产生革命性影响。
第一，人工智能时代正在到来。“人工智能”一词首次出现于1956年达特茅斯学院会议讨论会上，探究机器在哪些方面能够模仿人的智能。2016年，美国白宫发布的《人工智能、自动化与经济》报告指出，人工智能不是一种特定的技术，而是应用于特定任务的技术集合。相较于传统的信息技术，人工智能的突破点在于获得了自我学习的能力。纵观人类技术变迁史，人工智能之前的技术创新主要是替代人的体力，而人工智能技术开始替代人类的智力，因此人工智能是人类历史上具有里程碑意义的技术创新（Brynjolfsson和Mcafee，2014）。人工智能的发展，标志着人类第三次认知革命，其本质是通过探求人类智能认识自我而形成主观世界的机制，并把这样的能力赋予机器以改造客观世界，实现人类智能的体外延伸。从这个意义上来说，人工智能的发展将会大大改变人类文明的进程（郭毅可，2021）。
与此同时，人类将不再满足于肌肉力量的突破与超越，而是致力于大脑智慧的拓展与延伸，以创意和创新的力量，取代传统发展模式，进而实现“指数级增长、数字化进步和组合式创新”。当前，人工智能技术的应用除了常见的智能推荐、无人驾驶、人脸识别、图像识别、机器翻译、人机交互、语音识别等社会生活场景外，还在新药研发、材料设计、国防军工等领域有突破性的发展和应用。最为重要的是，人工智能技术拥有自我学习、自我进步的能力，可以通过学习而不断升级，是一种新的、正在不断发展进步的生产力。因此，这一变革将不仅仅是单纯的科技或者经济意义上的变革，也将对人们的思想观念、生活方式、社会结构、人文心理甚至国家治理产生广泛而深刻的影响（Brynjolfsson和Mcafee，2014）。
从技术经济史来看，每一次技术革命都会呈现出一些与之前的主导技术完全不同的特征。与第五次长波主要依靠信息技术不同，第六次长波需要一个复杂的“技术族群”来支撑。当前的新兴技术集体爆发，除人工智能外，物联网、3D打印、纳米技术、生物技术、新材料、能源储存、量子计算等集中出现，并且在物理、数字和生物技术推动下相互促进并不断融合。如果说人工智能、新能源、新材料和生物技术搭建了第六次长波的技术框架，那么日渐兴起的新型生产方式与商业模式则丰富了新经济范式的内容，显现出与前几次长波截然不同的特征。例如，数字化和物联网带来了与工业时代和早期信息技术时代完全不同的优化资源配置的智能化解决方案。虽然这些新技术和商业模式尚未普及成为主导范式，但已显现出新范式的特征，代表了新范式的发展趋势（如表1所示）。
总体来说，新一轮技术革命与产业变革在整体上仍然处于初始期，突破性创新正在经历市场竞争与初始用户的选择，技术与商业模式尚未成熟，旧范式的影响仍然强大，与产业革命的成熟范式仍有不小距离。但是随着数字化技术框架的基本成型，一个全新的技术经济范式正在形成（Brynjolfsson和Mcafee，2014）。新产业革命已现端倪，尤其是在主要国家推行各种技术和产业战略后，这种趋势更为明显。总体而言，当前正处于从一个技术经济范式到另一个范式的过渡阶段，我们需要做好迎接人工智能时代的充分准备。
第二，人工智能对创新发展的影响。一是从人工智能对企业创新发展影响的角度来看：首先，数据成为新的生产要素。人工智能技术的进步以大数据为依托，大数据集不仅是人工智能进行训练和完善的关键，更是企业进行判断和决策的重要依据。人工智能的发展使得企业的生产要素结构发生根本性转变，数据作为一种新的生产要素，必将带来生产结构质和量的调整；企业及时调整生产要素结构，打破生产投入固化状态，成为实现创新的一种重要方式（郑琼洁、王高凤，2021）。人工智能利用大数据，通过机器学习快速做出分析，及时、精准识别消费者需求，并实现实时生产、精细管理及柔性定制，从而大幅提升企业竞争力（刘斌、潘彤，2020）。
其次，人工智能对创新模式的变革。创新是知识的拓展和重新组合，人类的知识边界将因为人工智能的应用而被不断放大。人工智能对创新模式带来了两个深远影响：获取知识的思路更多，创新的速度更快。通过数字网络沟通互联，人工智能不但能产生和收集大量数据，还将带动数十亿人成为潜在的知识创造者、问题解决者和创新者。智能装备将人类数十亿大脑结合在一起，开始在模式识别、复杂沟通以及其他领域展现出广阔的发展空间。这种能量将在数字化世界里不断复制，组合式创新也将从中获得更多的发展机会（Brynjolfsson和Mcafee，2014）。例如，生物学家可利用人工智能发现新的药物筛选方法，创新模式在人工智能时代将实现革命性突破。
最后，人工智能对生产效率的提升。对于当前产业中高重复性、可编码性的工作，人工智能具有明显的技术优势。工业机器人可以替代劳动时间长、简单重复的工作，以及很多人类干不好的高精度或高速度的操作性劳动。例如，根据斯坦福大学发布的《2022年人工智能指数报告》，机器臂的中位数价格从2017年的4.2万美元下降到2021年的2.26万美元，不断降低的价格将成为工业机器人普及的关键要素，从而使得生产方式产生革命性变化。此外，像ChatGPT这种生成式人工智能技术，不但可以进行企业客服等简单智力工作，甚至可以进行学术论文写作、程序编写和艺术创作，大大提升了生产效率。
二是从人工智能对产业创新发展影响的角度来看：一方面，实现智能化生产与服务。人工智能通过整合硬件、软件、数据、网络、感应器等技术，实时采集生产服务过程中产生的海量数据，进行智能分析和决策优化，实现个性化设计、柔性化制造、网络化生产，从而促进产业创新发展。例如，在农业领域，人工智能有助于发展精准农业、智慧农业、数字农业，使农业生产实现智能化决策、无人化操作、可视化管理和精准化生产。在制造业领域，人工智能通过生产智能化、产品智能化、管理智能化、销售智能化和产业生态智能化，实现分工深化、产业链延长、成本节约、效率提高、价值提升等。在服务业领域，人工智能有望解决鲍莫尔成本病问题，实现第三产业的规模效应，带来服务业的创新发展（程承坪，2020）。基于人工智能和其他信息技术，以虚拟技术和共享方式减少实物生产，优化系统设计减少资源浪费，也将扭转工业时代以来基于自然资源消耗的发展模式（斯塔奇等，2019）。
另一方面，创造新的经济业态和新兴产业。人工智能的核心技术可归纳为机器学习、计算机视觉、自然语言处理、生物识别技术、人机交互技术、机器人技术、知识图谱技术和VR/AR/MR八大类技术，不同属性核心技术构成相应技术集群，形成分别以识别、交互和执行为主题的技术和新兴业态（孙丽文等，2022）。例如，以识别为主题的人工智能技术通过对人类自身生理特征识别、运动追踪和文本翻译等技术，产生了风险防控、精准营销、安全防护、语音服务等服务场景。以交互为主题的人工智能技术借助智能化装备与数字化环境，能够实现人与计算机之间的多种信息交换和性质互动，产生出智能语音助手、数字化互动教学、智能化学习系统、智能客服、智能文娱互动等消费场景。以执行为主题的人工智能技术通过机器学习、知识图谱等技术，诞生了一批覆盖智能制造、智能机器人、智慧物流配送、智能家居和无人机的人工智能初创企业。
三是从人工智能对创新系统的影响来看，创新系统的运行效率直接影响一国创新发展的绩效。Freeman（1987）等人提出的“国家创新系统”是指“公共和私营部门中的主体和制度网络，其活动和互动决定着一个国家扩散知识和技术的能力”。Fagerberg（2005）指出，任何创新都不是孤立的，企业的创新活动既受到其他创新主体的影响，也受到制度、法律法规、社会规则的约束，这些组织和制度是创新系统的核心组成部分。人工智能时代的创新系统与传统社会不同，人工智能不只是新的技术基础设施，人工智能供应商和数据中心还将作为新的创新主体参与到创新系统中，通过改变其他创新主体的运作模式和联系方式，从而给整个创新系统带来变革。在人工智能的支持下，个人的创新活动也将成为创新体系的重要补充。从这个角度而言，人工智能可以提升创新系统的效率。
人工智能供应商。一方面，这些机构是创新系统中的新型主体，它们为系统中其他主体提供服务，社会各部门/组织可以使用其数据中心和算力，进行部门/组织内部的创新活动。另一方面，人工智能数据中心也从全社会获取数据，进行数据的存储、加工和保密工作，进而将数据集提供给相应的部门/组织使用。同时，通过人工智能和数字网络的互联互通，各类创新主体可实现更紧密的联系、更有效的信息共享和交流合作，提升整个社会的运转效率和创新能力。因此，人工智能不仅是新时代的技术基础设施，甚至可能成为新型创新系统的中心节点。
企业。大数据驱动的人工智能技术为实现企业创新、制造与全流程智能化管理提供了新的方法和技术。人工智能为产品设计、测试与市场响应提供新的范式，利用人工智能的机器学习算法，寻找新的创新路径和产品设计方法。以人工智能为引擎，以数据为生产要素，可以将人工智能与具体的生产场景相结合，实现设计模式创新、生产智能决策、资源优化配置等创新应用，也能大幅缩减产品成本并提高良品率。借助人工智能技术，企业也将逐渐摆脱局部信息和人工决策的低效等局限性，最终实现制造和生产全流程智能化（柴天佑，2020）。
高校。在人工智能时代，高校的教学内容、形式、对象、科研模式都将发生变革。在人工智能技术的驱动下，各类“教学终端”“资源”与“平台”实现互联互通，高校可以采取更加个性化的教学方案，学生和老师可以实现更好的互动。优秀教学资源将被推荐给更多学生（甚至社会人员），实现规模效应，提升全社会的学习效率和知识库存量。在科学研究方面，人工智能模拟实验将降低基础研究的操作难度和成本，同时人工智能数据中心对全社会的数据进行整合加工，将大幅提升知识联结与传递效率，规避了大量重复实验，进而提升高校科研能力（贺相春、郭绍青，2021）。
科研机构。科研机构（尤其是国家科研机构）以国家战略和社会发展的重大需求为导向，开展基础研究、技术攻关和社会公益研究。人工智能可以从投入成本、社会经济效应等维度做出综合评判，在多个技术方案中对未来研发路线进行优化。人工智能还可以挖掘基础研究的应用前景和市场化潜能，同时对市场中的新技术择优吸收，加速科研机构和市场技术之间的交流互动，以及对科研机构及研究人员的实验内容、进度实时监控，避免重复实验带来的效率低下，从多方面提高科研机构的效能。
政府。在人工智能时代，政府可以利用大数据和人工智能技术，提升创新治理的效率，实现从传统政府向智能政府的转变。基于全面的大数据信息，政府可以更加有效地利用人工智能技术进行监管、分析和调控创新活动，维护市场竞争格局。政府也可以借助大数据，更加精准地提供创新基础设施或服务，规避有限信息产生的政府失灵。在人工智能技术协助下，政府可以更高效地实现对创新活动的监管，促进创新主体合作，实现创新系统整体效能提升。
个人发明家。在传统的创新系统中，个人发明家的作用已被建制化科研活动和组织取代。但在人工智能时代，个人可通过应用平等的人工智能服务，实现工具公平，通过人工智能模拟仿真、大数据计算等服务进行发明创造活动，个人创新成果将成为企业、大学和公共实验室创新活动的有力补充。从数量来看，个人相较建制化创新主体在数量上占据绝对多数，如能通过人工智能技术的应用激发个人的创新活力，将大大增加全社会创新方案的多样性，并提升创新系统的整体效能。
人工智能带来的变革与价值
第一，人工智能对就业带来的挑战。人工智能在大大提高生产效率的同时，也对社会就业产生冲击。传统劳动力的知识储备和技能结构是在工业时代和早期信息技术时代形成的，无法满足人工智能时代发展的要求。尤其是智能技术与各个行业深度融合后，各行业能够使用智能设备代替人类完成重复机械的工作（Acemoglu和Restrepo，2019）。以制造业为例，随着深度学习的成熟化规模化，某些智能机器甚至可实现无人制造。智能装备的普及将导致制造组装环节的利润空间和用工规模被进一步挤压。随着人工智能技术的进步，甚至一些常规性的智力劳动（如新闻、金融、法律、写作等）也将被人工智能所代替。
人工智能的大范围应用将导致就业市场出现两极分化趋势：新兴技术领域将新增大量的高技能劳动需求，如工业机器人、物联网、大数据、增材制造等领域将迎来发展机遇，与此相关的研发、设计和维护等专业技能人才需求增长显著，认知性和创造性强的高收入工作机会不断增加，但是常规性和重复性的中等收入工作机会将减少，出现“高技能—高收入”和“低技能—低收入”两个极端。在全球各地，智能化已经开始侵蚀中等知识型工作岗位。同时，大量的自由职业者借助各类智能技术，更倾向于工作时间灵活的就业方式，新型就业形态和人员给传统的社会就业管理带来新的挑战。
第二，人工智能对后发国家的挑战。在世界近现代经济史中，依靠成本优势发展制造业是一种常见的发展路径，可以让后发国家积累资金、获得技术并提高国民收入水平。一旦这条发展道路受阻，许多国家就要重新思考其发展模式和工业化战略（施瓦布，2016）。当前的人工智能技术就对后发国家的传统发展路径产生了重大影响。因为人工智能时代的创新不是增强体力，而是以增强人类思维能力为特征。如果低成本劳动力不再是后发国家的竞争优势，那么距离目标消费群体更近、受到良好教育的劳动者数量更多、制度环境更加完善的地区会更有优势。届时，全球制造业就可能回归发达经济体，那些仅凭借劳动力成本而赢得比较优势的后发国家可能会陷入相对劣势。
如果没有新的竞争优势来源，后发国家制造业的成本优势不复存在，发达国家复苏的制造业势必会不断挤压后发国家制造业的生存空间（Brynjolfsson和Mcafee，2014）。人工智能技术的进步正在驱动财富和收入史无前例地重新分配，平台效应也使收益和价值加剧向少部分人集中，可能带来国家之间、国家内部不同群体之间更严重的分化，对国际秩序产生重大影响。
第三，人工智能对社会治理的挑战。回顾人类社会发展史，由蒸汽机、电动机、互联网等技术引领的蒸汽革命、电气革命、信息革命，推动人类社会治理范式由科层制治理到电子化治理，再到网络化治理变迁。可以说，技术创新往往是治理范式转变的重要变量，新的科技革命与产业变革交汇之际，也是治理范式转换发生之时（阙天舒和吕俊延，2021）。人工智能技术作为一种新的技术手段，正日渐嵌入治理体系，推动社会治理朝着智能化、人性化和精准化方向转型（秦小建和周瑞文，2022）。人工智能在治理方面的应用，实际上就是借助大数据和智能算法的力量，将复杂社会问题的分析与解决加以优化。
作为一种治理工具，人工智能技术的嵌入能够极大提升社会治理的精准化和智能化水平，但技术本身的不确定性也会影响治理效果。若政府、社会间权力边界日渐模糊，政府治理权威面临挑战，将会引发一系列治理困境。一方面，人工智能技术将带动数十亿人成为潜在的知识创造者、问题解决者和创新者，由此带来的权力下放和社会结构变化，将改变政府现有形态，使得政府传统职能逐步弱化（施瓦布，2016）。另一方面，掌握算法的企业和组织可能利用技术优势，控制社会信息及资源，甚至引导政府决策，形成了一种非国家力量的“准公权力”（张爱军和李圆，2019），将对政府的治理权威形成对抗、消解甚至支配，传统治理模式面临着去中心化的挑战。
积极应对人工智能带来的挑战
人工智能等新技术开启了新的技术范式，为后发国家的创新追赶提供了机会窗口，但是成功追赶还需要根据新范式要求在各个方面做出合理调整，这对一个国家的创新治理能力提出挑战。未来的创新发展政策需要在以下方面不断努力。
加强新兴产业技术创新。与人工智能相关的技术大都处于科学知识突飞猛进的领域，是最有希望带来技术革命与产业变革的领域。近年来我国政府明确提出要加快发展战略性新兴产业和未来产业，这些产业的重点突破有望实现产业技术的赶超，因而是国家发展战略的重要组成部分。为此需要加强新兴产业和未来产业领域的技术创新，加大基础研究力度，从源头上实现重大突破。
构建与新范式相匹配的制度。新技术经济范式构建既需要企业、高校、科研机构等创新主体之间的多样性联系，形成与新技术体系的动态匹配，也需要政府转变职能，吸引广大利益相关者参与到社会治理中。为此需要大力破除传统范式中的体制机制与制度障碍，如改变对新兴技术的支持和管制方式、改变传统的产业政策方式、探索与新技术相适应的创新政策等，主动塑造新的制度环境。
加强各类主体能力建设。改革教育与培训的目标、方法、内容与手段，引导教育机构与新型组织保持协调，提升劳动者技能。鼓励新兴创新主体发展，鼓励多样性研究，提升经济系统内部颠覆性创新的数量和质量。将技术发展与生产网络和生活质量的改善联系起来，让公众享受新技术的成果。加强政策制定者的学习能力，各种政策安排应根据技术创新与产业变革不断调整。
以市场需求拉动新兴技术。新兴技术扩散和产业发展壮大需要市场需求拉动。中国巨大的人口与市场规模是绝大多数国家不具备的优势，在产业发展过程中应加以充分利用。通过收入分配改革引导消费能力提升，实施必要的激励计划培育新兴产业的本土市场，以庞大的市场规模诱导新兴技术创新，加速重大创新的市场选择，形成主导设计，从而在国际市场上提升新兴技术与产业的话语权。
积极应对人工智能带来的挑战。无论是从伦理还是从技术角度，都应确保人工智能为人类服务的根本指向。安全应成为人工智能政策或战略的优先事项，必须坚持合理发展、适度控制的风险意识，确保智能技术处于安全和可控的发展状态。人工智能的治理问题是涉及全人类的国际问题，各国应该秉持合作共赢的理念，强化沟通，建立互信，共同探索合乎人类发展需要的人工智能治理模式。
（作者为中国科学院科技战略咨询研究院研究员，创新发展政策所副所长，中国科学院大学公共政策与管理学院教授；中国科学院科技战略咨询研究院博士研究生魏莹、硕士研究生张一民和孙禧洋，以及中国科学院大学公共政策与管理学院博士研究生张林林和陈熹微对本文亦有贡献）
【注：本文系国家社会科学基金重大项目（项目编号：18ZDA101）、科技创新2030重大项目（项目编号：2020AAA0105400）和中科院科技战略咨询研究院前沿探索项目（项目编号：E2X1341Z01）的阶段性研究成果】
【参考文献】
①吴敬琏：《信息通信技术与经济社会转型译丛总序》，上海：上海远东出版社，2011年。
②Brynjolfsson E.、Mcafee A.：《第二次机器革命：数字化技术将如何改变我们的经济与社会》，北京：中信出版社，2014年。
③刘斌、潘彤：《人工智能对制造业价值链分工的影响效应研究》，《数量经济技术经济研究》，2020年第10期。
④秦小建、周瑞文：《人工智能嵌入政府治理的探索及启示》，《国外社会科学》，2022年第2期。
⑤布鲁兰德 C.、莫利 D.：《创新的演变》，《牛津创新手册》，北京：知识产权出版社，2009年。
⑥Freeman, C. Technology Policy and Economic Performance:
Lessons from Japan, London: Printer. 1987.
【摘要】人工智能技术是引领全球科技革命和产业变革的战略性技术，正在重塑人们对国家安全、经济与社会发展的理解。快速发展中的人工智能也隐藏着一定的不确定性，可能会引发社会安全风险，甚至带来国家之间的竞争冲突升级。当前，人工智能的发展已经成为推动国际体系转变、影响国际关系走向的关键技术力量，我们需要从战略高度来看待人工智能的作用，充分认识其可能带来的机遇和风险，并从技术、应用、治理和规则等层面全方位加大对人工智能的投入。
【关键词】人工智能战略 人工智能治理 国际格局 治理困境 【中图分类号】D815；TP18 【文献标识码】A
如何定义人工智能的战略性意义，是这个时代需要回答的重要问题。国际问题专家基辛格指出，在人类所掌握的技术中，真正具有战略性意义的技术只有核武器、网络安全技术和人工智能。核武器是因为其毁灭性力量，网络安全则是因其广泛存在于所有的信息系统之中，并且持续面临被攻击的风险。人工智能的战略性则结合了前两者的特点，不仅具有毁灭性力量，而且也存在持续且广泛的安全性问题。对于人工智能这一重要战略性技术，国际、国内存在着多元的观点和态度。历史地看，大国必须从战略高度重视技术的发展，并且始终保持在全球技术发展的第一阵营。当然，与历史上其他技术不同，在人工智能发展战略中，安全和治理不可或缺，且是决胜的关键。
人工智能的战略性意义
人工智能被广泛认为是可以改变“游戏规则”的战略性科技。美国率先发布人工智能战略，随后中国、欧盟、日本、韩国等纷纷出台了各自的人工智能战略。而且，联合国秘书长古特雷斯也多次就人工智能问题发声，呼吁从战略高度来看待人工智能安全对国际体系的影响。尽管如此，人工智能在现实社会中的应用还处于早期阶段，公众对于人工智能颠覆性影响的感知并不强烈。因此，我们有理由去质疑人工智能是否可以担此重任。战略性技术意味着这是一项具全局性的、重大的、决定胜负的关键性技术。人工智能是否具备这三个特质？
首先，从全局性来说，人工智能技术的通用性将人类社会带入真正的“智能时代”。人工智能跟蒸汽机、发电机一样是通用型技术，对生产力的提升、人类生活方式的改变都有巨大的推动作用。正因如此，人工智能技术也将被国家、企业、个人等不同层次的行为体广泛使用，进而对政治、安全、经济、文化等不同领域产生深刻的影响。生成式人工智能的发展进一步降低了人工智能使用的门槛，大模型将会广泛地应用于国家治理与社会生活的各个领域，由此带来的全局性影响也将进一步凸显。生成式人工智能正在加速智能革命。一方面，立足于面向公众的通用大模型不断面世，逐渐在艺术设计、知识管理、市场营销、代码生成和客户服务等方面逐步取代原有的工作模式。另一方面，各行各业垂直领域的专用大模型研发也在如火如荼地开展，金融、政务、制造业、能源、医疗、零售、教育领域的应用场景也都比较成熟，人工智能会进一步赋能和改造这些行业。
其次，从重要性来看，人工智能深刻改变了国家安全与国际和平的基本范式。因为人工智能对国际和平与国家安全领域都有系统性影响，导致国家安全与国际和平的内容、形式和目标也发生了嬗变。可以说，人工智能技术将国家安全与国际和平带入新一轮的蜕变期，使得“安全”与“和平”超出了传统政治议题的范围，成为政治、经济和技术三维一体的复合型问题。可以从三个层面来理解人工智能所带来的影响。从赋能的角度看，人工智能将大幅提升战场的决策和行动能力。当前，人工智能技术已被大量运用到军事和情报领域。在军事领域，决策辅助系统、智能化后勤保障、无人机群、无人舰艇等各种类型的人工智能武器正广泛应用于战场实验，将会推动军事变革从信息化作战转向智能化作战。从自主性的角度看，人工智能武器系统具备了自主决策的能力。目前，主要大国纷纷开发致命性自主武器，并投入战场予以测试，引发了关于技术伦理问题的广泛讨论和担忧。例如，美国具备自主判断能力的无人机就曾经误判目标，导致无辜平民被当作恐怖分子而被杀害。从技术的角度看，人工智能所带来的风险可以从客体和主体两个层面来理解，即技术本身，以及使用技术的“人”。人工智能的风险对使用主体提出了更高的责任要求。
最后，从决定胜负的关键来看，人工智能技术发展水平已经成为国家实力的关键指标。与其他通用型技术相比，人工智能建立在大模型、大参数、高算力和大数据的基础上，不仅产业融合程度高且易于垄断。加上人工智能作为军民两用型技术，市场的力量不仅会加速技术的发展和迭代，进而提升对军用技术的赋能效果，而且军事应用同样也会推动市场力量加大研发投入。如此循环增强之下人工智能技术的“马太效应”也愈加突出。领先者将会通过技术优势来占领市场并开启循环增强，进而拥有更多的先发优势，导致后来者在追赶的过程中面临更大的压力和障碍。在国际政治中，技术是各国提升硬实力的重要基础，也是改变国际格局力量对比的动力源之一。美国为了维护自身在人工智能领域的主导地位，其霸权主义倾向随着人工智能技术的发展日趋明显。事实上，从算法、算力和数据这三大人工智能发展的基础领域来看，美国占据了绝对的主导权。尽管如此，美国依旧高度警惕任何潜在对手在这些领域可能取得的突破。为此，美国政府制定了大量针对中国人工智能领域的封锁、制裁和惩罚性举措。
生存、安全、发展、治理：人工智能面临的多重风险
第一，人工智能给人类带来“生存之困”。人工智能的发展会极大提升人类的能力，同时也可能存在取代甚至摧毁人类的风险。通用人工智能技术的发展极大提高了人工智能的学习、掌握知识以及执行任务的能力。而人工智能一旦在认知能力上超越了人类，并且具有了自主决策的意识，人类或将会失去对人工智能的控制。如此一来，人工智能是否会伤害甚至毁灭试图控制它的人类呢？人工智能技术越发展、应用越广泛，类似的观点就会越流行。这种观点的产生一部分是受到了科幻小说的影响，也有一部分是由于人工智能技术复杂性所带来的理解障碍，因此造成了“技术恐慌”。同时，人工智能在技术上存在的算法黑箱、幻觉进一步助推了这种观点。这些讨论不仅迫使科技巨头呼吁加强对人工智能的监管，也推动着各国加速制定人工智能相关法律。这些做法旨在规范人工智能技术的演进，使其向着安全、可靠的方向发展。归根结底，人工智能技术是否会给人类社会带来毁灭性的影响，是对人类能否驾驭人工智能的考验。
第二，人工智能引发“安全之困”。人工智能在安全层面引发的“安全困境”已经为学者所认识并进行了充分讨论。国际政治的竞争归根结底是权力的竞争，而技术又是实现权力的重要依托。人工智能作为一项颠覆性技术，势必会引发国家间竞争，且存在“安全困境”的风险。此外，人工智能在国家安全、军事领域也具有广泛的应用空间，也可能会引发巨大的伦理风险。将载有人工智能系统的无人机应用于暗杀和地面攻势引发了关于机器杀人的伦理问题。一方面，人工智能可能会造成大规模的人员伤亡，造成大量的士兵失去生命。另一方面，人工智能存在误判的风险，无法有效识别军事目标和平民，从而加剧平民的无辜伤亡。
第三，人工智能引发不平衡的“发展之困”。人工智能具有提升经济效率的广泛前景，由此带来的“马太效应”会使得更多的资源向头部企业集中。不仅如此，人工智能技术的渗透可能还会引发一些企业的倒闭和失业潮。一方面，人工智能发展的主要受益者首先是平台企业，它们掌握了算力和数据，拥有发展人工智能得天独厚的条件。另一方面，人工智能不断向垂直领域渗透，也会让更高效的“大机器生产”取代人类的工作，进而引发失业问题。国际金融服务公司摩根士丹利（Morgan Stanley）2023年9月发布的报告显示，人工智能的发展在未来几年内将产生4.1万亿美元的经济影响，或者影响约44%的劳动力。由此可见，人工智能技术或将不可避免地造成失业问题的扩大。
第四，人工智能存在着“治理之困”。人工智能在赋能社会的同时，也正在被广泛应用于网络攻击、电信诈骗、虚假信息等违法犯罪领域，并且带来了一系列新的治理问题。传统的法律和规定往往无法完全适应人工智能技术的快速发展和复杂变化。如无人驾驶带来了责任认定的法律问题，生成式人工智能引发了知识产权问题。人工智能系统可以创造独特的作品和内容，但是如何保护这些作品的权益、进行合理的利益分享也是一大挑战。这些问题都触及到了当前的法律盲区，对现有的治理体系带来了极大挑战。因此，人工智能技术的到来迫使政府、学术界、产业界、技术社群等各利益相关方加强合作，共同研究和制定适应人工智能时代的新治理框架。
上述四个方面都是从不同层次的正反两个方面来理解人工智能，尤其是采取了静态的视角来看待人工智能，因此都不够全面。这些观点也未能认识到，随着各方对人工智能治理的关注和投入的加大，人工智能的治理体系也在快速建立。因此，不应当因为困境的存在就叫停技术的发展，而是要加速对人工智能的理解并提升治理能力。
人工智能发展正面临关键时刻
人工智能的关键时刻体现在三个方面，一是技术突破的关键时刻；二是大规模应用的关键时刻；三是大国博弈的关键时刻。
首先，从技术发展的历史进程来看，人工智能正在经历重大突破的关键时刻。自20世纪50年代人工智能技术的概念被提出以来，人工智能的发展经历了深蓝、阿尔法狗（AlphaGo）和ChatGPT这三次“高光时刻”。2022年，OpenAI发布ChatGPT-3.5迅速引发了全球热议，短短两个月的时间注册用户就突破了1亿。ChatGPT背后是生成式人工智能所取得的一系列重大技术突破，主要包括基于Transformer深度学习架构的大型语言模型（LLM）；通过使用大规模数据集和无监督学习的方法对模型进行初始训练的预训练学习范式；以及结合了强化学习和人类反馈的机器学习技术——人类反馈强化学习（RLHF）。这些技术改变了机器对于自然语言处理的方式、提升了模型性能、降低了开发成本，并且建立了模型自我升级迭代的能力。因此，我们体验到的ChatGPT以及类似的产品在功能性、实用性和自我进化方面拥有极为优秀的表现。但是，技术的发展始终面临阶段性的波折，在生成式人工智能取得突破之后，人工智能的发展是否会陷入新的瓶颈期也是关键问题。因此，不能简单的用线性思维来看待人工智能的发展与治理。
其次，从应用角度来看，人工智能大规模应用一触即发。对比深蓝、阿尔法狗与新晋的大语言模型ChatGPT可知，前两次的突破更多是停留在技术层面，而ChatGPT的推出则标志着人工智能在技术和应用层面取得了双重突破。人工智能的应用价值主要体现在是否能够提升效率、降低成本和开辟新领域。目前，主流的科技企业都把人工智能视为核心竞争力并竞相加大投资，谷歌投资了Deepmind、微软投资了OpenAI、百度开发了文心一言等。根据国际数据公司（IDC）的数据，2021年全球人工智能市场规模为3619亿美元，预计2025年将会突破7000亿美元，年复合增长率18%。考虑到广泛的赋能作用，这一数据还只反映了人工智能经济价值的冰山一角。
最后，人工智能正处于大国博弈的关键时刻。一方面，大国追求人工智能的主导权引发了地缘政治博弈。美国政府明确将人工智能列为对华制裁的三大重点领域之一，制定了一系列出口管制措施，试图切断美国企业、资金和人才与中国之间的合作。不仅如此，美国还进一步将制裁延伸到GPU芯片领域，阻止中国获取先进的芯片用以训练人工智能模型。另一方面，大国围绕人工智能国际规则进行博弈。随着人工智能技术的不断发展，需要制定相应的国际规则和规范来管理、约束其应用。各国将争夺在国际规则制定中的话语权和主导权，以确保本国在人工智能领域的利益得到保护。
保证人工智能能够向善发展的关键
战略性价值和意义决定了人工智能的发展只会进一步加速而不会停止，因此，要从战略层面加大对人工智能的重视和投入。与此同时，加大在安全监管和治理方面的投入是保证人工智能能够向善发展的关键。
一是从战略高度坚定人工智能的发展方向，大力推动人工智能发展。面对人工智能这样一项通用型技术的发展，既会有受益者也会有受害者、既会有支持者也会有反对者、既会有激进者也会有保守者，而不同的群体、不同的视角会导致不同的观点。在ChatGPT出现之初，基于其在内容安全、知识产权等方面的不确定性，一部分企业对于是否要发展生成式人工智能存在疑虑。2023年4月28日中共中央政治局会议明确提出“要重视通用人工智能发展”，同年7月24日再提“要促进人工智能安全发展”。如果说ChatGPT验证了通用人工智能发展的技术路线，官方表态则从政策方面为人工智能产业的大力发展奠定了基调。此外，生成式人工智能代表的是一种高算力、大参数、大模型、大数据的人工智能路线。尽管拥有广阔的市场前景，但也离不开国家在战略层面的支持和投入。在人工智能领域的开放式顶层设计思维，可以强化政府对于人工智能技术发展方向的参与和掌握，促进人工智能技术发展与国家战略目标的有机协调。
二是要高度重视人工智能的安全风险问题，强化对人工智能的安全监管。当前，人工智能的安全主要体现在算法安全、数据安全、网络安全等方面，其中关键是确保算法不会出现安全隐患。这就需要加强对人工智能的可解释性问题、透明度问题和有害性等方面的研究。此外，政府一方面可以通过建立技术标准来规范人工智能的开发和应用，提高人工智能的质量和性能；另一方面也可以检测和监测人工智能的状态和行为，及时发现和解决人工智能造成的问题和风险。人工智能发展不可避免地会出现各个层面的安全问题，如果处理不好，不仅会引发风险，也会降低各界对于人工智能发展的信心。这需要国家从多个角度进行治理。在技术层面，确保人工智能在算法安全、数据安全、网络安全等方面，避免出现错误、偏差、漏洞等问题。在法律层面，建立完善的人工智能法律制度和规范，明确人工智能的权利和责任，保护个人隐私和知识产权，防止滥用和滥权等问题。在社会层面，加强对人工智能的公众教育和宣传，提高公众对人工智能的认识和理解，培养公众对人工智能的信任和尊重，促进人工智能与社会各界的和谐共处。
三是要加大对治理的投入，解除人工智能发展的后顾之忧。人工智能的治理是一个复杂的治理体系，主要是国际和国内治理两个方面。国际治理主要解决使用人工智能的过程中所引发的国际安全问题，如人工智能在军事、外交、贸易等领域的应用可能导致的国家间冲突、竞争、不信任等问题。这些问题需要在全球范围内进行协商和协调，建立相应的国际规范和规则来约束国家使用人工智能时的行为，保障国际和平与稳定。国内社会治理则主要解决人工智能的伦理、价值问题，如人工智能对人类的尊严、自由、平等等基本权利和价值观的影响和挑战。这些问题需要在国家范围内进行立法和监管，建立相应的法律制度和规范来保护个人隐私和知识产权，防止滥用和滥权等问题。同时，也需要在系统开发和使用之前做好相应的价值评估，确保人工智能符合社会公益和道德标准。在治理机制上要充分尊重各参与主体的技术能力、商业利益与治理思路，通过充分对话和协调，形成更加合理的人工智能治理体系。各参与主体应该在平等和相互尊重的基础上，进行充分的沟通和协作，形成一个多元、开放、包容的人工智能治理体系。
（作者为上海国际问题研究院公共政策与创新研究所副所长、研究员）
【参考文献】
①[美]亨利·基辛格等著、胡利平等译：《人工智能时代与人类未来》，北京：中信出版社，2023年。
②贾开：《人工智能与算法治理研究》，《中国行政管理》，2019年第1期。
③周琪：《高科技领域的竞争正改变大国战略竞争的主要模式》，《太平洋学报》，2021年第1期。
④S. Matthew Liao, “Ethics of Artificial Intelligence”, New York,
Oxford University Press, 2020.
⑤鲁传颖、约翰·马勒里：《体制复合体理论视角下的人工智能全球治理进程》，《国际观察》，2018年第4期。
文章已关闭评论！
