国务院发展研究中心
内容提要：
本文节选自《中国发展报告2024》一书。本文认为， 近两年，人工智能发展可谓“一日千里”。未来，人工智能将成为经济社会发展的“新型基础设施”，大模型之外的新技术路线将持续涌现，将与其他前沿技术加速融合， 催生更多科技新赛道。此外，文章论述了人工智能对科研范式和全球分工格局、就业和收入、公众认知和伦理规范等产生的影响，指出中国发展人工智能在需求潜力、供给能力和智能基础设施等方面具备独特优势和强大潜能。
人类社会已经进入人工智能时代。人工智能是一种具有重大颠覆性和革命性的新质生产力，其加速发展不仅将成为新一轮全球经济增长的引擎， 也将成为影响科技、社会、军事、国际格局乃至人类未来的关键力量。综合各方面情况看，中美人工智能两强格局已初步形成，特有优势和潜力将使中国获得巨大的人工智能发展红利。中国人工智能政策可以按照“发展优先、守好底线、应用驱动、科技引领”的原则，重点从做强应用和发展技术两方面久久为功。
人工智能的本质、特征和趋势
人工智能本质上是让计算机系统具有感知、认知、决策等类似人类智能的能力。大模型是近年来人工智能发展的主流技术路线，已在相当程度上具有理解、推理、模仿、创造等能力。尤其是近两年，人工智能发展可谓“一日千里”。国际上关于“机器智能全面超越人类智能的‘奇点’时刻何时到来”的预测不断提前， 5年前多数研究认为需30年以上，3年前则认为是在2030年之后，2024年初则有知名机构提出在2026年左右（美国ARK Invest公司发布的Big Ideas 2024报告提出了这一判断）。
（一）人工智能的发展呈现四大技术经济特征
一是首个能够以自我组织、自我增强的方式高速迭代的颠覆性技术。工业革命史上，任何技术都不具备这一特征。《科学》杂志发表相关文章认为，人工智能技术研发借鉴了达尔文进化论的思想，致力于实现无须人工输入、自我迭代增强的智能模型。由谷歌公司开发的围棋人工智能AlphaGo Zero可在40天内自我对弈约2900万次，获得了远超人类棋手的棋力。2024年初， OpenAI发布的视频生成模型Sora，谷歌公司新一代多模态大模型Gemini以及Anthropic 推出的Claude-3大模型都在模拟真实世界和迈向通用人工智能方面取得了超预期的突破。2024年8月，OpenAI的人工智能项目“草莓”被报道可自主进行互联网搜索，突破了“人工投喂数据”的流程瓶颈，能够自主生成高质量数据供大模型训练使用。
二是赋能能力很强的“底座型”和通用型技术。大模型可以让知识生产的边际成本趋零。有市场研究指出，大模型可在秒级时间内完成创造动画角色、回答法律问题等任务，边际成本仅约0.1美分， 而人类完成相似的知识生产活动可能需要1个小时，成本为100—500美元。人工智能的应用成本显著低于互联网、固定电话等历史上的ICT技术，叠加其更显著的规模经济效应和开源开放特性，或将以前所未有的速度实现商业化扩散，从而激发多个产业部门“二次创新”，大幅提升生产力。麦肯锡咨询的研究《生成式人工智能的经济潜力：下一波生产力浪潮》认为，生成式人工智能将为全球经济每年额外带来2.6 万亿—4.4万亿美元的增长。
三是垄断性很强，“赢者通吃”局面正在形成。大模型训练的参数量、数据集和算力持续扩大，功能呈指数级攀升，与其通用性叠加将导致“强者恒强”“赢者通吃” 效应，技术领先者的市场地位难以被撼动。如，GPT系列大模型训练的数据量已从2018 年的9.8亿个单词增长至2023 年的约13万亿个单词，增长超1万倍。越来越大且复杂的数据集意味着对先进算力的更高需求。据估计，2010—2022年全球最领先的人工智能项目使用的算力增加了100亿倍，算力需求每6个月翻一番。这预示着大模型训练的资金和人才门槛越来越高，一般企业和机构难以承受，最强大的人工智能技术或将掌握在极少数企业或机构手中。斯坦福大学《2024人工智能指数报告》指出，GPT-4的开发成本估计高达7800万美元；2023年产业界开发了51个重要的机器学习模型，而学术界只有15个。2024年以来，德国、英国、欧盟、美国等多个司法辖区的竞争执法机构均表达了对微软与OpenAI、谷歌、英伟达等头部企业垄断行为的担忧，部分已启动反垄断调查。
四是“黑箱”特性突出。人工智能研发涉及的学科领域广泛且复杂，目前以深度学习为代表的理论基础尚不明确， 即使是设计智能模型的研究人员也无法完全理解数据和算法交互后赋予机器的思考方式。尽管已有大量研究关注人工智能的可解释性，但尚未出现通用的解决方案。深度学习等技术使大模型形成了超万亿级参数，但研发人员对内容生成过程难以准确调控，从而对人工智能治理能力构成了挑战。被誉为“深度学习之父”的图灵奖得主辛顿教授（Geoffrey Hinton）认为，人工智能最初是对生物大脑的模仿，但现在它可能与生物大脑是完全不同的智能形式，也必将在不远的将来超过人类。
（二）人工智能的发展呈现三大趋势
一是数据、信息、知识密集型行业将率先成为人工智能技术的主要应用场景，未来将成为经济社会发展的“新型基础设施”。数据化基础、智能化成本、容错率是影响人工智能应用的重要因素。麦肯锡咨询的调查（2023）显示， 科技、媒体和电信，金融服务，商业、法律和专业服务行业的从业者在工作中经常使用生成式人工智能工具的比例分别为33%、24%和23%，而先进制造、能源和材料等行业的使用比例较低，分别为16%和14%。未来3—5年，大消费、信息通信、科学研究、金融等服务业的智能化进程将快速推进，而制造业智能化水平的提高则主要取决于数据可得性和成本优化的进程。
二是大模型之外的新技术路线将持续涌现。人工智能的技术轨道和产业生态尚未成熟，主导技术路线可能出现更替。随着可训练的数据量接近瓶颈，算力和能源短缺等问题日趋严重。《经济学人》杂志刊文称，互联网上可用的人类文本数据将在四年后，即2028 年耗尽。有研究预测，2027年全球人工智能相关的电力消耗可能会增加到850亿—1340亿千瓦时，与荷兰、阿根廷和瑞典等国家的年用电量相当，约占全球当前用电量的0.5%。这些因素都可能导致大模型技术达到能力极限。但对替代性和颠覆性技术何时出现，业内看法仍存分歧。同时，强化学习、知识计算、增量计算、轻量化模型等技术都在加快发展，可信人工智能发展也将提速。
三是将与其他前沿技术加速融合，催生更多科技新赛道。大模型与自动提示工具相结合加速了“智能体（AI Agent）”发展，先进制造、生命科学、量子计算机、区块链与人工智能结合催生了具身智能等通用机器人、类脑智能、精准医疗、智能合约等新赛道。例如，2024年OpenAI参与合作开发了一款名为Figure 01 的人形机器人，能够利用大模型进行视觉信息描述、记忆反思、推理解释和行动规划等活动。同期，全球至少有8家公司正在向人形机器人商业化的目标努力。据估算，人形机器人在物流搬运行业的成本约为12.5美元/小时，已初步具备经济性。
此外，人工智能技术组织方式一直存在开源和闭源之争。目前最先进的人工智能大模型以闭源为主，但也有许多开源模型具有较大的发展前景。如，Meta、谷歌等科技巨头及部分顶尖科研机构、“独角兽”企业都采取完全或部分开源方式推动技术迭代赶超。
全球人工智能监管存在国别差异，尚未形成共识。2023 年是人工智能监管“元年”， 加快对人工智能的风险监管与立法规制已形成国际广泛共识，但由于人工智能技术能力和产业生态、法律体系、社会治理和价值观传统等国情差异，各国监管理念、立法节奏及监管手段不一。例如，欧盟于2024年3月正式通过了全球第一个全面的人工智能监管框架《人工智能法案》，基于风险的分级分类监管原则，明确了相关主体的禁止行为、透明度和数据治理义务以及监管执行要求。美国则更强调循序渐进的协同治理、鼓励私营部门参与制度建设，目前在联邦层面未形成统一的人工智能法规， 主要通过对已有法律规定的“再解释”划定底线要求。
人工智能对人类社会的影响
人工智能模仿甚至超越人类智能的特征和趋势，使其不仅是以机器替代劳动的生产工具，更是能对国家发展与安全甚至人类未来产生深远影响的“新物种”。
（一）人类将面对能力飞跃的巨大机遇和风险管控的挑战
如果能实现人机高效合作，人类将迎来进化史中又一次“认知革命”，大大提升认识和改造世界的能力。人类在进化史中凭借理性思维上的优越性成为地球的主宰者，但正如基辛格、施密特等在《人工智能时代与人类未来》一书中指出的，人工智能尤其是通用大模型的突破性进步带来了仅凭人类理性无法获得的学习和处理信息的能力。人工智能与机器人等硬件系统相结合，还可以凭借超越人类的感知能力和极限耐受能力，极大拓展人类开拓宇宙深空、极地、深海等战略新疆域的能力，为人类开辟生存新空间。
如果“黑箱”属性无法改变，人类或将面临“新物种” 失控的风险。脑科学、具身智能、脑机接口等技术的交叉融合发展，可能使人工智能越来越接近成为一个可独立生存、具备自我意识的“新物种”。图灵奖得主杰弗里 • 辛顿预测十年之内人工智能就可能具有独立智能，然后自我复制成一个更强大的系统，使人类无法控制甚至最终摧毁人类。中、美、欧等29方签署的全球首份关于人工智能的全球性声明《布莱切利宣言》也指出， 人工智能模型可能会有意或无意地造成严重甚至灾难性的伤害。只有形成一致性行动的人类命运共同体，才能有效管控人工智能风险。
（二）人工智能将重塑科研范式和全球分工格局
人工智能将大幅加快科技进步，成为国际科技竞争胜负手。以大模型为代表的人工智能可以更有效地利用海量信息和知识，增强分析和推理预测能力，使观测设备的感知能力更加灵敏和准确，加快科研向更精细的微观尺度和更广阔的宏观领域迈进。人工智能驱动科研（AI for Science）已率先在生命科学、材料、能源等领域应用。《自然》杂志将ChatGPT 评选为2023年度科学领域十大人物之一。谷歌AlphaFold模型基于全球蛋白质序列和结构数据，预测了约2亿种蛋白质结构。《自然》杂志针对1600名科研人员的调查发现，一半受访者都需要与掌握人工智能工具的公司合作。下一步，人工智能将从简单的数据分析向实验设计甚至问题发现升级，从提升效率的“科研助手”向主导科研的“科学家”转变。DeepMind创始人哈萨比斯和图灵奖得主杨立昆等均认为人工智能将加速科技进步并引领科学发现的黄金时代。
人工智能将引领产业变革，深刻改变全球产业和竞争格局。人工智能的产业应用和垂直渗透正在加速和深化。毕马威在《人工智能全域变革图景展望：跃迁点来临（2023）》中提出，目前人工智能应用场景日渐丰富，人工智能技术在金融、医疗、制造、交通、教育、安防等多个领域实现技术落地，推动了企业数字化转型、产业链结构重塑优化以及生产效率提升。人工智能在实体经济的深度应用，将大幅提高生产率和资本有机构成，劳动要素将被加速替代。埃森哲研究指出， 在部分行业，人工智能将使生产率提高40%。低劳动成本优势将被大幅削弱，高端制造等利润率较高的产业将加速向资本丰富、人工智能先进的国家转移。人工智能先进国家可能将进一步增强全球价值链主导优势，转型慢的国家产业升级难度将进一步加大。
（三）人工智能将对就业、收入分配等产生重要影响
就业和收入分配格局面临深刻调整。麦肯锡咨询预计2025年能使证券、保险行业人工成本下降20%，2030—2060 年将替代50%的人类职业。高盛认为，全球约1/5的工作将被人工智能取代。国际劳工组织认为，短期来看，生成式人工智能对文职工作、女性就业等影响较大，加大年轻人就业压力；长远来看，人工智能将与大部分行业互补发展，创造更多新职业。从收入分配看， 人工智能将可能强化资本所得，大大降低劳动在初次分配中的比重，需要二次分配更好发挥调节作用。
人工智能将对教育模式变革产生深远影响。人工智能可以提供更加个性化和高效的学习方式，大幅提升教学质量和效率。人工智能对中等技术劳动力的替代使得技能人才和研究型人才更受重视，其在教育中的比重不断提升。此外， 教育智能化将有利于缩小优质教育资源的区域差距，提升教育公平性。世界经济论坛2024 年4 月发布的《塑造未来学习：人工智能在教育4.0中的作用》给出了联合国儿童基金会、韩国教育部等实施的人工智能在教育中应用的9个典型案例，说明人工智能已经在许多国家成为增强教育体验的补充工具，未来人工智能和教育进一步融合，一方面可能明显提升学习体验和效果，另一方面也将帮助学习者为未来的工作新范式作好准备。
（四）人工智能将深刻影响公众认知和伦理规范
人工智能可能成为信息制造与传播的最有力工具或颠覆者。大模型强大的内容生成能力将显著提升新闻传播效率，降低信息生产成本。全球首个完全由人工智能生产的新闻报道平台NewsGPT 已于2023年4月正式上线。但生产虚假信息的成本也大幅降低，智能驱动的个性化算法推荐将显著放大“信息茧房”效应，公众舆论有被操纵的风险。智能生成视频伪造事实等行为已经出现，Sora等产品的出现必将产生更为复杂的影响。2018年的“剑桥分析”事件显示，美国大选中两党都曾利用大数据公司向选民提供虚假信息，而选民大多毫无察觉。根据世界经济论坛《2024年全球风险报告》， 人工智能对选举结果的影响位居2024年全球风险之首。
人工智能将带来前所未有的伦理道德挑战。据追踪人工智能技术滥用事件的AIAAIC 数据库统计，2012年以来的争议事件数增加了26倍，主要涉及隐私泄露、社会欺诈、种族和性别歧视等问题。随着人工智能嵌入更广泛的社会网络， “人机关系”将出现很多伦理空白。传统用于规范个体、组织、国家的行为规范和价值观念面临根本性重塑，有关法律制度也将改变。中国信息通信研究院发布的《人工智能伦理治理研究报告（2023年）》指出，人工智能引发的伦理挑战已从理论研讨变为现实风险。欧盟基本权利机构（FRA）发布的《走向正确的未来》也提出，人工智能应用必须考虑伦理问题，在使用人工智能前和期间要对其伦理影响进行评估。
中国人工智能发展的主要优势
中国人工智能发展处在全球第一方阵。《哈佛商业评论》人工智能创造国领导力排名中，中国居第二位。美国布鲁金斯学会等研究也表明，中国在人工智能投资总量和研发投入等方面与美国同属第一梯队，远超其他国家。中国在需求潜力、供给能力和智能基础设施等方面具备独特优势和强大潜能。
人工智能消费潜力巨大， 产业应用场景广阔。中国发达的数字基础设施和量大面广、多层纵深的消费级市场是模式创新和业态繁荣的重要基础。截至2023年底，中国5G移动电话用户达8.05亿户，具备千兆网络服务能力的端口达2302万个；移动物联网终端用户数占移动网络终端连接数比重达到57.5%。中国消费者对创新产品和服务的接受程度很高。斯坦福大学调查显示，中国公众乐于接受人工智能的人数占比为78%，大幅高于美、日、欧等国家和地区（美国为35%， 日本为42%，英国为38%，德国为37%，意大利为50%）。制造业大国优势突出，应用场景广阔，中国拥有全球门类最齐全的制造业体系和最大的制造业增加值，具备率先推动和引领人工智能在制造业领域垂直应用的有利条件。据工业和信息化部有关机构预测，2035年， 中国人工智能核心产业规模将达到1.73万亿元，全球占比将超过30%。城市化进程、人口结构调整、中等收入群体比重提升等经济社会重大转型也将在医疗、金融、交通、智慧城市等领域，催生更丰富的人工智能应用场景。
科技基础较完备，技术跟进能力强。中国科研体系规模全球最大，人工智能论文发表量和引用量、专利申请量均居世界第一位。同时，中国也拥有全球最大规模的高等教育体系，大学毕业生中有45%是理工类人才，在中高级技能人才培养上具有突出的规模优势。2024年3月，美国保尔森基金会下属的麦克罗波洛智库发布的报告显示，中国高校几乎培养了全球一半的顶尖人工智能人才（从本科院校看），而2019年本科毕业于中国院校的顶尖人工智能人才占全球的比例还只有29%。科技型企业数量庞大，2023年，中国高新技术企业超过40万家，科技型中小企业达到50万家，679家企业进入全球企业研发投入2500 强。中国人工智能核心产业规模超过5000亿元，人工智能企业数量超过4500家，10亿参数规模以上的大模型数量超100 个，企业和研发机构总体上拥有紧跟全球科技巨头研发进度的能力。
智能基础设施领先，经济智能化升级具备良好条件。中国算力设施具备规模优势，截至2023年底，中国在用算力中心算力总规模超230EFLOPS， 位居全球第二。电信基础设施全球领先，如5G基站总数达337.7万个。数据资源规模快速增长，全国数据资源调查工作组数据显示，2023年中国累计数据存储总量达1.73泽字节（ZB），尤其是工业数据的规模、多样性和专业化程度优势突出。绿色电力基础设施全球领先，电力成本约占智算中心运行成本的60%。随着全球能源结构转型和算力规模不断扩大，绿色电力将成为人工智能发展的一个关键要素。2023 年，中国可再生能源发电装机容量达15.16亿千瓦，占全球可再生能源总装机量的近40%，水电、风电、光伏等可再生能源装机规模居世界第一位。
中国关键核心技术攻关新型举国体制可以发挥对全社会算力、数据、人才等关键要素和核心技术攻关的强大动员与统筹协调能力，形成重要制度保障。但也要看到，中国人工智能领域基础研究底子还不够深厚，高端芯片、基础软件和数据质量等基础要素还存在短板。推动人工智能发展，科技是基础、应用是关键。需要充分发挥市场积极性，统筹关键资源，大力改革，释放人工智能发展红利。应继续夯实研究基础，整合关键算力、数据等资源，支撑市场化创新。促进人工智能深度应用，在重点领域形成可推广的行业解决方案并示范应用，加快培育新质生产力。建设完善人工智能监管体系，保障人工智能规范发展。加强事中事后监管，尤其是涉及数据真实性、隐私及公平竞争等行为的规制。完善社会化支撑体系，加强人工智能时代的民生保障。逐步将人工智能驱动的新就业形态劳动者权益保障纳入正轨，建立防范过度使用人工智能损害劳动者权益的冲突解决机制。支持设立覆盖全学段、以培养高阶思维能力为导向的人工智能教育创新基地。
（参考文献略）
Visits: 3