文 / 世界互联网大会人工智能工作组
导读：近年来，生成式人工智能不断取得突破，展现出强大的生成创造能力，开始涌现出“智慧”。生成式人工智能在文本、代码、图像、音视频等方面的理解与生成取得了突破性进展，有望大幅提升社会生产力，加速千行百业的数字化进程，促进人类社会全面迈向智能化新阶段。
回顾人工智能60余年的发展历程，技术突破不仅会创造发展机遇，也会带来相应的挑战。以负责任的态度推动生成式人工智能发展不仅十分必要，也愈发紧迫，是事关人工智能乃至人类文明发展的重要命题。
正文：
一、全球生成式人工智能技术发展态势
(一)“算力、模型、数据”三大要素的演进带动人工智能不断突破
生成式人工智能技术突飞猛进，展现出惊人的创造能力和生成能力，主要得益于算力、模型、数据等方面的不断提升。
算力层面，算力设施的完善支撑生成式人工智能的快速发展。云边端多样化算力满足生成式人工智能不同应用需求，云侧强大的计算和存储能力保障大模型训练以及高吞吐量应用的推理任务；边缘算力将海量复杂数据进行本地化预处理，可对数据进行实时处理并将其导向大模型，实现快速响应和决策；端侧算力减少数据处理和传输的延迟，直接在端侧进行数据计算分析，提升智能应用的实时性。
模型层面，模型结构的创新和模型规模的提升成为生成式人工智能取得突破的关键。注意力机制、自回归模型、扩散模型等技术不断升级迭代，特别是以Transformer为主的基础模型脱颖而出，成为生成模型主流技术路线，涌现出Stable Diffusion、DALL·E2、DALL·E3、通义万相等视觉生成模型，以及GPT-4、通义千问、BLIP-2、Emu等多模态模型。
数据层面，数据质量、多样性、规模等方面的进步成为人工智能能力提升的基础。此外，合成数据可能成为高质量数据的重要来源之一。生成式人工智能能够大批量制作拟真合成数据，或将帮助缓解高质量训练数据枯竭这一未来潜在问题。根据Gartner预测，到2024年，60%用于人工智能开发和分析的数据将会是合成数据；2030年合成数据将取代真实数据，成为人工智能模型所使用数据的主要来源。
(二)开源开放驱动生成式人工智能生态渐趋繁荣
模型开源促进技术的发展和普及。以LLaMA2、ChatGLM、Qwen等为代表的开源模型层出不穷，并且不断升级进化，大量创业公司使用开源模型调优并推出新产品。开发者基于开源模型，可快速搭建具备专业领域知识的垂类任务模型，大幅缩减了模型从开发到应用所需的算力、数据和时间成本。
开放接口为开发者提供便捷。除了模型开源，开放易用的API和SDK也是促进人工智能生态繁荣的重要一环。一方面，接口开放将简化开发流程并提升效率。另一方面，接口开放可以丰富模型的应用场景。
模型社区持续推动技术扩散。模型社区通过提供免费算力、模型库、数据集、课程教材、模型开发套件等工具组件，赋能培养具备模型开发能力的人才，对于推动人工智能领域的技术交流和发展起到了积极的促进作用。例如阿里云魔搭社区汇聚各领域最先进的机器学习模型，提供模型探索体验、推理、训练、部署和应用的一站式服务，上线一年模型整体下载体量已超过1亿。
(三)生成式人工智能发展凸显通用人工智能曙光
生成式人工智能的突破加快了通用人工智能的探索步伐。生成式人工智能不仅能够处理单一数据类型的任务，而且可以在不同数据类型间建立联系和融合，向着多模态方向发展。多模态生成模型的突破显著提高机器智能的拟人性和通用性。伴随着多模态生成模型技术的突破，AI Agent较过去能够更好地理解和处理复杂的现实场景，从而为人类提供更为精准、个性化的服务。
二、生成式人工智能带来的机遇
(一) 促进经济发展
生成式人工智能推动生产力大幅提升，带动全球经济增长。根据麦肯锡2023年6月预测，生成式人工智能每年可能为全球经济增加2.6万亿至4.4万亿美元的价值。根据高盛研究，生成式人工智能的突破将在10年内推动全球GDP增长7%。当前，生成式人工智能带来的生产力升级正在推动生产方式的进化，为全球经济发展打开新的机会之窗。区别于传统AI，生成式人工智能具有实现通用性的潜力，预示着应用领域的AI互相统一协同，从而会在社会经济活动的各个领域发挥更大作用。
生成式人工智能将优化生产流程、管理方式、营销策划等环节，推动传统生产方式升级。
生成式人工智能对产业带来深远影响，对不同性质行业影响次序不一。随着生成式人工智能与各行各业深度融合，其赋能重构的行业将会持续增加。根据罗兰贝格的评估分析，生成式人工智能将率先对互联网与高科技、金融和专业服务等知识密集型行业带来较大影响，分别带来6.5%、6.8%、11.3%的成本下降；其次将赋能教育、通信、医疗、公共服务、零售、文娱和传媒等服务型行业；对当前数字化程度不高的农业、材料、建筑业、能源等传统行业影响相对较小。总的来看，生成式人工智能的价值发挥需要坚实的信息化、数字化支撑，有望在相关行业的研发设计、生产制造、运营管理方面创造巨大价值。
生成式人工智能深入赋能数字经济，为各行业领域带来新一轮发展机遇。金融业领域，生成式人工智能能够帮助绘制金融风险图，协助打击洗钱等金融犯罪。汽车业领域，生成式人工智能能够提高车载智能语音交互效率，还能为自动驾驶模型训练提供高质量合成数据，帮助解决自动驾驶系统开发过程中的数据和测试难题。生成式人工智能的进步性价值将持续推动各行业领域质量变革、效率变革、动力变革，推动经济高质量发展。
(二) 促进社会进步
生成式人工智能能够在城市运营服务、教育、就业等方面产生有益影响。在城市运营服务方面，生成式人工智能能够通过持续分析数据来标记城市运营问题并优化策略。在教育方面，生成式人工智能可以在信息检索、学习规划、协同创作等方面发挥优势，协助提升教育教学质量，帮助弥合教育鸿沟。在就业方面，生成式人工智能能够调整就业结构，增加语言模型训练师、事实核查员、机器人检测工程师、数据标注师等新兴职业，并帮助提升工作效能。根据全球劳工组织(ILO)的报告，全球预计4.27亿份工作可借助生成式人工智能技术得到优化或效率提升。
(三) 助力公益事业
生成式人工智能帮助打造无障碍的数字环境。如利用生成式人工智能生成更接近真人的声音，提供更加丰富的有声读物。
生成式人工智能助力全球文化成果的保护和传播。如在对文物艺术品进行三维扫描和数字化储存基础上，进一步利用图像生成技术重现内容，增强沉浸式的文化体验。
生成式人工智能助推全球环境治理和可持续发展。生成式人工智能可以更高效地分析污染水平、地表变化及气候变化的数据，比较分析人类活动对环境的影响，从而提供监测、限制和解决措施的建议，为减缓气候变化，保护森林、海洋及野生动物栖息地的可持续性做出贡献。
(四) 助力科学研究
生成式人工智能推动科研效率不断提高。生成式人工智能开始在科学研究中发挥愈发重要的作用，通过人机协作大幅加快科学研究。生成式人工智能可以辅助进行材料收集、分析论证、论文撰写等学术研究的基础性工作，将科研人员从非核心的研究工作中解放出来。
生成式人工智能助力不同研究方向纵深探索。生成式人工智能基于深度学习技术可以充分发挥神经网络高维逼近的强大优势，有望解决所谓的“维数灾难”，从而加速重大科学问题研究和知识发现。如在分子结构方向，生成式人工智能可以加速从分子设计、反应设计到条件生成、反应检验等化学合成全链条，帮助提升潜在功能性分子(如药物分子)及其合成方案设计的速度。
三、生成式人工智能引发的挑战
(一)技术内在风险引发安全隐患
生成式人工智能技术在迭代升级的同时也放大了技术安全风险。数据方面，数据投喂带来价值偏见、隐私泄露、数据污染等问题。算法方面，算法模型生成特性及安全漏洞会引发“幻觉”(hallucination)或虚假信息、模型遭受攻击等风险。此外，生成式人工智能的底层模型“根属性”可能诱发链路性风险。
(二)人机关系变化加深科技伦理失范
生成式人工智能重构人机关系可能带来科技伦理失范。生成式人工智能强大的任务处理能力，容易导致人的思维依赖。过度依靠生成式人工智能提供的答案，会使人自身的观察与理解、归纳与演绎、比较与推理等感知和逻辑能力缺乏训练，怠于思考与创新。此外，生成式人工智能不具备科学的价值判断和道德评估能力，有可能产生负面的机器诱导。
(三)技术跃迁引发人类社会发展挑战
生成式人工智能可能凸显发展的不均衡，拉大发展差距。语言数据较少的国家或人群发展生成式人工智能将受到较多限制。生成式人工智能的应用对硬件设施和数字素养有着较高的要求，经济条件的差异可能加剧地区和群体之间的教育资源差距，导致不平等的学习机会。生成式人工智能可能影响生态环境，模型训练的计算和环境成本与模型大小正相关，如果消耗大量能源进行重复训练，不仅导致资源的浪费，也抬高了碳排放水平。此外，生成式人工智能正在冲击知识产权制度，生成式人工智能是否能作为作者、是否具有可版权性等问题尚无定论，未经授权或者未按开源许可的要求使用文章或代码都可能侵犯知识产权。
四、全球为发展负责任生成式人工智能的努力
(一) 国际组织的努力
国际组织高度关注发展负责任的生成式人工智能。
2023年4月，经济合作与发展组织(OECD)《人工智能语言模型》在原有的治理原则基准上，提出了与语言模型等生成式人工智能相关的政策考虑因素。
2023年5月，联合国发布了关于《全球数字契约》的政策简报，其中就人工智能和其他新兴技术的敏捷治理提出四项目标，即确保设计和使用的透明、可靠、安全，并在负责任的人类控制之下，将透明、公平和问责作为人工智能治理的核心，将国际指导和规范、国家监管框架和技术标准结合起来形成敏捷治理的框架，监管机构在多方面协调以确保新兴数字技术与人类价值观相一致。
2023年6月，世界经济论坛(WEF)发布了《关于负责任的生成式人工智能的建议》，报告面向广泛的利益攸关方，从负责任地开发和发布生成式人工智能、开放创新和国际合作、社会进步三个层面提出了三十条建议，旨在培养负责任和包容性的人工智能开发和部署流程，从而推动生成式人工智能系统的信任和透明度持续发展。
2023年9月，联合国教科文组织(UNESCO)《生成式人工智能在教育和研究中的应用指南》基于以人为中心的原则，提出了各国规范生成式人工智能在教育应用的七个关键步骤，包括从数据保护、AI政策、AI伦理、版权法、生成式人工智能监管等方面制定或调整现有政策规定，建立在教育研究中使用生成式人工智能的指导原则，反思生成式人工智能对教育与研究的长远影响。
(二) 主要国家和地区的努力
各国家和地区积极探索人工智能的伦理法治，在鼓励创新中规范发展。
欧盟在2019年发布的《可信人工智能伦理准则》中，厘定了人类代理和监督、技术稳健性和安全性、隐私和数据管理、透明度、多样性、无歧视和公平、环境和社会福祉、问责制等七项伦理原则。在即将出台的《人工智能法案》中，欧盟拟采取基于风险的分级规制方法，倡导负责任的研究与创新。
英国科学、创新和技术部在2023年3月发布了《一种支持创新的人工智能监管方法》白皮书，以安全、安保和稳健性，适当的透明度和可解释性，公平，问责制和治理，竞争和补救等五项原则来指引人工智能负责任的发展和使用。
美国白宫科技政策办公室在2022年10月发布了《人工智能权利法案蓝图》，提出了系统安全有效、算法歧视保护、数据隐私、通知和解释以及人的自主选择与退出等五项原则和相关实践指南。
中国于2021年发布《新一代人工智能伦理规范》，提出了人工智能管理、研发、供应和使用四个环节的18项具体伦理要求。2023年10月，中国在第三届“一带一路”国际合作高峰论坛发布《全球人工智能治理倡议》，并提出“愿同各国加强交流和对话，共同促进全球人工智能健康有序安全发展”。
生成式人工智能崭露头角，各国家和地区迅速反应并审慎指引。ChatGPT等生成式人工智能迅猛发展，对人工智能系统的构建和部署方式产生极大影响，引发了更深切的担忧。
欧盟即将完成审议的《人工智能法案》在修订草案中对生成式人工智能施加了透明度义务，要求披露内容是否由人工智能生成、帮助区分深度伪造图像和真实图像，还要求披露训练数据的版权等。
美国政府先后在2023年7月、9月两次召集主要人工智能企业签署自愿承诺，推动人工智能技术的安全、可靠、可信发展，并宣布采取包括对现有生成式人工智能系统进行公开评估在内的系列行动。美国总统科技顾问委员会还专门成立了生成式人工智能工作组，指导安全、公平、负责任地开发部署相关技术。
2023年6月，英国内阁办公室在《公务员使用生成式人工智能的指引》中指出必须要意识到新技术的机会与风险，为英国公务员使用生成式人工智能划定了一般原则。
中国除了早先制定的《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》，还于2023年8月施行了《生成式人工智能服务管理暂行办法》，坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展。与此同时，加拿大、法国、日本、韩国、新加坡等国家也都积极致力于人工智能治理的相关工作。
(三) 产业界的努力
全球产业界通过设立准则指引、建立伦理委员会、开发治理工具等方式积极践行负责任的人工智能。
准则指引方面，IBM、微软、谷歌、阿里巴巴、百度、腾讯、商汤、360等推出企业人工智能原则，包括对社会有益、安全、保护隐私、公平、透明、可解释、可控、负责任等方面。
在产业组织方面，中国人工智能产业发展联盟发布《人工智能行业自律公约》，中国信通院发布了《可信人工智能白皮书》，中国社科院法学所团队在征求产业界意见基础上面向全球发布《人工智能示范法1.1(专家建议稿)》。
治理组织方面，IBM、微软、谷歌、阿里巴巴、蚂蚁、Lucid.AI、商汤、旷视等多家科技公司设立了伦理委员会。工具实践落地方面，企业还积极通过开发多样化伦理治理工具、制定企业内部行动指南等方式，促进科技伦理治理原则技术化、工程化。
生成式人工智能浪潮下，企业积极探索应对新风险的新方案。
提升安全性和稳健性方面，思科利用安全、数据泄露和隐私事件响应系统来管理涉及偏见和歧视的人工智能事件，并向更广泛的利益相关者报告调查结果和补救步骤。蚂蚁集团发布了大模型安全解决方案“蚁鉴2.0”，包括AIGC安全性和真实性评测、AI鲁棒性和可解释性检测等多项功能。保护数据隐私方面，GitHub Copilot为用户提供使用标准配置文件的选项，无需访问云端API而存储在本地机器上进行开放，从而保护用户隐私性。提升透明度方面，为了帮助整个行业提高人工智能的透明度，IBM 推出AI FactSheets 360网站，提供关于人工智能模型重要特征(包括目的、性能、数据集、特征等)的“情况说明书”组装方法。提升可解释性方面，OpenAI利用GPT-4对GPT-2的神经网络行为自动化地撰写解释并对其解释打分，推进模型的可解释性和可理解性研究。保障公平包容方面，谷歌引入“LASSI”表征学习方法来验证高维数据的个体公平性，使得用户数据能以更加公平的方式处理。确保价值对齐方面，OpenAI成立超级对齐(Superalignment)团队，希望用四年时间解决人工智能系统与人类价值一致性问题。辨识生成内容方面，Meta开源数字水印Stable Signature，将数字水印直接嵌入到AI自动生成的图片中，极大增强生成式人工智能安全。
五、发展负责任的生成式人工智能共识
(一) 总则
01 发展负责任的生成式人工智能应始终致力于增进人类福祉，坚持以人为本，推动人类经济、社会和生态可持续发展。应正确认识生成式人工智能所蕴含的巨大潜力和可能风险，遵循统筹发展和安全、平衡创新与伦理、均衡效益与风险的理念，推动生成式人工智能负责任的发展。一方面，应积极推动创新、可持续、包容开放的发展，提升生成式人工智能算力高效、数据高质、算法创新、人才多元、生态开放的能力；另一方面，以高度负责任的态度发展可靠可控、透明可释、数据保护、多元包容、明确责任、价值对齐的生成式人工智能。
(二) 促进生成式人工智能发展
02 积极倡导并稳妥推进生成式人工智能的可持续发展。一是保证经济可持续性。应确保生成式人工智能提高生产力和创造就业机会，提高资源使用效率，实现数实融合的循环经济，推动科技创新，促使经济结构向更高附加值的转变；二是保证社会可持续性。应确保生成式人工智能公平与平等的使用，实现全社会对其的共享共治；三是保证环境的可持续性。生成式人工智能的发展应实现对于自然资源的可持续管理和使用，鼓励采用绿色能源驱动基础设施、提高能源转化效率、绿色开发算法模型应用，降低温室气体排放，实现绿色发展。
03 构建有益于生成式人工智能健康有序发展的良好环境。一是建立和完善相关的伦理原则和法律法规，重点审视知识产权法律制度，探索人工智能生成物的权利归属方案，对其进行恰当的管理和保护。二是构建包容、扶持、前瞻、可预期的政策环境。为前沿应用孵化构建一个包容的创新环境，为规模推广营造一个优良的营商环境，为赋能经济社会发展搭建一个稳健的监管环境。三是加强国际交流与合作。生成式人工智能的发展需要全球各利益相关方秉持共商共建共享理念，以开放协作态度和举措，开展跨国家、跨领域、跨文化交流与协作，推动形成具有广泛共识的国际评测及标准体系，确保各国共享生成式人工智能的技术惠益。
04 提升生成式人工智能研发及规模应用的能力。一是构建开放共享、普惠包容的算力资源。应推动算力的合理分配与高效利用，降低科技创新的门槛，确保不同地区、不同规模的企业及个人都能获得必要的计算资源。二是推动负责任的数据共享。应鼓励推广高质量数据的共享流动，增强公共数据资源供给，保障数据安全共享与合规利用，提升各领域数据治理水平。三是完善算法创新的设施条件。应前瞻谋划、统筹布局各类平台和开放共享服务网络建设，鼓励算法和基础模型在安全的基础上开源开放，加强跨行业、跨领域协作，推动产学研结合，形成算法创新的良性生态。此外，还应全面加强人才能力建设，促进生成式人工智能技术成果在重点领域的应用赋能。
(三) 提升生成式人工智能的负责任治理能力
05 发展安全可靠的生成式人工智能，确保全生命周期内可控地运行。一是提升安全稳健性和生成准确性。增强生成式模型防御提示攻击、注入攻击等能力，不断提高稳健性和抗干扰能力。探索内容生成可控的技术或解决方案，确保生成的信息内容尽可能准确。二是确保人类知情与控制。确保人类知悉其在与生成式人工智能交互，确保生成式人工智能系统可被人类监督和及时接管。三是避免技术滥用与恶意使用。避免用户过度依赖生成式人工智能，减轻其对人类创新力与主体性的负面影响。避免故意或非故意地使用生成式人工智能伤害社会与公众利益。
06 增强生成式人工智能系统的透明度与可解释性，提升人类对其理解和信任。一是提升透明度，鼓励在安全的基础上披露生成式人工智能系统的能力及局限性，以及决策过程及技术意图；建立外部监督与反馈渠道，并不断做出改进。二是增强可解释性，推动生成式人工智能的可解释性研究，探索自适应场景和风险水平的强可解释性技术路线，增进人类信任，提升应用接受度。
07 强化生成式人工智能数据治理，加强数据安全，尊重和保护个人隐私。一是强化数据治理，避免训练数据的非法收集、滥用和泄漏等问题，采取有效措施提高训练数据质量。二是加强个人信息与隐私保护。生成式人工智能训练数据涉及个人数据时应依法获得用户知情和同意，确保生成内容不侵犯个人隐私。三是探索隐私保护技术，在构造生成式人工智能系统时，探索使用隐私计算等技术，防范数据泄露及滥用风险。
08 确保生成式人工智能的开放包容和公平普惠。一是确保技术多元包容，保障生成式人工智能的训练数据、应用场景具有必要的多元性，避免产生对特定群体或个人的偏见或歧视。二是促进技术公平普惠，降低生成式人工智能的成本和使用门槛，提升其可得性和易用性，推动人类社会共享生成式人工智能带来的益处，促进社会公平和机会均等，弥合数字鸿沟。
09 明确生成式人工智能的归责体系，增强系统可追溯性。一是明晰归责体系，科学设计不同类型主体在生成式人工智能设计、训练、优化、部署、应用等全生命周期的权利义务和归责体系，确保在损害发生时可问责；二是构建追溯机制，鼓励成立并完善人工智能伦理委员会，确保决策过程及结果可追溯；三是探索治理沙盒等创新友好型治理工具体系，为生成式人工智能提供试错空间，支持负责任的创新探索。
10 推动生成式人工智能更好地理解人类意图、遵循人类指令并符合人类的伦理道德。一是探索价值对齐研究，加强生成式人工智能价值对齐理论探索、技术研究和工具研发，提升人类设计、理解和监督生成式人工智能模型的能力；二是提升价值对齐技术，提升生成式人工智能的训练数据质量，采取人工或自动化检测、红队测试、水印标记、内容过滤等手段，增强其与人类价值的一致性。
本文摘自《发展负责任的生产式人工智能》研究报告及共识
