以此文记录自己做算法备案业务这两年来,陪伴、注视着算法备案政策要求一起成长、进步的轨迹。遇到算法备案或AI监管政策大更的时候就会更新一下。大家能从这篇我记录的算法备案发展史,洞悉到哪些信息和我国AI未来发展的趋势呢?
2023年4月,ChatGPT在国内掀起生成式人工智能狂潮,百度文心一言紧随其后,市面开始大量涌现生成式人工智能产品应用。
2023年6月,因生成式人工智能生成内容具备舆论属性,网信办紧急颁布《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》,要求所有对境内公众提供生成式人工智能服务的主体必须进行算法备案,并要求产品分发渠道同责审核。算法备案成为AIGC产品合法合规上线运营的硬性管理条件。未备案的产品主体负责人将被约谈,产品关停下架至少两个月进行备案。
2024年4月,ICP备案(非ICP许可证,仅ICP域名备案)成为算法备案强制性前置要求。标志着我国人工智能算法备案审核工作从“增量”转变为“提质”。算法备案门槛要求开始提高。
2024年8月,网信办对多模态生成式人工智能产品报审材料审核收紧,要求文件当中所涉每个算法均需按模态分开逐个撰写。
2024年9月,网信办发布“关于征求《网络安全技术 人工智能生成合成内容标识方法》强制性国家标准(征求意见稿)意见的通知”,对于AIGC产品标识功能进行强制性规范化管理。新规即将发布,审核政策将进一步收紧。
2024年10月,网信办进一步要求使用第三方内容审核服务的主体,需提供第三方内容审核后台管理页面截图外,还需提供第三方内容审核接入使用合同,审核进一步提高算法备案审核规范性。
2024年12月,央网办开始对即将发号的备案材料进行抽检复核,复核形式为电话复核。委托给材料上报主体的归属地网信办进行致电联络,询问核对算法、产品、公司情况与材料撰述是否相符。
2024年12月,当月批网信办放号仅放到了10月中旬到11月上旬报审合格的算法(当批411个,第八批发放509个,第七批发放487个,第六批492个),11月上旬之后报审的算法均未发放,仍处于审核中阶段,需要等后面的批次才能按序发放。中国AI市场如火如荼,AI应用大爆发,网信人手不足,压力过大,材料积压过多,审核进度缓慢;从网信积压情况推断后续审核效率可能也不容乐观,算法备案审核发号效率与严格程度很可能向游戏版号发号靠拢。
2025年2月,部分地区材料复核形式转为线下复核,部分地方网信办会要求备案主体携带全部备案材料文件的电子版与纸质版,到网信办线下当面核查提问。
2025年4月,省委网信办联合中央网信办对辖区内AI服务与AI企服公司举办AI监管政策宣讲大会,我司应邀参会。深度学习AI监管政策与法条要求。
2025年4月,宣讲会开办次日,中央网信办于全国范围内部署开展为期3个月的“清朗·整治AI技术滥用”专项行动。中央网信办有关负责人表示,本次专项行动分两个阶段开展。第一阶段强化AI技术源头治理,清理整治违规AI应用程序,加强AI生成合成技术和内容标识管理,推动网站平台提升检测鉴伪能力。第二阶段聚焦利用AI技术制作发布谣言、不实信息、色情低俗内容,假冒他人、从事网络水军活动等突出问题,集中清理相关违法不良信息,处置处罚违规账号、MCN机构和网站平台。
2025年5月,接到网信领导通知,所有对境内提供AI服务的产品,其主体研发的标识功能必须符合新国标。领导强调,新国标为国家级强制性标准,不可随意更改。且所有对境内提供AI服务的产品,其主体研发的安全功能必须真实存在,将进行严格审查。
2025年5月,我司备案材料与流程针对新国标、清朗等新要求全面升级,符合国家最新安全标准。
2025年5月,算法备案审核流程中,对于产品的审核加强,审核领导将登录每个报审产品,真实审阅产品标识与安全功能部署情况与有效性。报审产品需提供可正常使用产品功能的测试账号与密码。
2025年5月,19日晚,第11批算法备案号发放,本批仅放号211个,为算法备案政策颁布后最前两批后的最少数量。
2025年6月,“某岛”被上海网信办约谈整改,因曝光记者体验了多个AI陪伴产品,有多个产品都出现违规内容,全网AI陪伴产品将被严查。实名认证功能成为AI产品通过算法备案的必备功能,涉及未成年人用户的产品还须必备真实有效的未成年人限制功能。(未成年年龄提示和可勾选取消的未成年人模式为无效未成年人模式。不可过审。)
2025年6月,第十二批算法备案放号前的复审工作正式开展。与往批复审政策不同的是,本期复审部分地域更倾向与备案主体直接沟通产品与安全情况,不与我等代理顾问沟通。部分地域开始出现要求上门至备案主体公司办公场地现场执行复审审查,甚至有个别地区网信、网安先后上门审查。后者情况为我司进行备案服务至今初次出现。
2025年8月,国务院发布《关于深入实施“人工智能+”行动的意见》,标志着国家层面对AI赋能千行百业的战略推动进入新阶段。该意见不仅鼓励AI技术的广泛落地与应用创新,更着重强调了发展与安全并重的原则。此外《意见》第十三条强调:完善人工智能法律法规、伦理准则等,推进人工智能健康发展相关立法工作。优化人工智能相关安全评估和备案管理制度。揭示我国人工智能法制管理将会更上一层楼。
2025年9月,在国家网信办指导下,《人工智能安全治理框架》2.0版正式发布。作为2024年版本的升级,该框架基于过去一年多的实践与风险演变,对AI风险分类、分级进行了更精细化的界定,并提出了动态更新的治理措施。此框架为算法备案提供了“操作指南”与“审查标尺”。备案材料中关于风险防范、安全评估、伦理审查等部分的撰写,须紧密对标《框架》2.0的最新要求。这意味着备案服务机构和申报企业需要深刻理解其精神,将治理要求“内化”到算法设计、开发与运营的全流程,备案审核将从此进入一个更具系统性、科学性和前瞻性的新阶段。
2025年9月,万众瞩目的强制性国家标准《人工智能生成合成内容标识办法/方法》正式实施。此国标为AIGC内容标识提供了统一、明确的技术规范,使其从一项原则性要求变为可落地、可检测的硬性规定。网信办在备案审核中,将严格依据该标准核查报审产品的标识功能,包括标识的准确性、完整性、抗篡改性和显隐式标识的结合应用。此前在“清朗”行动中强调的标识要求至此有了国家级标尺,不符合该标准的产品将无法通过备案,推动了全行业标识能力的标准化建设。
2025年10月,审核力度再度收紧,算法命名与隐性标识规范性有更高要求;算法备案的审核颗粒度进一步细化。网信办对算法备案申报中算法的命名规范性提出了更高要求,以确保监管的精准性。同时,对于《标识方法》国标中规定的“隐性标识”(如元数据、数字水印等),审核方加强了技术验证,确保其真实性、有效性、可检测性与可溯源性。这两项收紧措施共同指向一个核心:提升算法备案信息的“真实性”与“可追溯性”,杜绝任何可能规避监管的设计,使得从备案材料到线上产品都能实现透明、可信的管理。
2025年10月,中央网信办、国家发展改革委印发《政务领域人工智能大模型部署应用指引》为AI在关键领域的深度应用树立了标杆。该指引对政务AI产品及服务的数据安全、算法透明、决策可解释性及问责机制提出了细致要求。
其中第三大点规范部署第一小点一合理选择实施路径中明确要求“对于智能问答、辅助文书起草等通用性较强、数据资源丰富的场景,需采用市场上成熟,并已完成网信部门备案的模型产品和服务”;
第四大点运行管理第三小点扎实做好安全管理中要求,政务部门提供人工智能大模型服务时,应遵守《生成式人工智能服务管理暂行办法》等相关规定,使用具有合法来源的数据和基础模型,依法履行算法备案和安全评估等义务,与使用者签订服务协议,明确双方权利义务。
虽然主要针对政务领域,但其标准对全行业同样产生了强大的示范与传导效应。