网信办整治 AI 技术滥用,AI 企业如何合规运营

简介: 中央网信办开展为期3个月的“清朗・整治AI技术滥用”专项行动,旨在规范AI服务与应用,保障公民权益,促进行业健康发展。文章从算法备案、数据合规管理、内容审核、标识要求、重点领域风险防控、防止侵权、杜绝网络水军及保护未成年人权益八个方面,详细解析了AI企业在运营中需遵循的具体要求与措施,强调企业应主动落实合规,推动AI行业健康有序发展。


近期,中央网信办印发通知,开展为期 3 个月的 “清朗・整治 AI 技术滥用” 专项行动,旨在规范 AI 服务和应用,促进行业健康有序发展,保障公民合法权益。作为 AI 领域的从业者,有必要深入理解此次专项行动的要求,并帮助AI科技企业在此基础上实现合规运营。

一、算法备案的重要性

算法备案是 AI 企业合规运营的基础环节。只要从事相关算法服务,无论是接入第三方模型还是提供大模型服务,无论是否需要大模型备案或者登记,均需做算法备案。其中开发的生成式人工智能技术向公众提供服务前,必须完成大模型备案或登记程序。这不仅是对法律法规的遵循,更是对用户负责的表现。备案过程中,企业需详细提供算法的原理、数据来源、应用场景等信息,以便监管部门进行评估和管理。例如,某 AI 企业开发了一款用于文本生成的模型,在备案时就需要明确说明该模型的训练数据是否合法获取,是否包含侵权内容等。

二、数据与训练语料的合规管理

数据是 AI 模型的基石,企业要确保训练语料的合法性和准确性。首先,要避免使用侵犯他人知识产权、隐私权等权益的信息,不得使用网上爬取的虚假、无效、不实内容,也不能使用非法来源的数据。其次,需建立完善的训练语料管理机制,定期排查清理违规语料。比如,一家图像生成 AI 企业,其训练数据中不能包含未经授权的他人肖像照片,且要对数据进行定期审核,剔除可能存在的问题数据。

三、强化内容审核与安全机制

企业应建立与业务规模相适应的内容审核、意图识别等安全措施。对于生成的内容,要能够有效识别其中可能存在的有害信息,如谣言、不实信息、色情低俗内容等,并及时进行处理。同时,要建立有效的违规账号管理机制,对利用 AI 技术从事违法活动的账号进行及时处置。不仅如此,企业还需定期开展安全自评估,检查自身安全措施的有效性和漏洞,并加以改进。以社交平台为例,对于通过 API 接口接入的 AI 自动回复等服务,平台要清楚其底数,并严格把关,防止有害内容的传播。

四、落实内容标识要求

服务提供者要对深度合成内容添加隐式、显式内容标识,并向使用者提供或提示显式内容标识功能。内容传播平台则要开展生成合成内容监测甄别,防止虚假信息误导公众。例如,某 AI 视频生成平台,在生成的视频中添加特定的标识码,让用户能够轻易辨别该视频是 AI 生成的,同时平台也要对上传的视频进行监测,识别其中是否包含未添加标识的 AI 合成内容。

五、重点领域风险防控

对于提供医疗、金融、未成年人等重点领域问答服务的已备案 AI 产品,企业要针对性设置行业领域安全审核和控制措施。避免出现 “AI 开处方”“诱导投资”“AI 幻觉” 等误导学生、患者,扰乱金融市场秩序的问题。比如,在医疗领域,AI 辅助诊断系统不能超越其辅助的定位,直接给出确诊结果和治疗方案,而应明确提示医生和患者其仅为参考工具,并对输出的内容进行严格的审核。

六、防止侵权与不当应用

企业要杜绝利用 AI 技术假冒他人实施侵权违法行为,如通过 AI 换脸、声音克隆等深度伪造技术,假冒专家、企业家、明星等公众人物,欺骗网民谋利,或对人物进行恶搞、抹黑、歪曲、异化等。同时,也不能利用 AI 冒充亲友进行网络诈骗,或不当使用 AI “复活逝者”,滥用逝者信息。例如,一些不法分子曾利用 AI 换脸技术制作虚假视频,冒充明星进行广告代言,给明星的名誉和公众的权益都带来了损害。

七、避免网络水军活动

企业不能利用 AI 技术 “养号”,模拟真人批量注册、运营社交账号,也不能使用 AI 内容农场或 AI 洗稿,批量生成发布低质同质化文案,博取流量。更要禁止使用 AI 群控软件、社交机器人批量点赞跟帖评论,刷量控评,制造热点话题上榜等行为。这些行为不仅破坏了网络生态,也损害了其他用户的合法权益。

八、保护未成年人权益

AI 企业要关注未成年人权益保护,避免应用程序诱导未成年人沉迷,确保在未成年人模式下不存在影响未成年人身心健康的内容。例如,一些 AI 游戏或娱乐应用,要在未成年人模式下对内容进行严格筛选,限制不适宜未成年人接触的功能和信息。

总之,网信办的 “清朗・整治 AI 技术滥用” 专项行动为 AI 企业敲响了警钟。企业应以此为契机,从算法备案、数据管理、内容审核、安全机制、重点领域风险防控等多方面入手,加强内部管理和自查自纠,积极主动地落实各项合规要求,共同推动 AI 行业健康、有序、可持续地发展。

相关文章
|
19天前
|
人工智能 架构师 关系型数据库
第二届固件技术峰会盛大召开,共探 AI 时代固件创新之路
阿里云联合字节跳动、固件联盟主办的第二届固件技术峰会在长沙顺利召开,探索AI时代固件技术发展新趋势。
|
14天前
|
人工智能 Cloud Native 数据管理
邀您参加 KubeCon China 2025 分论坛 | 阿里云 AI 基础设施技术沙龙
KubeCon + CloudNativeCon China 2025 将于6月10-11日在香港合和酒店举办,由CNCF与Linux基金会联合主办。阿里云开发者将在大会上分享多个技术议题,涵盖AI模型分发、Argo工作流、Fluid数据管理等领域。大会前还有阿里云AI基础设施技术沙龙,聚焦AI基础设施及云原生技术实战经验。欢迎扫码报名参与!
232 64
|
17天前
|
机器学习/深度学习 传感器 人工智能
AI与智能驾驶的关系和原理:技术融合与未来展望-优雅草卓伊凡
AI与智能驾驶的关系和原理:技术融合与未来展望-优雅草卓伊凡
47 3
AI与智能驾驶的关系和原理:技术融合与未来展望-优雅草卓伊凡
|
12天前
|
人工智能 运维 Kubernetes
倒计时 3 天!邀您共赴维多利亚港精彩纷呈的 AI 基础设施技术盛宴!
6 月 9 日「KubeCon China 2025 分论坛|阿里云 AI 基础设施技术沙龙」火热报名中!席位有限,先到先得。热切期待您的莅临!
|
12天前
|
存储 人工智能 关系型数据库
诚邀您参加《智启云存:AI时代数据库RDS存储新突破》线上闭门技术沙龙!
诚邀您参加6月11日(周三)14:00在线上举行的《智启云存:AI时代数据库RDS存储新突破》闭门活动。免费报名并有机会获得精美礼品,快来报名吧:https://hd.aliyun.com/form/6162
|
12天前
|
人工智能 自然语言处理 算法
AI企业必看:最新结果标识合规要求及规范
随着《人工智能生成合成内容标识办法》及配套标准的发布,AI企业需快速掌握政策要求以确保合规运营。该办法明确指出,利用AI生成的内容(如文本、图片、音频、视频等)需通过显性标识(如“AI生成”字样)或隐性标识(如元数据、数字水印)进行标注。内容传播平台也需核验标识并提醒用户内容性质。此外,应用程序分发平台在审核时需确认是否提供AI生成服务及相关标识材料。对于AI企业而言,合规已成为必修课,需重点关注标识的规范性和溯源能力,以应对即将到来的监管要求。
|
12天前
|
人工智能 IDE 程序员
通义灵码打造企业专属 AI 程序员
本文介绍了AI辅助编码领域的产品形态与发展趋势,重点分析了通义灵码的功能与优势。作为一款IDE插件,通义灵码经历了三个发展阶段,从行级代码补全到Multi-Agent全流程支持,覆盖个人开发者与企业用户需求。其核心功能包括代码智能辅助、私域知识融合及自定义扩展机制,有效提升了研发效率。此外,文章还展示了通义灵码在智能化工具链建设中的探索,如代码评审智能体,并通过趣味项目演示了AI程序员的多步骤协作能力。
|
12天前
|
人工智能 运维 自然语言处理
|
机器学习/深度学习 人工智能 算法
别上当!大部分AI企业都是蹭人工智能热点的!
众所周知,人工智能的火爆吸引了无数投资人的目光,有些人认为国内人工智能的发展前景似乎很是乐观,而有些人则表示,获得投资的企业数量多不能代表什么,更重要的是盈利情况
6323 0
|
1月前
|
开发框架 人工智能 Java
破茧成蝶:阿里云应用服务器让传统 J2EE 应用无缝升级 AI 原生时代
本文详细介绍了阿里云应用服务器如何助力传统J2EE应用实现智能化升级。文章分为三部分:第一部分阐述了传统J2EE应用在智能化转型中的痛点,如协议鸿沟、资源冲突和观测失明;第二部分展示了阿里云应用服务器的解决方案,包括兼容传统EJB容器与微服务架构、支持大模型即插即用及全景可观测性;第三部分则通过具体步骤说明如何基于EDAS开启J2EE应用的智能化进程,确保十年代码无需重写,轻松实现智能化跃迁。
250 41
下一篇
oss创建bucket