生成式人工智能服务安全评估需要找第三方吗

简介: 生成式人工智能技术,是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。《生成式人工智能服务管理暂行办法》明确,提供具有舆论属性或者社会动员能力的生成式人工智能服务的,应当按照国家有关规定开展安全评估。

生成式人工智能技术,是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。《生成式人工智能服务管理暂行办法》明确,提供具有舆论属性或者社会动员能力的生成式人工智能服务的,应当按照国家有关规定开展安全评估。
生成式人工智能也称AIGC(AI Generated Content),其主要通过大规模的训练数据,辅之以功能完善的编码器和解码器对其进行编码学习与解码生成,再通过有效的评估机制后生成用户所需的内容。例如,全球流行的ChatGPT即为典型的生成式人工智能,其可以与用户进行普通聊天、完成信息咨询、撰写诗词文章等。
生成式人工智能具有易于使用、提高效率、节约成本等显著优势,可以辅助企业与个人作出更精准的决策,但与此同时,也面临着诸多挑战,数据偏差、监管伦理、隐私安全等已成为人工智能领域进一步发展亟须解决的问题。

生成式人工智能是人类科学技术发展的重要成果,为引领和带动新一轮产业变革提供了可能。近年来,生成式人工智能技术不断成熟,展现出全方位提升人类生产生活效率的重要潜力,揭开人类社会智能化演进的趋势。然而,生成式人工智能也在网络安全方面带来新挑战、新风险。如何发展好、运用好、管理好生成式人工智能,已经成为全世界面临的共同挑战。

在此背景下,国家网信办等七部门发布了《生成式人工智能服务管理暂行办法》(以下简称《办法》)。《办法》的出台将从政策法规层面为我国生成式人工智能健康发展保驾护航,是统筹发展和安全的重要举措。同时,《办法》作为国际上首先出台的积极应对生成式人工智能安全风险的专门立法,为有序开展相关管理工作明确了方向。

生成式人工智能服务安全评估需要找第三方,建议找安全相关机构进行。

相关文章
|
5月前
|
机器学习/深度学习 人工智能 自然语言处理
生成式人工智能(Generative AI)入门指南
生成式人工智能(Generative AI)入门指南
|
5月前
|
机器学习/深度学习 人工智能 自然语言处理
人工智能赋能电商服务有什么优势
人工智能赋能电商服务有什么优势
54 0
|
8月前
|
机器学习/深度学习 Web App开发 人工智能
人工智能在客户关系管理软件销售和服务模块中的应用(下)
人工智能在客户关系管理软件销售和服务模块中的应用
90 0
|
8月前
|
机器学习/深度学习 人工智能 搜索推荐
人工智能在客户关系管理软件销售和服务模块中的应用(上)
人工智能在客户关系管理软件销售和服务模块中的应用
58 0
|
2天前
|
机器学习/深度学习 人工智能 分布式计算
人工智能平台PAI 操作报错合集之在本地构建easyrec docker镜像时遇到了无法连接docker服务如何解决
阿里云人工智能平台PAI (Platform for Artificial Intelligence) 是阿里云推出的一套全面、易用的机器学习和深度学习平台,旨在帮助企业、开发者和数据科学家快速构建、训练、部署和管理人工智能模型。在使用阿里云人工智能平台PAI进行操作时,可能会遇到各种类型的错误。以下列举了一些常见的报错情况及其可能的原因和解决方法。
|
18天前
|
机器学习/深度学习 传感器 人工智能
迎接生成式人工智能时代的计算资源革命
迎接生成式人工智能时代的计算资源革命
|
23天前
|
人工智能 搜索推荐 语音技术
AI - 生成式人工智能(Generative AI)
AI - 生成式人工智能(Generative AI)
51 0
|
4月前
|
人工智能 自然语言处理 前端开发
ChatGPT更新的使用指南,与其他类似的人工智能的软件和服务-更新版(2023-6-25)
ChatGPT更新的使用指南,与其他类似的人工智能的软件和服务-更新版(2023-6-25)
46 0
|
5月前
|
人工智能 算法 网络安全
在探索创意中进一步了解生成式人工智能:PartyRock —— re:Invent 2023 产品测评
在探索创意中进一步了解生成式人工智能:PartyRock —— re:Invent 2023 产品测评
70 0
|
11月前
|
机器学习/深度学习 人工智能 自然语言处理
谷歌发布一个免费的生成式人工智能课程
在过去几周,我们看到的都是AI将如何改变生活,无论是ChatGPT的文本生成,还是SD,Midjourney 的图像生成,这些AI的特点就是都是生成式的AI。而几天前,谷歌推出了一个生成式人工智能学习课程,课程涵盖了生成式人工智能入门、大型语言模型、图像生成等主题。
235 0