生成式人工智能技术,是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。《生成式人工智能服务管理暂行办法》明确,提供具有舆论属性或者社会动员能力的生成式人工智能服务的,应当按照国家有关规定开展安全评估。
生成式人工智能也称AIGC(AI Generated Content),其主要通过大规模的训练数据,辅之以功能完善的编码器和解码器对其进行编码学习与解码生成,再通过有效的评估机制后生成用户所需的内容。例如,全球流行的ChatGPT即为典型的生成式人工智能,其可以与用户进行普通聊天、完成信息咨询、撰写诗词文章等。
生成式人工智能具有易于使用、提高效率、节约成本等显著优势,可以辅助企业与个人作出更精准的决策,但与此同时,也面临着诸多挑战,数据偏差、监管伦理、隐私安全等已成为人工智能领域进一步发展亟须解决的问题。
生成式人工智能是人类科学技术发展的重要成果,为引领和带动新一轮产业变革提供了可能。近年来,生成式人工智能技术不断成熟,展现出全方位提升人类生产生活效率的重要潜力,揭开人类社会智能化演进的趋势。然而,生成式人工智能也在网络安全方面带来新挑战、新风险。如何发展好、运用好、管理好生成式人工智能,已经成为全世界面临的共同挑战。
在此背景下,国家网信办等七部门发布了《生成式人工智能服务管理暂行办法》(以下简称《办法》)。《办法》的出台将从政策法规层面为我国生成式人工智能健康发展保驾护航,是统筹发展和安全的重要举措。同时,《办法》作为国际上首先出台的积极应对生成式人工智能安全风险的专门立法,为有序开展相关管理工作明确了方向。
生成式人工智能服务安全评估需要找第三方,建议找安全相关机构进行。