4月8日至17日,国际电信联盟标准化局(ITU-T)第17研究组(SG17)在瑞士日内瓦召开全体会议。阿里云牵头的国际标准“X.AI-gcd: Guidelines for Artificial Intelligence-generated content detection"《AI生成内容检测指南》经会议审议通过,正式获批立项。标准将为AI生成内容检测提供指引,推动全球AIGC的健康发展。
随着深度生成、大模型等生成式人工智能技术的快速发展,社交平台、视频网站上出现了大量高质量图像、视频、音频等AIGC内容。由于生成效果高度逼真,人眼已难以辨其真伪,这不仅加剧了虚假信息传播的风险,也对学术诚信、版权保护构成挑战。在此背景下,AIGC检测技术的重要性日益凸显。然而,尽管国内外各企业已推出多款检测工具,但行业仍面临两大核心痛点:
缺乏统一的评估指标导致检测工具选型困难
且检测结果权威性不足难以获得各方认可。
针对这一现状,X.AI-gcd(AI生成内容检测指南)提出了全面的安全要求和系统性的评估方法,指导AI生成内容检测技术的设计、开发、应用和实施,并评估针对文本、图像、视频、音频等多模态生成内容检测工具的相关能力。在日内瓦会议期间,阿里云代表通过专题报告、技术答辩等形式,系统阐释了标准的技术框架与应用价值,获得ITU-T成员国及国际专家的认可。
阿里云标准化副总裁Judy指出,《AI生成内容检测指南》的国际标准项目会帮助AIGC检测技术从分散探索走向规范化发展,为全球治理AI生成内容的风险提供重要支撑依据,助力AIGC合理应用和健康发展。