合合信息在视觉内容安全领域的创新与应用-应对伪造挑战的前沿进展
在2024年中国图象图形学学会青年科学家会议上，上海合合信息科技股份有限公司图像算法研发总监郭丰俊博士分享了“视觉内容安全技术的前沿进展与应用”。随着AI技术的发展，尤其是深度学习和生成对抗网络（GANs）的成熟，视觉内容伪造技术日益复杂，给传统审核手段带来挑战。郭博士介绍了合合信息在图像、视频篡改检测及人脸鉴伪等领域的创新解决方案，强调了大模型如ForgeryGPT的应用前景，并指出未来视觉内容安全将趋向多模态检测和智能化防护，以应对不断演化的伪造手段。合合信息通过自研AI算法，实现了对篡改区域的精确识别，具备较强的跨域泛化能力，已在金融、政府监管等领域广泛应用。
深度剖析 打造大模型时代的可信AI：技术创新与安全治理并重
2024年12月11日，由中国计算机学会计算机视觉专委会主办的“打造大模型时代的可信AI”论坛在上海举行。论坛汇聚了来自多家知名学术机构和企业的顶尖专家，围绕AI的技术风险与治理挑战，探讨如何在大模型时代确保AI的安全性和可信度，推动技术创新与安全治理并行。论坛重点关注计算机视觉领域的最新进展，提出了多项技术手段和治理框架，为AI的健康发展提供了有力支持。
智保未来：国泰产险的 AI 网关革新之旅
通过阿里云云原生 API 网关在国泰落地，目前国泰所有访问大模型的流量均通过阿里云云原生 API 网关进行代理，在日均消耗近亿 Token 的同时，做到了对每个请求都进行敏感信息过滤，不论是输入大模型的内容还是由大模型产生的内容都进行了全面审计，大大降低使用大模型的数据安全风险。通过网关的 AI 插件，国泰产险做到了每个 Token 都知道是谁在用，用在哪个场景，给后续分析和成本管控提供了坚实的数据支撑。
云上数据安全保护：敏感日志扫描与脱敏实践详解
随着企业对云服务的广泛应用，数据安全成为重要课题。通过对云上数据进行敏感数据扫描和保护，可以有效提升企业或组织的数据安全。本文主要基于阿里云的数据安全中心数据识别功能进行深入实践探索。通过对商品购买日志的模拟，分析了如何使用阿里云的工具对日志数据进行识别、脱敏（3 种模式）处理和基于 StoreView 的查询脱敏方式，从而在保障数据安全的同时满足业务需求。通过这些实践，企业可以有效降低数据泄漏风险，提升数据治理能力和系统安全性。
带你读《阿里云安全白皮书》（二十四）——云上安全建设最佳实践（2）
本文介绍了阿里云在AI大模型云上安全方面的最佳实践，涵盖数据安全、模型安全、内容安全和合规性四大关键挑战。阿里云通过数据加密、私有链接传输、机密计算等技术手段，确保数据和模型的安全性；同时，提供内容安全检测、Prompt问答护栏等功能，保障生成内容的合法合规。此外，阿里云还帮助企业完成算法及模型备案，助力客户在AI大模型时代安全、合规地发展。