首期AI治理与伦理圆桌:大模型的可解释性

本文涉及的产品
NLP自然语言处理_高级版,每接口累计50万次
NLP自然语言处理_基础版,每接口每天50万次
NLP 自学习平台,3个模型定制额度 1个月
简介: 首期AI治理与伦理圆桌:大模型的可解释性


AI 伦理与治理是与 AI 技术、工程同等重要但讨论不多的议题。随着近年来大模型的不断涌现,AI 应用和产品纷纷落地。随之而来,人们对 AI 伦理与治理的关注度日益增加,比如 AI 向善、隐私保护、负责任 AI、AI 系统可信可控。近几个月,ChatGPT 的出现让 AI 伦理与治理研究被提上更紧迫的日程。


其实针对 AI 发展过程中产生的伦理与治理问题,一直都有组织跟进研究并着力提出相应的解决方案。2021 年,未来论坛组织 AI 伦理与治理系列论坛,邀请产学研专家思辨探讨,引发广泛关注。活动精华内容已整理成册,在进一步增补丰富后,作为《人工智能伦理与治理—未来视角》一书由人民邮电出版社于近期出版。


为了启发读者们进一步探讨更多 AI 伦理与治理问题,机器之心联合未来论坛、人民邮电出版社共同主办「AI治理与伦理」系列线上圆桌活动,以期在已搭建起的良好讨论氛围基础上,针对新的 AI 研究及产业形势继续展开讨论,引发对 AI 治理和伦理的持续关注。


圆桌第一期聚焦大模型的可解释性,特邀未来论坛青年科学家、清华大学计算机系长聘副教授、博士生导师崔鹏担任主持人,并邀请到加州大学圣巴巴拉分校助理教授李磊,复旦大学计算机科学技术学院教授、博士生导师张奇,哈尔滨工业大学计算机学院教授、博士生导师张伟男担任嘉宾。


活动主要分为三个环节:每位嘉宾25分钟的研究介绍、30分钟的圆桌讨论以及10分钟的现场QA,详情如下:



特邀主持人



崔鹏:未来论坛青年科学家,清华大学计算机系长聘副教授、博士生导师。


研究兴趣聚焦于因果启发的稳定预测和决策、大规模网络表征学习等。2016年开始将因果统计思想与机器学习框架进行融合性研究,提出并发展了因果启发的稳定学习理论方法体系,在智慧医疗、互联网经济等场景取得显著应用价值。他在 ICML、KDD 等顶级国际会议及 Nature Machine Intelligence 等期刊发表论文100余篇,先后7次获得国际会议或期刊论文奖。担任 IEEE TKDE、ACM TOMM、ACM TIST、IEEE TBD、KAIS 等国际期刊编委。曾获得国家自然科学二等奖、教育部自然科学一等奖、CCF-IEEE CS 青年科学家奖,ACM 杰出科学家;担任第九届中国科协全国委员会委员,CCF YOCSEF 第二十三届学术委员会主席。


特邀嘉宾



李磊:加州大学圣巴巴拉分校助理教授。


研究方向为机器学习、自然语言处理、数据挖掘。本科毕业于上海交通大学计算机系 ACM 班,博士毕业于卡耐基梅隆大学计算机系。曾先后任加州大学伯克利分校博士后研究员、百度美国深度学习实验室少帅科学家、字节跳动人工智能实验室创始总监。曾获CCF 青竹奖、ACL 最佳论文奖、吴文俊人工智能二等奖,ACM SIGKDD 最佳博士论文Runner-up 奖。



张奇:复旦大学计算机科学技术学院教授、博士生导师。


2009 年于复旦大学获得理学博士学位。研究领域为自然语言处理与信息检索。至今在 ACM/IEEE Transactions、IJCAI、AAAI、SIGIR、ACL、EMNLP 等自然语言处理和信息检索领域著名学术期刊和会议上发表论文 80 余篇。其中曾获 WSDM 2014 最佳论文推荐奖,COLING 2018 领域主席推荐奖(Area Chair Favorites)。承担 10 余项国家自然科学基金、国家 863 计划、国家科技支撑计划和国际合作项目。担任中国中文信息学会信息检索委员会常务委员、社会媒体处理专委会常务委员、青年工作委员会执行委员、计算语言学专委委员、语言与知识计算专委会委员、中国人工智能学会青年工作委员会常务委员、WSDM 2015 Local Chair、2019 年全国信息检索大会程序委员会联合主席。长期担任包括 ACL、EMNLP、SIGIR、IJCAI、AAAI、TKDE 等自然语言处理和人工智能领域重要国际刊物和会议的领域主席、程序委员会高级委员、程序委员会委员、审稿人等。2012 年获得上海市科技进步二等奖以及教育部科技进步二等奖、2015 年获得 ACM 上海新星提名奖、2016 年获得了钱伟长中文信息处理科学技术奖——汉王青年创新奖、2016 年获得 IBM Global Faculty Award 奖。




张伟男:哈尔滨工业大学计算机学院教授、博士生导师。


哈尔滨工业大学计算学部主任助理,黑龙江省中文信息处理重点实验室副主任,国家重点研发计划项目负责人。研究兴趣包括自然语言处理及人机对话。在 ACL、SIGIR、AAAI、WWW、IJCAI、IEEE TKDE、ACM TOIS 等 CCF A 类国际会议及国际顶级期刊发表论文多篇,多次担任 ACL、EMNLP 领域主席。目前为中国中文信息学会青年工作委员会副主任,中国计算机学会(CCF)术语审定工作委员会执委、CCF 哈尔滨分部秘书长,中国人工智能学会教育工作委员会副秘书长,北京智源青源会会员。曾获黑龙江省科技进步一等奖、吴文俊人工智能科技进步二等奖及黑龙江省青年科技奖等。

相关文章
|
17天前
|
人工智能 Java Serverless
阿里云函数计算助力AI大模型快速部署
随着人工智能技术的快速发展,AI大模型已经成为企业数字化转型的重要工具。然而,对于许多业务人员、开发者以及企业来说,探索和利用AI大模型仍然面临诸多挑战。业务人员可能缺乏编程技能,难以快速上手AI模型;开发者可能受限于GPU资源,无法高效构建和部署AI应用;企业则希望简化技术门槛,以更低的成本和更高的效率利用AI大模型。
84 12
|
3天前
|
机器学习/深度学习 人工智能 物联网
AI赋能大学计划·大模型技术与应用实战学生训练营——湖南大学站圆满结营
12月14日,由中国软件行业校园招聘与实习公共服务平台携手魔搭社区共同举办的AI赋能大学计划·大模型技术与产业趋势高校行AIGC项目实战营·湖南大学站圆满结营。
AI赋能大学计划·大模型技术与应用实战学生训练营——湖南大学站圆满结营
|
16天前
|
人工智能 安全 数据安全/隐私保护
文档智能 & RAG让AI大模型更懂业务测评
文档智能 & RAG让AI大模型更懂业务
144 74
|
6天前
|
人工智能
AniDoc:蚂蚁集团开源 2D 动画上色 AI 模型,基于视频扩散模型自动将草图序列转换成彩色动画,保持动画的连贯性
AniDoc 是一款基于视频扩散模型的 2D 动画上色 AI 模型,能够自动将草图序列转换为彩色动画。该模型通过对应匹配技术和背景增强策略,实现了色彩和风格的准确传递,适用于动画制作、游戏开发和数字艺术创作等多个领域。
62 16
AniDoc:蚂蚁集团开源 2D 动画上色 AI 模型,基于视频扩散模型自动将草图序列转换成彩色动画,保持动画的连贯性
|
8天前
|
机器学习/深度学习 人工智能 安全
CCF-CV企业交流会:打造大模型时代的可信AI,探索AI安全治理新路径
近日,由中国计算机学会计算机视觉专委会主办的《打造大模型时代的可信AI》论坛顺利举行。论坛邀请了来自上海交通大学、中国科学技术大学等机构的专家,从立法、监管、前沿研究等多角度探讨AI安全治理。合合信息等企业展示了图像篡改检测等技术,助力AI向善发展。
42 11
CCF-CV企业交流会:打造大模型时代的可信AI,探索AI安全治理新路径
|
3天前
|
机器学习/深度学习 人工智能 智能设计
VisionFM:通用眼科 AI 大模型,具备眼科疾病诊断能力,展现出专家级别的准确性
VisionFM 是一个多模态多任务的视觉基础模型,专为通用眼科人工智能设计。通过预训练大量眼科图像,模型能够处理多种眼科成像模态,并在多种眼科任务中展现出专家级别的智能性和准确性。
28 4
VisionFM:通用眼科 AI 大模型,具备眼科疾病诊断能力,展现出专家级别的准确性
|
17天前
|
机器学习/深度学习 人工智能 自然语言处理
GLM-4V-Flash:智谱 AI 免费开放的图像理解大模型 API 接口
智谱AI推出的GLM-4V-Flash是一款专注于图像理解的免费开放大模型,提供API接口支持用户上传图片URL或Base64编码图片获取详细的图像描述。该模型通过深度学习和卷积神经网络技术,简化了图像分析流程,提高了开发效率,适用于内容审核、辅助视障人士、社交媒体、教育和电子商务等多个应用场景。
102 14
GLM-4V-Flash:智谱 AI 免费开放的图像理解大模型 API 接口
|
15天前
|
人工智能 安全 测试技术
EXAONE 3.5:LG 推出的开源 AI 模型,采用 RAG 和多步推理能力降低模型的幻觉问题
EXAONE 3.5 是 LG AI 研究院推出的开源 AI 模型,擅长长文本处理,能够有效降低模型幻觉问题。该模型提供 24 亿、78 亿和 320 亿参数的三个版本,支持多步推理和检索增强生成技术,适用于多种应用场景。
67 9
EXAONE 3.5:LG 推出的开源 AI 模型,采用 RAG 和多步推理能力降低模型的幻觉问题
|
17天前
|
机器学习/深度学习 人工智能
SNOOPI:创新 AI 文本到图像生成框架,提升单步扩散模型的效率和性能
SNOOPI是一个创新的AI文本到图像生成框架,通过增强单步扩散模型的指导,显著提升模型性能和控制力。该框架包括PG-SB和NASA两种技术,分别用于增强训练稳定性和整合负面提示。SNOOPI在多个评估指标上超越基线模型,尤其在HPSv2得分达到31.08,成为单步扩散模型的新标杆。
58 10
SNOOPI:创新 AI 文本到图像生成框架,提升单步扩散模型的效率和性能
|
17天前
|
人工智能 搜索推荐 开发者
Aurora:xAI 为 Grok AI 推出新的图像生成模型,xAI Premium 用户可无限制访问
Aurora是xAI为Grok AI助手推出的新图像生成模型,专注于生成高逼真度的图像,特别是在人物和风景图像方面。该模型支持文本到图像的生成,并能处理包括公共人物和版权形象在内的多种图像生成请求。Aurora的可用性因用户等级而异,免费用户每天能生成三张图像,而Premium用户则可享受无限制访问。
57 11
Aurora:xAI 为 Grok AI 推出新的图像生成模型,xAI Premium 用户可无限制访问