首期AI治理与伦理圆桌:大模型的可解释性

本文涉及的产品
NLP 自学习平台,3个模型定制额度 1个月
NLP自然语言处理_高级版,每接口累计50万次
NLP自然语言处理_基础版,每接口每天50万次
简介: 首期AI治理与伦理圆桌:大模型的可解释性


AI 伦理与治理是与 AI 技术、工程同等重要但讨论不多的议题。随着近年来大模型的不断涌现,AI 应用和产品纷纷落地。随之而来,人们对 AI 伦理与治理的关注度日益增加,比如 AI 向善、隐私保护、负责任 AI、AI 系统可信可控。近几个月,ChatGPT 的出现让 AI 伦理与治理研究被提上更紧迫的日程。


其实针对 AI 发展过程中产生的伦理与治理问题,一直都有组织跟进研究并着力提出相应的解决方案。2021 年,未来论坛组织 AI 伦理与治理系列论坛,邀请产学研专家思辨探讨,引发广泛关注。活动精华内容已整理成册,在进一步增补丰富后,作为《人工智能伦理与治理—未来视角》一书由人民邮电出版社于近期出版。


为了启发读者们进一步探讨更多 AI 伦理与治理问题,机器之心联合未来论坛、人民邮电出版社共同主办「AI治理与伦理」系列线上圆桌活动,以期在已搭建起的良好讨论氛围基础上,针对新的 AI 研究及产业形势继续展开讨论,引发对 AI 治理和伦理的持续关注。


圆桌第一期聚焦大模型的可解释性,特邀未来论坛青年科学家、清华大学计算机系长聘副教授、博士生导师崔鹏担任主持人,并邀请到加州大学圣巴巴拉分校助理教授李磊,复旦大学计算机科学技术学院教授、博士生导师张奇,哈尔滨工业大学计算机学院教授、博士生导师张伟男担任嘉宾。


活动主要分为三个环节:每位嘉宾25分钟的研究介绍、30分钟的圆桌讨论以及10分钟的现场QA,详情如下:



特邀主持人



崔鹏:未来论坛青年科学家,清华大学计算机系长聘副教授、博士生导师。


研究兴趣聚焦于因果启发的稳定预测和决策、大规模网络表征学习等。2016年开始将因果统计思想与机器学习框架进行融合性研究,提出并发展了因果启发的稳定学习理论方法体系,在智慧医疗、互联网经济等场景取得显著应用价值。他在 ICML、KDD 等顶级国际会议及 Nature Machine Intelligence 等期刊发表论文100余篇,先后7次获得国际会议或期刊论文奖。担任 IEEE TKDE、ACM TOMM、ACM TIST、IEEE TBD、KAIS 等国际期刊编委。曾获得国家自然科学二等奖、教育部自然科学一等奖、CCF-IEEE CS 青年科学家奖,ACM 杰出科学家;担任第九届中国科协全国委员会委员,CCF YOCSEF 第二十三届学术委员会主席。


特邀嘉宾



李磊:加州大学圣巴巴拉分校助理教授。


研究方向为机器学习、自然语言处理、数据挖掘。本科毕业于上海交通大学计算机系 ACM 班,博士毕业于卡耐基梅隆大学计算机系。曾先后任加州大学伯克利分校博士后研究员、百度美国深度学习实验室少帅科学家、字节跳动人工智能实验室创始总监。曾获CCF 青竹奖、ACL 最佳论文奖、吴文俊人工智能二等奖,ACM SIGKDD 最佳博士论文Runner-up 奖。



张奇:复旦大学计算机科学技术学院教授、博士生导师。


2009 年于复旦大学获得理学博士学位。研究领域为自然语言处理与信息检索。至今在 ACM/IEEE Transactions、IJCAI、AAAI、SIGIR、ACL、EMNLP 等自然语言处理和信息检索领域著名学术期刊和会议上发表论文 80 余篇。其中曾获 WSDM 2014 最佳论文推荐奖,COLING 2018 领域主席推荐奖(Area Chair Favorites)。承担 10 余项国家自然科学基金、国家 863 计划、国家科技支撑计划和国际合作项目。担任中国中文信息学会信息检索委员会常务委员、社会媒体处理专委会常务委员、青年工作委员会执行委员、计算语言学专委委员、语言与知识计算专委会委员、中国人工智能学会青年工作委员会常务委员、WSDM 2015 Local Chair、2019 年全国信息检索大会程序委员会联合主席。长期担任包括 ACL、EMNLP、SIGIR、IJCAI、AAAI、TKDE 等自然语言处理和人工智能领域重要国际刊物和会议的领域主席、程序委员会高级委员、程序委员会委员、审稿人等。2012 年获得上海市科技进步二等奖以及教育部科技进步二等奖、2015 年获得 ACM 上海新星提名奖、2016 年获得了钱伟长中文信息处理科学技术奖——汉王青年创新奖、2016 年获得 IBM Global Faculty Award 奖。




张伟男:哈尔滨工业大学计算机学院教授、博士生导师。


哈尔滨工业大学计算学部主任助理,黑龙江省中文信息处理重点实验室副主任,国家重点研发计划项目负责人。研究兴趣包括自然语言处理及人机对话。在 ACL、SIGIR、AAAI、WWW、IJCAI、IEEE TKDE、ACM TOIS 等 CCF A 类国际会议及国际顶级期刊发表论文多篇,多次担任 ACL、EMNLP 领域主席。目前为中国中文信息学会青年工作委员会副主任,中国计算机学会(CCF)术语审定工作委员会执委、CCF 哈尔滨分部秘书长,中国人工智能学会教育工作委员会副秘书长,北京智源青源会会员。曾获黑龙江省科技进步一等奖、吴文俊人工智能科技进步二等奖及黑龙江省青年科技奖等。

相关文章
|
12天前
|
人工智能 并行计算 安全
从零到一,打造专属AI王国!大模型私有化部署全攻略,手把手教你搭建、优化与安全设置
【10月更文挑战第24天】本文详细介绍从零开始的大模型私有化部署流程,涵盖需求分析、环境搭建、模型准备、模型部署、性能优化和安全设置六个关键步骤,并提供相应的示例代码,确保企业能够高效、安全地将大型AI模型部署在本地或私有云上。
104 7
|
8天前
|
人工智能 JSON API
阿里云文档智能 & RAG解决方案:提升AI大模型业务理解与应用
阿里云推出的文档智能 & RAG解决方案,旨在通过先进的文档解析技术和检索增强生成(RAG)方法,显著提升人工智能大模型在业务场景中的应用效果。该方案通过文档智能(Document Mind)技术将非结构化文档内容转换为结构化数据,提取文档的层级树、样式和版面信息,并输出为Markdown和Json格式,为RAG提供语义分块策略。这一过程不仅解决了文档内容解析错误和切块丢失语义信息的问题,还优化了输出LLM友好的Markdown信息。方案的优势在于其多格式支持能力,能够处理包括Office文档、PDF、Html、图片在内的主流文件类型,返回文档的样式、版面信息和层级树结构。
50 2
|
1天前
|
人工智能 弹性计算 Serverless
触手可及,函数计算玩转 AI 大模型 | 简单几步,轻松实现AI绘图
本文介绍了零售业中“人—货—场”三要素的变化,指出传统营销方式已难以吸引消费者。现代消费者更注重个性化体验,因此需要提供超出预期的内容。文章还介绍了阿里云基于函数计算的AI大模型,特别是Stable Diffusion WebUI,帮助非专业人士轻松制作高质量的促销海报。通过详细的部署步骤和实践经验,展示了该方案在实际生产环境中的应用价值。
22 6
触手可及,函数计算玩转 AI 大模型 | 简单几步,轻松实现AI绘图
|
12天前
|
存储 人工智能 数据可视化
高效率,低成本!且看阿里云AI大模型如何帮助企业提升客服质量和销售转化率
在数字化时代,企业面临海量客户对话数据处理的挑战。阿里云推出的“AI大模型助力客户对话分析”解决方案,通过先进的AI技术和智能化分析,帮助企业精准识别客户意图、发现服务质量问题,并生成详尽的分析报告和可视化数据。该方案采用按需付费模式,有效降低企业运营成本,提升客服质量和销售转化率。
高效率,低成本!且看阿里云AI大模型如何帮助企业提升客服质量和销售转化率
|
4天前
|
机器学习/深度学习 人工智能 自然语言处理
当前AI大模型在软件开发中的创新应用与挑战
【10月更文挑战第31天】2024年,AI大模型在软件开发领域的应用取得了显著进展,从自动化代码生成、智能代码审查到智能化测试,极大地提升了开发效率和代码质量。然而,技术挑战、伦理与安全问题以及模型可解释性仍是亟待解决的关键问题。开发者需不断学习和适应,以充分利用AI的优势。
|
6天前
|
人工智能 JSON 自然语言处理
基于文档智能&RAG搭建更懂业务的AI大模型
本文介绍了一种结合文档智能和检索增强生成(RAG)技术,构建强大LLM知识库的方法。通过清洗文档内容、向量化处理和特定Prompt,提供足够的上下文信息,实现对企业级文档的智能问答。文档智能(Document Mind)能够高效解析多种文档格式,确保语义的连贯性和准确性。整个部署过程简单快捷,适合处理复杂的企业文档,提升信息提取和利用效率。
|
2天前
|
人工智能 自然语言处理 算法
企业内训|AI/大模型/智能体的测评/评估技术-某电信运营商互联网研发中心
本课程是TsingtaoAI专为某电信运营商的互联网研发中心的AI算法工程师设计,已于近日在广州对客户团队完成交付。课程聚焦AI算法工程师在AI、大模型和智能体的测评/评估技术中的关键能力建设,深入探讨如何基于当前先进的AI、大模型与智能体技术,构建符合实际场景需求的科学测评体系。课程内容涵盖大模型及智能体的基础理论、测评集构建、评分标准、自动化与人工测评方法,以及特定垂直场景下的测评实战等方面。
20 4
|
3天前
|
机器学习/深度学习 人工智能 自然语言处理
机器学习之解释性AI与可解释性机器学习
随着人工智能技术的广泛应用,机器学习模型越来越多地被用于决策过程。然而,这些模型,尤其是深度学习模型,通常被视为“黑箱”,难以理解其背后的决策逻辑。解释性AI(Explainable AI, XAI)和可解释性机器学习(Interpretable Machine Learning, IML)旨在解决这个问题,使模型的决策过程透明、可信。
14 2
|
7天前
|
人工智能
热门 新 1024 云上见 AI大模型助力客户对话分析 2000个智能台灯等你来领
热门 新 1024 云上见 AI大模型助力客户对话分析 2000个智能台灯等你来领
31 3
|
14天前
|
人工智能 自然语言处理 监控
函数计算玩转 AI 大模型
本文总结了对一个基于函数计算和AI大模型的解决方案的理解和实践体验。整体而言,方案描述详细、逻辑清晰,易于理解。但在技术细节和部署引导方面还有提升空间,如增加示例代码和常见错误解决方案。函数计算的优势在部署过程中得到了有效体现,特别是在弹性扩展和按需计费方面。然而,针对高并发场景的优化建议仍需进一步补充。总体评价认为,该解决方案框架良好,但需在文档和细节方面继续优化。

热门文章

最新文章

下一篇
无影云桌面