Insight-V:腾讯联合南洋理工、清华大学推出提升长链视觉推理能力的多模态模型

本文涉及的产品
图像搜索,7款服务类型 1个月
简介: Insight-V是由南洋理工大学、腾讯公司和清华大学联合推出的多模态模型,旨在提升长链视觉推理能力。通过渐进式数据生成、多智能体系统和两阶段训练流程,Insight-V在多个视觉推理基准测试中表现出色,展现出强大的视觉推理能力。

❤️ 如果你也关注 AI 的发展现状,且对 AI 应用开发非常感兴趣,我会每日跟你分享最新的 AI 资讯和开源应用,也会不定期分享自己的想法和开源实例,欢迎关注我哦!

🥦 微信公众号|搜一搜:蚝油菜花 🥦


🚀 快速阅读

  1. 模型介绍:Insight-V是由南洋理工大学、腾讯公司和清华大学联合推出的多模态模型,专注于提升长链视觉推理能力。
  2. 主要功能:模型通过渐进式数据生成、多智能体系统和两阶段训练流程,显著提高了视觉推理能力。
  3. 技术原理:采用渐进式长链推理数据生成、多粒度评估和迭代DPO算法,确保模型在复杂视觉推理任务中的高性能。

正文

Insight-V 是什么

公众号: 蚝油菜花 - Insight-V

Insight-V是由南洋理工大学、腾讯公司和清华大学联合推出的多模态模型,旨在提升多模态大型语言模型在长链视觉推理方面的能力。该模型通过可扩展的数据生成流程生成高质量的推理数据,并采用多智能体系统将视觉推理任务分解为推理和总结两个步骤,结合两阶段训练流程,显著提高了模型在视觉推理基准测试中的表现。

Insight-V的设计包括渐进式数据生成、多粒度评估和迭代DPO算法,确保系统在复杂的视觉推理任务中展现出卓越的性能。

Insight-V 的主要功能

  • 长链视觉推理:Insight-V能够处理复杂的视觉推理任务,基于生成详细的、逐步推进的推理过程解决问题。
  • 数据生成流程:系统具备可扩展的数据生成流程,用于生产长链、高质量的推理数据,支持复杂多模态任务。
  • 多智能体系统:Insight-V采用多智能体架构,将视觉推理任务分解为推理和总结两个独立步骤,由专门的智能体处理。
  • 两阶段训练流程:系统实施两阶段训练策略,包括监督微调和直接偏好优化(DPO),增强模型的推理能力。
  • 性能提升:在多个视觉推理基准测试中,Insight-V显示出显著的性能提升,超越其他先进模型。

Insight-V 的技术原理

  • 渐进式长链推理数据生成:基于强大的多模态模型收集单步推理结果,根据历史推理结果生成下一步推理动作。
  • 多粒度评估:用真实答案过滤推理数据,排除最终答案错误的数据。用推理步骤打分模型对推理数据的质量进行打分,将数据分为不同质量的子集。
  • 模型设计:专门生成详细、逐步的推理过程。适应推理路径中的不准确之处,有选择性地纳入或忽略某些元素。
  • 训练策略:对两个智能体进行监督微调,培养逐步推理和总结的能力。基于多轮DPO训练和抽样,模拟在线环境,提升模型性能。

资源


❤️ 如果你也关注 AI 的发展现状,且对 AI 应用开发非常感兴趣,我会每日跟你分享最新的 AI 资讯和开源应用,也会不定期分享自己的想法和开源实例,欢迎关注我哦!

🥦 微信公众号|搜一搜:蚝油菜花 🥦

相关文章
|
8天前
|
机器学习/深度学习 人工智能 计算机视觉
ConsisID:北大联合鹏城实验室等机构推出的文本到视频生成模型
ConsisID是由北京大学和鹏城实验室等机构联合推出的文本到视频生成模型,专注于保持视频中人物身份的一致性。该模型采用频率分解技术和免调优的Diffusion Transformer架构,能够在多个评估维度上超越现有技术,推动身份一致性视频生成技术的发展。
123 73
ConsisID:北大联合鹏城实验室等机构推出的文本到视频生成模型
|
10天前
|
机器学习/深度学习 人工智能 达摩院
MVGenMaster:复旦联合阿里等实验室推出的多视图扩散模型
MVGenMaster是由复旦大学、阿里巴巴达摩院和湖潘实验室联合推出的多视图扩散模型,专注于新视角合成(NVS)任务。该模型通过整合3D先验信息,显著提升了NVS的泛化和3D一致性,并能从单一图像生成多达100个新视图。此外,研究团队还推出了包含160万场景的大型多视图图像数据集MvD-1M,以支持模型的训练和优化。
63 27
MVGenMaster:复旦联合阿里等实验室推出的多视图扩散模型
|
3月前
|
机器学习/深度学习 人工智能 数据可视化
首个全自动科学发现AI系统,Transformer作者创业公司Sakana AI推出AI Scientist
【9月更文挑战第11天】Sakana AI公司近日推出全球首个全自动科学发现AI系统——AI Scientist,实现了人工智能在科学研究领域的重大突破。AI Scientist不仅能独立完成从假设提出到实验设计、数据分析及论文撰写的全过程,还能通过模拟评审提升研究成果的质量。该系统已成功应用于机器学习的多个子领域,并产出达到顶级会议标准的论文。尽管其高效性备受赞誉,但也引发了关于研究可信度和潜在风险的讨论。Sakana AI强调,系统具备可追溯的决策过程与严格的评审机制,确保了研究的可靠性和透明度。论文详情参见:[链接]。
87 6
|
1天前
|
数据采集 人工智能 编解码
书生·万象InternVL 2.5:上海 AI Lab 开源的多模态大语言模型,超越了目前许多商业模型
书生·万象InternVL 2.5是由上海AI实验室OpenGVLab团队推出的开源多模态大语言模型系列。该模型在多模态理解基准(MMMU)上表现优异,超越了许多商业模型,适用于图像和视频分析、视觉问答、文档理解和多语言处理等多个领域。
22 7
书生·万象InternVL 2.5:上海 AI Lab 开源的多模态大语言模型,超越了目前许多商业模型
|
13天前
|
存储 人工智能 缓存
Mooncake:月之暗面Kimi联合清华等机构推出的大模型推理架构
Mooncake是由月之暗面Kimi联合清华大学等机构共同开源的大模型推理架构。该架构以KVCache为中心,通过分布式设计和资源优化,显著提升了大模型推理的吞吐量和效率,同时降低了算力开销。Mooncake在长上下文场景中表现出色,支持多种应用场景,如自然语言处理、内容推荐系统和搜索引擎等。
75 6
Mooncake:月之暗面Kimi联合清华等机构推出的大模型推理架构
|
19小时前
|
人工智能
SynCamMaster:快手联合浙大、清华等大学推出的多视角视频生成模型
SynCamMaster是由快手科技联合浙江大学、清华大学等机构推出的全球首个多视角视频生成模型,能够结合6自由度相机姿势,从任意视点生成开放世界视频。该模型通过增强预训练的文本到视频模型,确保不同视点的内容一致性,支持多摄像机视频生成,并在多个应用场景中展现出巨大潜力。
16 3
SynCamMaster:快手联合浙大、清华等大学推出的多视角视频生成模型
|
14天前
|
存储 人工智能 缓存
官宣开源 阿里云与清华大学共建AI大模型推理项目Mooncake
近日,清华大学和研究组织9#AISoft,联合以阿里云为代表的多家企业和研究机构,正式开源大模型资源池化项目 Mooncake。
|
16天前
|
存储 人工智能 缓存
官宣开源|阿里云与清华大学共建AI大模型推理项目Mooncake
2024年6月,国内优质大模型应用月之暗面Kimi与清华大学MADSys实验室(Machine Learning, AI, Big Data Systems Lab)联合发布了以 KVCache 为中心的大模型推理架构 Mooncake。
|
15天前
|
人工智能 API
EvolveDirector:阿里联合南洋理工推出文本到图像生成模型的高效训练技术
EvolveDirector是由阿里巴巴和南洋理工大学联合推出的文本到图像生成模型的高效训练技术。该框架通过与高级模型的API交互获取数据对,并利用预训练的大型视觉语言模型(VLMs)动态优化训练数据集,显著减少了数据量和训练成本。EvolveDirector能够从多个高级模型中选择最佳样本进行学习,使最终训练出的模型在多个方面超越现有高级模型。
32 0
EvolveDirector:阿里联合南洋理工推出文本到图像生成模型的高效训练技术
|
23天前
|
安全 机器人 开发者
清华开源全球最大双臂机器人扩散大模型RDT,懂调酒能遛狗,登顶HF具身热榜
清华大学近期发布了全球最大的双臂机器人扩散大模型RDT,该模型在调酒、遛狗等任务上表现优异,登顶Hugging Face具身智能热榜。RDT采用扩散架构,具备强大的学习能力,能生成高质量的机器人动作序列,展示了清华在机器人技术领域的领先水平。尽管面临泛化能力、计算资源及安全性等挑战,RDT的开源特性仍为其广泛应用和发展提供了广阔前景。
48 8

热门文章

最新文章