楠竹11_社区达人页

2024年10月

• 10.15 20:36:14
  发表了文章 2024-10-15 20:36:14

  ACL杰出论文奖：GPT-4V暴露致命缺陷？JHU等发布首个多模态ToM 测试集，全面提升大模型心智能力

  【10月更文挑战第6天】约翰斯·霍普金斯大学等机构提出了一项荣获ACL杰出论文奖的研究，旨在解决大模型在心智理论（ToM）上的不足。他们发布了首个MMToM-QA多模态ToM测试集，并提出BIP-ALM方法，从多模态数据中提取统一表示，结合语言模型进行贝叶斯逆规划，显著提升了模型的ToM能力。这一成果为机器与人类自然交互提供了新思路，尽管仍面临一些局限性和技术挑战。论文详情见：https://arxiv.org/abs/2401.08743。
• 10.15 20:36:06
  发表了文章 2024-10-15 20:36:06

  召唤100多位学者打分，斯坦福新研究：AI科学家创新确实强

  【10月更文挑战第6天】斯坦福大学最新研究评估了大型语言模型（LLMs）在生成新颖研究想法方面的能力，通过100多位NLP专家盲评LLMs与人类研究人员提出的想法。结果显示，LLMs在新颖性方面超越人类（p < 0.05），但在可行性上略逊一筹。研究揭示了LLMs作为科研工具的潜力与挑战，并提出了进一步验证其实际效果的设计。论文详见：https://arxiv.org/abs/2409.04109。
• 10.15 20:35:56
  发表了文章 2024-10-15 20:35:56

  Scaling Law瓶颈，Cursor编程为什么这么强？团队参与新研究掏出秘密武器

  【10月更文挑战第6天】近年来，大型语言模型（LLMs）在代码生成领域取得显著进展，但推理计算的规模化效果有限。为解决此问题，来自Scale AI等机构的研究人员提出了PlanSearch算法，通过在自然语言中搜索候选计划，有效提升了模型输出的多样性与准确性。实验显示，在Claude 3.5 Sonnet等模型上，PlanSearch显著提高了搜索效率和性能。尽管存在计算成本高等挑战，该算法仍为LLMs的应用提供了新思路。论文详情见：https://arxiv.org/pdf/2409.03733
• 10.14 23:54:35
  发表了文章 2024-10-14 23:54:35

  清华、北大等发布Self-Play强化学习最新综述

  【10月更文挑战第4天】清华大学和北京大学的研究人员近日在arXiv发布了一篇关于Self-Play在强化学习中应用的综述文章。Self-Play，即自我对弈，通过智能体与自身或过去版本的互动实现自我学习和提升。文章系统地介绍了Self-Play的基础知识、提出了统一的算法分类框架，并探讨了其在游戏、机器人控制及自动驾驶等领域的应用与挑战，为读者提供了全面的理解视角。尽管文章在某些领域应用探讨上可能不够深入，但对于强化学习研究者而言仍是一份宝贵资源。
• 10.14 23:54:28
  发表了文章 2024-10-14 23:54:28

  还在死磕AI咒语？北大-百川搞了个自动提示工程系统PAS

  【10月更文挑战第4天】北京大学和百川智能研究人员开发了一种名为PAS的即插即用自动提示工程（APE）系统，利用高质量数据集训练的大型语言模型（LLMs），在基准测试中取得了显著成果，平均提升了6.09个百分点。PAS仅需9000个数据点即可实现顶尖性能，并能自主生成提示增强数据，提高了灵活性和效率。尽管存在训练数据质量和提示多样性等方面的潜在局限性，PAS仍为解决提示工程挑战提供了有前景的方法，有望提升LLM的可用性和有效性。论文详见：https://arxiv.org/abs/2407.06027。
• 10.14 23:54:19
  发表了文章 2024-10-14 23:54:19

  表格增强生成TAG登场：解锁AI自然语言与数据库的完美结合

  【10月更文挑战第4天】表格增强生成（TAG）范式解锁了AI自然语言处理与数据库的深度融合，旨在让用户通过自然语言便捷地查询和管理数据。TAG结合了语言模型的强大推理能力和数据库系统的高效计算能力，通过查询合成、执行及答案生成三步完成复杂查询。相较于传统Text2SQL和RAG方法，TAG在准确性上显著提升，但其应用仍面临技术门槛和数据质量等挑战。[论文地址:](https://arxiv.org/pdf/2408.14717)
• 10.13 07:05:18
  发表了文章 2024-10-13 07:05:18

  TPAMI 2024：计算机视觉中基于图神经网络和图Transformers的方法和最新进展

  【10月更文挑战第3天】近年来，图神经网络（GNNs）和图Transformers在计算机视觉领域取得显著进展，广泛应用于图像识别、目标检测和场景理解等任务。TPAMI 2024上的一篇综述文章全面回顾了它们在2D自然图像、视频、3D数据、视觉与语言结合及医学图像中的应用，并深入分析了其基本原理、优势与挑战。GNNs通过消息传递捕捉非欧式结构，图Transformers则结合Transformer模型提升表达能力。尽管存在图结构构建复杂和计算成本高等挑战，但这些技术仍展现出巨大潜力。论文详细内容见：https://arxiv.org/abs/2209.13232。
• 10.13 07:05:10
  发表了文章 2024-10-13 07:05:10

  突破传统：AI如何应对心电图中的长尾挑战？

  【10月更文挑战第3天】心电图（ECG）是临床诊断的重要工具，但数据分布不均导致计算机辅助诊断系统在检测罕见心脏异常时面临挑战。黄超琴等人的新研究提出一种自监督异常检测预训练方法，解决了ECG数据集的长尾问题。通过在大规模数据集上预训练，模型能捕捉正常心脏模式的细微偏差，显著提升了ECG诊断准确性，尤其在罕见类型上表现优异，实现了94.7%的AUROC、92.2%的敏感性和92.5%的特异性。该方法不仅提高了诊断精度，也为处理临床长尾数据提供了新思路。然而，其计算需求和对极罕见病例的表现仍有待进一步研究。
• 10.13 07:05:01
  发表了文章 2024-10-13 07:05:01

  基于大语言模型的 FireRedTTS 语音合成系统

  【10月更文挑战第3天】近年来，随着人工智能技术的发展，基于大语言模型的语音合成系统备受关注。FireRedTTS 系统由郭浩瀚等人提出，旨在满足多样化的语音合成需求。该系统分为数据处理、基础系统和下游应用三部分，通过高质量数据集和语义感知架构生成高保真语音信号。其应用场景包括配音和聊天机器人，能够实现零样本语音克隆和可控类人语音合成，提供自然且个性化的交互体验。然而，系统仍面临计算资源和完全自然语音合成等方面的挑战。[了解更多](https://arxiv.org/abs/2409.03283)
• 10.12 10:49:34
  发表了文章 2024-10-12 10:49:34

  让大模型能听会说，国内机构开源全球首个端到端语音对话模型Mini-Omni

  【10月更文挑战第2天】国内研究机构提出的Mini-Omni是一个端到端的音频对话模型，实现了实时语音交互，标志着全球首个开源的端到端语音对话模型。通过文本引导的语音生成方法和批处理并行策略，Mini-Omni在保持语言能力的同时，实现了流畅的语音输出。研究团队还引入了VoiceAssistant-400K数据集进行微调，提升了模型性能。尽管如此，Mini_Omni在语音质量、计算资源需求及伦理监管方面仍面临挑战。论文详见：[链接]。
• 10.12 10:49:28
  发表了文章 2024-10-12 10:49:28

  用60%成本干80%的事，DeepSeek分享沉淀多年的高性能深度学习架构

  【10月更文挑战第2天】近年来，深度学习（DL）与大型语言模型（LLMs）的发展推动了AI的进步，但也带来了计算资源的极大需求。为此，DeepSeek团队提出了Fire-Flyer AI-HPC架构，通过创新的软硬件协同设计，利用10,000个PCIe A100 GPU，实现了高性能且低成本的深度学习训练。相比NVIDIA的DGX-A100，其成本减半，能耗降低40%，并在网络设计、通信优化、并行计算和文件系统等方面进行了全面优化，确保系统的高效与稳定。[论文地址](https://arxiv.org/pdf/2408.14158)
• 10.12 10:49:20
  发表了文章 2024-10-12 10:49:20

  ECCV 2024：比基准高30%，媲美Gemini 1.5 Pro，基于记忆的视频理解智能体来了

  【10月更文挑战第2天】该论文提出了一种基于记忆的多模态智能体VideoAgent，通过结合大语言模型和视觉语言模型，引入统一记忆机制，在视频理解任务中实现了显著性能提升。VideoAgent构建了结构化的记忆系统，存储视频中的时间事件描述和对象状态，支持零样本工具使用，提升了长视频理解能力。实验结果显示，VideoAgent在NExT-QA和EgoSchema等数据集上分别提升了6.6%和26.0%的性能。然而，其在处理长视频时仍面临内存和计算资源限制，多模态融合能力也有待进一步提高。
• 10.11 08:41:15
  发表了文章 2024-10-11 08:41:15

  北大领衔，多智能体强化学习研究登上Nature子刊

  【10月更文挑战第1天】近日，北京大学领导的研究团队在《Nature》子刊上发表了一篇关于多智能体强化学习的论文，提出了一种高效且可扩展的框架，解决了大规模网络控制系统中的决策问题。该框架通过局部通信避免了集中式和独立学习的缺点，在交通、电力等领域的实验中展现了卓越性能。然而，其在更复杂系统中的效果及计算复杂度仍需进一步验证。论文链接：https://www.nature.com/articles/s42256-024-00879-7。
• 10.11 08:41:08
  发表了文章 2024-10-11 08:41:08

  第一个100%开源的MoE大模型，7B的参数，1B的推理成本

  【10月更文挑战第1天】《OLMoE: Open Mixture-of-Experts Language Models》一文介绍了OLMoE，这是一个完全开源的Mixture-of-Experts（MoE）语言模型，具有70亿参数量，但每个输入令牌仅需10亿参数进行推理，有效平衡了性能与成本。OLMoE由Allen Institute for AI等机构的研究者共同开发，其开源特性促进了大规模语言模型领域的合作与创新，降低了资源浪费，同时具备良好的可扩展性和效率，为研究和应用开辟了新可能。然而，其复杂性也可能带来训练和调优上的挑战。
• 10.11 08:41:03
  发表了文章 2024-10-11 08:41:03

  北大李戈团队提出大模型单测生成新方法，显著提升代码测试覆盖率

  【10月更文挑战第1天】北京大学李戈教授团队提出了一种名为“统一生成测试”的创新方法，有效提升了大模型如GPT-2和GPT-3在单一测试中的代码生成覆盖率，分别从56%提升至72%和从61%提升至78%。这种方法结合了模糊测试、变异测试和生成对抗网络等多种技术，克服了传统测试方法的局限性，在大模型测试领域实现了重要突破，有助于提高系统的可靠性和安全性。然而，该方法的实现复杂度较高且实际应用效果仍需进一步验证。论文可从此链接下载：【https://drive.weixin.qq.com/s?k=ACAAewd0AA48Z2kXrJ】
• 10.10 09:13:31
  发表了文章 2024-10-10 09:13:31

  3天把Llama训成Mamba，性能不降，推理更快！

  《Distillation and Acceleration of Hybrid Models》一文由日内瓦大学、Together AI、康奈尔大学和普林斯顿大学的研究者们共同完成，提出了一种将大型Transformer模型（如Llama）转化为线性RNN模型（如Mamba）的新方法。此方法不仅保持了模型性能，还大幅提升了推理速度。研究团队通过多阶段蒸馏及优化，结合预训练权重，在不同聊天基准测试中验证了模型的有效性。详情见：https://arxiv.org/pdf/2408.15237
• 10.10 09:13:24
  发表了文章 2024-10-10 09:13:24

  ECCV 2024：比基准高30%，媲美Gemini 1.5 Pro，基于记忆的视频理解智能体来了

  在ECCV 2024会议上，一篇题为“VideoAgent: A Memory-augmented Multimodal Agent for Video Understanding”的论文备受关注。该论文提出了一种结合大型语言模型和视觉-语言模型的新型智能体VideoAgent，通过创新的统一记忆机制，构建结构化记忆系统，实现对长视频中时间关系的理解。VideoAgent利用视频片段定位、物体记忆等多种工具进行交互式任务处理，在NExT-QA和EgoSchema等基准测试中表现出色，分别提升了6.6%和26.0%的成绩，但其记忆系统和交互方法仍有待优化。
• 10.10 09:13:13
  发表了文章 2024-10-10 09:13:13

  北大领衔，多智能体强化学习研究登上Nature子刊

  北京大学研究团队近日在《Nature》子刊上发布了一篇关于多智能体强化学习（MARL）的论文，提出了一种高效且可扩展的MARL框架，旨在解决大规模网络控制系统中的决策问题。该框架实现了智能体间的局部通信，减少了通信成本与计算复杂度，并在交通、电力及疫情防控等多个真实场景实验中，显著提升了决策性能。论文链接：https://www.nature.com/articles/s42256-024-00879-7。尽管该研究仍存局限，但为MARL的应用提供了新思路。
• 10.09 16:29:05
  回答了问题 2024-10-09 16:29:05

  运动旅游开启新潮流，哪些科技手段能助力你的行程呢？

  赞6 踩0 评论0
• 10.09 16:24:01
  回答了问题 2024-10-09 16:24:01

  “AI+儿童陪伴”，是噱头还是趋势？

  赞9 踩0 评论0
• 10.09 10:11:13
  发表了文章 2024-10-09 10:11:13

  清华EconAgent获ACL 2024杰出论文：大模型智能体革新计算经济学研究范式

  近年来，人工智能的迅猛发展推动了数据驱动建模在宏观经济学领域的应用。清华大学研究团队提出的EconAgent模型，基于大型语言模型，具备类似人类的决策能力，能更准确地模拟个体行为对宏观经济系统的影响。EconAgent在个体异质性、市场动态及宏观经济因素模拟方面表现出色，并具有更好的可解释性和灵活性。然而，其高计算复杂度和部分决策过程的不透明性仍需进一步解决。该成果已在ACL 2024会议上获得杰出论文奖。论文链接：https://arxiv.org/abs/2310.10436v4
• 10.09 10:11:08
  发表了文章 2024-10-09 10:11:08

  DeepMind最新成果剑指量子力学，FermiNet或将破解近百年计算难题

  DeepMind公司近期在量子力学计算领域取得了重要突破，推出了一种名为FermiNet的神经网络模型，旨在克服量子系统计算难题。FermiNet基于变分蒙特卡洛方法，直接处理电子坐标，有效提升了计算精度与效率。在基态能量、电子结构及反应动力学等量子化学问题上表现出色，超越了传统DFT方法。尽管存在计算资源和近似误差等局限，但这一成果仍为量子力学研究提供了新工具和思路，未来有望在量子计算中发挥更大作用。论文详情见：[论文地址链接](https://www.science.org/doi/abs/10.1126/science.adn0137)。
• 10.09 10:11:03
  发表了文章 2024-10-09 10:11:03

  大模型走向物理世界，TeleAI 发布大模型驱动的具身智能综述，覆盖300篇文献

  TeleAI 团队发布了一篇关于大模型驱动的具身智能综述文章，系统回顾了该领域的研究进展与挑战，涵盖了300篇相关文献。具身智能通过将智能体与现实环境结合，提升了其感知、决策及执行能力。大模型的应用不仅增强了智能体的学习与适应能力，还提高了其泛化性和鲁棒性。然而，计算复杂度、可解释性及安全性等问题仍需解决。代表性工作包括智能机器人导航和无人机自主飞行等。论文地址：https://www.sciengine.com/SSI/doi/10.1360/SSI-2024-0076
• 10.08 15:23:28
  回答了问题 2024-10-08 15:23:28

  P人出游，你是否需要一个懂你更懂规划的AI导游呢？来搭建专属文旅问答机器人吧

  赞147 踩0 评论0
• 10.08 15:11:19
  回答了问题 2024-10-08 15:11:19

  【云端读书会 第1期】读《10分钟打造专属AI助手》，你有哪些心得？

  赞26 踩0 评论0
• 10.08 08:39:25
  发表了文章 2024-10-08 08:39:25

  超越文本，GPT-4在虹膜生物识别的创新应用

  在人工智能领域，研究人员利用GPT-4多模态大语言模型探索了其在虹膜识别中的潜力，采用零样本学习方法，通过多种实验展示了GPT-4在复杂条件下的出色适应性和精确性，甚至能检测化妆对虹膜识别的影响。相较于谷歌的Gemini Advanced，GPT-4在用户体验和性能上更胜一筹。尽管存在局限性，这项研究为生物识别安全解决方案提供了新方向，结合LLM与专业生物识别技术，有望实现更高效、鲁棒的应用。论文详情见：https://arxiv.org/abs/2408.04868。
• 10.08 08:39:19
  发表了文章 2024-10-08 08:39:19

  商汤、清华、复旦等开源百亿级多模态数据集，可训练类GPT-4o模型

  商汤科技、清华大学和复旦大学等机构联合开源了名为OmniCorpus的多模态数据集，规模达百亿级，旨在支持类似GPT-4级别的大型多模态模型训练。该数据集包含86亿张图像和1696亿个文本标记，远超现有数据集规模并保持高质量，具备广泛来源和灵活性，可轻松转换为纯文本或图像-文本对。经验证，该数据集质量优良，有望促进多模态模型研究，但同时也面临存储管理、数据偏见及隐私保护等挑战。
• 10.08 08:39:14
  发表了文章 2024-10-08 08:39:14

  Agent Q：具备自我学习、评估的智能体

  近年来，人工智能领域取得了显著进步，特别是智能体技术备受瞩目。智能体作为AI系统核心，能自主学习、决策和执行任务，应用广泛。Agent Q作为一种具备自我学习和评估能力的智能体，通过强化学习算法，能自动优化行为策略，适应复杂环境，无需人工干预。此外，它还能根据评估指标调整策略，持续提升任务完成质量。尽管存在复杂环境适应性和计算资源消耗等挑战，Agent Q仍为智能机器人、自动驾驶等领域的应用提供了新思路，推动了AI技术的发展。论文详细内容可在此处获取：https://multion-research.s3.us-east-2.amazonaws.com/AgentQ.pdf
• 10.07 07:19:24
  发表了文章 2024-10-07 07:19:24

  MIT新研究揭秘AI洗脑术！AI聊天诱导人类编造记忆，真假难辨

  麻省理工学院的一项新研究《基于大型语言模型的对话式AI在证人访谈中加剧虚假记忆》显示，使用生成式聊天机器人进行犯罪证人访谈会显著增加参与者的虚假记忆，且影响持久。研究设置了对照组、问卷访谈、预设脚本及生成式聊天机器人四种条件，结果显示生成式聊天机器人诱导的虚假记忆数量远超其他方法。尽管AI技术在效率和准确性方面潜力巨大，但在敏感领域需谨慎应用，并需进一步评估风险，制定伦理准则和监管措施。论文详细内容见[这里](https://arxiv.org/abs/2408.04681)。
• 10.07 07:19:17
  发表了文章 2024-10-07 07:19:17

  MoE再下一城！港大提出AnyGraph：首次开启图大模型Scaling Law之路

  近年来，图结构数据因关系数据的广泛应用而备受关注，但现有模型在处理复杂图数据时需大量微调，灵活性受限。香港大学团队提出了AnyGraph，一种基于图混合专家（MoE）架构的统一图模型，有效应对结构与特征异质性、快速适应及规模定律挑战。通过多样化图专家与轻量级路由机制，AnyGraph实现零样本学习和跨领域数据处理。然而，其计算复杂度较高且路由机制仍有待优化。（239字）
• 10.07 07:19:12
  发表了文章 2024-10-07 07:19:12

  用AI人模拟社会学实验，居然成功了？斯坦福、NYU用GPT-4模仿人类，准确度惊人！

  斯坦福大学和纽约大学的研究团队利用GPT-4模型成功模拟了人类在社交互动中的行为模式，实验结果显示AI能以惊人准确度模仿人类对话，甚至在在线论坛和社交媒体上与真人难以区分。这一突破不仅展示了AI在社会学研究中的巨大潜力，还引发了对AI伦理和透明度的深入探讨。尽管存在一些局限性和挑战，这项研究为未来社会学实验提供了新工具和方法。[论文地址：https://docsend.com/view/qeeccuggec56k9hd]

2024年09月

• 09.27 08:54:38
  发表了文章 2024-09-27 08:54:38

  一周打完1000场官司，中科院发布首个AI法庭AgentCourt！

  【9月更文挑战第27天】中国科学院近日发布了名为AgentCourt的人工智能法庭技术，引发广泛关注。该技术可在一周内完成1000场官司的审理，有望显著提升司法效率，减少人为干扰，但同时也面临质疑，如是否能准确理解案件复杂性及背后的伦理、隐私和安全等问题。支持者认为它有助于提高判决公正性和一致性，而反对者则担忧其可能导致司法过程机械化，忽视人文因素。AgentCourt在自然语言处理和知识图谱构建方面展现了最新进展。论文详情见：https://doi.org/10.48550/arXiv.2408.08089
• 09.27 08:54:31
  发表了文章 2024-09-27 08:54:31

  北大李戈团队提出大模型单测生成新方法，显著提升代码测试覆盖率

  【9月更文挑战第27天】北京大学李戈团队在人工智能领域取得重要突破，提出HITS新方法，通过将待测方法分解为多个切片并利用大型语言模型逐个生成测试用例，显著提升代码测试覆盖率，尤其在处理复杂方法时效果显著，为软件开发和测试领域带来新希望。尽管存在一定局限性，HITS仍展示了巨大潜力，未来有望克服限制，推动软件测试领域的创新发展。论文详情见【https://www.arxiv.org/pdf/2408.11324】。
• 09.27 08:54:23
  发表了文章 2024-09-27 08:54:23

  鬼手操控着你的手机？大模型GUI智能体易遭受环境劫持

  【9月更文挑战第27天】近年来，随着人工智能技术的发展，多模态大语言模型（MLLM）在图形用户界面（GUI）中广泛应用，提升了交互体验。然而，最新研究《环境警示：多模态智能体易受环境干扰》指出，这些智能体可能因环境干扰而行为失准。作者通过实验展示了即使是强大模型也会受无关因素影响，导致不可靠或不可预测的行为。研究还证实，通过环境注入攻击可进一步加剧此问题。尽管如此，多模态GUI智能体依然潜力巨大，未来需改进感知能力和算法以增强鲁棒性，解决环境干扰问题。论文详细内容见：https://arxiv.org/abs/2408.02544。
• 09.26 08:09:45
  发表了文章 2024-09-26 08:09:45

  整合 200 多项相关研究，大模型终生学习最新综述来了

  【9月更文挑战第26天】近年来，大型语言模型（LLMs）在自然语言处理、智能问答及内容生成等领域广泛应用。面对不断变化的数据、任务和用户偏好，LLMs需具备适应能力。传统静态数据集训练方式难以满足需求，因此提出了“终身学习”方法，使模型持续学习新知识并避免遗忘旧知识。最新综述文章整合200多项研究，将终身学习分为内部知识（连续预训练和微调）与外部知识（基于检索和工具）两大类，涵盖12种应用场景，探讨了模型扩展和数据选择等新兴技术。然而，终身学习也面临计算资源、知识冲突及数据安全等挑战。
• 09.26 08:09:15
  发表了文章 2024-09-26 08:09:15

  当奖励成为漏洞：从对齐本质出发自动越狱大语言模型

  【9月更文挑战第26天】在人工智能领域，大型语言模型（LLMs）的广泛应用引发了对其安全性和可靠性的担忧，特别是在面对对抗攻击时的脆弱性。论文《Jailbreaking as a Reward Misspecification Problem》提出将这种脆弱性归因于对齐过程中的奖励误设，并引入ReGap指标来量化这一问题。基于此，研究人员开发了ReMiss系统，用于自动对抗各种目标对齐的LLMs，并在AdvBench基准测试中取得了领先成果。尽管方法存在局限性，但该论文为提升LLMs安全性提供了新方向。[论文链接：https://arxiv.org/pdf/2406.14393]
• 09.25 13:30:57
  发表了文章 2024-09-25 13:30:57

  KDD2024最佳学生论文解读，中科大、华为诺亚：序列推荐新范式DR4SR

  【9月更文挑战第25天】近年来，随着人工智能技术的发展，序列推荐系统（SR）因能捕捉用户动态偏好而在日常生活中愈发重要。然而，数据质量问题常被忽视。为解决此问题，中国科学技术大学与华为诺亚方舟实验室联合提出DR4SR，一种通过数据集再生提升序列推荐系统性能的新范式。DR4SR采用模型无关的数据再生方法，增强数据集的多样性和泛化能力，且可通过DR4SR+进行个性化调整以适应不同模型需求。实验表明，DR4SR和DR4SR+在多个数据集上显著提升了推荐系统性能。尽管面临计算资源和过拟合风险等挑战，该范式仍展现出巨大潜力。
• 09.25 13:30:48
  发表了文章 2024-09-25 13:30:48

  Mamba作者新作：将Llama3蒸馏成混合线性 RNN

  【9月更文挑战第25天】《Distillation and Acceleration of Hybrid Models》一文由日内瓦大学、Together AI、康奈尔大学和普林斯顿大学的研究者联合发表，提出将大型Transformer模型（如Llama3）蒸馏成混合线性RNN的新方法，旨在提升长序列生成任务的效率。该方法通过权重映射和多阶段蒸馏，结合渐进蒸馏、监督微调及定向偏好优化技术，有效解决了Transformer模型的二次复杂度和高内存需求问题。实验表明，混合模型在聊天基准测试中表现出色，甚至优于原模型，并通过硬件感知解码算法进一步加速推理。然而，该方法在其他任务上的适用性仍有待验证。
• 09.25 13:30:33
  发表了文章 2024-09-25 13:30:33

  用图灵测试检验AI尤其是大语言模型，真的科学吗？

  【9月更文挑战第25天】《Does GPT-4 Pass the Turing Test?》一文评估了先进AI模型GPT-4的图灵测试表现。尽管GPT-4在某些对话中成功迷惑了参与者，但其整体成功率仅为41%，低于人类的63%。图灵测试作为评估AI语言能力的工具依然有效，但存在局限性，如无法评估AI的认知机制且受主观判断影响。此外，测试还引发了关于AI智能及伦理的讨论。
• 09.24 07:53:28
  发表了文章 2024-09-24 07:53:28

  情感分析的终极形态：全景式细粒度多模态对话情感分析基准PanoSent

  【9月更文挑战第24天】PanoSent是一种全新的多模态对话情感分析框架，旨在全景式地提取和分析情感元素，包括情感六元组提取与情感翻转分析两大任务。此框架依托大规模、高质量的多模态数据集PanoSent，涵盖文本、图像、音频等多种模态及多种语言，适应不同应用场景。为解决这些任务，研究人员提出了Chain-of-Sentiment推理框架，结合多模态大语言模型Sentica，实现细粒度的情感分析。尽管PanoSent在情感分析任务上表现优异，但仍面临多模态数据处理和跨领域适用性的挑战。
• 09.24 07:53:19
  发表了文章 2024-09-24 07:53:19

  港大黄超团队推出AnyGraph, 首次揭秘图大模型的Scaling Law

  【9月更文挑战第24天】香港大学黄超教授团队提出了一种创新的图神经网络模型AnyGraph，该模型利用Mixture-of-Experts架构解决了图数据的异构性和适应性问题，在零样本学习和快速适应能力方面表现出色。研究首次揭示了图大模型的Scaling Law，即模型性能随规模和数据量增加而提升的规律，为图神经网络的发展提供了新视角。尽管AnyGraph在多个领域展示了卓越性能，但也存在计算复杂度高和泛化能力局限等挑战。论文详细内容可在此链接查阅：https://arxiv.org/pdf/2408.10700
• 09.24 07:53:11
  发表了文章 2024-09-24 07:53:11

  深度学习还不如浅层网络？RL教父Sutton持续反向传播算法登Nature

  【9月更文挑战第24天】近年来，深度学习在人工智能领域取得巨大成功，但在连续学习任务中面临“损失可塑性”问题，尤其在深度强化学习中更为突出。加拿大阿尔伯塔大学的研究人员提出了一种名为“持续反向传播”的算法，通过选择性地重新初始化网络中的低效用单元，保持模型的可塑性。该算法通过评估每个连接和权重的贡献效用来决定是否重新初始化隐藏单元，并引入成熟度阈值保护新单元。实验表明，该算法能显著提升连续学习任务的表现，尤其在深度强化学习领域效果明显。然而，算法也存在计算复杂性和成熟度阈值设置等问题。
• 09.23 09:20:42
  发表了文章 2024-09-23 09:20:42

  牛津光计算论文登Nature正刊，分析帕金森患者步态准确率达92.2%

  【9月更文挑战第23天】牛津大学研究人员在《自然》杂志上发表了一篇关于光计算的重要论文，展示了一种利用光的局部相干性增强光子计算并行性的新方法。该技术通过部分相干光与重建方法结合，提高了处理效率和并行性，同时降低了对相移器和微环谐振器的依赖，展示了在光子张量核心中的应用潜力，并在实际计算任务中实现了高准确率。这项突破有望推动光子处理器在人工智能领域的广泛应用。
• 09.23 09:20:29
  发表了文章 2024-09-23 09:20:29

  ACM MM24：复旦提出首个基于扩散模型的视频非限制性对抗攻击框架，主流CNN和ViT架构都防不住它

  【9月更文挑战第23天】复旦大学研究团队提出了ReToMe-VA，一种基于扩散模型的视频非限制性对抗攻击框架，通过时间步长对抗性潜在优化（TALO）与递归令牌合并（ReToMe）策略，实现了高转移性且难以察觉的对抗性视频生成。TALO优化去噪步骤扰动，提升空间难以察觉性及计算效率；ReToMe则确保时间一致性，增强帧间交互。实验表明，ReToMe-VA在攻击转移性上超越现有方法，但面临计算成本高、实时应用受限及隐私安全等挑战。[论文链接](http://arxiv.org/abs/2408.05479)
• 09.23 09:20:21
  发表了文章 2024-09-23 09:20:21

  RTX3090可跑，360AI团队开源最新视频模型FancyVideo

  【9月更文挑战第23天】近年来，人工智能技术的迅猛发展推动了视频生成领域的进步，但在合成动态、连贯且时长较长的视频方面仍面临挑战。为此，360AI团队提出了FancyVideo模型，通过跨帧文本指导实现更为连贯的视频生成。FancyVideo引入了跨帧文本指导模块（CTGM），包含时间信息注入器（TII）、时间相关性优化器（TAR）和时间特征增强器（TFB）三个组件，分别负责注入帧特定信息、优化相关性和增强时间一致性。这些机制使模型能生成具有连贯动作和丰富运动的视频，适用于动画制作和视频编辑等领域。然而，FancyVideo也存在计算复杂度高和细节真实感提升空间等局限。
• 09.22 11:15:07
  发表了文章 2024-09-22 11:15:07

  统一transformer与diffusion！Meta融合新方法剑指下一代多模态王者

  【9月更文挑战第22天】该研究由Meta、Waymo及南加大团队合作完成，提出了一种名为Transfusion的新多模态模型，巧妙融合了语言模型与扩散模型的优点，实现了单一模型下的文本与图像生成和理解。Transfusion通过结合下一个token预测与扩散模型，在混合模态序列上训练单个Transformer，能够无缝处理离散和连续数据。实验表明，该模型在图像生成、文本生成以及图像-文本生成任务上表现出色，超越了DALL-E 2和SDXL等模型。不过，Transfusion仍面临计算成本高和图像理解能力有限等挑战，并且尚未涵盖音频和视频等其他模态。
• 09.22 11:14:51
  发表了文章 2024-09-22 11:14:51

  ECCV 2024：机器遗忘之后，扩散模型真正安全了吗？

  【9月更文挑战第22天】在人工智能技术飞速发展的背景下，扩散模型（DMs）在图像生成领域取得了显著突破，但同时也带来了潜在的安全风险。为此，研究人员提出了一种基于安全性的机器遗忘技术，旨在让模型忘记有害概念。然而，其有效性仍存疑。近期，一篇发表在ECCV 2024的论文提出了一种新的评估框架，利用对抗性提示测试经过机器遗忘处理的扩散模型的鲁棒性。研究人员开发了名为UnlearnDiffAtk的高效对抗性提示生成方法，简化了生成过程，无需额外分类器。广泛的基准测试显示，UnlearnDiffAtk在效果和效率上均优于现有方法，但也揭示了现有机器遗忘技术在鲁棒性上的不足。
• 09.22 11:14:30
  发表了文章 2024-09-22 11:14:30

  谷歌推世界首个AI游戏引擎，2000亿游戏产业恐颠覆！0代码生成游戏，老黄预言成真

  【9月更文挑战第22天】谷歌近日推出的AI游戏引擎GameNGen，作为全球首款神经模型驱动的游戏引擎，引发了广泛关注。该引擎使用户无需编写代码即可生成游戏，并实现了与复杂环境的实时交互，显著提升了模拟质量。在单TPU上，GameNGen能以超20帧/秒的速度流畅模拟经典游戏《DOOM》。这项技术不仅简化了游戏开发流程，降低了成本，还为游戏设计带来了更多可能性。然而，它也可能改变游戏产业的商业模式和创意多样性。无论如何，GameNGen标志着游戏开发领域的一次重大革新。