❤️ 如果你也关注 AI 的发展现状,且对 AI 应用开发感兴趣,我会每日分享大模型与 AI 领域的开源项目和应用,提供运行实例和实用教程,帮助你快速上手AI技术!
🥦 AI 在线答疑 -> 智能检索历史文章和开源项目 -> 丰富的 AI 工具库 -> 每日更新 -> 尽在微信公众号 -> 搜一搜:蚝油菜花 🥦
📄 "学术狗集体泪目!这个AI把论文截图秒变Markdown,公式表格全保留"
大家好,我是蚝油菜花。当同行还在为PDF转Word格式错乱抓狂时,这个开源神器已经让文档处理进入光速时代!
你是否经历过这些窒息操作:
- 🔍 手动整理论文截图里的公式,眼瞎三回还没对齐
- ⏳ 等传统OCR识别表格,咖啡凉了进度条才走一半
- 💻 跑个文档模型显卡咆哮如直升飞机...
今天要吹爆的 SmolDocling ,正在重新定义文档处理标准!这个仅256M参数的开源核弹,用三大绝技炸穿行业天花板:
- ✅ 闪电转换:A100显卡0.35秒/页,比传统OCR快10倍
- ✅ 元素全捕获:公式/图表/代码块智能识别,LaTeX直接输出
- ✅ 零门槛部署:500MB显存即可运行,MacBook都能流畅跑
已有实验室用它1小时处理完200篇文献,文末附《科研狗效率翻倍指南》——你的文献库准备好迎接降维打击了吗?
🚀 快速阅读
SmolDocling 是一款轻量级的多模态文档处理模型,能够高效地将图像文档转换为结构化文本。
- 核心功能:支持文本、公式、图表等多种元素识别,适用于学术论文、技术报告等多类型文档。
- 技术原理:采用 SigLIP base patch-16/512 作为视觉骨干网络,使用 SmolLM-2 作为文本编码器,支持多模态融合与输出。
SmolDocling 是什么
SmolDocling(SmolDocling-256M-preview )是高效轻量级的多模态文档处理模型。能将文档图像端到端地转换为结构化文本,支持文本、公式、图表等多种元素识别,适用于学术论文、技术报告等多类型文档。模型参数量仅 256M,推理速度快,A100 GPU 上每页处理仅需 0.35 秒,与 Docling 完全兼容,可导出多种格式。
SmolDocling 的主要功能
- 多模态文档转换:能将图像文档高效转换为结构化文本,支持科学和非科学文档。
- 快速推理:在 A100 GPU 上处理一页文档仅需 0.35 秒,使用不到 500MB 的显存。
- OCR 与布局识别:支持光学字符识别(OCR),保留文档结构和元素的边界框。
- 复杂元素识别:能识别代码块、数学公式、图表、表格等复杂文档元素。
- 与 Docling 无缝集成:支持将结果转换为多种格式(如 Markdown、HTML 等),兼容 Docling。
- 指令支持:支持多种指令,如将页面转换为 Docling 格式、将图表转换为表格、将公式转换为 LaTeX 等。
SmolDocling 的技术原理
- 轻量级设计:SmolDocling-256M-preview 是仅包含 256M 参数的视觉语言模型,专为文档光学字符识别(OCR)和转换而设计。能在消费级 GPU 上快速处理文档,使用不到 500MB 的显存,每页文档的处理时间仅需 0.35 秒。
- 视觉骨干网络:模型采用了 SigLIP base patch-16/512 作为视觉骨干网络,网络参数量为 93M,能高效地处理图像输入。通过像素压缩技术,每个 512×512 的图像块被压缩为 64 个视觉标记,显著降低了计算资源需求。
- 文本编码器:SmolDocling-256M-preview 使用 SmolLM-2 作为文本编码器,编码器参数量为 135M,能处理文本输入并与视觉信息进行融合。
- 多模态融合与输出:模型能接收图像和文本的多模态输入,生成结构化的文本输出。支持多种文档处理功能,包括将文档图像转换为结构化文本、提取图表和表格信息、将数学公式转换为 LaTeX 格式等。
- 优化的数据集与训练策略:SmolDocling-256M-preview 的训练数据集包括科学和非科学文档,文档理解占比达到 41%。训练过程中采用了更高的像素标记率(4096 像素/标记),相比之前的 1820 像素/标记,显著提升了效率。
资源
- HuggingFace 仓库:https://huggingface.co/ds4sd/SmolDocling-256M-preview
❤️ 如果你也关注 AI 的发展现状,且对 AI 应用开发感兴趣,我会每日分享大模型与 AI 领域的开源项目和应用,提供运行实例和实用教程,帮助你快速上手AI技术!
🥦 AI 在线答疑 -> 智能检索历史文章和开源项目 -> 丰富的 AI 工具库 -> 每日更新 -> 尽在微信公众号 -> 搜一搜:蚝油菜花 🥦