在人工智能（AI）的迅猛发展中，大型语言模型（LLMs）如GPTs、Claude、LLaMA和Qwen等，已经在各个行业中展现出了巨大的潜力和应用价值。然而，尽管结构化表格数据在许多实际应用领域中具有基础性的作用，但表格数据的整合问题却一直没有得到充分的发展。
表格数据整合的重要性体现在以下几个方面：
高级应用需求：在许多高级应用中，数据库或数据仓库的数据整合是必不可少的。例如，在金融领域，实时市场数据的整合对于股票投资推荐等应用至关重要。
未开发的资源：表格数据是一种丰富且尚未被充分利用的资源。据估计，全球超过70%的数据以结构化表格形式存在，这为数据分析提供了巨大的潜力。
商业智能需求：商业智能（BI）领域对灵活、精确的解决方案有着特定的需求。然而，当前的LLMs在处理复杂查询和多步骤推理时可能面临挑战。
为了解决这些问题，浙江大学的研究人员提出了TableGPT2，一个经过严格预训练和微调的模型，使用了超过593.8K张表格和2.36M高质量的查询-表格-输出三元组。这一规模的表格相关数据在之前的研究工作中是前所未有的。
TableGPT2的关键创新之一是其新颖的表格编码器，该编码器专门设计用于捕捉模式级别和单元格级别的信息。这种编码器增强了模型处理模糊查询、缺失列名和不规则表格的能力，这些在实际应用中经常遇到。
TableGPT2在23个基准测试指标上表现出色，与之前的基准中立LLMs相比，7B模型的平均性能提高了35.20%，72B模型的平均性能提高了49.32%。同时，TableGPT2保持了强大的通用语言和编码能力。
TableGPT2的另一个重要特点是其对多模态的探索。它创新性地引入了一个单独的模态模块，用于读取和解释表格数据。类似于视觉语言模型（VLMs），TableGPT2将表格数据读取模块生成的特殊嵌入与文本输入的令牌嵌入进行连接，从而更好地捕捉表格数据的结构与语义。
研究人员已经开源了TableGPT2的代码和模型，并提供了一个全面的代理工作流。此外，他们还发布了RealTabBench数据集的一部分，以促进在实际数据驱动和BI生产环境中的进一步探索和应用。
TableGPT2的问世为表格数据的处理和分析带来了巨大的潜力和可能性。其在多个基准测试上的出色表现证明了其在表格相关任务上的强大能力。同时，TableGPT2的开源也为社区提供了一个强大的工具和平台，用于进一步的研究和开发。
然而，TableGPT2也面临一些挑战和限制。例如，其对表格数据的处理能力可能受到表格规模和复杂性的限制。此外，TableGPT2的训练数据主要来自特定的领域和来源，这可能限制了其在其他领域的泛化能力。
