文章来源： 企业网D1net
领先的AI公司Anthropic发布了全新的Message Batches API，能够以50%的折扣处理大批量数据，标志着AI在大规模数据处理中的成本效益显著提升，该API可以在24小时内异步处理多达10000个查询，为中型企业广泛采用AI提供了新的契机。虽然批处理带来了显著的成本节省，但它也引发了关于如何平衡实时与批处理能力的讨论，强调企业在AI战略中不仅要考虑短期成本，还需兼顾长期创新和多样化应用场景。
Anthropic公司推出新批处理API，数据处理成本降低50%。
领先的AI公司Anthropic于周二推出了全新的Message Batches API，允许企业以一半的标准API调用成本处理大量数据。
这一新产品能够在24小时内异步处理多达10000个查询，标志着在大数据处理方面，先进AI模型变得更加经济实惠，尤其适用于处理大量数据的企业。
AI的规模经济：批处理降低成本
与实时处理相比，Batch API在输入和输出代币上提供了50%的折扣，使Anthropic能够与其他AI提供商(如今年早些时候推出类似批处理功能的OpenAI)展开更加激烈的竞争。
此举标志着AI行业定价策略的重大转变。通过提供大批量处理的折扣，Anthropic有效地为AI计算创建了规模经济。
这可能会推动中型企业更广泛地采用AI，尤其是那些之前因成本过高而无法使用大规模AI应用的企业。
这种定价模式的影响不仅限于成本节省，它可能从根本上改变企业进行数据分析的方式，促使企业进行更多的全面、频繁的大规模分析，而这些分析在过去被认为成本过高或资源密集。
从实时到合适时机：重新定义AI处理需求
Anthropic已经通过其API为Claude 3.5 Sonnet、Claude 3 Opus和Claude 3 Haiku模型提供批处理API服务。Claude在Google Cloud的Vertex AI上的支持也即将推出，而通过Amazon Bedrock使用Claude的客户已经可以访问批量推理功能。
批处理功能的引入表明企业AI需求的逐渐成熟。虽然实时处理是许多AI开发的重点，但许多业务应用并不需要即时结果。通过提供较慢但更具成本效益的选项，Anthropic承认对许多应用场景来说，“合适时机”的处理比实时处理更为重要。
这一变化可能促使企业在AI实施中采取更为细致的策略。企业不再默认选择最快(通常也是最昂贵)的选项，而是可能会开始在实时处理和批处理之间战略性地平衡其AI工作负载，优化成本和速度的双重需求。
批处理的双刃剑
尽管批处理带来了显著的好处，但这种转向也引发了关于AI发展未来方向的重要问题。虽然它使现有模型变得更加易于获取，但也存在一个风险：可能会分散资源和注意力，影响实时AI能力的进步。
在技术领域，成本与速度的权衡并不新鲜，但在AI领域，这种权衡则具有更大的意义。随着企业习惯于批处理的低成本，市场上对提高实时AI处理效率和降低成本的压力可能会减少。
此外，批处理的异步性质可能限制一些依赖即时AI响应的创新应用，例如实时决策或交互式AI助手。
如何在推动批处理和实时处理能力的同时找到合适的平衡，将对AI生态系统的健康发展至关重要。
随着AI行业的不断发展，Anthropic的新Batch API既代表了一个机遇，也带来了挑战，它为企业在大规模使用AI提供了新的可能性，有望让更多企业能够接触到先进的AI能力。
与此同时，这也强调了在AI开发中采取深思熟虑的方法的重要性，不仅要考虑眼前的成本节约，还要着眼于长期创新和多样化的应用场景。这个新产品的成功可能取决于企业如何将批处理融入其现有工作流程，以及它们在AI战略中如何有效平衡成本、速度和计算能力的权衡。
版权声明：本文为企业网D1net编译，转载需在文章开头注明出处为：企业网D1net，如果不注明出处，企业网D1net将保留追究其法律责任的权利。
（来源：企业网D1net）
