NPU上运行onnxruntime
在Ascend环境下使用onnxruntime推理时，若安装了GPU版本的onnxruntime（`onnxruntime-gpu`），可能会因缺少CUDA组件报错。正确做法是卸载`onnxruntime-gpu`，并根据官方文档适配NPU，通过源码构建支持CANN的onnxruntime whl包。具体步骤为克隆onnxruntime源码，使用`--use_cann`参数构建，并安装生成的whl包。最后，配置CANNExecutionProvider进行推理。
基于 Megatron 的多模态大模型训练加速技术解析
Pai-Megatron-Patch 是一款由阿里云人工智能平台PAI 研发的围绕英伟达 Megatron 的大模型训练配套工具，旨在帮助开发者快速上手大模型，打通大模型相关的高效分布式训练、有监督指令微调、下游任务评估等大模型开发链路。本文以 Qwen2-VL 为例，从易用性和训练性能优化两个方面介绍基于 Megatron 构建的 Pai-Megatron-Patch 多模态大模型训练的关键技术
全面提升Python性能的十三种优化技巧
通过应用上述十三种优化技巧，开发者可以显著提高Python代码的执行效率和性能。每个技巧都针对特定的性能瓶颈进行优化，从内存管理到并行计算，再到使用高效的数值计算库。这些优化不仅能提升代码的运行速度，还能提高代码的可读性和可维护性。希望这些技巧能帮助开发者在实际项目中实现更高效的Python编程。
Claude 3.7登顶webdev榜首，国内怎么使用Claude 3.7
Claude 3.7 登顶 Webdev 榜首,Claude 3.7 Sonnet 以 1363.7 分的竞技场评分位列榜首，远超第二名。相比前代，它在数学与编码能力上提升显著，尤其在代理编码测试中准确率达 62.3%，工具交互测试中达 81.2% 的 SOTA 表现。支持 128k Token 输入，上下文处理能力提升 16 倍，并引入扩展思考模式，大幅提升复杂任务解决效率。
Claude 3.7 是 Anthropic 推出的新一代 LLM，具备卓越的推理和编程能力。国内用户可参考特定指南注册使用。
Python 高级编程与实战：构建分布式系统
本文深入探讨了 Python 中的分布式系统，介绍了 ZeroMQ、Celery 和 Dask 等工具的使用方法，并通过实战项目帮助读者掌握这些技术。ZeroMQ 是高性能异步消息库，支持多种通信模式；Celery 是分布式任务队列，支持异步任务执行；Dask 是并行计算库，适用于大规模数据处理。文章结合具体代码示例，帮助读者理解如何使用这些工具构建分布式系统。
这可能是最轻量级的列存技术了
列式存储通过减少硬盘访问量和高效压缩，显著提升数据分析性能。然而，传统列存技术如Hadoop、MPP数据库等架构复杂、成本高。esProc的ctx文件提供了一种轻量级列存解决方案，支持高效的数据压缩、分段并行计算及简单易用的SPL编程语言。ctx文件适用于大数据量存储，读取性能优于ORC和Parquet，且无需复杂环境配置，适合嵌入Java应用，特别适用于报表缓存场景。SPL已开源免费，欢迎了解。