类目筛选
2024-05-15
403
人人都是AI大师 - Prompt工程
prompt工程不需要复杂的编程知识，人人都可以使用prompt工程成为AI大师。本文只探讨prompt工程，不涉及模型训练等内容。只讨论文本生成，不涉及图像等领域。
403
2024-05-15
414
vLLM部署Yuan2.0：高吞吐、更便捷
vLLM是UC Berkeley开源的大语言模型高速推理框架，其内存管理核心——PagedAttention、内置的加速算法如Continues Batching等，一方面可以提升Yuan2.0模型推理部署时的内存使用效率，另一方面可以大幅提升在实时应用场景下Yuan2.0的吞吐量。
414
2024-05-15
59
我知道你想用useEffect，但你先别急
useEffect是React提供给我们的一个“逃生舱”，是React 的纯函数式世界通往命令式世界的“逃生通道”，选择合适的时机使用useEffect会让我们的代码既优雅又高效，反之会造成不必要的负担。
59
2024-05-15
128
谈谈PolarDB-X在读写分离场景的实践
针对写少读多的业务，本文采用读写分离的方式，将读写流量做分流，减轻主实例的压力，同时利用只读库横向的扩展能力，快速提升读性能。
128
2023-04-13
873
海量数据实时分析引擎 Apache Flink
当系统出现大量或者重大的错误却不被人感知，将会对业务产生影响，从而导致资产损失。当竞争对手实施了新战术，却无法及时感知，跟不上竞争对手的节奏，总是追着对方尾巴走。当要做决策的时候，海量的业务数据增长却无法实时看到聚合结果，决策总是凭借过往经验或者过时的数据分析之上。
873
