OpenPPL_个人页

2023年09月

• 09.04 17:16:03
  发表了文章 2023-09-04 17:16:03

  OpenPPL-LLM | OpenPPL之大语言模型推理引擎来啦

  OpenPPL 一直致力于提供高性能多后端深度学习推理部署服务。面对推理部署大语言模型的新需求，我们结合原有 OpenPPL 在深度学习推理的技术和业务实践，正式推出一款专为大语言模型设计的自研高性能推理引擎 —— OpenPPL-LLM。