Mooncake:月之暗面Kimi联合清华等机构推出的大模型推理架构
Mooncake是由月之暗面Kimi联合清华大学等机构共同开源的大模型推理架构。该架构以KVCache为中心,通过分布式设计和资源优化,显著提升了大模型推理的吞吐量和效率,同时降低了算力开销。Mooncake在长上下文场景中表现出色,支持多种应用场景,如自然语言处理、内容推荐系统和搜索引擎等。
DeepSeek估值1500亿美元:AI领域的新星崛起
据外媒Bloomberg报道,DeepSeek的估值已达到1500亿美元,相当于OpenAI估值的一半。在巴黎AI峰会上,DeepSeek成为焦点话题,其影响力甚至延伸至普通民众。据报道,巴黎地铁上的70岁老人也在讨论这一新兴科技公司,显示出DeepSeek不仅在专业领域备受关注,在公众中也引起了广泛兴趣。