私有化部署大模型:5个.Net开源项目

简介: 私有化部署大模型:5个.Net开源项目

从零构建.Net前后端分离项目


今天一起盘点下,10月份推荐的5个.Net开源项目(点击标题查看详情)。


1、BootstrapBlazor企业级组件库:前端开发的革新之路


BootstrapBlazor是一个用于构建现代Web应用程序的开源框架,它基于Blazor框架,采用Bootstrap的UI样式。Blazor框架允许使用C#代替JavaScript来创建丰富的交互式UI,并将UI呈现为HTML和CSS,支持在众多浏览器中运行,包括移动浏览器。


1、开箱即用、丰富的企业级Blazor组件,除了兼容Bootstrap的样式库外,还额外增加了100多个组件;


2、支持基于WebAssembly客户端和SignalR服务端UI事件交互;


3、支持渐进式Web应用程序;


4、支持.Net5+;


5、支持ASP.NET CoreMVC、Razor Pages的项目。



f4e36b76ee9b3ea528903cea9c198559.png


2、Ocelot:.NET开源API网关提供路由管理、服务发现、鉴权限流等功能


Ocelot是一个用.NET Core实现并开源的API网关,它功能强大,包括了:路由、请求聚合、服务发现、认证、鉴权、限流熔断、并内置了负载均衡器与Service Fabric、Consul集成。

18e7e2bb9c78fb00d77f902fbb1620b5.jpg



3、基于.NET的强大文件格式开源转换工具


一个基于.NET平台的开源文件格式转换工具,可以支持Windows 7/8/10等操作系统。安装后在右键菜单中出现 “File Converter” 项目,可以方便地通过右键菜单对选中文件进行格式转换,也支持批量文件转换。


同时支持多种文件格式的转换,包括几十种不同的文件格式。转换过程中不需要进行任何复杂的设置,只需等待转换完成即可。转换后的文件格式将自动保存在原始文件所在的目录中,且不会删除原始文件。


此外,还允许用户在设置中预先定义一些常用的格式转换参数,例如图片的压缩率、旋转角度以及转换后的文件命名方式等。如果需要调整这些参数,用户可以在「File Converter」设置里面进行调整


7e56ff6315fd63fbf114a11c6f2097fc.png

4、Helix Toolkit:为.NET开发者带来的3D视觉盛宴


Helix Toolkit是一个开源的3D库,主要用于WPF应用程序。它有许多优点,例如提供各种各样的功能,包括基于MVVM的3D模型编辑器、可编程的着色器、3D网格渲染、相机控制和3D基元等。此外,它还支持各种3D模型导入器和导出器的Assimp.Net组件,方便在项目中使用不同格式的3D模型。


然而,Helix Toolkit也有一些缺点。首先,它基于SharpDX(directx11)实现,这可能会限制其在某些平台上的性能。其次,虽然它提供了许多功能,但对于一些特定领域的应用程序,可能还需要进行定制开发。



ff77393ed487abde17ba2079f9553d87.png


5、C#开源项目:私有化部署LLama推理大模型

LLama是Meta发布的一个免费开源的大模型,是一个有着上百亿数量级参数的大语言模型,支持CPU和GPU两种方式。


而LLamaSharp就是针对llama.cpp封装的C#版本,让方便我们基于C#开发应用,让我们不需要自己编译llama.cpp。它的性能接近llama.cpp,支持Windows、Linux和MAC。

- End -

相关文章
|
7月前
|
JSON 数据格式
【Azure Fabric Service】演示使用PowerShell命令部署SF应用程序(.NET)
本文详细介绍了在中国区微软云Azure上使用Service Fabrics服务时,通过PowerShell命令发布.NET应用的全过程。由于Visual Studio 2022无法直接发布应用,需借助PowerShell脚本完成部署。文章分三步讲解:首先在Visual Studio 2022中打包应用部署包,其次连接SF集群并上传部署包,最后注册应用类型、创建实例并启动服务。过程中涉及关键参数如服务器证书指纹和服务端证书指纹的获取,并附带图文说明,便于操作。参考官方文档,帮助用户成功部署并运行服务。
233 73
|
8月前
|
人工智能
D1net阅闻 | 奥特曼:把期望降低100倍,OpenAI下月不会部署AGI
D1net阅闻 | 奥特曼:把期望降低100倍,OpenAI下月不会部署AGI
|
8月前
|
人工智能 自动驾驶 数据可视化
D1net阅闻 | ChatGPT支持所有用户使用搜索功能之时,谷歌也开放了最强模型
D1net阅闻 | ChatGPT支持所有用户使用搜索功能之时,谷歌也开放了最强模型
|
8月前
|
人工智能 搜索推荐 机器人
D1net阅闻|据悉微软致力于在365 Copilot产品中添加非OpenAI模型
D1net阅闻|据悉微软致力于在365 Copilot产品中添加非OpenAI模型
|
8月前
|
人工智能 自动驾驶 机器人
D1net阅闻|国务院国资委部署深化中央企业“AI+”专项行动
D1net阅闻|国务院国资委部署深化中央企业“AI+”专项行动
|
8月前
|
机器学习/深度学习 人工智能 测试技术
D1net阅闻|20万张GPU!马斯克旗下xAI公司正式发布新一代大模型Grok 3
D1net阅闻|20万张GPU!马斯克旗下xAI公司正式发布新一代大模型Grok 3
|
8月前
|
人工智能 自然语言处理 机器人
D1net阅闻 | 大模型军备竞赛升级:GPT-4.5/Grok 3同日官宣
D1net阅闻 | 大模型军备竞赛升级:GPT-4.5/Grok 3同日官宣
|
8月前
|
人工智能 机器人 量子技术
D1net阅闻 | 李飞飞团队训练出媲美DeepSeek R1的推理模型 云计算费用不到50美元
D1net阅闻 | 李飞飞团队训练出媲美DeepSeek R1的推理模型 云计算费用不到50美元
|
8月前
|
人工智能 5G 数据库
D1net阅闻|谷歌被曝正使用Anthropic的Claude模型来改进其Gemini AI
D1net阅闻|谷歌被曝正使用Anthropic的Claude模型来改进其Gemini AI
|
11月前
|
开发框架 监控 .NET
【Azure App Service】部署在App Service上的.NET应用内存消耗不能超过2GB的情况分析
x64 dotnet runtime is not installed on the app service by default. Since we had the app service running in x64, it was proxying the request to a 32 bit dotnet process which was throwing an OutOfMemoryException with requests >100MB. It worked on the IaaS servers because we had the x64 runtime install
195 5

热门文章

最新文章