私有化部署大模型:5个.Net开源项目

简介: 私有化部署大模型:5个.Net开源项目

从零构建.Net前后端分离项目


今天一起盘点下,10月份推荐的5个.Net开源项目(点击标题查看详情)。


1、BootstrapBlazor企业级组件库:前端开发的革新之路


BootstrapBlazor是一个用于构建现代Web应用程序的开源框架,它基于Blazor框架,采用Bootstrap的UI样式。Blazor框架允许使用C#代替JavaScript来创建丰富的交互式UI,并将UI呈现为HTML和CSS,支持在众多浏览器中运行,包括移动浏览器。


1、开箱即用、丰富的企业级Blazor组件,除了兼容Bootstrap的样式库外,还额外增加了100多个组件;


2、支持基于WebAssembly客户端和SignalR服务端UI事件交互;


3、支持渐进式Web应用程序;


4、支持.Net5+;


5、支持ASP.NET CoreMVC、Razor Pages的项目。



f4e36b76ee9b3ea528903cea9c198559.png


2、Ocelot:.NET开源API网关提供路由管理、服务发现、鉴权限流等功能


Ocelot是一个用.NET Core实现并开源的API网关,它功能强大,包括了:路由、请求聚合、服务发现、认证、鉴权、限流熔断、并内置了负载均衡器与Service Fabric、Consul集成。

18e7e2bb9c78fb00d77f902fbb1620b5.jpg



3、基于.NET的强大文件格式开源转换工具


一个基于.NET平台的开源文件格式转换工具,可以支持Windows 7/8/10等操作系统。安装后在右键菜单中出现 “File Converter” 项目,可以方便地通过右键菜单对选中文件进行格式转换,也支持批量文件转换。


同时支持多种文件格式的转换,包括几十种不同的文件格式。转换过程中不需要进行任何复杂的设置,只需等待转换完成即可。转换后的文件格式将自动保存在原始文件所在的目录中,且不会删除原始文件。


此外,还允许用户在设置中预先定义一些常用的格式转换参数,例如图片的压缩率、旋转角度以及转换后的文件命名方式等。如果需要调整这些参数,用户可以在「File Converter」设置里面进行调整


7e56ff6315fd63fbf114a11c6f2097fc.png

4、Helix Toolkit:为.NET开发者带来的3D视觉盛宴


Helix Toolkit是一个开源的3D库,主要用于WPF应用程序。它有许多优点,例如提供各种各样的功能,包括基于MVVM的3D模型编辑器、可编程的着色器、3D网格渲染、相机控制和3D基元等。此外,它还支持各种3D模型导入器和导出器的Assimp.Net组件,方便在项目中使用不同格式的3D模型。


然而,Helix Toolkit也有一些缺点。首先,它基于SharpDX(directx11)实现,这可能会限制其在某些平台上的性能。其次,虽然它提供了许多功能,但对于一些特定领域的应用程序,可能还需要进行定制开发。



ff77393ed487abde17ba2079f9553d87.png


5、C#开源项目:私有化部署LLama推理大模型

LLama是Meta发布的一个免费开源的大模型,是一个有着上百亿数量级参数的大语言模型,支持CPU和GPU两种方式。


而LLamaSharp就是针对llama.cpp封装的C#版本,让方便我们基于C#开发应用,让我们不需要自己编译llama.cpp。它的性能接近llama.cpp,支持Windows、Linux和MAC。

- End -

相关文章
|
6月前
|
机器学习/深度学习 存储 计算机视觉
r语言中对LASSO回归,Ridge岭回归和弹性网络Elastic Net模型实现-4
r语言中对LASSO回归,Ridge岭回归和弹性网络Elastic Net模型实现
125 11
|
9天前
|
开发框架 监控 .NET
【Azure App Service】部署在App Service上的.NET应用内存消耗不能超过2GB的情况分析
x64 dotnet runtime is not installed on the app service by default. Since we had the app service running in x64, it was proxying the request to a 32 bit dotnet process which was throwing an OutOfMemoryException with requests >100MB. It worked on the IaaS servers because we had the x64 runtime install
|
1月前
|
监控 网络安全 调度
Quartz.Net整合NetCore3.1,部署到IIS服务器上后台定时Job不被调度的解决方案
解决Quartz.NET在.NET Core 3.1应用中部署到IIS服务器上不被调度的问题,通常需要综合考虑应用配置、IIS设置、日志分析等多个方面。采用上述策略,结合细致的测试和监控,可以有效地提高定时任务的稳定性和可靠性。在实施任何更改后,务必进行充分的测试,以验证问题是否得到解决,并监控生产环境的表现,确保长期稳定性。
47 1
|
1月前
|
监控 安全 API
Docker + .NET API:简化部署和扩展
Docker + .NET API:简化部署和扩展
39 0
|
1月前
|
监控 安全 API
最完美的扩展Docker + .NET API:简化部署和扩展
最完美的扩展Docker + .NET API:简化部署和扩展
72 0
|
2月前
|
SQL 关系型数据库 数据库
七天.NET 8操作SQLite入门到实战详细教程(选型、开发、发布、部署)
七天.NET 8操作SQLite入门到实战详细教程(选型、开发、发布、部署)
|
3月前
|
开发框架 监控 安全
.NET 应用程序安全背后究竟隐藏着多少秘密?从编码到部署全揭秘!
【8月更文挑战第28天】在数字化时代,.NET 应用程序的安全至关重要。从编码阶段到部署,需全面防护以保障系统稳定与用户数据安全。开发者应遵循安全编码规范,实施输入验证、权限管理和加密敏感信息等措施,并利用安全测试发现潜在漏洞。此外,部署时还需选择安全的服务器环境,配置 HTTPS 并实时监控应用状态,确保全方位防护。
55 3
|
3月前
|
Kubernetes 监控 Devops
【独家揭秘】.NET项目中的DevOps实践:从代码提交到生产部署,你不知道的那些事!
【8月更文挑战第28天】.NET 项目中的 DevOps 实践贯穿代码提交到生产部署全流程,涵盖健壮的源代码管理、GitFlow 工作流、持续集成与部署、容器化及监控日志记录。通过 Git、CI/CD 工具、Kubernetes 及日志框架的最佳实践应用,显著提升软件开发效率与质量。本文通过具体示例,助力开发者构建高效可靠的 DevOps 流程,确保项目成功交付。
76 0
|
3月前
|
开发框架 .NET Docker
【Azure 应用服务】App Service .NET Core项目在Program.cs中自定义添加的logger.LogInformation,部署到App Service上后日志不显示Log Stream中的问题
【Azure 应用服务】App Service .NET Core项目在Program.cs中自定义添加的logger.LogInformation,部署到App Service上后日志不显示Log Stream中的问题
|
3月前
|
开发框架 .NET API
在IIS上部署ASP.NET Core Web API和Blazor Wasm详细教程
在IIS上部署ASP.NET Core Web API和Blazor Wasm详细教程
186 3