【Python+C#】手把手搭建基于Hugging Face模型的离线翻译系统,并通过C#代码进行访问

本文涉及的产品
模型在线服务 PAI-EAS,A10/V100等 500元 1个月
模型训练 PAI-DLC,5000CU*H 3个月
交互式建模 PAI-DSW,5000CU*H 3个月
简介: 目前翻译都是在线的,要在C#开发的程序上做一个可以实时翻译的功能,好像不是那么好做。而且大多数处于局域网内,所以访问在线的api也显得比较尴尬。于是,就有了以下这篇文章,自己搭建一套简单的离线翻译系统。以下内容采用python提供基础翻译服务+ C#访问服务的功能,欢迎围观。


前言:目前翻译都是在线的,要在C#开发的程序上做一个可以实时翻译的功能,好像不是那么好做。而且大多数处于局域网内,所以访问在线的api也显得比较尴尬。于是,就有了以下这篇文章,自己搭建一套简单的离线翻译系统。以下内容采用python提供基础翻译服务+ C#访问服务的功能,欢迎围观。


系统环境: WIN10

开发环境:VS2022 + VS CODE

开发语言环境: Python3.8 + .NET 6

以下正文:

1、由于本地环境没有python,所以先安装python有关环境先。


1995789-20220928230344085-1387374912.png

 

2、安装好以后,控制台下输入 python,进入如下终端内容,就代表安装成功了。建议安装时候,选择自动添加到环境变量里面,这样不需要自己配置了。


1995789-20220928230356277-883760196.png

 

3、由于翻译功能,会使用到一些已有的模型进行计算,所以以下需要安装几个包。第一个是pytorch, 输入 pip install torch 即可安装。如果安装比较慢,在后面设置一个镜像,可以加速,例如此处我使用的清华的加速器:https://pypi.tuna.tsinghua.edu.cn/simple

 1995789-20220928230404149-1538193483.png


4、然后安装flask: pip install flask


1995789-20220928230413997-670990248.png

 

5、接着需要安装 gevent: pip install gevent


1995789-20220928230423795-1862736195.png

 

6、接着是 transformers


1995789-20220928230431093-277805492.png

 

7、安装transformers时候,有的会自动安装sentencepiece包,有的时候不会。如果上面查找没有,就手动安装一下:


1995789-20220928230438817-1164800578.png

 

8、以上包安装完毕,打开VS CODE,创建一个python语言文件


1995789-20220928230448309-76785063.png

 

9、此处文件命名为 MyTranslate.py   然后引入可能所需要的包


1995789-20220928230456788-1164572240.png

 

10、接着,上 https://huggingface.co/Helsinki-NLP 上面,查找需要的语言翻译模型。此处使用的离线翻译,使用的该项目下的。


1995789-20220928230513791-371257402.png

 

11、Models里面有上千个语言模型,选择自己需要的名称,记住就行。


1995789-20220928230524825-1326336226.png


12、此处,我选了四个模型,分别是英汉/汉英  以及德汉/汉德的翻译模型。有关代码实现如下所示。


1995789-20220928230534649-978988803.png

 

13、接着定义一个api接口,用于提供给外部访问(毕竟主业不是python,提供api就可以跨语言来访问该服务了)。有关代码如下所示。


1995789-20220928230542437-382025799.png

 

14、VS CODE上运行程序,可以看到终端控制台上面打印出一些下载进度。这是因为本地现在还没有模型,我们选择的四个模型,会被下载到本地来,这样下次就不需要再下载模型了。


1995789-20220928230550871-1861881039.png

 

15、 模型加载完毕,启动服务。此处0.0.0.0代表本机ip都可以被访问,我们正常使用时候,本机就127.0.0.1即可;如果是局域网或者外网,那就提供真实IP即可。


1995789-20220928230600895-441999198.png

 

16、下载的模型,会自动下载到当前用户文件夹下,具体效果如下图所示。所以如果某个服务器没有外网,也可以直接拷贝该.cache文件夹到指定服务器下面的某用户下,也可以被识别。


1995789-20220928230612729-540104419.png

 

17、打开postman,做个简单的测试。可以看到,服务是可以被成功访问的,说明代码可以跑,问题不是很大。

 1995789-20220928230628223-1470393149.png


18、换一种翻译模式再试一下:

 1995789-20220928230636038-2042274696.png


19、再试一试另类点的,看看效果:


1995789-20220928230643980-974923847.png

 

20、看不懂德文,把德文搞到百度在线翻译上面反翻译回来,看来语意好像差不多。


1995789-20220928230652715-1515317003.png

 

21、程序这样运行不是事儿,所以我们可以把它打包为exe程序来运行,这样就可以在不安装python环境的电脑也可以跑了。安装 pyinstaller:


1995789-20220928230702453-1680106334.png

 

22、在MyTranslate.py同文件夹下,新建一个py文件,名称不能改:hook-ctypes.macholib.py  该文件用于提供虚拟环境使用。


1995789-20220928230712771-1065338807.png


23、该文件下,需要导入所有可能用到的依赖的包。不然打包可能出错;或者打包完毕以后,运行可能出错。


1995789-20220928230721525-874546366.png

 

24、打包应用的内容,根据个人实际情况来选择,pip 下载时候,有一个 Collecting提示,提示后面就是安装的依赖包,不晓得哪些需要的,就全部搞进去,减少错误几率。

 1995789-20220928230729381-1929848135.png


25、执行打包命名 pyinstaller -F xxx.py --additional-hooks-dir=.     如果不需要有控制台提示,可以加个 -w


1995789-20220928230738447-181472296.png

 

26、打包安装成功了


1995789-20220928230746534-449923914.png

 

27、打包成功的exe文件,自动放在 dist文件夹下


1995789-20220928230754911-1946818784.png

 

28、生成的exe文件,如图。


1995789-20220928230804567-1477620228.png

 

29、直接运行走一波,看看效果。为了避免看不到错误提示,所以我在控制台内运行,如图


1995789-20220928230813822-1718946904.png


30、由于模型被下载过,所以第二次启动,不会重复下载模型。

 1995789-20220928230824702-178936332.png


31、现在再用 Postman 走一波,看看效果。


1995789-20220928230832529-753982861.png


32、直接运行的程序,难免被人不小心误操作给关闭了,所以我们还可以把他丢到Windows服务上面,这样服务器重启也不担心了。使用NSSM工具进行操作。如果想知道如何使用,也可以参考我的另一篇博客。博客地址:https://www.cnblogs.com/weskynet/p/14961565.html


1995789-20220928230840846-1418804892.png

 

33、设置描述,备注为 离线翻译服务。安装为服务 TranslateService(名字可以随意)


1995789-20220928230848500-800491920.png


34、安装以后,可以看到已经生成一个对应的Windows服务了。


1995789-20220928230857189-1850279368.png


35、服务启动,可以等待一小会儿,加载模型要一丢丢时间。一小会儿以后,使用Postman进行测试一下,看看效果。


1995789-20220928230917422-2028261004.png


36、接下来,创建一个基于.NET的webapi程序,用来通过代码来访问翻译服务,看看能不能访问到。


1995789-20220928230926114-1434339619.png

 

37、创建一个控制器,搭建个基础模子先。


1995789-20220928230934773-378094516.png


38、注入IHttpClientFactory(用来访问webapi使用的,实际上就是提供HttpClient)。然后写个简单的测试功能,直接看以下代码:


1995789-20220928230941958-1424623488.png

 

39、通过自带的swagger,走一波。输入有关参数,走一个看看,嘿,可以使用,bingo~


1995789-20220928230950083-1004411496.png


目录
相关文章
|
7天前
|
机器学习/深度学习 数据采集 自然语言处理
使用Python实现深度学习模型:智能社交媒体内容分析
使用Python实现深度学习模型:智能社交媒体内容分析
122 69
|
7天前
|
机器学习/深度学习 算法 数据可视化
8种数值变量的特征工程技术:利用Sklearn、Numpy和Python将数值转化为预测模型的有效特征
特征工程是机器学习流程中的关键步骤,通过将原始数据转换为更具意义的特征,增强模型对数据关系的理解能力。本文重点介绍处理数值变量的高级特征工程技术,包括归一化、多项式特征、FunctionTransformer、KBinsDiscretizer、对数变换、PowerTransformer、QuantileTransformer和PCA,旨在提升模型性能。这些技术能够揭示数据中的潜在模式、优化变量表示,并应对数据分布和内在特性带来的挑战,从而提高模型的稳健性和泛化能力。每种技术都有其独特优势,适用于不同类型的数据和问题。通过实验和验证选择最适合的变换方法至关重要。
16 5
8种数值变量的特征工程技术:利用Sklearn、Numpy和Python将数值转化为预测模型的有效特征
|
9天前
|
机器学习/深度学习 人工智能 算法
【新闻文本分类识别系统】Python+卷积神经网络算法+人工智能+深度学习+计算机毕设项目+Django网页界面平台
文本分类识别系统。本系统使用Python作为主要开发语言,首先收集了10种中文文本数据集("体育类", "财经类", "房产类", "家居类", "教育类", "科技类", "时尚类", "时政类", "游戏类", "娱乐类"),然后基于TensorFlow搭建CNN卷积神经网络算法模型。通过对数据集进行多轮迭代训练,最后得到一个识别精度较高的模型,并保存为本地的h5格式。然后使用Django开发Web网页端操作界面,实现用户上传一段文本识别其所属的类别。
22 1
【新闻文本分类识别系统】Python+卷积神经网络算法+人工智能+深度学习+计算机毕设项目+Django网页界面平台
|
3天前
|
数据采集 存储 XML
构建高效的Python爬虫系统
【9月更文挑战第30天】在数据驱动的时代,掌握如何快速高效地获取网络信息变得至关重要。本文将引导读者了解如何构建一个高效的Python爬虫系统,从基础概念出发,逐步深入到高级技巧和最佳实践。我们将探索如何使用Python的强大库如BeautifulSoup和Scrapy,以及如何应对反爬措施和提升爬取效率的策略。无论你是初学者还是有经验的开发者,这篇文章都将为你提供宝贵的知识和技能,帮助你在信息收集的海洋中航行得更远、更深。
15 6
|
7天前
|
机器学习/深度学习 数据采集 自然语言处理
使用Python实现深度学习模型:智能新闻生成与校对
使用Python实现深度学习模型:智能新闻生成与校对
32 10
|
6天前
|
机器学习/深度学习 数据采集 网络安全
使用Python实现深度学习模型:智能网络安全威胁检测
使用Python实现深度学习模型:智能网络安全威胁检测
22 5
|
4天前
|
机器学习/深度学习 TensorFlow 算法框架/工具
使用Python实现深度学习模型:智能数据隐私保护
使用Python实现深度学习模型:智能数据隐私保护
14 1
|
9天前
|
机器学习/深度学习 数据采集 自然语言处理
使用Python实现深度学习模型:智能广告创意生成
使用Python实现深度学习模型:智能广告创意生成
26 4
|
7天前
|
数据挖掘 Python
Python随机效应模型
Python随机效应模型
17 2
|
8天前
|
Python
python 翻译,调用有道翻译
python 翻译,调用有道翻译
下一篇
无影云桌面