全民上手大模型--ollama+langchain+通义千问零费用java+python跑通本机大模型

ollama run + 模型名

ollama run qwen

B:~ zhuxuemin$ ollama run qwen
>>> 你是谁呀
我是通义千问，是由阿里云开发的语言模型。我被设计成能够回答各种问题、提供信息和进行对话。如果您有任何问题或需要帮助，请随时告诉我，我会尽力提供支持。
>>> 给我做一首关于春天的诗，要求是7言律诗
春天的阳光明媚，
绿草如茵，鲜花盛开。
春风吹过田野，
稻谷摇曳生姿。
小鸟在树梢上欢快地歌唱，
春风轻轻地吹拂着它们的羽毛

>>> 给我做一首关于春天的诗，要求是7言律诗
春风拂面轻，  
绿草如茵春意浓。  
桃花笑映朝霞红，  
小鸟欢歌春色正。  
春风吹过田野广，  
稻谷摇曳生姿显。  
春天是希望的季节，  
让我们一起感受春的气息，感受生活的美好。

--安装虚拟环境
# 创建一个名为 llvm 的虚拟环境
python3 -m venv llvm
# 激活虚拟环境
source llvm/bin/activate

pip install langchain
pip install -U langchain-community

pip install langchain --index-url https://mirrors.aliyun.com/pypi/simple

pip install greenlet 

from langchain.prompts import PromptTemplate
from langchain.chains import LLMChain
from langchain_community.llms import Ollama
prompt_template = "请写一首关于{product}的诗，我希望是七言律诗"
ollama_llm = Ollama(model="qwen:latest")
llm_chain = LLMChain(
    llm = ollama_llm,
    prompt = PromptTemplate.from_template(prompt_template)
)
result=llm_chain.invoke("春天")
print(result)

{'product': '春天', 'text': '春光融宇宙，万物皆春色。\n\n鸟语花香中，一树桃花映日红。\n'}

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
         xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0</modelVersion>
    <groupId>org.example</groupId>
    <artifactId>llvm_client</artifactId>
    <version>1.0-SNAPSHOT</version>
    <properties>
        <maven.compiler.source>17</maven.compiler.source>
        <maven.compiler.target>17</maven.compiler.target>
    </properties>
    <dependencies>
        <dependency>
            <groupId>io.github.hamawhitegg</groupId>
            <artifactId>langchain-core</artifactId>
            <version>0.2.1</version>
        </dependency>
    </dependencies>
</project>

public class OllamaExample {

    public static void main(String[] args) {
        var llm = Ollama.builder()
                .baseUrl("http://localhost:11434")
                .model("qwen:latest")
                .temperature(0f)
                .build()
                .init();

        var result = llm.predict("给我写一首关于春天的诗，我希望是七言律诗");
        System.out.println(result);
    }
}