我在Java里使用langchain4j,搭建本地的RAG。

配置文件

langchain4j:
  community:
    dashscope:
      chat-model:
        api-key: sk-41be519a5cf24bf9a280a51b8348c3b7
        model-name: deepseek-v3
        #model_name: qwen-max
        #model-name: qwen-max-latest
      embedding-model:
        api-key: sk-41be519a5cf24bf9a280a51b8348c3b7
        model-name: text-embedding-v3

EmbeddingStore初始化的方法

@Bean
    public EmbeddingStore<TextSegment> initEmbeddingStore() {

        return PgVectorEmbeddingStore.builder()
            .table(pgConfig.getTable())
            .dropTableFirst(true)
            .createTable(true)
            .host(pgConfig.getHost())
            .port(pgConfig.getPort())
            .user(pgConfig.getUser())
            .password(pgConfig.getPassword())
            .dimension(1024)
            .database(pgConfig.getDatabase())
            .build();

    }

文件加载的方法

    public String load(@RequestParam(value = "maxSegmentSizeInChars",required = false,defaultValue = "200") int maxSegmentSizeInChars
            , @RequestParam(value = "maxOverlapSizeInChars",required = false ,defaultValue = "0") int maxOverlapSizeInChars) {

        List<Document> documents = FileSystemDocumentLoader.loadDocuments("D:\\work\\lecture-langchain-20250525\\documents");
        // EmbeddingStoreIngestor.ingest(documents,embeddingStore);
        EmbeddingStoreIngestor.builder().embeddingStore(embeddingStore)
                .embeddingModel(embeddingModel)
                .documentSplitter(new DocumentByLineSplitter(maxSegmentSizeInChars, maxOverlapSizeInChars))
                .build().ingest(documents);
        return "数据加载成功";
    }

查看pgvector中的vector字段的属性也是1024,但是提问时,提示ERROR: different vector dimensions 1024 and 384
这个是模型的问题吗。我使用本地ollama中的all-minilm时没有遇见此类问题

展开
收起
游客3hmdfuhkyqlwe 2025-03-31 13:49:13 885 分享 版权
1 条回答
写回答
取消 提交回答
  • 您好,辛苦您加入“阿里云百炼使用体验2群”群的钉钉群号: 77600022533,在钉钉群内反馈您的问题。

    2025-04-10 14:52:29
    赞同 357 展开评论

基于通义系列大模型和开源大模型的一站式大模型服务平台,提供「生成式大模型的全流程应用工具」和「企业大模型的全链路训练工具」。为大模型,也为小应用。 阿里云百炼官网网址:https://www.aliyun.com/product/bailian

还有其他疑问?
咨询AI助理