Skip to content

Latest commit

 

History

History
188 lines (117 loc) · 6.77 KB

7. 使用 DeepSeek R1 和 Ollama 实现本地 RAG 应用.md

File metadata and controls

188 lines (117 loc) · 6.77 KB

使用 DeepSeek R1 和 Ollama 实现本地 RAG 应用

简介

本文档详细介绍如何利用 DeepSeek R1 和 Ollama 构建本地化的 RAG（检索增强生成）应用。同时也是对 使用 LangChain 搭建本地 RAG 应用 的补充。

我们将通过实例演示完整的实现流程，包括文档处理、向量存储、模型调用等关键步骤。本教程选用 DeepSeek-R1 1.5B 作为基础语言模型。考虑到不同模型具有各自的特点和性能表现，读者可以根据实际需求选择其他合适的模型来实现 RAG 系统。

注: 本文档包含核心代码片段和详细解释。完整代码可见 notebook 。

前期准备

首先，我们需要下载 Ollama 以及配置相关环境。

Ollama 的 GitHub仓库 中提供了详细的说明，简单总结如下:

Step1，下载 Ollama。

下载 并双击运行 Ollama 应用程序。

Step2，验证安装。

在命令行输入 ollama，如果出现以下信息，说明 Ollama 已经成功安装。

Step3，拉取模型。

  • 从命令行，参考 Ollama 模型列表 和 文本嵌入模型列表 拉取模型。在该教程中，我们以 deepseek-r1:1.5b 和 nomic-embed-text 为例:

    • 命令行输入 ollama pull deepseek-r1:1.5b，拉取通用的开源大语言模型 deepseek-r1:1.5b；（拉取模型时，可能比较缓慢。如果出现拉取错误，可以重新输入指令拉取）
    • 命令行输入 ollama pull nomic-embed-text 拉取 文本嵌入模型 nomic-embed-text。

  • 当应用运行时，所有模型将自动在 localhost:11434 上启动。

  • 注意，你的模型选择需要考虑你的本地硬件能力，该教程的参考显存大小 CPU Memory > 8GB。

Step4，部署模型。

命令行窗口运行以下命令，部署模型。

ollama run deepseek-r1:1.5b

也可以从命令行直接运行部署模型，例如 ollama run deepseek-r1:1.5b。

注意如果只想使用 Ollama 部署 DeepSeek R1 模型则无需进行以下步骤。

Step5，安装依赖。

# langchain_community
pip install langchain langchain_community

# Chroma
pip install langchain_chroma

# Ollama
pip install langchain_ollama

完成前期准备工作后，让我们开始逐步构建基于 LangChain、Ollama 和 DeepSeek R1 的本地 RAG 应用。下面将详细介绍具体实现步骤。

1. 文档加载

加载 PDF 文档并将其切分为适当大小的文本块。

from langchain_community.document_loaders import PDFPlumberLoader

file = "DeepSeek_R1.pdf"

# Load the PDF
loader = PDFPlumberLoader(file)
docs = loader.load()

from langchain.text_splitter import RecursiveCharacterTextSplitter
text_splitter = RecursiveCharacterTextSplitter(chunk_size=500, chunk_overlap=0)
all_splits = text_splitter.split_documents(docs)

2. 初始化向量存储

使用 Chroma 数据库存储文档向量，并配置 Ollama 提供的嵌入模型。

from langchain_chroma import Chroma
from langchain_ollama import OllamaEmbeddings

local_embeddings = OllamaEmbeddings(model="nomic-embed-text")

vectorstore = Chroma.from_documents(documents=all_splits, embedding=local_embeddings)

3. 构建 Chain 表达式

设置模型和提示模板，构建处理链。

from langchain_core.output_parsers import StrOutputParser
from langchain_core.prompts import ChatPromptTemplate
from langchain_ollama import ChatOllama

model = ChatOllama(
    model="deepseek-r1:1.5b",
)

prompt = ChatPromptTemplate.from_template(
    "Summarize the main themes in these retrieved docs: {docs}"
)

# 将传入的文档转换成字符串的形式
def format_docs(docs):
    return "\n\n".join(doc.page_content for doc in docs)


chain = {"docs": format_docs} | prompt | model | StrOutputParser()

question = "What is the purpose of the DeepSeek project?"

docs = vectorstore.similarity_search(question)

chain.invoke(docs)

4. 带有检索的 QA

整合检索和问答功能。

from langchain_core.runnables import RunnablePassthrough

RAG_TEMPLATE = """
You are an assistant for question-answering tasks. Use the following pieces of retrieved context to answer the question. If you don't know the answer, just say that you don't know. Use three sentences maximum and keep the answer concise.

<context>
{context}
</context>

Answer the following question:

{question}"""

rag_prompt = ChatPromptTemplate.from_template(RAG_TEMPLATE)

retriever = vectorstore.as_retriever()

qa_chain = (
    {"context": retriever | format_docs, "question": RunnablePassthrough()}
    | rag_prompt
    | model
    | StrOutputParser()
)

question = "What is the purpose of the DeepSeek project?"

# Run
qa_chain.invoke(question)

总结

本教程详细介绍了如何使用 DeepSeek R1 和 Ollama 构建本地化的 RAG 应用系统。我们通过四个主要步骤实现了完整的功能：

  1. 文档处理：使用 PDFPlumberLoader 加载 PDF 文档，并通过 RecursiveCharacterTextSplitter 将文本切分成适当大小的块。

  2. 向量存储：利用 Chroma 数据库和 Ollama 的嵌入模型建立向量存储系统，为后续的相似度检索提供基础。

  3. Chain 构建：设计并实现处理链，将文档处理、提示模板和模型响应整合成流程化的处理过程。

  4. RAG 实现：通过整合检索和问答功能，实现了完整的检索增强生成系统，能够基于文档内容回答用户问询。

通过本教程，可以快速搭建起自己的本地 RAG 系统，并根据实际需求进行定制化改进。建议在实践中多尝试不同的模型和参数配置，以获得最佳的使用效果。

注: 使用 streamlit 或 FastAPI 等工具，可以将本地 RAG 应用部署为 Web 服务，实现更广泛的应用场景。

仓库中也提供了 app.py 文件，可以直接运行该文件，启动 Web 服务。 参考文档 Build a RAG System with DeepSeek R1 & Ollama。 注意：运行该代码前，要提前运行 Ollama 服务。

对话页面如下：