Skip to main content
实践教程

基于LlamaIndex构建RAG应用

在LlamaIndex中使用阿里云百炼提供的检索增强服务。

开始

前提条件

  • 您需要已获取与配置 API Key配置API Key到环境变量
  • 已在百炼控制台开通知识库服务。首次进入知识库页面时,按照页面提示开通即可。
  • 如果需要指定业务空间,还要获取指定业务空间的“业务空间ID”。
  • 在Python编程工具的终端中执行以下命令安装DashScopeCloudIndex的安装包(您的Python版本要求:>=3.8 且 <=3.12)。
pip install llama-index-core
pip install llama-index-llms-dashscope
pip install llama-index-indices-managed-dashscope

文件解析

准备您的知识库文件:
  • 可以是一个或多个独立的文件。
  • 可以将所有文件放在一个文件夹中。
下面的例子将使用阿里云百炼的智能化解析和切分文档作为文档解析器。
DashScopeParse 解析器支持在线解析 .doc、.docx、.pdf 文件,要求单个文件的大小在100M以内, 并且文件页数在1000以内。
import os

from llama_index.readers.dashscope.base import DashScopeParse
from llama_index.readers.dashscope.utils import ResultType

# 设置业务空间 ID 将决定文档解析结果在“创建知识库”步骤中上传到哪个业务空间
os.environ['DASHSCOPE_WORKSPACE_ID'] = "<您的业务空间ID,使用默认业务空间时留空>"

# 第一种方式:使用文档解析器解析一个或多个文件
file = [
    # 需要解析的文件,支持pdf,doc,docx,请替换为您的文件路径
    "path/to/your_file.pdf",
]
# 解析文件
parse = DashScopeParse(result_type=ResultType.DASHSCOPE_DOCMIND)
documents = parse.load_data(file_path=file)

# 第二种方式:使用文档解析器解析一个文件夹内指定类型的文件
from llama_index.core import SimpleDirectoryReader
parse = DashScopeParse(result_type=ResultType.DASHSCOPE_DOCMIND)
# 定义不同文档类型的解析器
file_extractor = {".pdf": parse, '.doc': parse, '.docx': parse}
# 读取文件夹,提取和解析文件信息
documents = SimpleDirectoryReader(
    "your_folder", file_extractor=file_extractor
).load_data(num_workers=1)
上传成功后,您可以访问数据连接器页面,点击指定连接器卡片上的查看详情,查看上传的文档。

创建知识库

使用得到的documents创建知识库。
from llama_index.indices.managed.dashscope import DashScopeCloudIndex

# create a new index
index = DashScopeCloudIndex.from_documents(
    documents,
    "my_first_index",
    verbose=True,
)
创建成功后,您可以在知识库页面查看已创建的知识库。

读取知识库

通过以下代码,您可以在LlamaIndex中初始化已创建的知识库。
index = DashScopeCloudIndex("my_first_index")

获得retriever

您可以从index对象中快速获得您的retriever,或者使用知识库名称初始化您的DashScopeCloudRetriever。
# convert from index
retriever = index.as_retriever()

# initialize from DashScopeCloudRetriever
from llama_index.indices.managed.dashscope.retriever import DashScopeCloudRetriever
retriever = DashScopeCloudRetriever("my_first_index")

nodes = retriever.retrieve("my query")

获得query engine

import os

from llama_index.llms.dashscope import DashScope, DashScopeGenerationModels

dashscope_llm = DashScope(
  model_name=DashScopeGenerationModels.QWEN_MAX, api_key=os.environ["DASHSCOPE_API_KEY"]
)

query_engine = index.as_query_engine(llm=dashscope_llm)

向知识库新增/删除文档

# add documents to index
index._insert(documents)
# delete documents from index
doc_id = "your_doc_id"  # 替换为待删除文档的ID
index.delete_ref_doc([doc_id])
Token Plan
模型体验
  • 3D模型生成
  • 音乐生成
模型调优
模型压缩目录节点
用量统计与性能监控
资产中心
服务支持