首先完成“将 AI 代理连接到 SQL 数据库”即可解锁本课程。转到上一课

AI 智能体入门:NoSQL 与向量数据库

AI 智能体需要的不只是结构化表格。当面对非结构化内容、语义检索或大规模嵌入时,传统关系型数据库往往落后。这时 NoSQL 文档存储和向量数据库就派上用场。

像 MongoDB 这样的文档数据库存储灵活的 JSON-风格记录。当智能体需要处理多样化有效载荷时,它们非常适用——例如带有可选字段的用户配置、抓取的网页、或每次对话结构不同的聊天记录。

像 Pinecone、Weaviate 或 Chroma 这样的向量数据库存储高维向量嵌入,方便智能体执行相似性检索。智能体不是按精确关键词匹配,而是检索在语义上最接近查询的项目。这支撑了 RAG 流水线、记忆系统和推荐功能。

将智能体与文档存储连接

典型工作流是智能体调用一个封装数据库操作的工具或函数。不要在提示中编写原始查询,而是暴露安全、参数化的行为,如 get_user_profile 或 log_conversation。

python
from pymongo import MongoClient
client = MongoClient("mongodb://localhost:27017")
db = client["agent_store"]
def log_conversation(session_id: str, messages: list):
db.conversations.update_one(
{"session_id": session_id},
{"$set": {"messages": messages}},
upsert=True
)
def get_user_context(user_id: str) -> dict:
return db.users.find_one({"user_id": user_id})

在这种模式下,智能体根据用户请求决定调用哪个函数,函数在后台处理所有数据库交互。数据库模式保持灵活——MongoDB 会接受你存储的任意结构。

展示智能体接收请求、在文档存储查询与向量检索之间进行选择,并返回组合后的响应的流程图

利用向量数据库实现语义检索

向量数据库使用类似 OpenAI 的 text-embedding-3-small 或本地 sentence-transformer 的模型,将文本转换为数值数组(嵌入)。一旦存储,使用余弦距离或点积来衡量相似性。

python
from openai import OpenAI
import chromadb
client = OpenAI()
chroma = chromadb.PersistentClient(path="./vector_store")
collection = chroma.get_or_create_collection("docs")
def embed(text: str) -> list:
response = client.embeddings.create(
model="text-embedding-3-small",
input=text
)
return response.data[0].embedding
def add_document(doc_id: str, content: str):
collection.add(ids=[doc_id], embeddings=[embed(content)], documents=[content])
def search_similar(query: str, top_k: int = 3) -> list:
results = collection.query(query_embeddings=[embed(query)], n_results=top_k)
return results["documents"][0]

当用户的问题超出模型的训练截止日期需要知识时,代理会调用 search_similar。检索到的段落随后被作为上下文注入到提示中,供语言模型使用。

在文档存储与向量存储之间选择

当需要精确查找、灵活的模式及传统过滤时,文档数据库是正确的选择。例如按 ID 获取订单或列出某一个租户的所有会话记录。

当需要模糊、基于语义的检索时,向量数据库是正确的选择。示例包括查找与用户措辞相关的帮助文章、将简历与职位描述匹配,以及定位与当前主题相似的以往对话。

在实际使用中,大多数生产级代理会同时结合两者。向量数据库找到语义相关的项,文档数据库则获取与这些项相关的完整结构化记录——例如在相似性匹配过往工单后检索完整的用户资料。

常见陷阱与最佳实践

一个常见错误是在文档数据库中存储大型嵌入向量。尽管可以实现,但会降低索引速度和查询性能。请将嵌入保存在专用的向量存储中,并在文档存储中只保留引用(如文档ID)。

另一个陷阱是忘记处理嵌入模型的变更。如果切换模型,必须重新对整个语料库进行嵌入——旧向量和新向量不可比。

最后,在向量查询中务必设置元数据过滤器。跨越数百万个向量进行搜索成本高昂,因此在执行相似性步骤之前,通过日期、用户或类别进行筛选。

python
results = collection.query(
query_embeddings=[embed(query)],
n_results=5,
where={"user_id": "u_123", "created_at": {"$gt": 1700000000}}
)

概要

NoSQL 文档数据库为 AI 代理提供了对多样化现实世界数据的模式灵活性。向量数据库提供的语义检索是传统 SQL 无法匹配的。对于生产代理而言,制胜模式是混合模式:对结构化状态和精确查找使用文档存储,对基于语义的搜索使用向量存储。将嵌入保存在其原生存储中,先进行筛选,并提前为模型升级做好规划。

课后练习

课程检查点

巩固所学知识,获取作业反馈。

0/7
01向量数据库相对于传统文档存储在AI代理中的主要优势是什么?
02在所示的文档存储模式中,为什么 log_conversation 使用 upsert=True?
03用于将文本转换为向量数据库数值表示的函数是哪一个?
04课程中描述的推荐混合架构是什么?
05如果在填充向量数据库后切换嵌入模型,会发生什么?
06为什么最终的代码示例在 collection.query() 中使用 where 过滤器?
07哪种情景最适合使用文档数据库而非向量数据库?
已回答 · 0/7