AI 智能体入门:NoSQL 与向量数据库
AI 智能体需要的不只是结构化表格。当面对非结构化内容、语义检索或大规模嵌入时,传统关系型数据库往往落后。这时 NoSQL 文档存储和向量数据库就派上用场。
像 MongoDB 这样的文档数据库存储灵活的 JSON-风格记录。当智能体需要处理多样化有效载荷时,它们非常适用——例如带有可选字段的用户配置、抓取的网页、或每次对话结构不同的聊天记录。
像 Pinecone、Weaviate 或 Chroma 这样的向量数据库存储高维向量嵌入,方便智能体执行相似性检索。智能体不是按精确关键词匹配,而是检索在语义上最接近查询的项目。这支撑了 RAG 流水线、记忆系统和推荐功能。
将智能体与文档存储连接
典型工作流是智能体调用一个封装数据库操作的工具或函数。不要在提示中编写原始查询,而是暴露安全、参数化的行为,如 get_user_profile 或 log_conversation。
在这种模式下,智能体根据用户请求决定调用哪个函数,函数在后台处理所有数据库交互。数据库模式保持灵活——MongoDB 会接受你存储的任意结构。
利用向量数据库实现语义检索
向量数据库使用类似 OpenAI 的 text-embedding-3-small 或本地 sentence-transformer 的模型,将文本转换为数值数组(嵌入)。一旦存储,使用余弦距离或点积来衡量相似性。
当用户的问题超出模型的训练截止日期需要知识时,代理会调用 search_similar。检索到的段落随后被作为上下文注入到提示中,供语言模型使用。
在文档存储与向量存储之间选择
当需要精确查找、灵活的模式及传统过滤时,文档数据库是正确的选择。例如按 ID 获取订单或列出某一个租户的所有会话记录。
当需要模糊、基于语义的检索时,向量数据库是正确的选择。示例包括查找与用户措辞相关的帮助文章、将简历与职位描述匹配,以及定位与当前主题相似的以往对话。
在实际使用中,大多数生产级代理会同时结合两者。向量数据库找到语义相关的项,文档数据库则获取与这些项相关的完整结构化记录——例如在相似性匹配过往工单后检索完整的用户资料。
常见陷阱与最佳实践
一个常见错误是在文档数据库中存储大型嵌入向量。尽管可以实现,但会降低索引速度和查询性能。请将嵌入保存在专用的向量存储中,并在文档存储中只保留引用(如文档ID)。
另一个陷阱是忘记处理嵌入模型的变更。如果切换模型,必须重新对整个语料库进行嵌入——旧向量和新向量不可比。
最后,在向量查询中务必设置元数据过滤器。跨越数百万个向量进行搜索成本高昂,因此在执行相似性步骤之前,通过日期、用户或类别进行筛选。
概要
NoSQL 文档数据库为 AI 代理提供了对多样化现实世界数据的模式灵活性。向量数据库提供的语义检索是传统 SQL 无法匹配的。对于生产代理而言,制胜模式是混合模式:对结构化状态和精确查找使用文档存储,对基于语义的搜索使用向量存储。将嵌入保存在其原生存储中,先进行筛选,并提前为模型升级做好规划。
课程检查点
巩固所学知识,获取作业反馈。