使用 Milvus 向量数据库进行高效向量存储和检索
【代码】使用 Milvus 向量数据库进行高效向量存储和检索。
·
# 使用 Milvus 向量数据库进行高效向量存储和检索
Milvus 是一个专门用于存储、索引和管理由深度神经网络和其他机器学习模型生成的大量嵌入向量的数据库。本文将深入介绍如何使用 Milvus 向量数据库的相关功能,以支持大规模数据的高效检索和存储。
## 技术背景介绍
随着深度学习的发展,处理和存储大量的嵌入向量变得至关重要。Milvus 提供了优秀的解决方案来解决这一挑战。它支持向量相似度搜索、实时数据更新、分布式架构和高可用性,是构建智能应用的理想工具。
## 核心原理解析
Milvus 的核心在于其高效的向量索引和检索能力。它采用先进的索引技术(如 IVF、HNSW 等),能够在海量数据中快速找到相似的嵌入向量。通过多种集群管理和分区策略,Milvus 能够实现数据的高效存储和访问。
## 代码实现演示
在使用 Milvus 进行向量存储和检索之前,我们需要安装相关的 Python 包:
```bash
%pip install -qU langchain-milvus langchain-openai langchain-huggingface langchain-core
以下是一个完整的代码示例展示如何在 Milvus 中创建向量存储、添加文档并进行查询:
import openai
import uuid
from getpass import getpass
from langchain_openai import OpenAIEmbeddings
from langchain_huggingface import HuggingFaceEmbeddings
from langchain_core.documents import Document
from langchain_milvus import Milvus
# 设置OpenAI API密钥
os.environ["OPENAI_API_KEY"] = getpass("Enter your OpenAI API Key:")
# 选择嵌入模型
embeddings = OpenAIEmbeddings(model="text-embedding-3-large")
# 设置Milvus连接
URI = "./milvus_example.db" # 使用本地数据库
vector_store = Milvus(
embedding_function=embeddings,
connection_args={"uri": URI},
)
# 创建并添加文档
documents = [
Document(page_content="我今天吃了巧克力薄饼和炒鸡蛋。", metadata={"source": "tweet"}),
Document(page_content="明天的天气预报是阴天,最高温度62度。", metadata={"source": "news"}),
Document(page_content="使用LangChain构建激动人心的新项目!", metadata={"source": "tweet"}),
]
uuids = [str(uuid.uuid4()) for _ in range(len(documents))]
vector_store.add_documents(documents=documents, ids=uuids)
# 执行相似度搜索
results = vector_store.similarity_search(
"LangChain能轻松处理LLM工作", k=2, filter={"source": "tweet"}
)
for res in results:
print(f"* {res.page_content} [{res.metadata}]")
应用场景分析
Milvus 在以下场景中的应用尤为合适:
- 内容推荐:通过向量相似度搜索为用户推荐相似的内容。
- 文档检索:快速从海量文档中检索相关信息。
- 图像搜索:在图像数据库中寻找相似图像。
- 实时个性化推荐:根据用户行为实时更新和检索内容。
实践建议
- 在使用 Milvus 进行大规模数据处理时,建议使用 Docker 或 Kubernetes 部署以提高性能。
- 针对多用户数据场景,可以使用 Milvus 的分区特性实现数据隔离。
- 不同嵌入模型的选择会影响检索效果,根据具体需求选择合适的模型。
如果遇到问题欢迎在评论区交流。
---END---

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐
所有评论(0)