向量数据库Milvus： 高级搜索（四）

一、过滤搜索Filtered Search过滤搜索是指在向量检索的同时用标量条件过滤数据。1. 为什么需要过滤搜索假设有一个电商商品库用户想找“500 元以下的运动鞋”。如果只用向量搜索可能会返回“高端运动鞋”如果只用标量过滤又无法按“相关性”排序。过滤搜索把两者结合起来。2. 基本用法results client.search( collection_nameproducts, data[query_vector], limit10, filterprice 500 and category 运动鞋, output_fields[name, price, category] )3. 支持的过滤表达式类型示例比较price 100、age 30、status ! deleted逻辑price 100 and category 鞋、a 1 or b 2集合category in [鞋, 衣服]、id not in [1, 2, 3]模糊匹配title like 运动%、title like %鞋%数组ARRAY_CONTAINS(tags, 热销)JSONmetadata[color] red空值field is null、field is not null4. 模糊匹配# 前缀匹配以运动开头 filtertitle like 运动% # 后缀匹配以鞋结尾 filtertitle like %鞋 # 包含匹配包含运动 filtertitle like %运动% # 单字符匹配 filtertitle like 运_鞋 # 匹配运动鞋、运力鞋5. 在查询中预过滤 vs 后过滤方式说明性能预过滤先过滤再向量检索数据量小时快后过滤先向量检索再过滤可能返回不足 limit 条Milvus 会自动优化过滤时机通常无需手动指定。二、混合搜索Hybrid Search混合搜索是指同时使用多个向量字段或多个查询向量进行检索然后融合结果。1. 为什么需要混合搜索单一向量检索有局限性稠密向量擅长语义匹配但可能漏掉关键词稀疏向量擅长关键词匹配但不懂语义两者结合效果更好。2. 多向量字段的 Collectionfrom pymilvus import FieldSchema, CollectionSchema, DataType fields [ FieldSchema(nameid, dtypeDataType.INT64, is_primaryTrue, auto_idTrue), FieldSchema(namedense_vector, dtypeDataType.FLOAT_VECTOR, dim768), FieldSchema(namesparse_vector, dtypeDataType.SPARSE_FLOAT_VECTOR), FieldSchema(nametext, dtypeDataType.VARCHAR, max_length512), ] schema CollectionSchema(fieldsfields) client.create_collection( collection_namehybrid_docs, schemaschema )3. 为不同向量字段创建索引# 稠密向量索引 client.create_index( collection_namehybrid_docs, field_namedense_vector, index_params{ index_type: HNSW, metric_type: COSINE, params: {M: 16, efConstruction: 200} } ) # 稀疏向量索引 client.create_index( collection_namehybrid_docs, field_namesparse_vector, index_params{ index_type: SPARSE_INVERTED_INDEX, metric_type: IP } )4. 执行混合搜索from pymilvus import AnnSearchRequest, RRFRanker # 稠密向量查询 dense_request AnnSearchRequest( data[dense_query_vector], anns_fielddense_vector, param{metric_type: COSINE, params: {ef: 100}}, limit20 ) # 稀疏向量查询 sparse_request AnnSearchRequest( data[sparse_query_vector], anns_fieldsparse_vector, param{metric_type: IP}, limit20 ) # 融合结果RRF 排序 results client.hybrid_search( collection_namehybrid_docs, reqs[dense_request, sparse_request], rankerRRFRanker(k60), # RRF 融合 limit10, output_fields[text] )5. 结果融合策略策略说明RRFReciprocal Rank Fusion基于排名融合无需调参推荐WeightedRanker加权融合可调整各路的权重from pymilvus import WeightedRanker # 加权融合稠密向量占 70%稀疏向量占 30% results client.hybrid_search( collection_namehybrid_docs, reqs[dense_request, sparse_request], rankerWeightedRanker(0.7, 0.3), limit10 )三、常见问题问题原因解决方案检索结果不相关Embedding 模型不合适换更好的模型如 bge-large-zh检索速度慢索引参数不合适调大ef或nprobe返回结果不足过滤条件太严格放宽过滤条件插入失败维度不匹配检查维度是否和 Schema 一致内存占用高索引类型不合适换 IVF_PQ 或 DiskANN