Sentence Transformers共6篇
嵌入向量量化-未完纪

嵌入向量量化

以二值向量和 FAISS 快速召回候选,再载入磁盘 int8 嵌入重排,减少语义检索内存占用;近似相似度和召回质量需用目标语料评测。
彩雨伞的头像-未完纪钻石会员彩雨伞3小时前
0450
Sentence Transformers 推理加速:精度、编译、ONNX 与 OpenVINO 的完整实践-未完纪

Sentence Transformers 推理加速:精度、编译、ONNX 与 OpenVINO 的完整实践

涵盖 PyTorch 半精度与 Flash Attention、torch.compile、ONNX 优化和动态量化、OpenVINO 静态量化,以及保存重载、完整基准方法和 llama.cpp 对照。
彩雨伞的头像-未完纪钻石会员彩雨伞3小时前
0510
稀疏编码器训练总览:SPLADE、静态查询路由与 CSR-未完纪

稀疏编码器训练总览:SPLADE、静态查询路由与 CSR

从模型结构、列顺序和稀疏正则,到完整 Trainer、评估器与多数据集采样,说明如何同时观察检索质量与索引成本。
彩雨伞的头像-未完纪钻石会员彩雨伞6小时前
0240
Matryoshka Embeddings:让同一个语义向量在多个维度下都能工作-未完纪

Matryoshka Embeddings:让同一个语义向量在多个维度下都能工作

从多前缀损失、AllNLI训练和STSBenchmark逐维评估出发,理解套娃嵌入如何节省检索存储与后续计算,并分清远程模型代码、上传副作用及版本兼容边界。
彩雨伞的头像-未完纪钻石会员彩雨伞6小时前
0460
用 Sentence Transformers 训练与微调多模态嵌入模型和重排模型-未完纪

用 Sentence Transformers 训练与微调多模态嵌入模型和重排模型

从领域数据、模态路由和梯度缓存出发,完整介绍视觉文档检索微调、Matryoshka多维嵌入评估与多模态重排模型训练,并保留原作者全部实验表及适用限制。
彩雨伞的头像-未完纪钻石会员彩雨伞7小时前
0290
用 Sentence Transformers 训练与微调多向量嵌入模型-未完纪

用 Sentence Transformers 训练与微调多向量嵌入模型

从模型起点、领域问答对和 GradCache 损失到完整训练脚本,理解多向量检索的微调方法、长文档截断代价及索引压缩取舍。
彩雨伞的头像-未完纪钻石会员彩雨伞8小时前
0390