排序
Sentence Transformers 推理加速:精度、编译、ONNX 与 OpenVINO 的完整实践
涵盖 PyTorch 半精度与 Flash Attention、torch.compile、ONNX 优化和动态量化、OpenVINO 静态量化,以及保存重载、完整基准方法和 llama.cpp 对照。
用 Sentence Transformers 训练与微调多模态嵌入模型和重排模型
从领域数据、模态路由和梯度缓存出发,完整介绍视觉文档检索微调、Matryoshka多维嵌入评估与多模态重排模型训练,并保留原作者全部实验表及适用限制。


