使用 PEFT 适配器训练

Sentence Transformers 已集成 PEFT（Parameter-Efficient Fine-Tuning，参数高效微调），让你能够微调嵌入模型，而无须更新模型的全部参数。PEFT 方法只微调少量额外参数；原文指出，与完整模型微调相比，性能损失较小。

如果需要长上下文和其他优化下的高吞吐 LoRA/QLoRA 训练，也可以使用 基于 Unsloth 的训练示例。这些示例通过 FastSentenceTransformer 构建在 Sentence Transformers 之上。

PEFT 适配器模型可以像其他模型一样加载。例如，tomaarsen/bert-base-uncased-gooaq-peft 仓库不包含 model.safetensors，只包含较小的 adapter_model.safetensors：

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("tomaarsen/bert-base-uncased-gooaq-peft")
# Run inference
sentences = [
    "is toprol xl the same as metoprolol?",
    "Metoprolol succinate is also known by the brand name Toprol XL. It is the extended-release form of metoprolol. Metoprolol succinate is approved to treat high blood pressure, chronic chest pain, and congestive heart failure.",
    "Metoprolol starts to work after about 2 hours, but it can take up to 1 week to fully take effect. You may not feel any different when you take metoprolol, but this doesn't mean it's not working. It's important to keep taking your medicine"
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings[0], embeddings[1:])
print(similarities)
# tensor([[0.7913, 0.4976]])

兼容方法

SentenceTransformer 提供以下与 PEFT 适配器交互的方法：

• add_adapter()：为当前模型添加新的适配器，供训练使用。
• load_adapter()：从文件或 Hugging Face Hub 仓库加载适配器权重。
• active_adapters()：获取当前启用的适配器。
• set_adapter()：指定模型使用某个适配器，并禁用其他适配器。
• enable_adapters()：启用适配器。
• disable_adapters()：禁用适配器。
• get_adapter_state_dict()：获取包含适配器权重的状态字典。
• delete_adapter()：从模型删除适配器。

添加新适配器

在已初始化的 Sentence Transformer 模型上，调用 add_adapter()，传入 PeftConfig 或其子类实例即可。下面的示例使用 LoraConfig。

from sentence_transformers import SentenceTransformer

# 1. Load a model to finetune with 2. (Optional) model card data
# Loading in fp32 is preferred for training if your memory can handle it
model = SentenceTransformer(
    "sentence-transformers/all-MiniLM-L6-v2",
    model_card_data=SentenceTransformerModelCardData(
        language="en",
        license="apache-2.0",
        model_name="all-MiniLM-L6-v2 adapter finetuned on GooAQ pairs",
    ),
    model_kwargs={"torch_dtype": "float32"},
)

# 3. Create a LoRA adapter for the model & add it
peft_config = LoraConfig(
    task_type=TaskType.FEATURE_EXTRACTION,
    inference_mode=False,
    r=64,
    lora_alpha=128,
    lora_dropout=0.1,
)
model.add_adapter(peft_config)

# Proceed as usual... See https://sbert.net/docs/sentence_transformer/training_overview.html

加载已训练的适配器

作者在 google-bert/bert-base-uncased 基座模型上训练了小型适配器 tomaarsen/bert-base-uncased-gooaq-peft。其 adapter_model.safetensors 大小为 9.44MB，仅为基座 model.safetensors 的 2.14%。这些是原文对特定文件的统计，适配器仍依赖基座模型权重。

可以直接加载适配器模型：

from sentence_transformers import SentenceTransformer

model = SentenceTransformer("tomaarsen/bert-base-uncased-gooaq-peft")
embeddings = model.encode(["This is an example sentence", "Each sentence is converted"])
print(embeddings.shape)
# (2, 768)

也可以先加载基座模型，再加载适配器：

from sentence_transformers import SentenceTransformer

model = SentenceTransformer("google-bert/bert-base-uncased")
model.load_adapter("tomaarsen/bert-base-uncased-gooaq-peft")
embeddings = model.encode(["This is an example sentence", "Each sentence is converted"])
print(embeddings.shape)
# (2, 768)

在多数情况下，第一种方式更简单，因为无论目标是适配器模型还是普通模型，都可用同样的加载入口。

训练脚本

完整训练示例见 training_gooaq_lora.py。它展示了如何在 GooAQ 问答数据集上微调 google-bert/bert-base-uncased，采用 MultipleNegativesRankingLoss，并改为使用 PEFT 的 LoRA 适配器。

作者使用该脚本训练了上述适配器。在 NanoBEIR 基准中，该模型的 NDCG@10 为 0.4705，略低于 tomaarsen/bert-base-uncased-gooaq 的 0.4728；后者采用修改后的脚本进行完整模型微调。这是原文报告的结果，不是本次复测，也不能替代你自己的领域评估。

类似的 GooAQ 配方也有 Unsloth 与 FastSentenceTransformer 实现，参见 training_gooaq_unsloth.py。更大的医疗检索示例使用 google/embeddinggemma-300m 与 MIRIAD，参见 training_medical_unsloth.py。