排序
用 MLServer 提供 Hugging Face 文本模型推理接口
配置 HuggingFaceRuntime，通过 V2 推理协议调用文本生成、问答和情感分类，并辨明 Optimum、GPU 与自适应批处理示例中的限制。
4小时前
tokenizers v1：编码、解码与多核扩展，性能提升来自哪里
译写 Hugging Face tokenizers v1 性能文章，说明 BPE 位流切分、线程本地缓存与批量合并循环的优化，并交代基准覆盖、版本差异、语料可复现性和 Cargo 安装命令的当前边界。
1小时前