AI 工具 第2页
用一条命令在 HF Jobs 上运行 vLLM 服务器-未完纪

用一条命令在 HF Jobs 上运行 vLLM 服务器

用一条命令,就能在 Hugging Face 基础设施上启动一个私有、兼容 OpenAI API 的大模型端点:无需自行准备服务器,无需 Kubernetes,按秒付费。启动后,可从笔记本电脑、Notebook 或其他地方查询...
彩雨伞的头像-未完纪钻石会员彩雨伞11小时前
0430
SilverTorch:将索引视为模型,重构推荐系统的检索架构-未完纪

SilverTorch:将索引视为模型,重构推荐系统的检索架构

Meta 推出 SilverTorch,将用户生成内容推荐中的全部检索组件统一到同一架构。相较于先进方法,它的吞吐最高达到对照方案的23.7倍;相较于基于 CPU 的方案,计算成本效率为基线的20.9倍,同时改...
彩雨伞的头像-未完纪钻石会员彩雨伞2小时前
0340
从用户序列到扩展规律:Meta 广告排序的多阶段架构-未完纪

从用户序列到扩展规律:Meta 广告排序的多阶段架构

Meta 的推荐平台每天处理数十亿次用户交互,产生丰富的时间信号,反映用户在产品、广告和内容上的偏好与意图。在2024年关于广告推荐序列学习的文章中,我们展示了对用户行为的顺序和时间进行建...
彩雨伞的头像-未完纪钻石会员彩雨伞1小时前
0500