跳到正文
京东科技·社会招聘企业档案· 京东科技·· 11 天前AI 评分18

京东云AI Infra团队招聘KV Cache压缩算法工程师

KV Cache 压缩算法工程师

AI 导读

京东云事业部AI Infra团队招聘KV Cache压缩算法工程师,负责设计并落地量化与稀疏化压缩算法,解决大模型推理显存瓶颈。岗位要求具备大模型推理优化全链路经验,熟悉KV Cache压缩在异构算力平台上的落地与评测,能针对不同芯片架构制定适配策略。职责还包括建立压缩精度评测机制、推进算法与上层推理框架集成。

来源:京东科技·社会招聘 · zhaopin.jd.com