蚂蚁集团招聘推理网关研发工程师(杭州),服务蚂蚁阿福、阿宝、灵光等 AI 业务
蚂蚁集团-推理网关研发工程师-杭州
AI 导读
蚂蚁集团网络技术团队招聘推理网关研发工程师,工作地点杭州,岗位负责推理网关核心能力设计与开发,并通过 GPU 流量调度算法降低推理成本。要求 3 年以上系统软件开发经验,掌握 C、C++、Golang 中至少一种,熟悉 Prefill/Decode 分离、Prefix Cache 感知等 GPU 流量调度技术及 Envoy、MOSN、AIGW 等云原生网关架构。
来源:蚂蚁集团·社会招聘 · talent.antgroup.com