【关于这个岗位】

作为平台 AI 基础设施与算力调度的“交通指挥官”，你将主导 AI 模型中转站及 Multi-LLM 聚合平台的整体规划与矩阵演进。该岗位直接面对多模型适配、高并发流量调度、金融级Token计费等高壁垒场景。你将拥有极高的架构设计自主权，与顶尖的算法专家、基础架构（Infra）工程师和数据科学家协同攻坚，亲手打造一个高可用、低延迟、具备强商业化变现能力的全球化 AI 路由中台。

【你会做什么】

多模型聚合与标准化（Multi-LLM Hub）：负责海量通用大模型（如 OpenAI, Anthropic, DeepSeek 等）的标准化接入、适配与封装，统一输出高兼容性的标准化 API 接口，彻底解决多模型版本兼容与调用不一致痛点。
智能流量调度（Smart Routing & High Availability）：设计并持续迭代 AI 流量路由策略，主导智能路由、动态负载均衡（Load Balancing）、并发限流（Rate Limiting）、模型降级与故障熔断机制的设计，保障平台在极端高并发下的绝对稳定性。
商业化中台与权限管控（Token Metering & Monetization）：构建企业级 AI 权限体系、多租户账号体系、调用配额管理以及精细化的 Token 计费账单（Metering & Billing）、日志审计与风控防刷系统，支撑 B 端企业与 C 端用户的大规模商业化接入。
全生命周期推进（Infra PMO）：协同研发、测试、运维团队高效推进版本迭代，梳理全链路业务流，跟进线上问题闭环，持续优化中转平台的吞吐量性能与综合成本结构（Cost Optimization）。
技术前瞻与赋能：跟踪全球 AI 产业动态与模型迭代趋势，将客户痛点转化为标准化的中台能力，对内赋能多元业务线，对外实现高价值的商业化输出。

【我们希望你】

2-3 年 AI 产品、大模型平台、API 中台或高性能 SaaS 平台的产品实战经验。
懂技术、知底层：深刻理解大模型调用链路、API 转发逻辑、网络协议、并发控制、超时重试等底层逻辑，能与 Infra 工程师进行无障碍的技术对话。
熟悉全球主流大模型（LLMs）的能力特性，对大模型微调（Fine-tuning）、知识库（RAG）、上下文管理、对话记忆与 Prompt 工程有扎实的基础认知。
具备极强的逻辑抽象与架构设计能力，可独立独立输出高质量、高严谨度的 PRD、时序流程图与高保真原型。
具备强烈的 Owner 意识、卓越的数据敏感度与项目推进力，抗压能力强，乐于挑战技术未知。

【加分项】

有成熟 AI 中转平台、API 分发平台、算力调度中心或企业级 AI 中台完整从 0 到 1 落地经验者优先。
熟悉各类大模型适配层、对话接口及 Embedding 向量接口调用逻辑。
具备丰富的 B 端高并发 SaaS 商业化计费、多级权限体系及反套利风控设计经验。
熟练掌握现代全栈开发辅助工具（如 Cursor/Claude Code 等），具备代码级沟通与极客思维。

【岗位亮点】

核心赛道：处于 AI 大模型基础设施（Infra）的黄金赛道，业务呈爆发式增长，想象空间巨大。
硬核技术壁垒：直接操盘平台核心基建，全方位接触模型编排、高并发调度、商业化闭环等高含金量技术流。
快速进化：紧跟全球最前沿的 AI 技术演进与商业模式，全面跃升为行业稀缺的底层平台型 AI 产品专家。

AI产品经理-AI Router方向

Quick Summary

Location & Eligibility

Listing Details

Posting Health

4 other jobs at Gate

Similar Other jobs

Stay ahead of the market