大模型开发工程师（Infra方向）
岗位职责
- 1、参与公司大模型推理基础设施的技术方案设计与建设，将 GPU 算力资源转化为稳定、高吞吐、低成本的模型推理服务；
- 2、参与 DeepSeek、Kimi、GLM、Qwen 等主流大模型的部署、升级、适配与压测，基于 SGLang、vLLM、TensorRT-LLM 等推理框架，学习并实践单机多卡、多机多卡分布式推理部署；
- 3、在导师指导下参与推理引擎性能优化专项，深入理解并动手实践请求调度、Continuous Batching、KV Cache、Prefix Cache、量化、Speculative Decoding、显存管理等关键能力；学习 TP、PP、DP、EP 等分布式推理并行方案，参与 Dense、MoE、多模态、长上下文等不同模型形态的部署与优化工作；
- 4、参与生产问题的定位与复盘，学习 GPU 异常、CUDA/NCCL 报错、OOM、长尾延迟等典型问题的排查思路与闭环方法；参与建设推理服务的监控、日志、告警、压测与容量评估体系，跟踪 TTFT、TPOT、tokens/s、并发量、GPU 利用率、单位 token 成本等核心指标；
- 5、跟踪主流推理框架与开源社区的新特性，参与技术调研、性能验证与团队内技术分享。
任职要求
- 1、2027 届本科及以上学历，计算机科学、软件工程、人工智能、电子信息等相关专业；
- 2、具备扎实的计算机基础（数据结构与算法、操作系统、计算机网络），熟悉 Python 或 C++，有 Shell 脚本使用经验；
- 3、对大模型推理、GPU 计算、分布式系统有浓厚兴趣，了解SGLang、vLLM、TensorRT-LLM 等推理框架中至少一种；
- 4、学习能力强，具备良好的问题分析与动手实践能力，对性能数字敏感，对新技术有好奇心和钻研精神；具备良好的沟通协作能力，有责任心，能主动推动问题解决并形成闭环。