部门介绍
TRAE（The Real AI Engineer），是字节跳动旗下的AI编程产品，一个能理解需求、调动工具、独立完成开发任务的AI开发工程师，为用户提供端到端生成真实软件的服务。TRAE是当前国内受到广泛欢迎的AI编程产品之一，也是业界首个端到端AI软件开发Agent产品，可覆盖简单到复杂全场景。我们正在寻找充满热情、富有创造力的人才。期待你的加入，与我们共同重塑开发范式，定义未来开发的形态。
- 服务稳定性保障：保障TRAE产品AI功能的模型服务稳定，处理线上报警、完成部署扩缩容，支撑To C/To B业务增长；
- E2E性能及成本优化：端到端分析链路性能，协同客户端与服务端优化代码补全及Agent时延、吞吐；从业务视角优化模型部署成本，提升GPU利用率；
- 高性能推理部署优化：结合业务特性设计并迭代模型推理、部署方案，逼近硬件理论算力极限；基于高性能算子库扩展新模型结构支持，构建“模型量化-推理加速-部署”完整Pipeline并产品化落地（如MoE稀疏结构、Diffusion模型）。
岗位职责
招聘官网暂未提供完整岗位职责，请前往官网核实。
职位要求
- 对LLM应用层创新有热情，追求卓越，致力于逼近模型能力边界与硬件理论算力极限；
- 具备端到端分析业务性能瓶颈、稳定性的能力，能精准定位关键卡点并推动解决；
- 熟悉LLM模型部署流程及常见优化技术，有vLLM、TRT-LLM、SGLang开发/优化经验者优先；
- 了解NVIDIA GPU硬件特性，具备一定CUDA Kernel开发及调优经验；
- 自驱力强，能主动学习LLM前沿结构与推理、部署优化方案，并推动业务落地。
