AIGC推理系统开发实习生

如果你对 AIGC 充满热情，不满足于仅仅调用 API，而是渴望深入到底层，亲手让 Stable Diffusion、Flux 等前沿模型跑得更快、更稳、更省，欢迎加入我们！在这里，你将直接参与构建下一代高性能推理引擎，用代码定义生成的速度。

1. 推理引擎开发与优化： 参与 Diffusion 模型推理引擎的核心模块开发，学习并实践 CUDA 编程、算子优化与内存管理。协助将最新的学术优化手段（如 Flash Attention、Fused Kernels）落地到生产环境，提升模型推理速度；
2. 模型压缩与加速：调研并实践模型压缩技术，包括 量化、蒸馏 和剪枝。参与将 FP16/BF16 模型转换为 INT8/FP8 格式，并在保证生成质量的前提下优化推理延迟；
3. 网关与服务化系统建设：参与 AIGC 网关系统的后端开发，设计高并发、低延迟的请求调度逻辑。协助构建模型服务化接口，解决大规模推理请求下的队列管理与资源调度问题。

1. 计算机科学、人工智能、数学或相关专业本科及以上学历；
2. 具备扎实的计算机基础知识，熟练掌握数据结构、算法、操作系统及计算机网络原理；
3. 熟练使用 Python 或 C++ 编程，代码风格良好，具备较强的 Debug 能力；
4. 熟悉 PyTorch 等深度学习框架，理解计算图、反向传播等基本原理；
5. 了解 Diffusion 模型（如 DDPM, Stable Diffusion, DiT 架构）的基本原理者优先。 加分项：
6. 高性能计算： 了解 CUDA 编程，有 TensorRT、Triton Inference Server 或 cutlass 使用经验；
7. 模型优化： 有模型量化（GPTQ, AWQ）、蒸馏或 Attention 优化相关的项目或论文经验；
8. 系统开发： 熟悉 Golang，有高并发后端服务或微服务网关开发经验；
9. 开源贡献： 在 GitHub 上有高质量开源项目贡献，或复现过 Diffusion 相关论文。