岗位职责
- 负责大规模语言模型（例如BERT、GPT等）的推理性能优化工作，提高模型的推理速度及效率。
- 熟悉业界主流的AI加速库和框架，探索新的推理优化技术和算法
- 深入了解深度学习框架（如PyTorch、TensorFlow等），并熟悉其优化技术和工具链。分析并识别模型的瓶颈，设计和实现相应的优化方案
- 编写高效、可扩展的代码，确保代码的质量和可维护性。
职位要求
- 熟练掌握深度学习理论和应用，有扎实的数学基础。
- 具有大规模语言模型推理优化经验，熟悉模型优化相关的常用技术和算法。
- 熟悉计算机体系结构和硬件架构，熟悉硬件（GPU）加速优化的常用技术。
- 熟悉深度学习框架（如PyTorch、TensorFlow等），熟悉其优化技术和工具链。
- 具有较强的编程能力，熟练使用Python等编程语言，熟悉CUDA等并行计算技术。
- 具有较强的分析和问题解决能力，能够快速分析和解决推理性能问题。 加分项 无
