岗位职责
- 参与AI芯片软硬件设计，负责LLM和AIGC等业务模型结构和需求分析，指导硬件参数设计和微架构优化设计；
- 负责根据硬件，设计分布式训练、部署方案，提供硬件硅前验证案例和软件设计方案；参与探索多卡互联拓扑结构和方案，实现多卡之间的协同工作；
- 负责分布式业务模型和Roofline硬件仿真建模系统开发；
- 跟踪行业最新技术动态，为公司的AI芯片多卡互联技术发展提供前瞻性的建议和技术储备。
职位要求
- 深入理解深度学习框架和软件栈；
- 熟悉GPGPU、ASIC NPU的硬件架构；
- 熟悉LLM和AIGC分布式部署训练方案，了解多层级卡间互联拓扑结构；
- 有主动学习、快速解决问题的能力和自我驱动力；
- 较强的C++、Python Coding能力。 以下为加分项：
- 有LLM、AIGC类模型的业务对接经验，熟悉多机多卡分布式训练和部署；
- 了解硬件多层次存储层级、同构和异构计算单元原理；
- 了解硬件片上NOC和片间互联通信协议等；
- 有MLI、LLVM或者PyTorch开发经验；
- 有GPU、FPGA或AI芯片相关的开发和评测经验。
