岗位职责
- 负责Transformer 量化，面向 LLM 和 DiT 等 Transformer 类模型，探索 NV-FP4 / MXFP4 / INT4 等低 bit 精度的 PTQ / QAT 和 KV-cache 量化，在提升推理效率的同时保证模型效果和生成质量无损；
- 负责数值分析与数制设计，从矩阵谱结构和数值分布的角度分析量化误差的来源，比如 outlier、massive activation、timestep 分布漂移。在此基础上设计 rotation、smoothing、低秩补偿等等价变换，并为不同模块选择最优的数制和 scale 粒度；
- 软硬协同，结合 GPU 的硬件特性设计量化方案，用 kernel 原型做验证，比如低比特 GEMM、量化 Attention、Softmax / Norm 融合。目标是让算法收益真正转化为实测加速。
职位要求
- 硕士及以上学历；
- 熟悉 Transformer 结构及其变种，熟悉 GPTQ、AWQ、SmoothQuant、QuaRot 等主流量化方法，了解 INT / FP8 / FP4 / MX 等各种数制的特点和取舍；
- 数理要求：熟练掌握线性代数、概率论和矩阵论，擅长数值分布分析和误差归因；
- 熟练使用 Triton，掌握 CUDA，能独立实现量化 kernel 原型并做性能分析；
- 有较强的自驱力和学习力，对大模型压缩加速有强烈的兴趣。
