岗位职责:（部分匹配即可）
1、针对大模型推理、训练等场景，优化和扩展vLLM、SGLang等框架的核心模块，提升计算效率与资源利用率；
2、能够使用Profiler手段，分析训练瓶颈，使用分布式策略调优、算子优化等手段来提升训练性能；
3、提升分布式推理下模型并行(ModelParalleism)、数据并行(Data Paralelism)等场景下的性能；
4、支撑异构AI芯片上的调度框架设计与优化，提升系统的实时性、吞吐率、算力利用率等指标；
5、针对不同端侧设备的硬件特性（CPU、GPU、NPU 等）进行镜像和训推框架适配，针对特定硬件架构和推理引擎进行性能优化；
6、深入分析GPU硬件架构特性(如Tensor Core、显存带宽、通信机制等)，设计并实现高性能算子与算法；
7、探索前沿技术方向(如混合专家模型MoE、强化学习算法等)，推动AI工程化落地的效率提升。

岗位要求：（部分满足即可）
1、熟练GPU的高性能计算优化技术，深入理解计算机体系结构，熟悉并行计算优化、访存优化等;
2、熟悉TensorRT-LLM、LMDeploy、vLLM、SGLang等大模型推理框架，有实际性能调优经验(如KV Cache优化、动态批处理、Attention算子定制等)；
3、扎实的高性能计算基础，熟悉并行计算、内存优化、通信优化等技术；
4、至少熟练使用C++/Python/Golang中一种，具备良好的算法设计与代码实现能力；
5、熟悉Pytorch，Deepspeed等主流分布式框架的使用和原理，熟练掌握TensorFlow、PyTorch等深度学习框架；
6、了解深度学习算法基本原理，熟悉深度学习训练框架及其模型文件的解析；
7、了解通信架构原理、有分布式优化和通信优化经历者优先；
8、了解深度学习模型的量化压缩、推理加速等优化技术；
9、了解通信架构原理、有分布式优化和通信优化经历者优先。