职位职责：
团队介绍：团队负责抖音集团内容审核、内容理解等方向的架构支持工作，业务范围覆盖抖音、今日头条、剪映等多个重要业务线，工作内容涵盖特征计算编排、大模型推理/训练框架、RAG等大模型应用、GPU/CPU资源治理、数据平台等系统建设及优化，与算法团队一起推进大模型在业务场景的应用落地，解决大模型应用过程中的各种工程挑战。

1、负责大模型推理系统架构设计及优化，密切配合算法部门，持续优化大模型研发和部署效率；
2、负责跟踪探索多种大模型推理技术，包括量化、蒸馏、TRT-LLM&vLLM、Kernel优化等理论研究和实践开发，极致提升推理性能；
3、负责GPU资源管理和治理，提升GPU资源使用效率。
职位要求：
1、本科及以上学历，计算机/电子/自动化/软件等相关专业，有AI工程优化经验的优先；
2、优秀的代码能力、数据结构和基础算法功底，熟练C/C++或Python，ACM/ICPC、NOI/IOI等比赛获奖者优先；
3、掌握分布式系统原理，参与过大规模分布式系统的设计、开发和维护；
4、熟悉至少一种主流的机器学习框架（TensorFlow/PyTorch），熟悉CUDA编程和算法的并行化改造，对GPU加速卡有基本了解；熟悉主流大模型结构，具有大模型训练和推理优化经验者优先；
5、熟悉模型推理加速的研究和技术进展，包括但不限于模型量化、剪枝、TRT-LLM&vLLM推理优化等，有相关实践经验优化；
6、有强烈的工作责任心，良好的沟通协作能力，对解决具有挑战性问题充满激情，能和团队一起探索新技术，推进技术进步。