工作职责:
1、参与大模型推理系统设计和研究，包括但不限于模型量化、推理加速，进行服务层、推理层和算法层的优化探索，实现整体效率提升；
2、进行推理性能分析和优化，实现对gpu，npu等异构硬件，边缘、云端等各种场景的高效推理技术；
3、研究实现各种模态混合的高效大模型推理技术；
4、熟练使用Python、C 、Rust和CUDA编写代码；
5、研究和应用Transformer架构以及相关领域的最新研究成果，探索应用各种能提升大模型推理效率和精度的高效架构；
6、研究从推理层面提升模型逻辑能力的各种方法。

任职资格:
1、计算机科学、工程或相关领域的本科或研究生学位，计算机基础扎实；
2、掌握Python和C 编程语言，具备CUDA编程经验，理解GPU并行计算原理；
3、理解Transformer架构相关知识；
4、对深度学习模型的优化和高性能计算有浓厚兴趣；
5、具备良好的问题解决能力和团队合作精神；
6、接受优秀在读硕士或博士实习生。

福利：餐补20元/天