崗位方向：

1、軟硬件結合的推理性能優化（推理引擎+融合算子+國產GPU）

2、大模型訓推并行計算優化（EP、PP、TP、DP等）

職位描述：

1）負責大模型訓練和推理過程的性能優化，通過量化、蒸餾、剪枝、軟硬件（TPU、GPU）、并行計算設計等方式提升性能，節省成本。

2）設計和開發深度學習模型，專注于卷積神經網絡（CNN）、循環神經網絡（RNN）、Transformer等架構，使用TensorFlow、PyTorch等框架進行大語言模型和多模態模型開發、訓練和調優，提升訓練和推理效率。

3）結合深度學習技術及大語言模型、多模態技術，設計和優化AI應用效果和效率。

崗位要求：

1）碩士及以上學歷，計算機科學、人工智能相關專業。

2）熟悉主流ML框架（TensorFlow、Keras、PyTorch、scikit-learn等），深入理解深度學習原理，精通深度學習框架（TensorFlow、PyTorch），有一定的NLP、CV或強化學習領域的實踐經驗。熟悉分布式訓練技術，如DeepSpeed、Megatron、TensorFlowDistributed、PyTorchDistributed。精通AI推理引擎（vLLM、LM-Deploy、TensorRT-LLM、TensorFlowServing、TorchServe、ONNXRuntime等）。

3）熟悉模型優化技巧，能夠在多種硬件平臺（CPU、GPU、TPU等）上調優模型。熟悉生成模型（如GPT、LLaMA、Qwen）和強化學習，有實際的生成模型微調經驗，對多模態模型在訓練和推理過程中的資源優化有深入理解，確保多模態模型在業務場景中的高效應用。

4）熟悉常用的多模態模型（如CLIP、Blip等）的原理和應用，能夠在文本、圖像、音頻等多種數據源之間進行融合和生成。具備多模態數據的處理和特征提取能力，能夠根據業務需求進行數據預處理、嵌入和模型微調。熟悉向量檢索技術，能夠支持跨模態的內容檢索和匹配，為多模態AI應用提供技術支持。

加分項：

1）熟悉推理加速技術（vLLM、TensorRT、OpenVINO、CUDA）。

2）熟悉Docker、Kubernetes等容器技術者優先。