崗位職責： 1.負責大模型在云端或邊緣設備上的部署與優化，使用Docker 進行容器化部署，結合 ?TensorRT或ONNX Runtime進行模型優化，確保高效推理和資源利用； 2.設計和實現大模型的分布式推理框架，支持高并發、低延遲的場景需求； 3.結合硬件（Nvidia、昇騰GPU，NPU，VPU，IPU等）特性進行模型推理加速，優化部署性能； 4.監控和調優模型部署后的性能，解決實際運行中的瓶頸問題； 5.編制相關技術文檔，確保部署流程的可復現性和可維護性； 6.完成主管領導交辦的其他工作。 任職條件： 1.學歷： 碩士研究生及以上； 2.專業： 計算機、自動控制、人工智能、機器人等相關專業； 3.經驗及行業背景： 2年以上相關工作經驗； 4.特殊要求（知識、技能等)： （1）深入理解深度學習的基本原理，熟悉主流神經網絡架構（如Transformer、CNN、GRU、SNN等），精通模型的訓練與推理流程； （2）了解GPU、TPU、VPU、AI芯片等硬件加速技術，熟悉CUDA、OpenCL等編程模型； （3）熟悉TensorRT、ONNX Runtime、TVM等推理引擎，能夠優化模型在特定硬件上的推理性能； （4）參與過大模型部署與優化的實際項目經驗者優先； （5）具有較強的責任心、良好的溝通能力、組織協調能力與執行力。