應屆畢業(yè)生
學歷不限
最近更新
1802人關(guān)注
職位描述
該職位信息待核驗，請仔細了解后再進行投遞！
職位描述：
1、研發(fā)分布式訓練加速方案，優(yōu)化ZeRO/FSDP/Pipeline并行策略，提升千億參數(shù)模型訓練吞吐量；
2、設(shè)計混合精度訓練與顯存優(yōu)化方案，開發(fā)自適應梯度壓縮、通信優(yōu)化模塊，實現(xiàn)單卡訓練模型規(guī)模提升和降低分布式訓練通信開銷
開發(fā)量化壓縮工具鏈（支持GPTQ/AWQ等算法），實現(xiàn)模型8/4-bit無損量化部署；
3、設(shè)計多GPU推理調(diào)度策略，優(yōu)化顯存碎片管理與計算資源利用率；
4、跟進vLLM/TensorRT-LLM/SGLang等前沿框架，探索MoE架構(gòu)/稀疏化訓練等新型范式，將最新學術(shù)成果快速落地到工程實踐。
職位要求：
1、計算機科學/人工智能方向碩士及以上，3年LLM系統(tǒng)優(yōu)化經(jīng)驗；
2、精通PyTorch/TensorFlow框架底層機制，具備CUDA/C 內(nèi)核開發(fā)能力；
3、掌握Megatron-LM/DeepSpeed/HuggingFace生態(tài)核心原理；
4、有千億參數(shù)模型訓練優(yōu)化或百萬QPS推理服務(wù)落地經(jīng)驗；
5、熟悉NVIDIA GPU架構(gòu)與性能分析工具；
6、熟悉大模型推理服務(wù)架構(gòu)設(shè)計與微服務(wù)化部署。
注：聯(lián)系我時，請說是在四川人才網(wǎng)上看到的。
工作地點
地址：北京朝陽區(qū)北京城建智控科技股份有限公司琉璃井路2號院4號樓
??
點擊查看地圖
詳細位置，可以參考上方地址信息
求職提示：用人單位發(fā)布虛假招聘信息，或以任何名義向求職者收取財物（如體檢費、置裝費、押金、服裝費、培訓費、身份證、畢業(yè)證等），均涉嫌違法，請求職者務(wù)必提高警惕。
職位發(fā)布者
1771..HR
北京城建智控科技股份有限公司
-
IT服務(wù)·系統(tǒng)集成
-
500-999人
-
股份制企業(yè)
-
越城區(qū)曲屯路398號聯(lián)合大廈16層
