崗位職責(zé)：
1、AI服務(wù)平臺(tái)開發(fā)：
開發(fā)與維護(hù)高可用、高并發(fā)的模型推理API服務(wù)。
構(gòu)建模型部署和管理平臺(tái)，支持模型的A/B測(cè)試、灰度發(fā)布、版本管理與回滾。
實(shí)現(xiàn)高效的請(qǐng)求批處理、動(dòng)態(tài)擴(kuò)縮容和負(fù)載均衡策略。
2、高性能與優(yōu)化：
對(duì)模型服務(wù)進(jìn)行性能剖析與優(yōu)化，包括GPU利用率提升、推理延遲降低等。
集成和使用高性能推理引擎（如vLLM, TensorRT, ONNX Runtime, Triton Inference Server）。
優(yōu)化數(shù)據(jù)存儲(chǔ)與訪問，與向量數(shù)據(jù)庫(kù)、對(duì)象存儲(chǔ)等系統(tǒng)集成。
3、系統(tǒng)與工具開發(fā)：
開發(fā)提升算法團(tuán)隊(duì)效率的內(nèi)部工具（如數(shù)據(jù)標(biāo)注平臺(tái)、自動(dòng)化評(píng)測(cè)工具等）。
編寫高質(zhì)量、模塊化、可測(cè)試的代碼，并撰寫清晰的技術(shù)文檔。
崗位要求：
1、教育背景： 計(jì)算機(jī)科學(xué)、軟件工程或相關(guān)專業(yè)本科及以上學(xué)歷。
2、編程能力： 精通Python，5年以上后端開發(fā)經(jīng)驗(yàn)，深刻理解計(jì)算機(jī)原理、網(wǎng)絡(luò)、多線程/異步編程。熟練掌握至少一個(gè)Web框架（如FastAPI, Django, Flask）。
3、系統(tǒng)架構(gòu)能力： 具備扎實(shí)的系統(tǒng)設(shè)計(jì)能力，熟悉微服務(wù)架構(gòu)、容器化技術(shù)（Docker/Kubernetes）和云服務(wù)平臺(tái)（AWS/GCP/Azure）。
4、工程化經(jīng)驗(yàn)： 熟悉CI/CD工具鏈（如GitLab CI, Jenkins），有構(gòu)建自動(dòng)化平臺(tái)或工具的經(jīng)驗(yàn)。了解基礎(chǔ)的數(shù)據(jù)結(jié)構(gòu)和算法。
5、AI/ML了解： 對(duì)機(jī)器學(xué)習(xí)和深度學(xué)習(xí)有基本了解，有與算法團(tuán)隊(duì)合作或?qū)⒛Ｐ蜕暇€的實(shí)際經(jīng)驗(yàn)。
6、軟技能： 強(qiáng)烈的責(zé)任心、出色的解決問題能力和團(tuán)隊(duì)協(xié)作精神。
優(yōu)先考慮條件：
1、有大規(guī)模模型服務(wù)（尤其是大語言模型）部署和性能調(diào)優(yōu)經(jīng)驗(yàn)。
2、熟悉MLOps相關(guān)開源工具（如MLflow, Kubeflow, Ray）。
3、有開發(fā)過AI平臺(tái)或內(nèi)部開發(fā)者工具的經(jīng)驗(yàn)。
4、熟悉消息隊(duì)列（如Kafka）、緩存（如Redis）等中間件。