崗位職責: (1) 大模型安全風險評估 1. 負責大模型全生命周期（數據收集、訓練、部署、運營）的安全漏洞掃描與風險評估，識別模型偏見、數據泄露、對抗攻擊等安全隱患，制定安全加固方案 。 2. 開展大模型內容安全測評，構建多模態（文本、圖像、音頻、視頻）安全基準測試集，輸出風險分析報告并提出整改建議。 (2) 測評體系與工具研發 1. 設計并優化大模型安全測評框架，開發自動化評測工具及測試平臺，提升測試效率與覆蓋范圍，如針對Prompt注入、后門攻擊等場景的檢測工具。 2. 研究前沿安全攻防技術，對標市面主流安全防范領域公司，探索高階對抗手法（如對抗樣本生成、模型逆向工程），提升測評技術的先進性與實用性。 (3) 合規與倫理審查 1.結合《生成式人工智能服務管理暫行辦法》、《生成式人工智能服務安全基本要求》等政策要求，確保大模型應用符合數據隱私、倫理規范及行業標準，參與制定企業內部安全管理制度。 2. 跟蹤國內外大模型安全標準動態，推動測評體系與行業規范的銜接。 (4) 跨部門協作與技術支持 1. 與算法研發、數據治理團隊協作，將安全要求嵌入模型開發流程，提供安全加固的技術指導。 2. 為業務部門提供安全咨詢，參與重大項目的風險評估與應急預案制定 。 崗位要求 1. 學歷與專業 計算機科學、人工智能、信息管理、審計、測量、數學或工程類相關專業，本科學歷需具備4年以上相關經驗，研究生應具備2年以上工作經驗。 2. 技術能力 熟悉PyTorch/TensorFlow等深度學習框架，掌握基礎模型微調（SFT/DPO）、RAG應用優化及分布式推理技術。精通Python/Java/C++至少一門語言，具備SQL/Hive數據處理能力，熟練使用漏洞掃描、滲透測試工具。 3. 領域知識： 深入理解大模型安全風險（如隱私泄露、生成內容合規性），具備NLP、計算機視覺或多模態模型的測試經驗，熟悉主流評測指標（如ROUGE、BLEU、F1）及異常檢測算法 4. 法規與軟技能 了解《數據安全法》《個人信息保護法》等法規，具備合規意識與風險敏感度 。 5. 邏輯清晰，尤其需具備優秀的文檔和方案撰寫能力，能與跨部門溝通能力，能獨立承擔復雜項目（需提供過往項目案例） 6. 具備金融、政務、醫療、能源、公檢法等高敏感行業的大模型安全或大模型咨詢落地經驗，具備信息系統項目管理師（軟考高級）或第三方測評機構從業者優先考慮。