職位描述
崗位職責1.負責研究AI模型的潛在安全風險,包括對抗攻擊、數據投毒、模型竊取等,制定防御方案,提升模型、數據及應用的安全性。2.制定并持續優化AI全生命周期安全管理制度及規范,涵蓋研發、部署、運營各環節,建立模型安全測試、監控、防護與應急響應機制。3.圍繞多模態大模型安全、大模型應用安全等方面進行安全預研,并探索落地應用與業務賦能。4.對大模型安全攻防領域的前沿技術進行跟蹤與分析,并結合業務場景實現高效的攻擊驗證與防御能力;5.負責開展大模型安全治理及運營工作。崗位要求1.計算機、網絡空間安全、大數據、人工智能等相關理工科專業,本科及以上學歷,三年以上工作經驗。2.在LLM安全(提示注入、對抗樣本、模型后門、投毒攻擊、模型竊取等)方向有一定實戰積累,了解安全對齊,Red teaming等安全策略落地。3.熟練掌握至少一種編程語言,如Python、C++、Java等,了解安全工具(如Burp Suite、Metasploit)或AI安全工具(如CleverHans、Foolbox)。4.具有良好的溝通能力、語言組織和表達能力,文字功底優秀。
企業介紹
中國電信人工智能研究院(TeleAI)由人工智能科學家、中國電信集團CTO及首席科學家李學龍教授牽頭組建,面向國家戰略需求和人工智能發展趨勢,結合中國電信在算力、數據、應用場景及5G/6G通信等多方面的優勢,圍繞大模型、具身智能、AIGC、AI平臺設施等方向開展基礎研究、技術攻關和應用落地。