职位描述

岗位背景:

我们正在寻找一位安全策略运营,负责公司AIGC产品内容安全策略优化与落地,覆盖多模态图文视频生成与智能Agent交互场景;你将与算法、业务团队协作,针对Prompt注入、深度伪造、隐形违规等新型AI风险,建设全链路防控能力。

岗位职责:

· 推进全链路安全策略建设与落地:针对Prompt注入、深度伪造、隐形违规等新型AI风险,设计并落地覆盖多模态图文视频生成与智能Agent交互场景的防控策略,平衡合规风控与用户体验;

· 优化智能审核规则与安全Prompt工程:持续迭代审核规则,独立评估策略效果,拆解漏拦、误拦Badcase,研判模型能力边界,联动算法团队提升风险识别精准度与场景覆盖率;

· 跟进风控数据监控与策略迭代:常态化关注拦截率、召回率、体验损耗等核心指标,完成案例复盘和结构化复盘报告,输出优化方案并推动策略迭代,实现风控能力闭环;

· 开展大模型红队测试与攻防沉淀:常态化开展红队测试与红蓝对抗,主动挖掘模型越狱、提示词攻击、隐性风险等漏洞,沉淀攻防案例库与防御策略,前置防控未知风险;

· 推进合规策略落地与突发事件处置:跟进AI行业合规监管政策,动态更新安全规则与应急处置流程,协同业务、算法团队推进落地,高效处置线上突发安全事件。

任职要求:

· 本科及以上学历,3年及以上AIGC内容安全、大模型风控、AI安全策略相关经验;

· 熟悉大模型基础原理与常见安全风险,掌握Prompt工程、模型对齐、红队测试等实操能力,具备风控策略设计、调优及落地经验;

· 熟悉国内生成式AI、网络内容安全相关法规标准,具备合规落地、风险治理及突发事件处置实战经验;

· 风险敏感度高,擅长案例拆解与归因分析,能够独立承接专项攻坚,跨团队推动问题闭环。

加分项:

· 有多模态产品安全治理经验;

· 有智能Agent安全治理经验。

公司信息
美图公司成立于2008年,是一家以美为内核,以人工智能为驱动的科技公司。秉承着“让艺术与科技美好交汇”的使命,美图公司致力于打造优秀的影像与设计产品,让图像、视频、设计的制作变得更简单,并通过美业解决方案助力产业数字化升级。美图公司于2016年12月在香港联合交易所主板挂牌上市,股票代码:1357.HK。
部门信息
美图职能团队涵盖PMO、采购、品牌、公关、政府关系、企业发展、投资者关系、财务、法务、人力资源及行政运营等多个专业领域。我们通过高效的体系协同与资源整合,构建温暖敏捷的组织氛围,为业务团队提供坚实支持,共同护航公司稳步前行。