铸炉锻剑:网易智企打造AI原生安全体系
在中国互联网的发展历程中,网易是一个极为独特的存在。从早期互联网到移动互联网,从端游、手游到企业服务,它始终活跃在产业变革的前沿,也在一次次技术浪潮中不断完成自身的演进。
由此来看,深耕网络安全十余年的网易智企·易盾开始全面布局AI安全,也就顺理成章。长期服务复杂互联网业务所积累的内容治理、风险识别与安全实践,为其涉入这一新赛道提供了深厚基础。
在网易智企副总经理、易盾业务负责人朱浩齐看来,随着AI从生成内容、回答问题走向调用工具、执行任务,安全的边界也正在被重新定义:不仅要管住AI说什么,更要管住AI做什么。
在2026年世界互联网大会“互联网之光”博览会上,网易智企·易盾首发了AI原生安全产品体系,围绕AI安全的演进趋势、技术架构和产业落地,分享了其观察、思考与应对。
AI开始“做事”,安全边界也必须随之延伸
当前,AI安全正在面临一个重要转折:过去的大模型主要负责回答问题,而今天的智能体(Agent)已经开始调用工具、访问业务系统、读取企业数据,甚至代替用户完成一系列任务。
这意味着,AI带来的风险正在发生变化。
模型给出了错误答案,用户可以重新提问;当AI开始执行任务,错误会直接影响业务流程,导致严重后果。朱浩齐举例说,导航给出错误路线,用户还可以重新规划;但如果自动驾驶系统执行了错误操作,麻烦可就大了。
从提供信息走向执行操作,AI安全要求不然不能仅仅局限于内容本身,朱浩齐强调。
过去,企业部署AI安全能力,通常首先关注输入和输出:用户输入了什么,模型生成了什么,有没有违规内容或敏感信息。但当Agent开始自主规划任务、调用外部工具,风险便可能藏在更复杂的执行链条中。
例如,一条看似正常的指令,可能被拆分到多个文件或上下文片段中,单独看并不异常,只有当Agent将它们串联起来、真正执行时,潜在风险才会显现。又或者,一个Agent原本只被授权读取某类业务资料,却在任务执行过程中尝试访问超出权限范围的数据。
在朱浩齐看来,传统以单条内容为对象的安全检测方式,已经难以覆盖智能体运行中的全部风险。安全能力需要进一步理解任务意图、上下文关联和实际执行行为。
他将Agent比作企业新员工:员工入职,首先要明确岗位职责、工作范围、权限等级,以及可以接触哪些业务资料。企业对Agent也应该如此——先明确它能做什么、不能做什么,再建立与之匹配的安全规则。
朱浩齐有一句话道出了AI安全的核心矛盾:“AI可以通过概率来输出,但安全必须有清晰的边界。”
这恰恰点出了Agent安全的关键。大模型的输出具有一定不确定性,但企业业务中的权限、数据和操作边界不能模糊。Agent是否有权读取某份文件、调用某项工具、执行某个操作,都应该有明确的判断标准。
围绕这一问题,易盾的智能体安全能力将防护延伸到任务执行过程:在任务启动阶段进行静态扫描,在运行过程中对资料读取、用户交互及相关行为进行实时检测,一旦发现风险或越权行为,便及时拦截。
从判断内容是否违规,到判断智能体是否在授权范围内行动,AI安全的治理对象正在发生变化。
让AI更安全,让安全更智能
如果说Agent安全提出了新的问题,那么易盾此次发布的AI原生安全产品体系,则试图从更完整的架构层面回应这些问题,其核心是“AI for 安全,安全 for AI”的双向AI安全架构。
这并不是两类产品的简单整合,而是要形成AI与安全能力相互促进的循环:一方面,以内容理解与行为治理为核心,围绕大模型、智能体和数据安全,构建覆盖内容交互、工具调用、行为执行与权限控制的全链路安全防护体系;另一方面,将AI能力融入安全运营,依托场景沉淀、数据积累、规则策略与专家经验,提升多模态风险识别、实时防护和智能决策能力,推动安全能力持续迭代。
朱浩齐表示,垂直领域的小模型可以借助更强大的模型分析疑难样本,再结合真实业务数据持续优化,新的风险样本和处置结果又能反过来推动安全策略迭代。由此形成的能力闭环,仍需要专业人员负责安全目标制定、策略把关和复杂风险研判。
在产品层面,易盾将这套体系划分为三个层次:AI内容与数据安全、AI交互与身份安全、AI模型与智能体安全,分别回应内容是否可信、交互对象是否真实、AI行为是否可控三个问题。
首先是AI内容与数据安全。
从早期互联网反垃圾、游戏反外挂,到今天的大模型内容审核,内容安全一直是易盾的长期积累。此次首发的CMA审核智能体进一步引入大模型的内容理解能力,不再局限于关键词和固定规则,而是尝试理解内容的语义、场景和上下文。
例如,在停车场管理场景中,系统不仅识别车牌,还能判断车辆是否停在线内、是否存在违规停车;在短剧审核中,也不仅识别广告或敏感词,还要理解剧情发展和内容表达。内容审核由此从单点特征识别走向更深入的场景理解。
其次是AI交互与身份安全。
面对日益逼真的AI生成图像和视频,传统依赖已知伪造特征的检测方式也面临挑战。易盾推出的DeepGuard人脸鉴伪,通过大量真实人脸数据,让模型学习真实人脸的特征规律,再据此识别异常。
朱浩齐用“打扫房间”作比喻:传统方法更像是针对不同垃圾设计识别方案,而新的思路是先理解干净的房间应该是什么样,再识别其中的异常。这种从识别已知伪造痕迹转向学习真实人脸规律的思路,有助于提升对新型伪造方式的识别能力。
最后是AI模型与智能体安全。
这一层直接面向AI应用和Agent的运行过程,涵盖任务意图、权限范围、工具调用和执行行为检测,同时关注企业内部AI资产及第三方工具的接入风险。
随着员工使用各类AI应用和工具,企业可能并不清楚内部接入了哪些AI服务、哪些智能体正在访问业务数据。易盾的智能体安全平台将资产发现、供应链安全检测和运行行为管控纳入整体能力,帮助企业识别和管理这些潜在风险。
从CMA审核智能体,到DeepGuard人脸鉴伪,再到AI应用与智能体安全,三项首发成果分别对应内容、身份和行为三个维度,共同构成覆盖AI内容生成、身份交互和任务执行过程的安全防护体系。
让安全融入业务,而非停留在外围
AI越深入企业业务,安全就越不能只依赖模型自身,而需要建立相对独立的监督机制。采访中,朱浩齐提出了一个非常直白却深刻的观点:“业务执行与安全监督应当各司其职,保持相对独立。”
他并非否定通用大模型的能力。在朱浩齐看来,通用大模型在理解、生成与推理上优势明显,是业务智能化的重要引擎。但并不意味着它就天然适合承担所有垂直领域的审核工作。企业有自己的内容标准、合规要求和风险边界,安全治理需要与这些规则深度结合。独立的安全能力,可以与大模型形成互补:既让规则更透明、过程可审计、结果可追溯,也能让大模型把更多精力放在业务创造上。
此外,企业接入的模型可能不断变化。如果每更换一家模型,就要重新调整安全规则,便很难形成稳定、统一的治理体系。将安全能力相对独立地部署在模型应用之外,企业就可以依据自身业务标准进行统一管理,并在不同模型之间复用。
在内容审核环节,易盾采用大小模型协同的思路:依托大模型能力与行业数据,训练适配不同业务场景的垂类小模型,由其高效处理大规模常规内容;对低置信度、疑难和高风险样本,再交由人工进一步判断,兼顾处理效率与专业把关能力。
这种思路同样体现在行业实践中。
在金融领域,易盾已为银行等客户提供大模型安全围栏,对用户输入和模型输出进行过滤与调整,并结合合规知识库等能力,保障面向储户的智能问答服务符合业务要求。金融业务对合规性、准确性和可追溯性要求较高,因此对AI安全边界的需求也更为迫切。
在制造业,安全需求则更加贴近具体业务场景。例如,企业需要保护生产配方、工艺参数和商业机密,防止敏感数据在AI应用过程中被不当读取或泄露。易盾提供通用安全能力,再由行业合作伙伴结合客户实际需求进行场景适配和部署。
朱浩齐表示,不同行业的AI应用进度和安全需求并不同步。金融行业对Agent安全的关注相对靠前,而游戏、泛娱乐和社交领域的大模型应用落地较快,也带来了新的内容安全需求。
这意味着,AI安全很难依靠一套完全相同的规则解决所有问题。通用安全能力还需要与行业知识、业务流程和企业自身管理要求结合,才能真正发挥作用。
自2016年推出安全服务以来,尽管技术形态已从传统规则库演进到AI原生大模型,网易智企·易盾始终围绕一个核心命题展开:让数字世界的内容、身份与行为更加可信。
安全能力的高级形态,恰恰是悄无声息地融入业务脉络,提供自然而稳固的支撑。从“管住AI说什么”到“管住AI做什么”,这不仅是易盾产品体系的升维,也折射出AI产业深入现实业务后的必然趋势:AI越是接近核心业务,安全就越不能止步于外围过滤,而必须成为智能系统本身的底层能力。
(个人观点,仅供参考)
评论 共 0 条 · 0.23s