模盾系统
大模型可信使用的智能安全围栏
系统五大核心能力
输入审查
LLM意图识别+正负样本学习
输出监管
多模态检测+大模型文本审查模块
权限围栏
用户身份映射+接口行为白名单机制
上下文理解
深度语义分析+风险特征建模
审计与溯源
安全日志+行为追踪链条记录模块
三大特点
"语义级"识别
理解含蓄、变体、暗语型攻击或违规表达(例如绕过型色情内容、诱导获取API密钥等)
"上下文感知"过滤
考虑对话上下文，防止"逐步诱导型攻击"
"因果链推理"阻断
识别潜在的攻击路径并提前阻断，如"先诱导输出系统配置，再执行利用指令"
模盾系统典型应用场景
为网络空间道德建设与数字经济发展赋能
构建安全、可信的AI生态