M12-008M12: AI 安全红队与 AI PM 实战AI 安全红队攻防与沙箱隔离Medium
⚡闪卡盲测➔掌握度:

【安全红队】Text-to-SQL 与 Code Agent 在面对诱导越权删表 / 读取宿主敏感文件时如何做确定性执行层防守?

🎯 深度面试自测闭环(先口述或草拟,再核对解析)
免登录记录进度:核心结论回忆 → 避坑清单自查 → 标记掌握或加入错题队列。
Step 1 · 尝试用 1–2 句话回答这道题的核心结论与适用边界
Step 2 · 勾选已覆盖的陷阱与追问思考
下一题: M12-009 →
📐 核心数学机理公式
Generated SQL/Code→AST Parser + Read-Only Role + SandboxSafe Execution\text{Generated SQL/Code} \xrightarrow{\text{AST Parser + Read-Only Role + Sandbox}} \text{Safe Execution}
⚡ 一句话直击要害答案
模型产出 SQL 或脚本永远视为「敌对未受信任用户输入」,执行层必经静态 AST 语法树校验(只允许 SELECT/限定 Schema 节点)、数据库物理只读视图与 MicroVM 隔离。

📌 核心要点提炼

  • •
    核心风险:看似写得非常规整的 SQL,一旦遭遇注入即可通过 UNION SELECT 跨查别的系统表、甚至拼出 DROP / COPY TO PROGRAM 漏洞指令
  • •
    防线 1(SQLGlot AST 静态白名单):绝不靠正则 if 'DROP' in sql 拦(注释/大小写/分号多语句一招绕过);必经 SQL AST 树强解析——只放行单个 Select 根节点且遍历全部 Table 节点校验是否全处于当前用户许可白名单内
  • •
    防线 2(数据库物理 RLS & 只读账号):执行连接账号 DB 层物理只配 Read-Only 角色、打开 PostgreSQL Row-Level Security(自动拼 WHERE tenant_id = session_tenant)与 5 秒 statement_timeout 防笛卡尔积拖死主库
  • •
    防线 3(只连只读副本):Analytics 查询永不连在线交易主写库(Primary OLTP),强制分流到隔离 Read Replica

📐 数学机理与严密推导

与业务查询同样重要:把 `WHERE tenant_id = ?` 权限条件死锁在数据库连接池级 Session 变量的 Row-Level Security 上,意味着就算大模型写出再疯狂的 SQL 语句也绝对物理看不见跨租户的任何一行数据。

🏭 深度剖析与工业落地权衡

面对极复杂的跨表笛卡尔积慢查询风险,在真正 Execute 前可先静默跑一遍低开销的 EXPLAIN (FORMAT JSON) 检查预估扫描行数 Cost 若超阈值直接拒绝执行并返回友好重述提示。
⚠️ 常见面试陷阱与高频失分点
  • ✕
    用 not any(w in sql.upper() for w in ['DROP', 'DELETE']) 做字符串黑名单防御
  • ✕
    直接用业务应用全权限 Superuser 连接串去跑大模型生成的查询语句
🎯 面试官连环追问与延伸考察
  • ?
    在 BI Copilot 支持带 LIMIT 分页大查询的同时,怎么阻止它一次性返回 50 万行数据撑爆浏览器内存和网关?
  • ?
    如果业务场景确实需要 Agent 执行有限制的数据写入/修改操作,AST 与 Saga 回滚应如何协同设计?
⚡
想检验本题的肌肉记忆?进入 3 阶闪卡主动回忆盲测
隐藏答案遮罩,自测:审题锚点 ➔ 数理公式机理 ➔ 工业标杆代码与连环追问。3 分钟攻破认知盲区!
🎯 立即在闪卡中盲测此题➔
📚

关联知识库专题与交互式导图

← 上一题M12-007: 【安全合规】如何避免用客户 A 对话数据微调后,大模型把客户 A 机密内容当成普通补全吐给客户 B(Memorization Leak)?📋 返回题库下一题 →M12-009: 【安全合规】医疗/金融/法务高监管领域 AI 应用如何满足可解释性、免责界定与高危拒答零幻觉?