Bash 是 AI 智能体最灵活、最强大的接口之一。在合适的系统中，能够输出 grep、curl、tar 或 shell 管道的模型，就是在生成可执行的动作。对 NVIDIA AI 红队而言，命令生成是一个有价值的研究目标——如果小语言模型能被引导生成有效、符合策略的命令结构，它们就能成为更可靠的智能体组件，部署到更广泛的环境中。
约束解码是一种在自回归语言模型生成过程中修改采样过程的技术。在每个生成步骤，模型正常生成 logits，但在选择 Token 之前，会应用语法约束来改变概率分布（通常通过有效阻断某些 Token）。NVIDIA AI 红队将这一技术应用于 Bash 命令生成，测试了 13 个小语言模型在 299 个任务上的表现，将平均通过率从 62.5% 提升至 75.2%。其中提升最显著的是 Qwen3-0.6B，通过率从 16.7% 跃升至 59.2%。
研究团队开发了 grammargen 工具，能将结构化命令证据转换为 Lark 语法格式，涵盖命令名称、别名、布尔标志、带值标志、位置参数等。这些语法通过 llguidance 集成到 llama.cpp 推理中，再配合 tree-sitter-bash 进行输出校验，实现"约束重试"模式——语法校验失败时回退到原生模式，确保至少达到原生性能水平。
实验表明，语法约束在 Tier 1（I/O 原语）任务上平均提升 10 个百分点，Tier 2（过滤/转换）提升 17.4 个百分点，Tier 3（侦察/操作）提升 15.3 个百分点。但在 Tier 4（Shell 构造，如管道链、后台任务、循环）中提升有限，需要更丰富的语法策略。
WeChat
Profile