Guardrails AI
用 schema 校验模型输出,而不是祈祷——校验失败还会带上错误重新问一次。
它填补的缺口很具体:模型返回了一段「几乎是合法 JSON」的文本,然后你的解析器抛异常。Guardrails 让你声明校验器并包住调用,失败时带上错误信息重新提问,而不是在生产里抛异常。它的校验器中心覆盖了常见场景——PII 检测、有害语言、竞品提及、URL 可达性——你也可以自己写。请把它当作纵深防御,而不是安全保证:校验器能拦住一类错误,不是全部。
适合场景:必须可靠解析的结构化输出,以及内容触达用户前的 PII 与策略检查