Koreshield

每个AI客服代理都会接收到一些不应信任的信息来源，比如客户的消息、它检索到的文档，以及它建议使用的工具。Koreshield会对这三者进行筛查，确保在它们被认为是可信的模型行为或应用执行之前，进行有效的检查。我们会在模型采取行动之前，检查数据泄露、帮助文章中的隐藏指令、政策偏差以及不安全的代理行为，并对每一个决策进行记录。只需一次调用即可完成集成。