makecindy
精选
cindy
Cindy is an open-source AI agent that runs locally on your machine, integrates multiple AI harnesses and models, and provides memory, skills, and automation to perform real work in your projects and apps.
AI 仓库情报摘要
FR-AI / ANALYSIS为什么值得关注
它聚焦于普通提示注入基准常常忽略的失败模式：当看似合法的证据被对抗性操纵时，AI 审计员可能给出不安全的合规判断，并通过 EvidenceShield v0.2 提供确定性裁决机制。
适合谁使用
- 研究 LLM 安全与合规判断可靠性的研究者
- 开发合规自动化或 AI 审计工具的开发人员
- 评估 LLM 审计系统的红队与安全测试人员
- 希望了解 AI 审计局限性的审计专家
典型使用场景
- 使用对抗性证据包对基于 LLM 的审计员进行基准测试
- 比较无防御、EvidenceShield v0.1 与 v0.2 的防御效果
- 度量误保证率、稳健准确率、引用质量等指标
- 扩展公开开发基准以研究证据来源与完整性
项目优势
- 覆盖多种证据操纵方式，包括指令注入、权限伪造、矛盾淹没、时间回滚和范围替换
- 提供两个具体防御版本，其中 v0.2 使用确定性谓词裁决器，避免模型直接授权合规结论
- 包含验证脚本、测试套件、DOI 与 MIT 许可证，强调可复现性
- 报告误保证率、配对攻击成功率、期望校准误差等多种指标
使用前须知
- 属于研究版本，不能作为生产环境合规建议
- 公开开发基准规模有限，仅 40 个 bundles，试点结果不能证明泛化能力
- 未覆盖所有合规框架、模型/文档类型或运营环境
README 快速开始
Installation
项目描述
Open-source benchmark for adversarial evidence attacks on LLM-based cybersecurity auditors, targeting ACM AsiaCCS 2027.
相关仓库与替代方案
根据分类、Topic 和编程语言匹配的相似项目。
uzairansaruzi
精选
hermex
Hermex is a native SwiftUI iPhone app that lets you control a self-hosted Hermes AI agent directly from your phone, with no subscriptions, tracking, or third-party relay.
hahhforest
精选
pi-textbook
A hands-on course that walks through building a Pi-style coding agent from scratch across 15 checkpoints, starting from an offline agent trajectory.