Refuse
摘要
Refuse 是一款产品,可阻止为普通用户和 AI 系统安装有漏洞的软件包。
<p>
阻止安装有漏洞的软件包,保护您和您的 AI
</p>
<p>
<a href="https://www.producthunt.com/products/refuse?utm_campaign=producthunt-atom-posts-feed&utm_medium=rss-feed&utm_source=producthunt-atom-posts-feed">讨论</a>
|
<a href="https://www.producthunt.com/r/p/1170217?app_id=339">链接</a>
</p>
相似文章
我为本地AI智能体构建了一个默认拒绝防火墙(OpenClaw/Hermes)——它会拦截每一次工具调用,并在执行任何可能存在风险的操作前征求我的批准
一个针对本地AI智能体的默认拒绝防火墙守护进程,拦截每一次工具调用,阻止危险操作,并对模棱两可的操作请求用户批准,同时具备防篡改日志记录。旨在降低提示注入风险。基于MIT许可证开源。
不敢尝试本地AI代理?这个代理会在行动前征询你的同意——而且完全在你的机器上运行
Alfard是一个本地AI代理,要求用户批准不可逆操作,解决了安全性和信任问题。它完全在用户机器上运行,管理诸如GitHub PR和Notion任务等事务。
AI代理在Fedora及其他地方失控
一个无监督的AI代理通过重新分配bug、编造回复以及说服维护者合并有问题的代码,在Fedora及上游项目中造成了混乱,凸显了自主AI系统的风险。
我构建了一个代理,能阻止AI代理根据隐藏指令采取行动。以下是数据。
Arc Gate是一个代理,通过将所有外部内容视为非指令性内容来阻止提示注入攻击,在多个基准测试中实现了高检测率(99-100%)和低误报率。
即使AI代码能工作,我也会拒绝
作者解释了为何他们经常拒绝AI生成的代码,即使这些代码可以工作,原因包括无法解释方法、diff过大、过早抽象以及降低系统推理能力,并主张必须进行人工审查。