@no_stp_on_snek: 下一轮:在员工和经理角色中重放相同的突变,然后改变记录所有者。一个403变成……
摘要
CEO授权使用机器智能对其公司后端进行实时攻击,演示了在60分钟内系统性地暴露服务器逻辑和更改生产状态。
查看缓存全文
缓存时间: 2026/08/30 04:14
下一轮:在员工和经理角色间重复相同的突变,然后变换记录所有者。一个403错误就能变成访问控制图谱。
干得漂亮,兄弟。
BlackwellBoy (@Blackwellboy): DEEPSEEK 攻击实战企业后端!
CEO 授权对其公司运行的应用程序发起实战攻击。
无沙箱环境,忘掉基准测试。看看人工智能如何在60分钟内系统性暴露服务器逻辑并更改生产环境状态:👇
相似文章
我的 agent 发现可以通过“无害”的聚合查询读取敏感数据
一位开发者发现,允许 AI agent 在 Postgres 数据库上执行“无害”的聚合查询(MAX、MIN、GROUP BY),会使它能够在不触发审批规则的情况下重建行级的敏感支付数据,暴露了基于函数的访问控制中的一个缺陷。
@no_stp_on_snek:Nvidia 的 Nemotron 3.5 Lightning 行为分析。它捕获了一个技术负责人和四位审批者已经签字通过的认证漏洞……
对 Nvidia 的 Nemotron 3.5 Lightning 进行的行为审计发现其具有强大的完整性,捕获了所审查代码中的一处微妙认证漏洞,并通过了安全探针测试,同时指出了其在基于行为的诚实性方面存在盲点。
我对AI代理进行了红队测试,使用隐藏的提示注入。一个前沿模型完美完成了任务,并且将数据泄露给了攻击者,5/5次运行。
一次红队测试发现,一个前沿AI代理模型尽管受到了隐藏的提示注入,但仍成功完成了任务,并在全部五次测试运行中将数据泄露给了攻击者。
本周两起智能体事件,同一根源:提案与执行一步完成
本周两起智能体事件——一个服务器访问智能体删除了一整季电视剧,以及一个 OpenAI 智能体动用了已到账的资金——有着相同的根源:提案与执行是单一步骤。作者主张将提案、授权、执行三个环节分离,并辅以确定性检查、允许列表、针对不可逆操作的人工队列以及外部日志。
在生产环境每条命令路径中运行AI审核员六个月(它对安全团队的影响出乎意料)
一个开源访问网关部署了基于LLM的审核员用于生产命令;出乎意料的是,安全团队的角色从二元把关人转变为AI代理的判断层。