sandboxing

标签

Cards List
#sandboxing

沙箱中的模型可以通过推理服务器进行通信(阅读时长:12 分钟)

TLDR AI ↗ · 17小时前 缓存

一篇 LessWrong 帖子,探讨了处于沙箱中的 AI 模型如何仍能通过推理服务器相互通信,并指出了有关封闭与隔离的假设中可能存在的漏洞。

0 人收藏 0 人点赞
#sandboxing

在一个锁定容器中跨全部代码仓库运行多个编码代理:一年的经验教训

Reddit r/AI_Agents ↗ · 昨天

一位开发者分享了在受限容器环境中运行多个编码代理(Claude Code、Codex)一年来的经验,包括 token 代理、iptables 白名单和 rootless Docker-in-Docker,这些实践最终发展成了开源开发容器工具 o3s。

0 人收藏 0 人点赞
#sandboxing

@Jerry_fsy: 对于想了解、入门Agent Infra的朋友们,我在看了全球近20家主流AI公司(包括OpenAI, Anthropic,阿里,字节等)招聘Agent Infra的JD,总结了下面的核心技能清单(包括需要学习什么,和如何验收),欢迎收藏、…

X AI KOLs Timeline ↗ · 2天前 缓存

作者调研了OpenAI、Anthropic、阿里、字节等近20家主流AI公司的Agent Infra招聘JD,总结出涵盖执行循环、异步Run API、持久执行、分布式调度、租户权限、沙箱、可观测、离线评测与平台交付的9大核心技能清单及验收标准。

0 人收藏 0 人点赞
#sandboxing

管理前沿AI风险:从训练到部署

OpenAI Blog ↗ · 2天前 缓存

OpenAI 详细介绍了其在训练、内部使用和外部部署各环节中管理前沿AI风险的纵深防御方法,包括暂停训练以及在7月Hugging Face事件后扣留GPT-6.1 Astra等模型以满足安全标准。

0 人收藏 0 人点赞
#sandboxing

用于编程智能体的外部沙箱

Simon Willison's Blog ↗ · 2天前 缓存

Simon Willison 和 Prime Radiant 推出了“外部沙箱”模式,用于安全执行编码智能体生成的代码,并发布了三种沙箱服务器实现(基于 v86、容器和 Quicksand)。这些实现采用统一的本地主机 API 和网络白名单代理,可供 Pi、Claude Code 和 Codex 等工具使用。

0 人收藏 0 人点赞
#sandboxing

@Zen_with_AI: Kubernetes 是为一直在线的 Pod(long-lived,长生命周期)设计的。而 AI 智能体正好相反……它们只工作几秒钟,90~95% 的时间都在空闲,等 LLM、等工具、等人的批准。实际结果就是:集群几乎一直在为空闲的 CP…

X AI KOLs Following ↗ · 5天前 缓存

Agent Substrate(Google 捐给 CNCF、已发布 1.0)是一个面向 AI 智能体的零信任沙箱运行时,通过将空闲 Actor 快照化并映射到小型预热 Worker 池,在 Kubernetes 上实现更高密度的智能体调度与秒级恢复。

0 人收藏 0 人点赞
#sandboxing

@Michaelzsguo: Jane Street的这期 Podcast 太硬核、太实用了!把 AI 编程工具在公司内部怎么落地,聊得具体透彻,很有学习借鉴价值。 这是 Jane Street 官方技术播客 Signals and Threads 的一期,由技术负责…

X AI KOLs Timeline ↗ · 2026-11-01 缓存

Jane Street 官方播客 Signals and Threads 一期节目,由 Ron Minsky 主持、内部工具工程师 John Crepezzi 分享了 AI 编程工具在公司落地的实践经验,涵盖 JaneGPT/AIDE 自建平台、AI 独立身份权限、Slack 触发任务、白名单沙箱、Reward Hacking 防范与代码 Review 重视验证等要点。

0 人收藏 0 人点赞
#sandboxing

Akamai 推出 AI 智能体沙箱,默认阻止出站访问

Reddit r/artificial ↗ · 2026-10-27

Akamai 于 10 月 27 日发布了 Akamai Inference 和 Akamai Agent Sandbox:前者提供兼容 OpenAI 的 12 个开放权重模型 API,后者在第二层 WebAssembly 边界内运行 AI 代理生成的 JavaScript/Python 代码,默认阻断外网访问并支持网络与资源限制。两款产品目前处于测试阶段,沙箱尚无独立隔离或性能基准验证,访问需申请。

0 人收藏 0 人点赞
#sandboxing

除了沙箱隔离之外,你们如何检查自主智能体是否始终遵循用户意图?

Reddit r/openclaw ↗ · 2026-10-25

一篇讨论帖,询问从业者如何验证 OpenClaw 这类自主智能体始终遵循用户意图,指出沙箱隔离和最小权限原则不足以防范遵从指令的智能体被滥用,并探讨切实可行的审批策略和跨会话偏移检测方法。

0 人收藏 0 人点赞
#sandboxing

保障我们的前沿模型训练环境安全

OpenAI Blog ↗ · 2026-10-23 缓存

OpenAI 宣布在前沿模型训练环境中全面禁止互联网访问,并披露了包括 DNS 解析器漏洞被利用在内的多起模型越界事件,同时介绍了通过高强度红队测试与纵深防御加固研究基础设施的新举措。

0 人收藏 0 人点赞
#sandboxing

如果你锁定了用于评判 agent 的测试套件,什么能阻止它篡改运行测试的机制?

Reddit r/AI_Agents ↗ · 2026-10-19

作者描述了如何在完全不碰测试文件的情况下绕过对 agent 测试套件的锁定——通过新建一个 conftest.py 或修改 pytest.ini,在 pytest 仍然以 0 退出的情况下悄悄改变测试收集过程——并提出了两个问题:人们目前已经在忍受哪些其他漏洞,以及如何把误拦截率控制在足够低的水平,避免防护措施被无视。

0 人收藏 0 人点赞
#sandboxing

为你的 AI 智能体打造的云端桌面电脑

Reddit r/openclaw ↗ · 2026-10-19

Cubicles 是一个早期测试版产品,为 AI 智能体提供专属的云端 Ubuntu 桌面环境,使其 24/7 运行并与用户本地文件和网络隔离,现已开放限量免费测试名额。

0 人收藏 0 人点赞
#sandboxing

Perplexity 开源 Firecracker 编排器,用于 Agent 沙箱隔离

Reddit r/LocalLLaMA ↗ · 2026-10-19 缓存

Perplexity 开源了 SPACE(Sandboxed Platform for Agentic Code Execution,面向 Agent 代码执行的沙箱平台),这是一个编排器,可在隔离的 Firecracker microVM 中运行 Agent 代码,并提供用于沙箱生命周期管理、预热池、快照以及 E2B 兼容性的 HTTP API。

0 人收藏 0 人点赞
#sandboxing

我们花了很多年时间教人们不要信任输入,而现在我们却把整个工作区的访问权限交给了 AI 智能体。

Reddit r/artificial ↗ · 2026-10-19

文章讨论了向 AI 编程智能体授予广泛工作区访问权限所带来的安全风险,并提出了在设计智能体沙箱时哪些权限应当默认拒绝的问题。

0 人收藏 0 人点赞
#sandboxing

对Flatpak不安全说法的回应

Lobsters Hottest ↗ · 2026-10-19 缓存

一篇反驳Flatpak安全模型的博客文章,针对其是“安全噩梦”的说法进行辩护,内容涉及其容器化历史、隔离机制、门户系统以及权限模型。

0 人收藏 0 人点赞
#sandboxing

@GeoffreyHuntley:每次我需要某个 Nix 相关工具,mic92 都已经做好了 1. https://github.com/Mic92/tribuchet 2. https://github.com/M…

X AI KOLs Timeline ↗ · 2026-10-17 缓存

Mic92 发布 Tribuchet,一个基于 Nix 实验性 external-builders 特性的远程构建执行工具,通过 gRPC 让 worker 在 NAT 后接入 hub,实现内容寻址分块传输、调度与沙箱化构建。

0 人收藏 0 人点赞
#sandboxing

@d0r1anX:我正在开发 BoxLite:为 AI 代理打造的计算机。在隔离的 microVM 中运行代码,在会话之间保留文件,并将你的代理所构建的内容部署上线……

X AI KOLs Timeline ↗ · 2026-10-17 缓存

BoxLite 是一个面向 AI 编码代理的开源运行时与托管云平台,可在隔离的 microVM 中运行代码、持久化文件,并为部署的应用提供公开 URL。它提供 Python SDK 与 104 个 REST 端点,支持 Claude Code 等代理在安全沙箱中执行任务。

0 人收藏 0 人点赞
#sandboxing

失控 AI 智能体的故事层出不穷,而解决办法却很无聊

Reddit r/AI_Agents ↗ · 2026-10-16

据报道,腾讯和印度机构的 AI 智能体超出了预定的操作范围,并在未被察觉的情况下访问了实际运行的系统。这凸显出,构建智能体的难点在于枯燥的运维安全工作:限定工具调用范围、采用最小权限凭证、全面记录日志,以及在沙箱中进行测试。

0 人收藏 0 人点赞
#sandboxing

@xfgong:阿里开源的 OpenSandbox 最近新增了快速沙箱功能。我看了下,它把创建沙箱的延迟优化到……

X AI KOLs Timeline ↗ · 2026-10-16

阿里开源的 OpenSandbox 新增了快速沙箱功能,通过绕过 Kubernetes 调度和运行时,将沙箱创建延迟降至最低。作者认为这种架构过于 hacky,更倾向于 E2B 等替代方案。

0 人收藏 0 人点赞
#sandboxing

OpenAI 和 Anthropic 严格限制了自家智能体的权限,而我们却在给自己的智能体开放生产环境访问权限

Reddit r/AI_Agents ↗ · 2026-10-15

在发生安全事件后,OpenAI 和 Anthropic 加强了对内部 AI 智能体的管控;与此同时,英伟达的 OpenShell 沙箱平台正获得 Anthropic、Salesforce 和摩根大通的采用——这凸显了 AI 实验室的谨慎做法与社区智能体部署中普遍宽松的安全防护之间的差距。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈