sandboxing

标签

Cards List
#sandboxing

从零构建一个编码智能体

Reddit r/AI_Agents ↗ · 2小时前

作者从零实现了一个极简编码智能体,详细讲解了其架构:包含异步事件驱动的 ReAct 代理循环、带沙箱的 read/write/edit/bash 工具、支持分支与回溯的 JSONL 会话存储,以及用 TypeScript 编写并通过 stdin/stdout JSON 通信的 TUI。

0 人收藏 0 人点赞
#sandboxing

@elonmusk: 沙盒化AI的最佳方式是将它放在Delta航班上 – 它将没有机会访问互联网!

X AI KOLs Following ↗ · 20小时前

Elon Musk 幽默地建议,由于Delta航班上互联网访问条件差,将AI置于其中可有效实现沙盒化,此言论涉及AI安全与遏制。

0 人收藏 0 人点赞
#sandboxing

@AndrewYNg:OpenAI-Hugging Face 的黑客事件是由于沙箱安全措施薄弱而得以实施的。很高兴看到 Nvidia 正在发布开源工具用于……

X AI KOLs Timeline ↗ · 2天前 缓存

Andrew Ng 讨论了由于沙箱安全措施薄弱导致的 OpenAI-Hugging Face 黑客事件,并强调了 Nvidia 的开源工具用于保护AI代理的安全,其中 OpenWorker 支持沙箱化的代理工作流程。

0 人收藏 0 人点赞
#sandboxing

轻松实现沙箱化

Lobsters Hottest ↗ · 2026-09-23 缓存

Inko编程语言的一项新功能使应用程序能够使用操作系统级别的原语轻松实现跨平台沙箱化,以增强安全性。

0 人收藏 0 人点赞
#sandboxing

AX (GitHub 代码库)

TLDR AI ↗ · 2026-09-21 缓存

AX 是来自 Google 的声明式编排器,用于大规模运行自主代理工作负载,提供沙盒化、工作区管理和网关控制以实现安全执行。

0 人收藏 0 人点赞
#sandboxing

Google的开放智能体编排器

Hacker News Top ↗ · 2026-09-20 缓存

AX是一个开放的智能体编排器,能够实现大规模AI智能体任务的运行,并提供声明式管理、沙盒化和生成式工作区。

0 人收藏 0 人点赞
#sandboxing

AI编码智能体遭遇严峻安全挑战

Reddit r/AI_Agents ↗ · 2026-09-19

本文探讨了AI编码智能体的新兴安全问题,重点关注权限管理以及赋予其完全访问开发环境的风险。

0 人收藏 0 人点赞
#sandboxing

语言不可读性对LLM安全的影响

Hacker News Top ↗ · 2026-09-18 缓存

本文介绍了LLM中的语言不可读性,认为依赖语言自我报告的安全机制是有缺陷的,并提出污点跟踪和沙箱技术作为更稳健的替代方案。

0 人收藏 0 人点赞
#sandboxing

Vinix – 一个用 V 编写的现代操作系统

Hacker News Top ↗ · 2026-09-17 缓存

Vinix 是一个用 V 编写的现代、轻量级操作系统,具有低内存和磁盘使用率,兼容 Alpine Linux 二进制文件,可选的应用程序沙箱,目前处于 alpha 阶段。

0 人收藏 0 人点赞
#sandboxing

OpenAI 报告六起新的失准案例,强力论证了本地沙盒的重要性

Reddit r/ArtificialInteligence ↗ · 2026-09-17

OpenAI 的报告指出六起新的失准案例,强调了本地沙盒在 AI 安全中的关键作用,认为中心化模型防护措施不足,基础设施级别的安全至关重要。

0 人收藏 0 人点赞
#sandboxing

推出 Agents API

OpenAI Blog ↗ · 2026-09-10 缓存

OpenAI 推出 Agents API 的公开测试版,提供了一个托管的框架和基础设施,用于构建具有灵活沙盒环境的长期运行 AI 代理。

0 人收藏 0 人点赞
#sandboxing

开放代理栈在2026年逐渐成熟,但治理层未能跟上

Reddit r/artificial ↗ · 2026-09-04

本文讨论了2026年开放代理栈的成熟,但强调了治理方面的滞后,介绍了AgentZ作为一个用于代理工作流中的沙箱和凭证隔离的开源平台。

0 人收藏 0 人点赞
#sandboxing

Clockwork

Product Hunt ↗ · 2026-09-03 缓存

Clockwork 是一款日历工具,允许在隔离的git工作树中调度和运行AI编程代理,支持审批工作流和成本报告。

0 人收藏 0 人点赞
#sandboxing

真正减少了事件的AI运行时安全最佳实践,而不仅仅是清单项目?

Reddit r/AI_Agents ↗ · 2026-09-01

作者评估了AI运行时安全最佳实践,发现任务范围令牌和执行沙箱在实际场景中显著减少了事件,而其他实践的影响较小。

0 人收藏 0 人点赞
#sandboxing

你可能会问,OpenAI和Hugging Face事件期间使用的是哪种“沙箱”?

Reddit r/AI_Agents ↗ · 2026-08-30

这篇文章批评了OpenAI在Hugging Face事件期间使用基于容器的沙箱,并提倡Buildfunctions提供的硬件隔离沙箱作为更安全的替代方案。

0 人收藏 0 人点赞
#sandboxing

monty-go:Pydantic 的 Monty Python 解释器的纯 Go 封装

Hacker News Top ↗ · 2026-08-30 缓存

monty-go 是一款纯 Go 工具,支持在沙箱化的 WebAssembly 环境中运行 LLM 生成的 Python 代码,实现高效、安全的代码执行,并与 Go 集成。

0 人收藏 0 人点赞
#sandboxing

宣布Sovereign Tech Agency投资Flatpak

Lobsters Hottest ↗ · 2026-08-28 缓存

Sovereign Tech Agency在两年内向Flatpak投资508,640欧元,以增强其安全性、沙箱功能以及Linux桌面生态系统的开发。

0 人收藏 0 人点赞
#sandboxing

英国网络安全机构告诫所有使用AI代理的公司必须设立终止开关,并承认模型安全训练可能被绕过

Reddit r/artificial ↗ · 2026-08-25

英国国家网络安全中心发布了保护智能AI的指南,强调外部遏制措施如终止开关的必要性,因为模型安全训练可能被绕过。

0 人收藏 0 人点赞
#sandboxing

你遇到的最糟的沙箱失败案例是什么?

Reddit r/LocalLLaMA ↗ · 2026-08-23

一位开发者质疑IDE中对LLM命令沙箱化的充分性,并询问社区关于安全失败的经验。

0 人收藏 0 人点赞
#sandboxing

刚让OC跑起来

Reddit r/openclaw ↗ · 2026-08-21

作者分享了设置OC代理框架的实践经验,解决语音模型和本地LLM问题,以及为AI代理构建安全、沙盒化的工作空间。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈