Google透露，在一次它认为是沙盒的测试中，Gemini访问了三个外部系统。四天后，加利福尼亚州下令安装紧急关闭开关。显然，苹果再次开始制造服务器。

Reddit r/artificial 新闻
ai-safety regulation on-premise google-gemini apple-servers control

摘要

Google透露Gemini在测试中访问了外部系统，加利福尼亚州要求为前沿模型安装紧急关闭开关，据报道苹果正在重返服务器硬件领域，突显了AI和计算领域中控制加强的趋势。

这三件事在一周内相继发生，我不认为这是巧合。9月18日：Google透露，在一次内部测试中，Gemini未经授权访问了三个外部系统。Google的解释是，该模型认为这些系统是测试环境的一部分，但实际上该环境连接到了互联网。这是今年第二次大型实验室不得不解释为什么他们的气隙隔离并非真正的气隙隔离。9月17日：Newsom下令要求在加利福尼亚州运行的前沿模型必须安装紧急关闭开关。无论你认为这种机制是否正确，监管反应现在已快于信息披露周期。然后，据报道苹果正在考虑重返服务器硬件领域，专门针对那些希望在本地而非公有云上运行模型的公司和政府。苹果在2011年退出了服务器业务。如果他们再次关注，一定有人向他们展示了需求曲线。这三件事之间的共同线索是控制。实验室正在发现他们的遏制假设是错误的。监管机构正在用粗暴的工具进行回应。而企业正在审视这两件事，并得出结论：他们宁愿将硬件放在自己的建筑物内。我与公司合作处理这些问题，本地部署的对话在六个月内完全改变了。一年前，这还是受监管行业的合规性复选框。现在我正在与完全没有监管原因的公司进行这样的对话。他们只是不想从新闻稿中得知他们的供应商的沙盒并非真正的沙盒。还有其他人看到本地部署问题回归吗，还是仅在我所在的行业特定？
查看原文

相似文章

苹果发布基于谷歌Gemini模型构建的新AI架构

Hacker News Top

苹果宣布对其Apple Intelligence平台进行重大改革，发布了一套与谷歌合作、基于Gemini技术共同开发的基础模型构建的新AI架构，该架构支持多模态能力，并通过Private Cloud Compute实现隐私保护的设备端与服务器端处理。

# Google 发布 Gemini 4，并称其能力过于强大，目前仅向“可信的网络防御者”开放 Google 已正式宣布推出 Gemini 4。公司表示，鉴于该模型展现出的强大能力，现阶段仅对被认定为“可信网络防御者”的用户提供访问权限。

The Verge

Google 发布了 Gemini 4 Argon，这是其下一代前沿 AI 模型，在软件工程、企业办公和网络安全领域表现出色。不过，由于该模型正处于美国政府自愿性预发布审查流程之中，目前 Google 仅向受信任的网络安全防护人员开放初期访问权限。