Antigravity SDK 引入本地 AI 模型支持

# 引入反重力SDK对本地AI模型的支持 来源：https://developers.googleblog.com/introducing-support-for-local-ai-models-in-the-antigravity-sdk/ 今日，我们宣布反重力SDK（https://antigravity.google/product/antigravity-sdk/）现已支持跨多种本地模型与执行选项的本地工作流，并率先通过Google AI Edge（https://developers.google.com/edge）的LiteRT（https://developers.google.com/edge/litert）提供对Gemma 4 26B A4B（https://blog.google/innovation-and-ai/technology/developers-tools/gemma-4/）的支持。 反重力SDK使开发者能够利用驱动Google Antigravity（https://antigravity.google/）的相同智能体能力进行构建。通过这项新功能，您可以通过本地模型完全离线地启用智能体辅助。我们已针对LiteRT和Gemma 4 26B优化了此工作流，高效利用本地GPU和内存，以进一步提升您本地设备的性能！ ## **为何在本地运行智能体？** 本地模型执行在智能体体验方面具有多重优势： - **成本效益：** 无需API费用或速率限制即可执行本地智能体工作流。 - **隐私保护：** 代码和请求完全保留在本地设备，非常适合需遵循严格数据隐私要求或合规限制的企业环境开发者。 - **离线可靠性：** 即使在缺乏稳定网络连接的环境中，也能无缝执行智能体工作流。 - **混合工作流：** 将高效的本地处理与基于云的处理相结合，在需要时仍可访问更强大模型，同时最大化效率。 以下是快速入门方法：（**推荐使用显存或统一内存大于24GB的设备**） ### **创建虚拟环境：** ``` python3 -m venv .venv source .venv/bin/activate ``` ### **安装反重力SDK和LiteRT-LM，并下载Gemma 4 26B A4B：** ``` pip install google-antigravity litert-lm litert-lm import \ --from-huggingface-repo=litert-community/gemma-4-26B-A4B-it-litert-lm \ gemma-4-26B-A4B-it-gpu.litertlm \ gemma4-26b ``` **在目录中创建名为**`agy_sample.py`**的文件**。将以下内容粘贴其中： ``` import asyncio import os from google.antigravity import Agent, LiteRTAgentConfig from google.antigravity.hooks import policy # 更新：指向本地下载的模型路径（来自上一步 litert-lm import ...） MODEL_PATH = os.path.expanduser("~/.litert-lm/models/gemma4-26b/model.litertlm") async def main(): print(f"使用本地LiteRT模型：{MODEL_PATH}。请等待本地推理完成，这可能需要几分钟。") config = LiteRTAgentConfig(model_path=MODEL_PATH).lightweight() async with Agent(config) as agent: response = await agent.chat("当前目录有哪些文件？") async for token in response: print(token, end="", flush=True) if __name__ == "__main__": asyncio.run(main()) ``` ## **混合编排：云架构师协同本地执行单元** 我们发现，在许多场景中采用「架构师-执行者」模式是结合云端模型规模与本地模型优势的绝佳方式。在以下混合演示视频中（基于更新的反重力SDK构建），云端架构师（Gemini 3.8 Flash）充当规划者和协调者，而本地部署的Gemma 4 26B实例集群则完全在设备端处理繁重任务。 当需要对三个易受攻击的模块（auth.py、billing.py和database.py）进行审计和修复时，该工作流严格保障数据隐私，并让我们最大化利用令牌资源： - **零代码上传：** Gemini 3.8 Flash仅根据文件名和任务描述规划策略并分解工作——仅消耗95个云端令牌，无需源代码离开设备。 - **本地自主执行：** 本地Gemma 4 26B模型接管本地GPU执行对抗性审计循环：重现安全漏洞、编写修复方案、批判性评估补丁，并通过回归测试套件验证。 - **成本与隐私双赢：** 在本次记录运行中，97.2%的令牌（3,322个令牌）在本地离线执行，无需调用云端API，在确保专有代码完全安全的同时交付了经过全面验证的绿色补丁。 点击此处（https://goo.gle/47cKYyV）查看示例项目，可运行内置的三文件测试挑战，或指向您自己的Python模块和测试套件进行测试。 ## **无令牌本地工具：CLI资源监视器** 搭载Gemma 4 26B A4B的反重力SDK擅长**构建**实用系统工具。在此示例中，智能体构建了一个可在终端运行的实时资源监视器。仅需一个提示词，智能体便自主编写了使用**psutil**和**rich**库跟踪CPU和内存使用情况的Python脚本，生成所需的**requirements.txt**文件，甚至测试生成的代码以确保其可用——所有操作完全在您的本地设备上运行。 基于Python的CLI资源监视器工具，由Gemma 4 26B在设备端生成 `\#\# cli_resource_monitor\.py` ``` import asyncio import os from google.antigravity import Agent, LiteRTAgentConfig from google.antigravity.hooks import policy # 更新：您的提示词 PROMPT = "使用psutil和rich库构建一个命令行界面工具，显示实时更新的仪表盘。应显示CPU使用率、内存消耗，并生成按内存占用排序的前5个进程表格。将脚本保存为'monitor.py'并创建'requirements.txt'文件。测试其是否可用。" # 更新：指向本地导入的LiteRT-LM模型路径 MODEL_PATH = os.path.expanduser("~/.litert-lm/models/gemma4-26b/model.litertlm") # 更新：为AGY-SDK提供文件写入工作空间 WORKING_DIR = os.path.expanduser("~/agy-test") os.makedirs(WORKING_DIR, exist_ok=True) os.chdir(WORKING_DIR) async def main(): print(f"使用本地LiteRT模型：{MODEL_PATH}。请等待本地推理完成，这可能需要几分钟。") config = LiteRTAgentConfig( model_path=MODEL_PATH, workspaces=[WORKING_DIR], policies=[policy.allow_all()], ).lightweight() async with Agent(config) as agent: response = await agent.chat(PROMPT) async for token in response: print(token, end="", flush=True) if __name__ == "__main__": asyncio.run(main()) ``` 反重力SDK还通过`LocalOpenAIAgentConfig`为Ollama、LM Studio或vLLM等任何兼容OpenAI的服务器提供无缝即插即用支持。这让您可以灵活尝试不同的本地推理后端，同时保持智能体编排、工具和工作流完全不变。 请参阅反重力Python SDK README（https://github.com/google-antigravity/antigravity-sdk-python#local-ai-models）中的说明开始使用本地AI，并了解更多关于如何使用LiteRT（https://developers.google.com/edge/litert-lm/overview）在边缘高效运行模型的信息。请在反重力Python SDK的GitHub问题跟踪器（https://github.com/google-antigravity/antigravity-sdk-python/issues）分享您的反馈和功能请求。我们期待看到您的创造！ 致谢：Abhi Patel、Ander Dobo、Ben Miles、Cormac Brick、Ian Ballantyne、Jingxiao Zheng、Jonathan Reay、Kimish Patel、Lu Wang、Marissa Ikonomidis、Matthias Grundmann、Olivier Lacombe、Omar Sanseviero、Rishika Sinha、Rody Davis、Taylor Mullen、Tyler Mullen、Wai Hon Law、Xiaoming Hu、Xu Chen、Yu-hui Chen