Galaxy S21 + Gemma 4 E2B Q3_K_M + Qwen3.5-0.8B Q4_K_M:相同的亚马逊任务,通过结构化浏览器感知生成两个不同的有效购物车
摘要
实验展示了两个现成小模型(Gemma 4 E2B 和 Qwen3.5-0.8B)在 Galaxy S21 本地运行,通过 E2LLM/SiFR 浏览器感知完成同一 Amazon 购物任务,两次运行均生成不同但有效的购物车方案并以 READY_FOR_HUMAN_REVIEW 结束。所有日志、脚本与哈希均公开在 GitHub。
这延续了此前帖子中的小模型浏览器实验。两个标准的现成模型在同一部三星 Galaxy S21 上本地运行:Gemma 4 E2B,Q3_K_M 作为推理器;Qwen3.5-0.8B,Q4_K_M 作为执行器。没有微调,没有针对特定任务的训练,也没有适配器。一份持久化账本记录了任务状态、约束、验证和恢复过程。浏览器感知与操作通过我们开发的 E2LLM/SiFR,在用户现有的 Firefox 会话中完成。任务:在 Amazon 上配齐一套总价低于 200 美元的 Instax Mini 12 套装。第 1 次运行:选择组合套装,购物车中有 2 个条目,总价 190.98 美元。第 2 次运行:分别选择商品,选择售价 179.95 美元的相纸时超出预算,随后改选更便宜的替代品,购物车中有 4 个条目,总价 143.86 美元。两次运行最终都进入 READY_FOR_HUMAN_REVIEW 状态。没有结账或购买。附带视频以 16 倍速展示了两次完整运行。原始会话时长:约 51 分钟。账本掌管任务。每个模型只负责下一个范围明确的决策。所有证据均已公开在 GitHub 的 e2llm/edge-browser-agent 仓库中,位于 amazon-dual-slm-ledger 文件夹:完整原始日志、实际使用的脚本、启动器和 SHA-256 哈希值。欢迎提出想法、异议、失效模式和替代设计。
相似文章
@zhixianio: 试完了,感觉还挺大跌眼镜的,不知道是不是我打开的方式不对,欢迎大家给出反例。接下来是我测的结果: 在 M5 Max 上,拿这个社区微调版 gemma-4-12B-coder (llama.cpp)对打我日常在用的 Qwen3.6-35B-…
用户测试了社区微调版 gemma-4-12B-coder 与 Qwen3.6-35B-A3B MoE 在三个编程任务上的表现,发现 gemma 在复杂有状态程序上表现不佳,而 Qwen 35B 依然稳健。
在 24 GB Mac 的浏览器标签页中运行 Gemma 4 26B-A4B 和 37 GB 的 Qwen3.6 MoE —— 专家权重从磁盘流式加载,输出与 llama.cpp 一致
LocalMind 进行了更新:在浏览器标签页中通过 WebGPU 生成时,从磁盘流式加载混合专家(mixture-of-experts)权重,使一台 24 GB 的 Mac 能够运行 14.4 GB 的 Gemma 4 26B-A4B,甚至 37 GB 的 Qwen3.6 模型,且输出与在相同 GGUF 文件上运行的 llama.cpp 一致。
@yibie: https://x.com/yibie/status/2104957410678878642
Jeff 是 Qwen3.5 和 Gemma 4 的微调版本,用于零样本分类,可在本地设备上快速运行,性能在某些基准上接近 Jev。
Gemma 4 26b a4b 确实是我尝试过的最适合语言学习和科学查询的模型!
用户报告称,Gemma 4 26b 在语言学习和科学查询方面优于 Qwen 3.5/3.6,尽管在编码任务上稍显逊色,并邀请大家讨论小型 MoE 模型在编码以外的其他用例。
@LyalinDotCom: 如果你正在通过 @ollama 等待 Gemma 4 12b,它已经来了:gemma4:12b gemma4:12b-it-q4_K_M gemma4:12b-it-q8_0 gemma4:12b-…
Gemma 4 12b 模型现已可通过 Ollama 获取,提供多种量化版本用于本地 AI 推理。