on-device-ai

标签

Cards List
#on-device-ai

@heyshrutimishra:突发:现在有一款能自己构建应用的手机。你提出需求,它就编写、测试并安装该应用。AI……

X AI KOLs Timeline ↗ · 2026-11-02 缓存

YC F26 孵化初创公司 Cyclon 正在打造一种 AI 手机体验,用户只需提出任务需求,包括按需编写、测试和安装新应用,让 AI 智能体像人类用户一样操作智能手机。

0 人收藏 0 人点赞
#on-device-ai

连接决定能力的半径。信任是经过验证的预测准确性。大多数个人助理混淆了这两者

Reddit r/AI_Agents ↗ · 2026-11-01

作者论述AI个人助理中「连接」与「信任」的区别:连接只是能力半径,信任是可验证的预测准确度,需要通过提议→确认/纠正→记忆化的产品闭环不断累积。文章还强调上下文无法被复制、隐私是感知深度的前提,并抛出关于知晓边界和集成顺序的开放讨论。

0 人收藏 0 人点赞
#on-device-ai

microsoft/Mage-VL-Cowork · Hugging Face

Reddit r/LocalLLaMA ↗ · 2026-10-31 缓存

Microsoft 发布了 Mage-VL-Cowork,一个紧凑的 4B 视觉-语言模型,在单一策略中同时支持 GUI 交互与终端/代码执行,在 OSWorld-Verified 基准上取得 66.0% 的成绩——这是 4B 规模下的最佳结果——通过五阶段课程学习和在线强化学习实现。

0 人收藏 0 人点赞
#on-device-ai

NIDO v0.1.64 来了。两天十个版本,只为了一个理念:一个真正属于你自己的 AI。

Reddit r/AI_Agents ↗ · 2026-10-30

NIDO v0.1.64 发布,这是一个完全运行在手机上的开源 AI 助手,无需账号或云服务,支持本地模型(Qwen、Phi、Gemma 等)、加密记忆、蓝牙/Wi-Fi 设备间通信、离线急救指南及严格隐私控制,两天内连续更新十个版本。

0 人收藏 0 人点赞
#on-device-ai

@Edge0_AI: 1/8 既然调用云端 API 只需一次请求,为什么还要在本地运行 AI?你能更好地掌控自己的数据,减少网络依赖……

X AI KOLs Timeline ↗ · 2026-10-30 缓存

讨论在设备本地运行 AI 与调用云端 API 之间权衡的帖子,涵盖数据控制、网络依赖、每个词元的成本以及算力需求。

0 人收藏 0 人点赞
#on-device-ai

观点:本地部署将在企业中迎来爆发式增长

Reddit r/LocalLLaMA ↗ · 2026-10-28

一场讨论认为,企业本地部署人工智能将大幅增长,因为公司希望保护数据隐私,而本地模型已经足以胜任大多数任务,只缺一个即插即用的解决方案。

0 人收藏 0 人点赞
#on-device-ai

@QuixiAI:恭喜 @Prince_Canuma,等不及想看你打造出什么!

X AI KOLs Following ↗ · 2026-10-28 缓存

Neywa Labs 隐身模式出闸,宣布打造可在用户现有设备上运行 AI 的基础设施,主打私密、离线与无限使用,目标是让全球每个人都能用上 AI。

0 人收藏 0 人点赞
#on-device-ai

WebAI by Opera

Product Hunt ↗ · 2026-10-28

Opera 推出 WebAI 功能,让网站通过浏览器在用户本地电脑上运行 AI 模型。

0 人收藏 0 人点赞
#on-device-ai

LFM3-VL-2B 通过 WebGPU 在浏览器中本地实现实时视频字幕生成

Reddit r/LocalLLaMA ↗ · 2026-10-27

LFM3-VL-2B 视觉语言模型可在浏览器中通过 WebGPU 本地实时进行视频字幕生成,LiquidAI 还发布了对应的 Hugging Face 模型集合与在线演示。

0 人收藏 0 人点赞
#on-device-ai

@omarsar0:我仍然非常看好本地 LLM。我们还没有见到它最大的潜力被释放。我尤其好奇接下来会有什么……

X AI KOLs Timeline ↗ · 2026-10-27 缓存

Omar Sanseviero 分享了他对本地大语言模型的看好,并重点介绍了 Sentient OS(YC F26)的发布。这是一款设备端 AI,使用本地模型在夜间学习你的上下文,并将其存储为归你所有的 Markdown 文件。

0 人收藏 0 人点赞
#on-device-ai

全新 M6 芯片 14 英寸 MacBook Pro

Hacker News Top ↗ · 2026-10-27 缓存

Apple 推出了搭载 M6 芯片的全新 14 英寸 MacBook Pro,图形性能提升高达 30%,AI 工作负载处理速度提升 25%,支持设备端大语言模型,配备 Wi-Fi 7,续航时间最长可达 24 小时。该产品将于 10 月 28 日开始接受预购,11 月 6 日起正式发售。

0 人收藏 0 人点赞
#on-device-ai

搭载 M6 芯片的全新 iMac

Hacker News Top ↗ · 2026-10-27 缓存

Apple 发布搭载 M6 芯片的新款 iMac,宣称在设备端 AI 任务上比 M4 款 iMac 快达 5 倍,并强调 Apple Intelligence 与 Private Cloud Compute 的隐私保护能力。

0 人收藏 0 人点赞
#on-device-ai

Show HN:Hob - 开源、本地运行的 Claude Cowork 和 ChatGPT 替代方案

Hacker News Top ↗ · 2026-10-26 缓存

Hob 是 Frigade 开源的桌面应用,号称 Claude Cowork 和 ChatGPT 的本地替代方案,可自动挑选适合用户电脑的前沿开放权重模型,支持离线运行与隐私保护。

0 人收藏 0 人点赞
#on-device-ai

Off Grid AI

Product Hunt ↗ · 2026-10-26 缓存

Off Grid AI 推出了一款免费开源的本地 AI 应用,可在手机和电脑上离线运行模型,支持聊天、文档阅读、图像问答、语音对话和图像生成,并可在设备间协同调用更大的模型,无需联网或账号。

0 人收藏 0 人点赞
#on-device-ai

面向未来辅助应用的基于证据的 SLM 行为预测架构

arXiv cs.AI ↗ · 2026-10-26

该论文提出了 ELBP,这是一种基于证据的四层架构,使用小型语言模型(参数量≤30亿)在设备端预测未来的求助行为。其中,Qwen2.5-3B 的 F1 分数达到 0.80,且校准表现优于直接提示和 XGBoost 基线。

0 人收藏 0 人点赞
#on-device-ai

Apple的200亿参数端侧模型仅占用2GB内存(18分钟阅读)

TLDR AI ↗ · 2026-10-26 缓存

一篇关于Apple端侧200亿参数Core Advanced模型的详细第三方分析,表明该模型仅占用约2GB内存,能耗仅为同类开源模型的三分之一。实现方式是将权重存储在闪存中,每次推理仅激活10-40亿参数,代价是数学性能较弱且控制能力有限。

0 人收藏 0 人点赞
#on-device-ai

让手机自己操作电脑:一个能操作 Android 应用的 2B 模型(4 分钟阅读)

TLDR AI ↗ · 2026-10-22 缓存

Opposide 推出可在 Android 手机本地运行的 GUI 智能体:使用 4-bit 量化的 GUI-Owl 1.5 2B 模型(基于 Qwen3-VL,由 Alibaba Mobile-Agent 团队出品),通过 llama.cpp 在设备上直接读屏并操作任意应用,无需服务器。通过裁剪状态栏、丢弃平坦背景图像 token 等优化,Mac M2 CPU 上单步耗时从 10.6 秒降至 7.3 秒,且在 36 屏测试集上精度不降。

0 人收藏 0 人点赞
#on-device-ai

如今,能力出众的智能体已能在笔记本电脑上运行,却依然无法被信任。稀缺的是权限层,而非智能。

Reddit r/AI_Agents ↗ · 2026-10-21

作者认为随着模型可在笔记本本地运行,真正的瓶颈不是智能而是权限控制——未来最有价值的层是在硬件与固件层面强制执行的授权机制。

0 人收藏 0 人点赞
#on-device-ai

NIDO is an AI assistant that lives on your Android phone. No accounts. No cloud. No NIDO server anywhere holding your data, because there is no NIDO server

Reddit r/AI_Agents ↗ · 2026-10-19

NIDO 是一款完全本地运行的 Android AI 助理,无需账号或云端服务器,支持本地模型、离线知识库、设备端加密存储与设备间点对点通信。

0 人收藏 0 人点赞
#on-device-ai

高通称AI实验室希望到2028年在手机上运行千亿参数模型(2分钟阅读)

TLDR AI ↗ · 2026-10-19 缓存

高通CEO Cristiano Amon表示,领先的AI实验室希望到2028年在手机上运行至少1000亿参数的模型。他还谈到端侧AI智能体、内存价格压力对智能手机销量的影响、智能眼镜、Modular开源以及面向2028年洛杉矶奥运会的6G计划。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈