标签
一位爱好者构建了一套分布式推理系统,将两台游戏PC、一台M4 Pro MacBook和两台iPhone 17 Pro Max串联起来运行Qwen 3.8 Flash Next(一个48层、每层512专家的MoE模型),通过设备链上的流水线投机解码,在60k上下文下实现了37-39 tok/s的速度。
nanoMuse 是一个开源个人智能体(GPL-3.0),可在用户拥有的每台设备上运行,通过共享中继实现跨设备对话,所有操作经 Sentinel 审核,记忆以用户可读的文件形式存储,模型由用户自选。论文还分析了 Meta Muse 的构建方式,并规划了带来源的记忆、手部操作评估套件及开放模型的路线图。
用户连接了多个机器上的Hermes网关,以将AI代理和机器人的控制集中到单个桌面界面,创建统一的舰队管理系统。
X-Stream 引入了首个多流视频理解基准,将MLLMs作为多路复用器在多个并发流中进行评估。研究表明,当前MLLMs仅能达到约50%的准确率,暴露了处理多流时的显著局限性。
OpenAI Codex 新增远程控制功能,允许通过 ChatGPT 连接和操控多台电脑,并共享上下文和文件,极大提升了跨设备协作效率。
一位用户分享了他在多个设备(MacBook、Mac mini、手机)上通过SSH设置Codex的经历,从而创建了一个始终可访问的AI编程助手,感觉更像是一种持久的存在,而非局限于单一计算机。