edge-computing

标签

Cards List
#edge-computing

本地 AI 需要在哪些方面改进,才能吸引更广泛的用户?

Reddit r/LocalLLaMA ↗ · 2天前

一场社区讨论探讨了本地 AI 模型需要在哪些方面改进——智能水平、易用性,还是让性能更强的模型能在配置更低的硬件上运行——才能获得更广泛的吸引力。发帖者认为,本地模型可以与 Claude 等前沿模型互补,而非取代它们。

0 人收藏 0 人点赞
#edge-computing

Pete Warden 谈本地 AI、开源模型、语音接口与硬件的未来

Hacker News Top ↗ · 3天前 缓存

本期播客邀请了 Moonshine Voice 联合创作者 Pete Warden,探讨 AI 为何正转向设备端执行、开放权重与量化模型的进展、低延迟语音接口,以及以 GPU 为中心的基础设施之外的硬件替代方案。

0 人收藏 0 人点赞
#edge-computing

@HeLi8866: 卧槽!微软开源的这个项目,是准备改写AI行业的游戏规则!?! 项目叫 bitnet.cpp,核心是用1.58-bit三值量化技术,把大模型庞大的浮点运算直接变成了CPU最擅长的整数加减法。 带来的结果就是: · 在x86 CPU上,推理速…

X AI KOLs Timeline ↗ · 3天前 缓存

微软开源的 bitnet.cpp 项目采用 1.58-bit 三值量化技术,将大模型浮点运算转为 CPU 整数运算,在 x86 和 ARM CPU 上实现最高 6.17 倍推理加速和 82% 能耗降低,使个人设备可离线运行千亿参数模型。

0 人收藏 0 人点赞
#edge-computing

课堂录音的无标签角色感知分割:从可迁移结构中识别教师

arXiv cs.LG ↗ · 3天前 缓存

一种无需标注、在设备端运行的课堂录音师生语音分割流水线,串联轻量级语音活动检测(VAD)、紧凑型说话人嵌入、凝聚层次聚类和逻辑回归,利用单次课堂录音内的相对结构识别教师,在满足 GDPR 约束的同时,达到与 pyannote 相当的性能,运行速度为其 4.8 倍。

0 人收藏 0 人点赞
#edge-computing

使用具有排列不变性赋能的选择性(PIES)保护的近似存储器实现二值 Transformer

arXiv cs.LG ↗ · 3天前 缓存

该论文评估了二值 Transformer 在近似存储器位错误下的可靠性,并提出了一种置换不变性赋能的选择性保护(PIES)方案,可选择性地保护关键二值权重,在误码率(BER)高达 10% 时仍能恢复大部分性能损失,且开销较低,适用于低功耗边缘设备。

0 人收藏 0 人点赞
#edge-computing

大智慧,小主板:Pupavision——用于监测果蝇蛹化及生命周期转变的智能体物理 AI 仪器

arXiv cs.AI ↗ · 4天前

Pupavision 是一种低成本(45-75 美元)的物理 AI 仪器,基于单板 Linux 计算机构建,在设备端运行前沿编码智能体的运行框架,实现对果蝇蛹化的自主监测;其确定性采集层确保了在为期 26 天的试点部署中图像记录的可靠性。

0 人收藏 0 人点赞
#edge-computing

SLED:从边缘到数据中心的传感器切片

arXiv cs.AI ↗ · 4天前 缓存

本文介绍了传感器切片(SL)和 SLED 框架,可在 O-RAN 的边缘、园区和高性能计算(HPC)层级实现 MAC 层的逐传感器隔离,展示了高负载下的稳定时延,并通过智能体编程将实现速度提升了 400 倍。

0 人收藏 0 人点赞
#edge-computing

NVIDIA DGX Spark 开发套件:让一张办公桌变身超级计算实验室

NVIDIA Blog ↗ · 5天前 缓存

NVIDIA 在 SC26 上发布了 DGX Spark HPC 开发套件——由四台 DGX Spark 系统组成的桌面集群,合计 512GB 内存和 20TB NVMe 存储,让研究人员无需排队等待共享 GPU 集群,即可在本地运行多节点科学工作负载和大型 AI 模型。

0 人收藏 0 人点赞
#edge-computing

@alexzfunk:未来已来。欢迎来到第一个真正的“智能”家居。让你的本地 AI 设备不再只是一个词元生成器……

X AI KOLs Following ↗ · 2026-11-02 缓存

Alex Funk 推出 SparkHome,这是一款由本地 AI 驱动的智能家居框架,可在个人设备上而非云端运行语音智能体、物联网控制和 AAA 级游戏优化(通过面向 GB10 的 GameSpark 实现)。

0 人收藏 0 人点赞
#edge-computing

不止于插补,更要检测:面向边缘异常检测的任务感知扩散流程

arXiv cs.LG ↗ · 2026-11-02 缓存

一篇提出任务感知扩散精炼器(TADR)的论文。TADR 是一种条件扩散模型,以冻结的下游异常检测器为训练依据,旨在纠正工业物联网(IIoT)传感器数据中块状缺失的插补偏差,在 SMD 数据集上将 F1 分数提升了 0.338,同时在单个 CPU 核心上每个窗口的运行耗时为 41.4 毫秒。

0 人收藏 0 人点赞
#edge-computing

适用于 qwen 27b + 12 GB 显卡的更新版 2.3bpw 模型:在 LiveCode Bench 上与 Qwen3.6 BF16 持平,相比之前的检查点,错误率降低了 37–57%

Reddit r/LocalLLaMA ↗ · 2026-11-01

面向 12 GB Ampere 显卡的 Qwen 27B 模型更新版 2.3bpw 量化检查点,在 LiveCodeBench 上与 Qwen3.6 BF16 表现持平(84.3% 对 83.9%),并通过使用 llamAmpere 中全新的 AmperInteger+ 量化格式,将 KLD 误差较上一版本降低了约 40%。

0 人收藏 0 人点赞
#edge-computing

夜间鸣响之物:智能体 AI 加入地外信号搜寻

NVIDIA Blog ↗ · 2026-10-30 缓存

Breakthrough Listen(突破聆听)计划和 SETI 研究所正在艾伦望远镜阵列上部署由 NVIDIA Holoscan 驱动的智能体 AI,以自主控制望远镜,并实时处理每秒数太比特的传感器数据——目前已首次实现利用 AI 实时探测到蟹状星云中的脉冲星。

0 人收藏 0 人点赞
#edge-computing

@Edge0_AI: 1/8 既然调用云端 API 只需一次请求,为什么还要在本地运行 AI?你能更好地掌控自己的数据,减少网络依赖……

X AI KOLs Timeline ↗ · 2026-10-30 缓存

讨论在设备本地运行 AI 与调用云端 API 之间权衡的帖子,涵盖数据控制、网络依赖、每个词元的成本以及算力需求。

0 人收藏 0 人点赞
#edge-computing

Show HN: Lasm – 用 Lean 编写形式化验证的 Web 应用,可部署到 Node/Serverless/边缘平台

Hacker News Top ↗ · 2026-10-30 缓存

Lasm 将 Lean 4 程序提前编译为 WebAssembly,使形式化验证的 Web 应用能够通过单一代码库部署到 Node、Serverless 和边缘平台,其旗舰示例 Conduit 已证明了 117 条定理。

0 人收藏 0 人点赞
#edge-computing

@QuixiAI:恭喜 @Prince_Canuma,等不及想看你打造出什么!

X AI KOLs Following ↗ · 2026-10-28 缓存

Neywa Labs 隐身模式出闸,宣布打造可在用户现有设备上运行 AI 的基础设施,主打私密、离线与无限使用,目标是让全球每个人都能用上 AI。

0 人收藏 0 人点赞
#edge-computing

英伟达推出用于 AI 智能体安全的 OpenShell 参考架构

Reddit r/artificial ↗ · 2026-10-22 缓存

英伟达发布了 OpenShell 参考架构,这是一个用于在企业基础设施和边缘系统中,贯穿智能体全生命周期构建、隔离、观测 AI 智能体并强制实施安全措施的框架。

0 人收藏 0 人点赞
#edge-computing

CoASFL:面向异步分割联邦学习的耦合一致性优化

arXiv cs.LG ↗ · 2026-10-21 缓存

CoASFL 提出一种面向异步分割联邦学习的不一致性感知框架,通过动态激活合并与一致性感知模型聚合,同时缓解客户端间水平不一致和客户端-服务器垂直不一致,在80设备边缘测试床上将训练加速1.61×至3.74×并提升最高3.26%的准确率。

0 人收藏 0 人点赞
#edge-computing

Nvidia 推出新开放模型,助力企业及 PC 上运行智能体

TechCrunch AI ↗ · 2026-10-19 缓存

Nvidia 发布了面向企业级智能体的 120B 开放权重模型 Nemotron 3.5 Super VL,以及可在 RTX/DGX Spark 本地运行的两款轻量 Bolt 模型,宣称在多项智能体任务上超越 Anthropic 和 OpenAI 的闭源模型。

0 人收藏 0 人点赞
#edge-computing

噪声整形采样与退火:实现二值和三值AI模型的可扩展边缘端训练

arXiv cs.LG ↗ · 2026-10-19 缓存

该论文提出ΣΔ-Sampler优化器,将二值和三值神经网络训练损失映射为高阶Ising模型能量,并通过噪声整形与退火实现高效的边缘设备训练,在CIFAR-10、ImageNet-1k和MatMul-free语言模型上验证了接近全精度的精度,同时将训练内存减少超过50%、速度提升一个数量级。

0 人收藏 0 人点赞
#edge-computing

TRACE:面向通信高效分布式边缘推理的Transformer残差激活码本编码

arXiv cs.LG ↗ · 2026-10-19 缓存

论文提出 TRACE(Transformer Residual Activation Codebook Encoding),在每个 Transformer 层的后注意力残差处放置向量量化器并预计算码本索引化的键值表示,使分布式边缘设备推理中接收方通过查表直接恢复 K/V,实现通信-计算重叠;在 ViT-Base 与 ViViT-B 上相比最优 VQ 分布式推理框架最高提升 1.89% 精度与 1.27 倍端到端加速,通信开销最高降低 22,624 倍。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈