edge-ai

标签

Cards List
#edge-ai

Meta 发布新的设备端优化开源模型

Reddit r/singularity · 4小时前

Meta 宣布推出一个针对设备端部署优化的全新开源模型,旨在将高效的 AI 推理带到边缘设备。

0 人收藏 0 人点赞
#edge-ai

omlab/VLX-Seek-1.5-10B · Hugging Face

Reddit r/LocalLLaMA · 9小时前 缓存

VLX-Seek-1.5-10B 是 omlab 推出的开源 10B 视觉语言模型,专为无人机、机器人和监控等具身场景中的细粒度视觉定位而设计,采用区域引用定位而非坐标生成。

0 人收藏 0 人点赞
#edge-ai

MiCoPro:基于硬件感知代理模型的端到端混合精度软硬件协同设计

arXiv cs.LG · 10小时前 缓存

MiCoPro 提出了一种用于混合精度量化的端到端软硬件协同设计框架,利用硬件感知代理模型在延迟约束下搜索最优的逐层位宽,并直接部署到边缘硬件,在准确率下降不到3%的情况下,实现了最高40%的延迟降低。

0 人收藏 0 人点赞
#edge-ai

Echo Dot 2 能以不错的速度运行 28M 参数 LLM

Reddit r/LocalLLaMA · 3天前

一位开发者展示了如何使用 llama.cpp 在 Amazon Echo Dot 2 上本地运行 28M 参数 LLM,生成速度约 4 tokens/s,通过提示缓存实现约 2.3 秒延迟,从而支持简单的离线语音命令。

0 人收藏 0 人点赞
#edge-ai

TechCrunch Disrupt 2026 的 Real World AI 舞台将展示机器人、自动化工厂和灭绝动物

TechCrunch AI · 4天前 缓存

TechCrunch Disrupt 2026 宣布新设 Real World AI 舞台,聚焦物理世界中的AI,展示机器人、自动化工厂和灭绝物种复活技术,演讲者来自 Shield AI、Colossal Biosciences、FieldAI 等,活动将于10月13日至15日在旧金山举行。

0 人收藏 0 人点赞
#edge-ai

仅用64个视觉token,460M VLM在iPhone上首token延迟降至0.3秒

Reddit r/LocalLLaMA · 5天前

VisionPsy-Nano-460M-Flash 是一款全新的460M视觉语言模型,每张图像仅使用64个视觉token,在iPhone上首token延迟降至0.3秒,同时保留了完整模型约99%的基准分数。这种优化牺牲了部分OCR和精细细节质量。

0 人收藏 0 人点赞
#edge-ai

在8美元的ESP32-S3上训练的SLM

Hacker News Top · 5天前 缓存

Qapla'是一个项目,演示了在8美元的ESP32-S3微控制器上从头训练一个小型Transformer语言模型,表明无需GPU或数据中心即可实现设备端训练。

0 人收藏 0 人点赞
#edge-ai

在 500MB 内存上运行 Gemma 4

Reddit r/LocalLLaMA · 5天前

讨论了如何在仅有 500MB 内存的设备上运行 Gemma 4,可能通过量化或其他优化技术实现。

0 人收藏 0 人点赞
#edge-ai

@maximelabonne:LFM2.5-2.6B 今天在 @huggingface 上可用。这是同类中首个智能体模型,它在 EVE 上彻底碾压了我们之前的发布……

X AI KOLs Following · 6天前 缓存

Liquid AI 发布了 LFM2.5-2.6B,这是一款端侧智能体模型,能够在手机、笔记本电脑、PC 和机器人上规划任务、调用工具并完成多步操作,且数据始终不离开设备。

0 人收藏 0 人点赞
#edge-ai

@grapeot: 一个完整的机器视觉项目,从头搜集图像数据,做标注,做神经网络训练,做量化,做单片机(ESP32)上的系统构建,固件烧录和部署,部署完了发现效果不好,从头训练,然后做性能和耗能调优,最终部署。如果是一个senior scientist来做要…

X AI KOLs Timeline · 2026-08-02 缓存

作者利用GPT-5.6在10小时内完成了一个ESP32-CAM上的车库门识别项目,涵盖数据收集、标注、训练、量化与部署,展示了AI在硬件开发中的自主能力,并分享了人机协作的经验。

0 人收藏 0 人点赞
#edge-ai

如此紧凑的强大算力,它就是王牌 — 使用NVIDIA Jetson随时随地构建AI

NVIDIA Blog · 2026-07-28 缓存

NVIDIA展示了用于边缘AI和机器人的Jetson平台,重点介绍了紧凑但强大的Jetson Orin Nano Super开发者套件,该套件支持在任何地方构建AI智能体和机器人。

0 人收藏 0 人点赞
#edge-ai

@arduino:边缘端的机器视觉并不复杂。加入ipXchange即将举办的网络研讨会,了解如何构建…

X AI KOLs Timeline · 2026-07-27

加入ipXchange即将举办的网络研讨会,学习如何使用Arduino UNO Q构建端到端AI应用,并将其部署到安装摄像头的机械臂上,用于工业检测。

0 人收藏 0 人点赞
#edge-ai

在8美元微控制器上运行2890万参数的大语言模型

Hacker News Top · 2026-07-25 缓存

一位开发者演示了如何在仅8美元的ESP32-S3微控制器上运行一个2890万参数的语言模型,利用Google的逐层嵌入技术将大部分参数存储在闪存中,实现了设备端每秒约9.5个token的文本生成速度。

0 人收藏 0 人点赞
#edge-ai

在Jetson Orin NX 16GB上本地运行了一个27B模型(1-bit),仍然有点惊讶它能工作

Reddit r/LocalLLaMA · 2026-07-25

用户报告在Jetson Orin NX 16GB边缘设备上成功运行了量化到1-bit的27B参数模型,对可行性表示惊讶。

0 人收藏 0 人点赞
#edge-ai

OrangePi AI Studio Pro - Qwen3.5-122B-A10B

Reddit r/LocalLLaMA · 2026-07-25

OrangePi 发布 AI Studio Pro,这是一款针对运行 Qwen3.5-122B-A10B 大语言模型优化的单板计算机。

0 人收藏 0 人点赞
#edge-ai

@arduino: 预定义模型为理解边缘AI提供了强大的起点。然而,@mcmchriis 分享了如何轻松…

X AI KOLs Timeline · 2026-07-24 缓存

Arduino 宣布通过 Edge Impulse 集成,在 Arduino App Lab 中训练和部署自定义 AI 模型的能力,基于预定义的边缘 AI 模型。

0 人收藏 0 人点赞
#edge-ai

BearingNAS:使用笔记本电脑获取轴承内传感器智能故障诊断系统

arXiv cs.LG · 2026-07-22 缓存

本文介绍了BearingNAS,一种硬件感知的神经架构搜索框架,用于设计轴承的智能故障诊断系统,目标是微控制器和传感器处理单元,这些单元内存极为有限(4-8 KiB RAM,16-32 KiB Flash),而整个框架完全在笔记本电脑CPU上运行,并达到99.50%的诊断准确率。

0 人收藏 0 人点赞
#edge-ai

@googlev: 为不容许失败的环境构建可信赖的AI。在Sonoma Raceway,GDEs部署了AI Race Coach…

X AI KOLs Following · 2026-07-22 缓存

Google Developer Experts在Sonoma Raceway使用Antigravity、Gemini和Gemma(在Pixel 10上)部署了AI Race Coach,以100英里/小时的速度提供瞬间遥测指导,展示面向高风险环境的可信赖AI。

0 人收藏 0 人点赞
#edge-ai

面向设备上机器学习的全传感器智能眼镜平台

arXiv cs.LG · 2026-07-21 缓存

本文介绍了ARGO,一个面向设备上机器学习的智能眼镜平台,该平台集成了多模态传感器套件和优化的YOLOv11模型,用于实时城市障碍物识别,实现了隐私保护的本地处理,具有低延迟和2.483 MB的内存占用。

0 人收藏 0 人点赞
#edge-ai

我在8GB显存下在Terminal-Bench 2.0上运行了Ternary-Bonsai-27B(2-bit)和Bonsai-27B(1-bit)

Reddit r/LocalLLaMA · 2026-07-20

一位用户在Terminal-Bench 2.0上测试了27B参数Bonsai模型的量化1-bit和2-bit版本,在8GB显存内获得了结果。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈