portable-ai

本文提出了一种USB闪存盘方案，其中包含本地LLM可执行文件和压缩知识库（维基百科、书籍），以便在无互联网的情况下提供离线、便携的AI辅助功能。

A user comments on a small device that can run a 70B model and generate uncensored AI content including pornography.

一位律师使用Raspberry Pi 5、Ollama和Phi-3-mini构建了一台成本50美元的便携式离线AI设备，以999美元的价格出售给需要安全文档分析的律师事务所。本指南将逐步说明如何复现该设置。