论文页面 - 边缘端离线生成式 AI 的信任机制：连接状态框架与 Raspberry Pi 5 上的实证研究

来源：https://huggingface.co/papers/2610.33732

摘要

在边缘设备上使用签名知识包和输出验证器进行本地检索增强生成，可提高效率，但仍易受到投毒更新的攻击，且无法保证证据的真实性\。

生成式 AI 和大语言模型 (LLM) 正在进入物联网，但大多数部署都假定具备云连接，而许多物联网场景的连接是间歇性的、受限的，甚至完全没有连接\。我们提出了一个连接状态框架 (https://huggingface.co/papers?q=connectivity-regime%20framework)(C0-C4)、一套推理时信任机制分类体系，以及作为断网状态下更新通道的带签名和版本号的知识包，并在网络隔离条件下，在运行完全本地检索增强生成 (https://huggingface.co/papers?q=retrieval-augmented%20generation)的 Raspberry Pi 5 上，使用三种规模的 Qwen2.5 (https://huggingface.co/papers?q=Qwen2.5)模型、三种上下文大小和 300 道 SQuAD 2.0 问题对其进行了评估\。经过实证校准的检索分数门控机制 (https://huggingface.co/papers?q=retrieval-score%20gate)几乎能完美地检测知识缺口 (AUROC 0.97)，但对主题内不可回答问题的检测效果较差 (0.68)\。确定性输出验证器 (https://huggingface.co/papers?q=deterministic%20output%20validator)可将格式错误的输出转换为明确的拒答，且未观察到正确答案的损失，而我们测试的基于 NLI 的验证器 (https://huggingface.co/papers?q=NLI-based%20verifier)带来的增益很小；对于 7B 模型，针对标记为不可回答的问题所给出的实质性答案中，96% 与检索段落中的归一化文本片段相匹配\。3B 模型在延迟和估算能耗均不到 7B 模型一半的情况下，达到了相同的标准答案包含率，但 7B 模型的词元级 F1 分数超过 0.5 阈值的频率要高得多；与检索三个段落相比，检索五个段落使正确率从 75% 降至 52%\。验证一个签名知识包约需 4.5 毫秒，而在设备上为其中的段落生成嵌入向量约需 29 分钟；在测试的九种更新攻击中，仅进行签名和哈希检查会放行其中六种，而分层验证则能拒绝这些攻击\。然而，一个签名有效但已被投毒的知识包能够通过所有知识包检查：在此前回答正确的 30 道问题上，正确答案数降至零，其中 14 道返回了注入的答案\。我们评估的所有机制都无法确认证据的真实性\。我们公开了代码和数据\。

查看 arXiv 页面 (https://arxiv.org/abs/2610.33732)查看 PDF (https://arxiv.org/pdf/2610.33732)项目页面 (https://doi.org/10.5281/zenodo.23620709)GitHub0 (https://github.com/securagenai/edge-rag-trust-mechanisms)添加到合集 (https://huggingface.co/login?next=%2Fpapers%2F2610.33732)

引用本论文的模型0

没有链接到本论文的模型

在模型的 README.md 中引用 arxiv.org/abs/2610.33732，即可从本页面链接到该模型\。

引用本论文的数据集0

没有链接到本论文的数据集

在数据集的 README.md 中引用 arxiv.org/abs/2610.33732，即可从本页面链接到该数据集\。

引用本论文的 Spaces0

没有链接到本论文的 Space

在 Space 的 README.md 中引用 arxiv.org/abs/2610.33732，即可从本页面链接到该 Space\。

收录本论文的合集0

没有收录本论文的合集

将本论文添加到一个合集 (https://huggingface.co/new-collection)，即可从本页面链接到该合集\。