一个原生的Rust认知引擎,通过生物真实的神经基质对语言进行路由

Reddit r/artificial 模型

摘要

GoldWorm 是一个用 Rust 编写的原生认知引擎,利用秀丽隐杆线虫的 302 个神经元连接组(经过生物学映射),通过透明、零信任架构处理语言,具备双流处理机制和赫布型联想记忆功能。

GoldWorm 🐛✨ — 302-神经元双流认知引擎 一个基于完整秀丽隐杆线虫连接组的零信任、完全透明的联想式AI。设计上确保OOM安全。无隐藏训练循环。无黑箱权重。每个突触都可检查。 ## 什么是 GoldWorm? GoldWorm 是一个原生 Rust 认知引擎,它将语言路由经过一个生物学上保真的神经基质——**秀丽隐杆线虫**(Caenorhabditis elegans)的 302 个神经元连接组。这是唯一一个整个神经系统已被实验性完整映射的生物(White 等,1986)。与依赖数十亿参数和不透明注意力机制的基于 Transformer 的大语言模型不同,GoldWorm 依据三个透明原则运行: - **生物学保真**——每个突触都遵循 C. elegans 的拓扑结构。没有从头开始的突触生成。没有魔法矩阵。 - **双流处理**——行动(稀疏)和学习(密集)在物理上分离,防止推理过程中的灾难性遗忘。 - **零信任工程**——每个缓冲区都严格限定边界。每条路径无 panic。生产代码中没有 `unwrap()`。 ## 架构深度解析 🧬 ### 302-神经元连接组 GoldWorm 的路由层并非通用神经网络。它是 C. elegans 神经系统的拓扑精确模型: | 神经元索引范围 | 作用 | |---|---| | 0 – 19 | 咽部子网络(密集) | | 20 – 91 | 感觉神经元(输入) | | 92 – 168 | 中间神经元(整合) | | 99 – 102 | 命令中枢(AVAL/AVAR/AVBL/AVBR) | | 169 – 301 | 运动神经元(输出) | **连接方式:** - **带状突触** — ±1/±2/±3 邻域的环形连接 - **咽部布线** — 神经元 0–19 内部耦合更密集 - **感觉→中间神经元** — 稀疏前馈(20–91 → 92–168) - **命令中间神经元广播** — 中枢 99–102 广播到全部运动神经元群体 169–301 - **中间神经元→运动神经元** — 稀疏前馈投射 所有突触权重均为非负且限制在 [0, 1] 之间。结构蓝图不可变——Hebbian 可塑性仅增强或削弱现有突触,从不创建新突触。 ### 🌊 双流处理 GoldWorm 的核心创新是**行动**与**学习**的物理分离: ``` ┌─────────────────────────────────────────────────────────┐ │ 输入令牌 → 128维流形坐标 │ │ │ │ ┌────────────────────┴────────────────────┐ │ │ ▼ ▼ │ │ ┌──────────────┐ ┌──────────────┐ │ │ │ 稀疏 │ │ 密集 │ │ │ │ 行动 │ │ 学习 │ │ │ │ (后 Entmax) │ │ (前 Entmax) │ │ │ │ │ │ │ │ │ │ ~1-2 活跃 │ │ >50% 非零 │ │ │ │ 神经元 │ │ 梯度基板 │ │ │ └──────────────┘ └──────────────┘ │ │ │ │ │ │ ▼ ▼ │ │ 推理 / 令牌选择 Hebbian │ │ EchoReservoir │ │ (联想记忆) │ └─────────────────────────────────────────────────────────┘ ``` **为何重要:** 传统神经网络使用相同的激活向量进行推理和梯度计算。当不同单词激活不相交的神经元集合时,梯度降为零——网络“忘记”了刚学到的内容。GoldWorm 的双流机制保持密集的前 entmax 信号作为梯度基板处于活跃状态,而稀疏的后 entmax 信号则驱动令牌选择。EchoReservoir 学习的是密集状态之间的关联,而非稀疏状态之间的。 ### 🧠 EchoReservoir 一种受海马体启发的环形缓冲区,保存近期前 entmax 状态,并配有一个 302×302 的 Hebbian 关联矩阵 W_assoc。当用当前密集状态查询时,它返回一个 echo_bias,将激活状态推向最近共激活的模式——从而在没有外部训练循环的情况下创建出涌现的联想记忆。 **主要特性:** - W_assoc 对称且限制在 [-1.0, 1.0] - 历史缓冲区不超过容量(默认:64) - 衰减系数控制遗忘速率(默认:0.75) ### ⚡ Tsallis α-Entmax 激活 GoldWorm 不使用 softmax。它使用 α-entmax,一种在 softmax 和 sparsemax 之间插值的泛化: | α 值 | 行为 | |---|---| | α = 1 | Softmax —— 密集,全部非零 | | α = 2 | Sparsemax —— 通过单纯形投影得到精确零值 | | α = 3 | 比 sparsemax 更稀疏 —— 类胜者全拿 | Quilez Bridge 平滑参数 k 在创造力(密集,k→0)和确定性(稀疏,k→∞)之间退火: - α(k) = 1 + 2·exp(-k) - k = 0 → α = 3(非常稀疏,类胜者全拿) - k = ln(2) → α = 2(精确 sparsemax) - k = ∞ → α = 1(softmax,全部激活) ### 📐 128维流形几何 每个令牌都被嵌入为128维流形上的一个坐标,而非平直的向量空间。 - **修正的 Gram-Schmidt 正交化** 保持真实的多维方差 - **Grassmannian 融合** 计算令牌轨迹在流形上的中点 - **黄金比例分割** 将128个维度分为: - GOLDEN_MAJOR = 79(粗略,前馈) - GOLDEN_RESIDUAL = 49(精细,反馈) - GOLDEN_OVERLAP = 5(交叉绑定桥) 各维度之间没有标量克隆。没有算术捷径。每个步骤都保留空间方差。 ## 特性 ### 🖥️ 1. 交互式观测仪表盘 实时观察海马体形成关联。 ``` cargo run --release --bin observe ``` 仪表盘显示: - **激活地形** — 302维状态显示为19×16热力图 - **突触关键性** — σ、创造力、确定性比率 - **Jaccard 漂移** — 密集学习信号变化的快慢 - **共振轨迹** — 最近的关联链 - **Hebbian 强度直方图** — 关联权重的分布 - **实时 CLI** — `/alpha`、`/kappa`、`/auto` 调节认知参数 ``` ┌────────────────────────────────────────────────────────────────┐ │ GoldWorm Observation Dashboard — Step 0 │ ├────────────────────────────────────────────────────────────────┤ │ Top-10 Active Neurons: [99, 101, 169, 170, 171, 172, ...] │ │ Synaptic Criticality: σ=1.0000 creative=0.0000 det=0.5000 │ │ Hebbian Strength: mean=0.00 median=0.00 max=0.00 │ │ Jaccard Drift: 0.0000 (stable) │ │ Echo Reservoir: 0/64 states │ │ Temperature: 0.50 │ │ Resonance Trace: (empty) │ │ Synapse Topography: │ │ ████░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░ │ │ ░░░░████░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░ │ │ ░░░░░░░░████░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░░ │ │ ... │ └────────────────────────────────────────────────────────────────┘ >> ``` ### 💬 2. 联想式聊天 一个对话式 REPL,通过 EchoReservoir Hebbian 更新实时学习关联。 ``` cargo run --release --bin associative_chat ``` **工作原理:** 1. 每个用户输入被分词并路由通过 302-神经元连接组 2. 密集的前 entmax 信号被捕获到 EchoReservoir 3. 存储库的 Hebbian 关联矩阵 W_assoc 自动更新 4. 每个后续响应都受到累积联想记忆的偏置 5. 通过 302维 Boltzmann 能量最小化解码响应 **零信任解码特性:** - **反重复惩罚**(禁用词将相似度降低0.3) - **温度限制在 [0.01, 5.0]** - **最大每响应15个单词**(有界生成) - **所有分数在 Boltzmann 抽取前限制在 [-1, 1]** ## 零信任工程 GoldWorm 专为每个字节都至关重要的环境而设计: | 保证 | 实现 | |---|---| | OOM 安全 | 所有矩阵预先分配,固定边界。推理过程中无动态增长。 | | 无隐藏训练 | 公开版本不包含训练流水线。`observe` 和 `associative_chat` 是仅有的二进制文件。 | | 无 panic | 每个可能失败路径返回 `Result<T, CoreError>`。生产代码中没有 `unwrap()` 或 `expect()`。 | | 有界缓冲区 | EchoReservoir 容量:64。响应最大:15个单词。输入投影:302×128。突触:302×302。 | | 确定性 | 所有随机性使用固定种子(42)的 seeded fastrand,行为可重现。 | | 无外部膨胀 | 9个依赖项。无 tokio、axum、reqwest、chrono 或 tokio。 | ## 模块图 | 模块 | 职责 | |---|---| | geometry | 128维令牌坐标、MGS 正交化、Grassmannian 融合、atan2 测地线 | | bridge | 通过 RPITIT batch trait 的令牌/对数投影 | | worm_brain | 302-神经元连接组路由、α-entmax、信号传播 | | hippocampus | 双流 EchoReservoir + Hebbian |
查看原文

相似文章

新

Reddit r/artificial

该文章描述了一个名为Human Engineered Intelligence的个人项目,这是一个使用Rust构建的非AI系统,在本地处理语言而无需训练,其特点是采用了自定义架构,包括authorities和cubes用于知识表示。

构建一个媲美 Llama.cpp 的 Rust 推理引擎

Hacker News Top

Ferrox 是一个纯 Rust 推理引擎,可加载 GGUF 模型,并在 CPU、Metal 或 CUDA 上运行本地 LLM,提供 CLI 和兼容 OpenAI 的服务器。它的目标是在不使用任何绑定、从零编写的情况下,达到与 llama.cpp 相当的性能。