🧬 flux-genotype:一个在CPU上通过Ollama运行且能自我演化的AI内核——它可突变自身架构

Reddit r/AI_Agents 工具

摘要

flux-genotype 是一个开源AI内核,能在CPU上协调本地LLM,通过MetaDesigner模块实现自身架构的自我修改。

\`🧬 Flux‑Genotype – 一个能自我重写的CPU LLM\` 我一直在开发一个名为 **flux-genotype** 的开源内核。它将本地模型(TinyLlama、Llama 3.2、Hermes 3、DeepSeek-Coder)编排成一个自我修改的生态系统。一切都在 **CPU** 上运行——我曾在一条无AVX2的Xeon上测试过,配备20 GB RAM。 \> **重要提示:** 这是一个alpha版本。它能运行、能突变、能演化——但还有很多工作要做。特别是 **MetaDesigner**,这是我接下来要重点关注的模块。目前它通过编写新的 `.flux` 文件来提出架构更改,但验证和应用流水线需要更加健壮。愿景是让它完全自主:一个外部架构师,观察生态系统,诊断弱点,并重写结构以提高置信度。目前尚未实现,但基础是坚实的。 \## 工作原理 1. 提出问题 → 快速模型(TinyLlama)回答。 2. 评判模型评估回答(0–1)。最初是 Llama 3.2。 3. 如果置信度低于黄金比例阈值(≈0.618),生态系统突变自身结构。 4. **MetaDesigner**(Hermes 3)编写新的 `.flux` 架构文件,由 Lark 解析器验证后应用。 5. 系统通过 EMA(指数移动平均)跟踪置信度历史,并动态调整温度。 \## 自我修改的真实示例 突变还可以替换评判模型。在一次增长周期中,MetaDesigner 提议将评判模型从 **Llama 3.2** 替换为 **DeepSeek-Coder 6.7B**。新配置经过测试,得分更高,生态系统永久应用了这一更改。系统不仅是在调整参数——它正在重写自己的 **模型间分工**。 \## 为何与众不同 \- 它突变的是自身架构,而不仅仅是模型权重。 \- 如果性能提升,它可以用自己的评判模型替换成不同的模型。 \- 它具有记忆(使用指数移动平均的置信度历史)。 \- 它使用一种自定义语言(`.flux`)并带有形式语法——不是YAML,也不是JSON。 \- 它在普通硬件上运行。无需GPU。只需一个CPU和20 GB RAM。 \## 如果你想深入理解架构 我撰写了一份 **技术宣言**,将 FLUX 定义为一种用于自演化认知系统的形式化架构描述语言。其中涵盖了分形设计、OODA循环、黄金比例的作用以及长期愿景(包括MetaDesigner)。它位于仓库中: \## 配套小说 还有一本名为 **《IF THIS IS A ROBOT》** 的小说(意大利语和英语,CC BY-NC-SA 4.0),讲述了一个人在一台被遗忘的服务器上发现这个内核的故事。这部小说基本上就是内核的说明书。但代码本身独立成篇。 \- 内核使用 **MIT 许可证**。小说使用 **CC BY-NC-SA 4.0**。很高兴回答问题,也 **欢迎合作者** 一起推动 MetaDesigner 的发展。
查看原文

相似文章

一个可定制的编译器,用于为AI模型生成高效的融合GPU内核 [P]

Reddit r/MachineLearning

作者介绍了一款用 Python 编写、高度可定制且易于修改的 ML 编译器。该编译器通过多级 IR 流水线将 LLMs 转换为优化的 CUDA 内核,在特定操作上实现了与 PyTorch 相当甚至更优的性能。文章详细阐述了该编译器的优化过程、降级规则以及用于生成高效融合 GPU 内核的 CLI 用法。

KForge:面向AI加速器的LLM驱动跨平台内核生成

arXiv cs.LG

KForge是一个跨平台框架,利用两个协作的基于LLM的智能体,自动生成和优化适用于多种AI加速器的高性能计算内核,在NVIDIA B200和Intel Arc B580硬件上实现了显著的加速效果。

@qinzytech: https://x.com/qinzytech/status/2066585405479371092

X AI KOLs Timeline

对构建自我进化AI代理的两种方法的技术分析:基于模型的方法(通过像SSMs或具有快速权重更新的transformer等架构,以及训练方法)和基于工具的方法(通过内存或能够自我重写的元工具)。作者为不同受众提供了实用建议。