Ternary Bonsai 是无头鸡

Reddit r/LocalLLaMA 模型
ai-model ternary-bonsai language-model performance-issue looping frustration user-experience

摘要

用户测试了 Ternary Bonsai 2 27B AI 模型，输入了一个创意提示，但模型陷入了无限循环，数小时重复而无进展，令人失望。

试了一下 Ternary Bonsai 2 27B，很兴奋。给了它一个提示：'创建一个3D小星球，玩家可以在上面行走，探索各种生态群落。星球不需要太大，但环游仍然有趣。故事关于一个童子军在露营时四处探索。' 但它像无头鸡一样循环思考，一直说同样的话超过2小时了。真的让我很失望。
查看原文

相似文章

Ternary Bonsai：1.58 比特下的顶级智能

Hacker News Top

一种使用三值权重（-1、0、1）的高效 AI 模型架构，仅需 1.58 比特/参数即可实现具有竞争力的性能，可部署在极度受限的设备上。