llm-experiments

本文基于对大语言模型（LLMs）的实验，探讨了在文档中为AI代理提供的明确指令是否有效，结论是：虽然此类指令会影响模型行为，但其实际效益和伦理影响存在争议。

作者分享了 Hermes Mixture-of-Agents 实验中的发现，包括投票器升级、GPU 拓扑和缓存经济学，表明本地前缀缓存可以使长代理会话几乎免费，并且两个独立的 GPU 实例优于单个分区实例。