Lophius：来自 Heretic 创造者的语言模型研究工作台

Reddit r/LocalLLaMA 工具
language-model research-tool jupyter transformers open-source notebook

摘要

Lophius 是一个新的混合代码/GUI 研究系统，用于语言模型，运行在笔记本中，旨在减少样板代码并简化模型检查、分词器分析和推理等任务。

大家好，我和你们一样讨厌那些陈词滥调，所以我不打算以“问题”开头，直接进入正题：我刚刚发布了 Lophius，这是我和 Jupyter 与 Transformers 斗争两年多的结晶。它是一个运行在笔记本内的混合代码/GUI 研究系统。它可以消除大量样板代码，为你节省大量时间。Lophius 可以在 https://lophius.org 找到（代码在 https://github.com/p-e-w/lophius）。Lophius 处理几乎所有常见的研究任务：模型检查、架构分析、配置操作、分词器检查、提示管理、推理、logits、熵、注意力分数、隐藏状态和聊天。在许多情况下，无需任何配置即可使用。它在推理过程中智能管理 GPU 内存，并且可以延迟加载你可能稍后想要查看的输出信号。Lophius 有非常高质量的文档和完整的教程。如果你一直想尝试变压器研究，这可能正是你等待的！未来，Heretic 可能会开始使用 Lophius 作为后端，但那是另一个故事了。干杯 :)
查看原文

相似文章

rasbt/LLMs-from-scratch

GitHub Trending (daily)

该仓库提供开源代码，用于从零开始构建、预训练和微调一个类似GPT的大型语言模型，是Sebastian Raschka同名书籍的官方代码配套。