datasette-llm 0.1a11

Simon Willison's Blog 工具

摘要

datasette-llm 0.1a11 新增了对 OpenAI 兼容端点的支持,使 Datasette 能够使用通过 LM Studio、Ollama 或 llama.cpp 托管的本地模型,为 Datasette Agent 聊天界面提供支持。

暂无内容
查看原文
查看缓存全文

缓存时间: 2026/11/16 08:50

# 发布:datasette-llm 0.1a11 来源:https://simonwillison.net/2026/Nov/14/datasette-llm/ `datasette\-llm` 是 Datasette 的中间层插件,支持配置供其他 Datasette 插件使用的 LLM\。 此版本新增了对 OpenAI 兼容端点的支持,因此你可以配置 Datasette,使用托管在任何地方、支持 OpenAI 准标准 Web 协议的 LLM\。 这意味着,如果你正在通过 LM Studio (https://lmstudio.ai/)、Ollama (https://ollama.com/) 或 llama\.cpp (https://github.com/ggml-org/llama.cpp)(它刚刚发布了 v1\.0\.0 (https://huggingface.co/blog/ggml-org/llama-cpp-v1)\)运行本地模型,就可以通过 `uvx` 像这样运行 Datasette: `` wget https://datasette.io/content.db uvx --with datasette-agent datasette \ --root --secret 1 \ -s plugins.datasette-llm.default_model '{ "model": "lmstudio-qwen", "model_name": "qwen/qwen3.8-27b", "api_base": "http://localhost:1234/v1" }' content.db `` 这样,你就会得到一个本地服务器,运行由你的本地模型驱动的 Datasette Agent 实例\! 聊天界面截图。顶部栏左侧显示“首页”,右侧显示“root”和一个汉堡菜单图标。下方有一个返回箭头、标题“聊天”、模型标签“lmstudio-qwen”和一个“导出”按钮。蓝色的用户消息气泡中写着“有多少个仓库和多少个发布版本?”其下是一个折叠的工具调用“list_databases_and_tables”和一个展开的工具调用“sql_query”。它的“请求”部分显示数据库为“content”,显示方式为“both”,SQL 为:SELECT (SELECT COUNT(*) FROM repos) AS repo_count, (SELECT COUNT(*) FROM releases) AS release_count。它的“响应”部分显示 repo_count 和 release_count 两列,只有一行,值分别为 200 和 1889。再下方是一张表,包含 repo_count 和 release_count 两列以及一行数据:200、1889,后面有一个“查看 SQL 查询”按钮。助手回复为“content 数据库中有 200 个仓库和 1,889 个发布版本。”底部是一个文本输入框,占位文字为“输入消息……(使用 # 标记表或查询)”,旁边有一个蓝色的“发送”按钮。

相似文章

datasette-llm 0.1a8

Simon Willison's Blog

datasette-llm 0.1a8 是 Datasette 插件的一个新版本,集成了大语言模型,支持直接在 Datasette 中进行 LLM 查询和分析。

datasette-llm 0.1a9

Simon Willison's Blog

datasette-llm 0.1a9 现在会采用 LLM 中配置的默认模型,因此用户无需显式指定默认模型即可启动 Datasette Agent。

datasette-llm 0.1a7

Simon Willison's Blog

Datasette-llm 0.1a7 是一个新的 alpha 版本插件,为 Datasette 提供 LLM 集成,使插件能够为特定模型配置默认选项。

llm-tools-datasette 0.1.1

Simon Willison's Blog

llm-tools-datasette 0.1.1 已发布,这是一个用于 Simon Willison 的 LLM 命令行工具的插件,可与 Datasette 集成。

datasette-llm-accountant 0.1a4

Simon Willison's Blog

发布 datasette-llm-accountant 0.1a4,这是一个 Datasette 的早期 alpha 插件,用于跟踪 LLM 的使用和成本。