Vellium v1.1.0 — 实时语音、本地 STT/TTS 与更简便的 llama.cpp 设置

Reddit r/LocalLLaMA 产品

摘要

Vellium v1.1.0 引入实时语音聊天功能,支持使用 Whisper 和 TeraTTSv2 进行本地 STT/TTS,并简化了 llama.cpp 设置,以便更轻松地与本地 AI 模型集成。

Vellium 是一款开源、本地优先的桌面应用,用于 AI 聊天、角色扮演和长篇写作。近期的更新主要集中在让本地语音和模型设置更易于使用。实时模式现在支持麦克风输入、本地或 Whisper 兼容的语音识别、流式 TTS、附件、屏幕上下文以及常见的聊天工具——所有功能都集成在同一语音界面中。本地语音功能可以直接在应用中安装和配置。提供 Whisper Large v3 Turbo Q5_0 用于识别,而 TeraTTSv2 提供英语和俄语的语音,并支持实时播放。TTS 进程在响应之间保持活跃,避免每次回复都重新加载完整模型。llama.cpp 设置也已简化。Vellium 可以检测现有的 llama-server 安装、GGUF 模型和运行中的本地端点,然后将其配置为受管后端。还有许多较小的修复:更可靠的 TTS 流、更安全的运行时存档提取、更好的端点发现、改进的超时处理、系统证书支持以及更简便的设置导航。聊天、角色、LoreBooks、写作项目和知识集合都存储在本地的 SQLite 中。Vellium 运行在 macOS、Windows 和 Linux 上,并支持 OpenAI 兼容的 API、OpenRouter、LM Studio、Ollama 和 KoboldCpp。GitHub: https://github.com/tg-prplx/vellium 来自使用本地语音或角色扮演设置的人的反馈将特别有用——尤其是关于任何仍感觉笨拙或不必要的复杂部分。
查看原文

相似文章