我发现了本地大语言模型的另一个小众用途,但需要一些建议
摘要
一位用户分享了自己使用本地 Qwen 3.8 27B 模型分析 16 年的市议会会议记录,以追溯 Flock 摄像头的审批过程,并征求有关抓取 YouTube 自动转录文本以输入其大语言模型的建议。
有点随意的话题,不过我已经到了开始关心市议会在做什么的年纪了。于是,我下载了过去16年里所有能找到的市议会会议记录,让 Qwen 3.8 27B Q6 去读,开始让它深入翻查这些记录。具体来说,我想看看是谁批准为我们镇购买 Flock 摄像头的。结果发现,警察局长拿到了一笔用于购买这些摄像头的9,000美元拨款,但我在会议纪要里没有找到任何提及公众对此发表意见的内容。会议纪要基本上都是摘要,所以并不涵盖所有内容,不过他们确实会在 YouTube 上直播所有会议。我看到 YouTube 有自动转录文本,但不知道有什么好办法能把这些数据抓取下来,再让我的大语言模型去分析。大家有什么主意吗?
相似文章
我看到很多人问“本地 LLM 真的能做些有用的事吗?”
作者分享了一个个人工作流,使用本地 Qwen 模型,通过 Google Docs 和 PDF 自动化数据库评估、邮件往来以及文档生成。
@TheAhmadOsman: 实用技巧 本地运行LLM?给它们网络访问权限 我的配置: - SearXNG:候选源发现 - Firecrawl:已知-…
一条推文技巧,介绍如何通过 SearXNG 进行搜索、Firecrawl 进行抓取、Camofox 作为浏览器回退,采用“搜索-提取-交互”工作流,为本地 LLM 赋予网络访问能力,使其变得更加实用。
有人在日常中使用本地LLM作为知识库吗?不是为了编程,而是生活琐事。你的设置是怎样的?
一位用户希望了解其他人在日常生活中使用本地LLM作为个人知识库的真实经验,讨论了模型选择、检索可靠性以及工具维护等挑战。
本地LLM伙伴
一位拥有45年经验的开发者正在构建一个本地优先的LLM框架,包含多智能体逻辑,即将在GitHub上开源,并向社区询问哪些功能能改善他们的本地LLM体验。
在单个16GB GPU + 64GB RAM上的本地LLM自动补全与代理式编码
使用 llama.cpp 在单块 16GB GPU 及 64GB+ 内存上设置本地 LLM 自动完成(Qwen2.5-Coder-7B)与代理编码(Qwen3.6-35B-A3B)的技术指南,包含命令与性能基准。