self-hosted-llm

标签

Cards List
#self-hosted-llm

从Opus迁移35kb预提示到自托管Ollama的常见陷阱笔记

Hacker News Top ↗ · 2026-09-14 缓存

一篇博客文章,探讨将35kb提示从Anthropic/OpenAI迁移到自托管Ollama的挑战与道德原因,重点关注云服务提供商的隐私和安全问题。

0 人收藏 0 人点赞
#self-hosted-llm

从生产流量到后训练:构建覆盖企业请求混合的自托管LLM

Hugging Face Daily Papers ↗ · 2026-09-01 缓存

一篇研究论文提出了一种方法,使用通过SLERP合并的单独GRPO专家来训练较小的自托管LLM,该LLM在企业任务上优于更大的基线模型,并以更低的成本服务一半的平台流量。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈