server

标签

Cards List
#server

在LLM领域,一台192GB DDR3服务器有什么好用途?

Reddit r/LocalLLaMA ↗ · 2026-06-29

讨论一台配备192GB内存的老式DDR3服务器在大语言模型工作负载方面的潜在用途。

0 人收藏 0 人点赞
#server

用一条命令在 HF Jobs 上运行 vLLM 服务器

Hugging Face Blog ↗ · 2026-06-26 缓存

Hugging Face Jobs 现在允许你使用 vLLM 通过一条命令快速启动一个私有的、兼容 OpenAI 的 LLM 端点,无需配置服务器或 Kubernetes。

0 人收藏 0 人点赞
#server

NUMA:核心、内存及它们之间的距离

Hacker News Top ↗ · 2026-06-24 缓存

本文解释了非统一内存访问(NUMA)的概念、历史背景以及它在多插槽服务器上对性能的影响,同时介绍了Edera在使基于Xen的虚拟化实现端到端NUMA感知方面所做的工作。

0 人收藏 0 人点赞
#server

Bootimus — 一个自包含的PXE和HTTP启动服务器

Hacker News Top ↗ · 2026-06-20 缓存

Bootimus是一个自包含的PXE和HTTP启动服务器,使用Go语言编写,提供零配置、嵌入式iPXE,并支持超过50种发行版。它完全开源,基于Apache 2.0许可,无遥测功能。

0 人收藏 0 人点赞
#server

@julien_c:这是个好消息:由@jundotkim开发的oMLX现在支持标准的HF缓存模型目录。为本地AI打造的优秀MLX服务器…

X AI KOLs Following ↗ · 2026-06-12 缓存

oMLX是一款用于本地AI的MLX服务器,现在支持标准的Hugging Face缓存模型目录,简化了模型加载过程。

0 人收藏 0 人点赞
#server

Show HN:由 Ory 开发的用 Go 编写的开源 API Key 服务器

Hacker News Top ↗ · 2026-06-11 缓存

Ory Talos 是一个用 Go 编写的开源 API Key 服务器,用于大规模地签发、验证和管理 API 密钥,具有低延迟验证能力,并支持 JWT 和 macaroon 令牌。

0 人收藏 0 人点赞
#server

llama.cpp server 现已内置原生工具(exec_shell、edit_file 等)

Reddit r/LocalLLaMA ↗ · 2026-05-23

llama.cpp server 现通过实验性标志内置了原生工具,支持文件操作、shell 命令等功能,无需外部包装器。

0 人收藏 0 人点赞
#server

Kioxia与Dell在纤薄2RU服务器中塞入10 PB存储

Hacker News Top ↗ · 2026-05-16 缓存

Kioxia和Dell合作,利用40块Kioxia LC9 245.76 TB SSD,打造出一款拥有近10 PB全闪存存储的2RU服务器,支持高密度AI基础设施。

0 人收藏 0 人点赞
#server

Llama.cpp 服务器连续运行约两周后表现失常?

Reddit r/LocalLLaMA ↗ · 2026-05-14

用户报告,在 llama.cpp 服务器上连续运行约两周后,Qwen3.6 模型的能力显著下降,且重启会话无法解决此问题。

0 人收藏 0 人点赞
#server

imgproxy v4

Product Hunt ↗ · 2026-05-11

imgproxy v4 是一个快速、安全的自托管图像处理服务器,现已更新可用。

0 人收藏 0 人点赞
#server

@seclink: 运行时无关:同一代码在 Node.js / Deno / Bun / Cloudflare Workers 等环境中无缝运行。 基于 Web 标准:直接使用 fetch、Request、Response 等原生 API,无需额外适配。 高…

X AI KOLs Following ↗ · 2026-04-22 缓存

srvx is a new runtime-agnostic server framework that lets the same code run on Node.js, Deno, Bun and Cloudflare Workers while using native Web APIs and achieving ~97% native performance.

0 人收藏 0 人点赞
#server

Pumpkin-MC/Pumpkin

GitHub Trending (daily) ↗ · 2026-07-22 缓存

Pumpkin 是一个完全用 Rust 构建的高性能 Minecraft 服务器,注重速度、安全性和可扩展性。

0 人收藏 0 人点赞
← Previous
← 返回首页

提交意见反馈