@mudler_it: LocalAI ( @LocalAI_API ) 4.2.0 已发布,简要数据和事实:- +392 次提交(我们合并了这些提交)- +11 个后端:v…
摘要
LocalAI 4.2.0 发布,包含超过 392 次提交,11 个新后端(包括语音和面部识别),增强了对 sglang 和 VLLM 的支持,并有来自 16 多位新开发者的贡献。
LocalAI ( @LocalAI_API ) 4.2.0 已发布,以下是几个简要数据和事实:
- 超过 392 次提交(我们合并了这些提交)
- 新增 11 个后端:语音和面部识别、来自我的 vibevoice.cpp、来自 @jichiep 的 LocalQVE,以及来自 @sgl_project、@__tinygrad__、@no_stp_on_snek 的 Turboquant、ik_llama.cpp,还有来自 @el_PA_B 的 sam.cpp
- 大量新的质量改进,增强了对 sglang 和 VLLM 的支持,并加强了分布式模式的稳定性
- 超过 16 位新贡献者!感谢社区的支持!LocalAI 的核心目标是提供灵活性,让您能够运行社区中最新的模型和技术,而 @antirez 支持的 ds4 也在路上了!今年是本地 AI 之年!
相似文章
@ddalcu: 过去4天本地AI真是疯狂……太不可思议了…… https://github.com/ddalcu/mlx-serve/releases/tag/v26.8.2… @liquidai ……
一位开发者更新了 MLX-Serve(一个面向 Apple Silicon 的快速本地推理服务器),以支持近期模型,如 LiquidAI 2.6B、MiniMax H3 视频生成和 DeepSeek V4 Flash,AntLing 3.0-flash 即将推出。
@DJLougen:这是一个巨大的承诺,一如既往地感谢@huggingface及其团队对本地机会的承诺
GLM-5.2现在可在接下来的6小时内通过Hugging Face Inference Providers免费使用,支持开源AI。
@ggerganov:llama.cpp 现在有了官方网站:https://llama.app 我们的目标是让本地 AI 人人可用,并改善…
llama.cpp,广受欢迎的本地 AI 推理工具,现在有了官方网站(llama.app),提供跨平台安装程序和更好的用户体验,让本地 AI 更易于使用。
@RedHat_AI: Michael Goin (@mgoin_) 详解 @vllm_project v0.20.0。752 次提交。320 位贡献者。123 位新贡献者。DeepSeek V4, TurboQ…
Michael Goin 回顾了 vLLM v0.20.0 的发布,重点介绍了 752 次代码提交以及新功能,包括对 DeepSeek V4 的支持、TurboQuant 技术以及 PyTorch 2.11 的集成。
@TheAhmadOsman: 才过不到一个月,本地AI已前所未有地强大
本地AI峰会在AIEWF的首个小组讨论现已上线,来自NVIDIA、Roboflow、Osmantic、Forward Future和EXO Labs的领导者们共同探讨了本地AI的现状。