标签
Delta Inference Engine 是一个 Windows 原生推理引擎,可在单张消费级 NVIDIA GPU 上以 2-bit 量化运行 5520 亿参数的 DeepSeek-V4.1-Flash-1017,RTX 3090 上生成速度达 41 tok/s,并提供 OpenAI 兼容 API。
开源工具 workbuddy2api-hub 将腾讯 WorkBuddy/CodeBuddy 的原生模型服务反向代理为标准 OpenAI 兼容接口(含 Anthropic Messages),支持多账号调度、设备指纹隔离与 Web 看板,可直接接入 ClaudeCode 等终端 Agent 工具。
作者搭建了一套本地编码代理环境——在 24GB 的 RTX 3090 上通过 llama.cpp 运行 Qwen3.8-27B Q4_K_M,并接入 OpenCode——报告了吞吐量数据、四个有界 Python 编码任务(三项通过检查),以及一次推理预算失败:模型耗尽了 8K 的输出额度,却没能产出补丁。
Albertsons Companies 正扩大与 OpenAI 的合作,在 ChatGPT 中推出全新的 Safeway 杂货购物体验,让购物者能够借助 AI 驱动的推荐来规划膳食、搭建购物车并完成结账,同时还在内部全面部署 ChatGPT Enterprise。
一条推文概述了获得六位数年薪 AI 工程师职位所需的关键技能,如 LangChain、LangGraph 和 OpenAI API,并提供了一个项目链接供实践学习。
WebLLM是一个高性能的浏览器内LLM推理引擎,它利用WebGPU进行硬件加速,并且完全兼容OpenAI API,使得开源语言模型可以在本地运行。
这篇文章描述了一项实验,表明通过设置一个略高于边界的数值阈值,GPT-5.6 Sol可以持续在工具调用前停止,所有25对测试都展示了预期行为。
OpenAI 为符合条件的 API 客户推出 Zero Data Retention,并预览 Private Safety Processing,以在不访问客户内容的情况下识别交互模式,在保护隐私的同时增强安全性。
Simon Willison 发布了 llm-chat-completions-server 0.1a0,这是一个插件,可运行一个本地 OpenAI Chat Completions 兼容服务器,由任何已安装的 LLM 模型提供支持,并使用内容寻址日志来高效管理对话状态。
Feiteng Li 宣布发布 EdgeSpeak,一个本地优先、隐私无泄漏的精准转录服务,支持拖拽音视频或麦克风录音转写、语义分段、字词级时间戳,并可导出 JSON/SRT/MD,兼容 OpenAI Audio API、CLI、SKILL 和 MCP 工作流。
parakeet.cpp 能够在本地的 OpenAI API 背后运行 NVIDIA Parakeet ASR,提供预构建的 Docker 镜像,支持 CPU 和 CUDA(包括 arm64),实现带有词级时间戳的实时转录。
这篇文章讨论了开发OpenClaw(一款AI驱动工具)的高昂成本,其创建者在一个月内花费了超过130万美元的OpenAI API代币,导致更新过程痛苦不堪。
NVIDIA 通过 DGX Cloud 提供免费的 AI 推理,支持 DeepSeek、MiniMax、Kimi、GLM、Llama 等热门模型,API 兼容 OpenAI,5 分钟即可领取。
SwiftLM is a Swift-native LLM inference server for Apple Silicon that runs large models without Python, using SSD streaming to load MoE weights and enabling 122B models on 64 GB Macs.
TRUSTBANK 已将由 OpenAI API 驱动的 AI 代理集成到其 Furusato Choice 平台中,通过对话式推荐和智能搜索帮助用户个性化故乡纳税礼品。
# CRED 如何利用 AI 提升高端客户体验 来源:[https://openai.com/index/cred-swamy-seetharaman/](https://openai.com/index/cred-swamy-seetharaman/) 我们的《执行职能》系列汇集了通过 AI 推动变革的领导者的观点。CRED 是一家印度会员制俱乐部,通过奖励按时支付信用卡账单的信用良好的个人,为其提供独家优惠和高端体验的特权。自 2018 年以来,CRED 已建立
Rogo 是一个企业 AI 财务平台,利用 OpenAI 的模型(GPT-4o、o1、o1-mini)扩展其 AI 驱动的财务研究,为 5,000 多位投资银行和私募股权公司的银行家提供服务。该平台通过自动化财务分析任务实现了 27 倍的 ARR 增长,为分析师在会议准备、公司分析和市场研究上节省了每周 10 小时以上的时间。
初创公司Rox利用OpenAI的模型和API,推出了一款AI驱动的销售平台,该平台统一了碎片化的数据,并使用智能体群落技术将销售代表生产力提升50%,客户参与度提升35%。
Ada 利用 GPT-4 和由 OpenAI API 驱动的多智能体系统来提升客户服务质量,将问题解决率从 30% 提高到 60-80%,同时保持高解决率,建立了超越传统指标的新行业标准。