标签
Simon Willison 发布了 llm-chat-completions-server 0.1a0,这是一个插件,可运行一个本地 OpenAI Chat Completions 兼容服务器,由任何已安装的 LLM 模型提供支持,并使用内容寻址日志来高效管理对话状态。
Feiteng Li 宣布发布 EdgeSpeak,一个本地优先、隐私无泄漏的精准转录服务,支持拖拽音视频或麦克风录音转写、语义分段、字词级时间戳,并可导出 JSON/SRT/MD,兼容 OpenAI Audio API、CLI、SKILL 和 MCP 工作流。
parakeet.cpp 能够在本地的 OpenAI API 背后运行 NVIDIA Parakeet ASR,提供预构建的 Docker 镜像,支持 CPU 和 CUDA(包括 arm64),实现带有词级时间戳的实时转录。
这篇文章讨论了开发OpenClaw(一款AI驱动工具)的高昂成本,其创建者在一个月内花费了超过130万美元的OpenAI API代币,导致更新过程痛苦不堪。
vLLM 发布 0.20.1rc0 版本,在 OpenAI 兼容 API 响应中添加了 system_fingerprint 字段,以优化请求追踪。
NVIDIA 通过 DGX Cloud 提供免费的 AI 推理,支持 DeepSeek、MiniMax、Kimi、GLM、Llama 等热门模型,API 兼容 OpenAI,5 分钟即可领取。
SwiftLM is a Swift-native LLM inference server for Apple Silicon that runs large models without Python, using SSD streaming to load MoE weights and enabling 122B models on 64 GB Macs.
OpenAI Node.js SDK v6.33.0 发布,提供 TypeScript/JavaScript 接口以访问 OpenAI API,支持新的 Responses API 以及跨 Kubernetes、Azure 和 GCP 的工作负载身份认证。
OpenAI Node.js SDK v6.31.0 发布 —— 用于调用 OpenAI REST API 的 TypeScript/JavaScript 库,支持 Chat Completions 与 Responses API,并为云环境提供 Workload Identity 认证支持。
TRUSTBANK 已将由 OpenAI API 驱动的 AI 代理集成到其 Furusato Choice 平台中,通过对话式推荐和智能搜索帮助用户个性化故乡纳税礼品。
# CRED 如何利用 AI 提升高端客户体验 来源:[https://openai.com/index/cred-swamy-seetharaman/](https://openai.com/index/cred-swamy-seetharaman/) 我们的《执行职能》系列汇集了通过 AI 推动变革的领导者的观点。CRED 是一家印度会员制俱乐部,通过奖励按时支付信用卡账单的信用良好的个人,为其提供独家优惠和高端体验的特权。自 2018 年以来,CRED 已建立
Rogo 是一个企业 AI 财务平台,利用 OpenAI 的模型(GPT-4o、o1、o1-mini)扩展其 AI 驱动的财务研究,为 5,000 多位投资银行和私募股权公司的银行家提供服务。该平台通过自动化财务分析任务实现了 27 倍的 ARR 增长,为分析师在会议准备、公司分析和市场研究上节省了每周 10 小时以上的时间。
初创公司Rox利用OpenAI的模型和API,推出了一款AI驱动的销售平台,该平台统一了碎片化的数据,并使用智能体群落技术将销售代表生产力提升50%,客户参与度提升35%。
Ada 利用 GPT-4 和由 OpenAI API 驱动的多智能体系统来提升客户服务质量,将问题解决率从 30% 提高到 60-80%,同时保持高解决率,建立了超越传统指标的新行业标准。
Oscar Health 已成功部署 OpenAI 的 API 来自动化临床文档和理赔处理,将文档时间减少 40%,理赔解决时间减少 50%,同时建立了一个 AI Pod 来指导整个组织负责任地采用 AI。
Zelma 是由布朗大学的 Emily Oster 博士及其团队与 Novy 合作开发的 GPT-4 驱动研究助手,它通过支持自然语言查询,使家长、教师、管理人员和政策制定者能够访问跨地区和人口统计的学生成绩标准化测试数据。
# 用AI简化合同审查 来源:[https://openai.com/index/ironclad/](https://openai.com/index/ironclad/) Ironclad使用AI的目标始终是帮助人们做得更多,而不是用技术取代他们。GoGwilt回忆起他的法律工程团队在看到OpenAI的模型能为合同工作做什么时的初始兴奋。他说:“团队第一次感叹,‘哇,这产生的作品达到了第一年律师助理的水平。’”引擎