面向AI中介的确定性动作级证明

Reddit r/AI_Agents 工具

摘要

开发了一种针对AI中介的确定性动作级证明架构,并在与微软工程团队的讨论中得到了验证。作者正在为该软件架构寻找投资者或合作伙伴。

我开发了一种软件架构,旨在为AI中介保护提供确定性动作级证明、执行时重新验证以及独立于日志的证据。问题已从AI能否提供正确答案或回应,转变为能否信任AI并验证其行为。该架构近期在微软工程团队的一次技术交流中被讨论——该团队正是2026年4月2日发布的微软AI代理治理工具包的构建者。与一位首席工程经理和一位高级软件工程师的讨论,帮助验证了该架构,并指出了当前AI治理护栏中的空白。我正在寻找潜在的投资者、授权方或合作伙伴;仅接受认真咨询。必要时可提供与微软互动的相关文档。我自2025年起持续从事此项工作。
查看原文

相似文章

Microsoft 与 OpenAI 合作的新篇章

OpenAI Blog

Microsoft 和 OpenAI 签署了新的最终协议,重组了两家公司的合作关系。Microsoft 将投资增加至 135 亿美元,持股比例达 27%,并将知识产权权利延期至 2032 年。该协议引入了 AGI 验证程序,允许两家公司在追求 AGI 和产品开发方面获得更大的独立性,并包括 OpenAI 对 Azure 服务的 250 亿美元承诺。

Microsoft 投资并与 OpenAI 合作,支持我们构建有益的 AGI

OpenAI Blog

# Microsoft 投资并与 OpenAI 合作,支持我们构建有益的 AGI 来源:[https://openai.com/index/microsoft-invests-in-and-partners-with-openai/](https://openai.com/index/microsoft-invests-in-and-partners-with-openai/) OpenAI 正在开发一系列越来越强大的 AI 技术,这需要大量资本用于计算能力。最直接的方式是构建产品来覆盖成本,但这会改变我们的重点。相反,我们计划授权

AI-Care:用于阿尔茨海默病护理中任务协调的对话式代理系统

arXiv cs.AI

本文介绍了 AI-Care,这是一个对话式代理 AI 系统,旨在通过自然语言交互帮助阿尔茨海默病患者管理如日历提醒等日常任务。研究详细阐述了基于 LangGraph 的系统架构及安全控制措施,试点结果显示用户对系统具有高度信任且任务完成率高。

如何打造“谦逊”的AI

MIT News — Artificial Intelligence

MIT研究人员提出了一种用于医疗领域的“谦逊”AI框架,鼓励系统表达不确定性,并以协作副驾驶而非权威预言者的身份发挥作用。

通过辩论实现AI安全

OpenAI Blog

OpenAI提出了一种新颖的AI安全方法,其中两个AI代理相互辩论,而人类评判员评估他们的论证,这使人类能够监督行为过于复杂而难以直接理解的AI系统。该方法利用辩论和对抗性推理来使先进AI与人类价值观和偏好保持一致。