@shao__meng:Stanford CS224V "Agentic AI" 课程:Monica Lam 团队如何将易产生幻觉的 LLM 转变为可信、可追责的智能体……
摘要
由 Monica Lam 团队主导的 Stanford CS224V "Agentic AI" 课程,构建了一套防幻觉知识栈,涵盖 RAG、知识策展(STORM)、形式化方法和元智能体,旨在将不可靠的 LLM 转变为可信、可追责的智能体。前两次课的讲义现已公开。
查看缓存全文
缓存时间: 2026/10/04 13:11
Stanford CS224V “Agentic AI” 课程:Monica Lam 团队如何将容易产生幻觉的 LLM 打造成值得信赖、可问责的智能体
Stanford CS224V “Agentic AI” https://web.stanford.edu/class/cs224v/index.html…
整门课程围绕一个核心问题展开:如何把天生不可靠、容易产生幻觉的 LLM,转变为值得信赖、可问责的智能体。课程认为,这样的系统“在加速科学发现、推动医疗/法律/教育服务民主化方面拥有巨大的潜力“,但前提是必须首先解决可靠性问题。
课程的技术主线:一个“反幻觉“知识栈
如果把 15 次讲座和阅读列表放在一起看,你会发现课程实际上从零开始构建了一套完整的技术栈,每一层都在回答“可靠性从哪里来“这个问题:
- 基础层: LLM 本身
- 知识策展(Knowledge Curation): STORM 系列(9/28 讲 STORM/Co-STORM)
- 自由文本上的可靠问答(RAG): 检索(ColBERT、RankGPT)+ 生成 + 验证
- 面向结构化与异构数据的智能体——这是课程最有特色的部分
- 形式化方法与可问责的 AI——课程最具独特性的标签
- 面向任务的对话式智能体: Agent Genie Worksheet
- 元智能体与元优化——一节具有前瞻性的讲座
前两次讲座的幻灯片目前公开可下载: https://web.stanford.edu/class/cs224v/lectures_2026/l-introduction.pdf…
来源: https://web.stanford.edu/class/cs224v/index.html
关于 CS 224V
由大型语言模型驱动的 AI 智能体已经在改变我们工作、学习和解决问题的方式——而这仅仅是个开始。随着这些系统能力不断增强,它们在加速科学发现、推动全球范围内获取高质量医疗、法律和教育服务方面拥有巨大的潜力。本课程以项目为主,同时配有严谨的讲座,讲解智能体 AI 背后的原理、方法论和前沿研究。学生将在基础方法论研究或构建某一领域新型智能体两方面之一,完成一个为期一学季的大规模项目。
涵盖主题包括:
- 使用检索增强生成(RAG)和形式化任务描述,最大限度减少问答和面向任务的智能体中的幻觉。
- 在数据库、知识库和非结构化文本之上的混合知识推理。
- 面向科学研究的 AI 驱动知识策展与发现。
- 通过形式化方法提升决策智能体的准确性和可解释性。
- 提升长时程(long-horizon)智能体准确性和效率的自动化技术。
答疑时间(Office Hours)
- Vidhyakshaya Kannan:周一 1:00–3:00pm,Gates 392(B Wing)
- Harshit Joshi:周二 4:00–5:00pm,Gates 392
- Yu He:周三 4:30–6:30pm,CoDa E206
- Mahathi Mangipudi:周四 8:00–10:00am,ECON 106
- Jeongyeon Kim:周五 8:00–10:00am,Huang 130
更多导师和外部顾问信息列在各项目的项目提案中: https://web.stanford.edu/class/cs224v/projects.html
课程安排
上课时间: 周一/周三 3:00–4:20pm,线下授课,地点为 CoDa B80(http://campus-map.stanford.edu/?srch=CoDa)。出勤为强制要求。
课程录像: 讲座视频可在 Canvas(https://canvas.stanford.edu/courses/230723)上观看。
课件: 可在 Schedule(https://web.stanford.edu/class/cs224v/schedule.html)页面以及 Canvas(https://canvas.stanford.edu/courses/230723)的讲座课件文件夹中找到。发布的课件省略了一些重要细节,以便促进课堂互动。请务必观看讲座。
作业: 作业发布在 Schedule(https://web.stanford.edu/class/cs224v/schedule.html)页面,提交在 Gradescope(https://canvas.stanford.edu/courses/230723/external_tools/74302)上进行。
联系方式: 所有与课程相关的问题请在 Ed(https://edstem.org/us/courses/100778/)上提问,课程公告也会发布在该平台。如需外部咨询、私人事务或紧急情况,可发送邮件至工作人员邮箱 [email protected]。
学业便利(Academic accommodations): 如果你需要基于残障的学业便利,应向无障碍教育办公室(Office of Accessible Education,OAE)提出申请。OAE 将对申请进行评估,推荐相应便利措施,并为教学团队准备一封证明信。收到该信后,请将其发送至课程工作人员邮箱 [email protected]。学生应尽早联系 OAE,因为便利措施的协调需要提前通知。
旁听申请(Audit Requests): 如需旁听本课程,请发送邮件至课程工作人员邮箱 [email protected],邮件主题注明“audit cs224v request“。
课堂参与: 我们通过 SCPD 提供本课程以服务远程学生;但这并不意味着允许学生选修时间冲突的课程。课堂出勤和参与是课程的重要组成部分。我们为课堂参与分配课程总成绩的 15%,这对充分利用课程至关重要。
- 如果你是本地学生,课程总成绩中的 5% 用于评估课堂出勤和参与。
- 我们分别将成绩的 10%(本地学生)和 15%(远程学生)分配给:(1)周末进展更新;(2)每周与项目导师的互动。
- 在 Ed 上帮助其他同学的贡献将获得加分。
选课
CS 224V 名额有限,以便为学生提供充分的项目和科研指导。本课程目前仅接受候补名单(Navigator 上课程编号为 2029:https://navigator.stanford.edu/classes/1272/2029)。
先修课程要求: 以下课程之一:LINGUIST 180/280、CS 124、CS 224N、CS 224S、CS 224U。
相似文章
@shao__meng: https://x.com/shao__meng/status/2105545533121294508
斯坦福 Monica Lam 团队推出 CS224V「Agentic AI」研究课程,以反幻觉和可追责为主线,用检索、声明式规约、定理证明器和严格评估把不可靠的 LLM 改造成可信赖的智能体,项目占总成绩 65%。
基于智能体AI、嵌套学习与语义缓存的幻觉缓解及AI可持续性
本文提出了一种记忆增强的多智能体架构,采用嵌套学习、连续记忆系统和语义缓存来缓解LLM流程中的幻觉问题,在显著减少事实错误的同时提高了运营效率。
LegalHalluLens:类型化幻觉审计与校准的多智能体辩论,实现可信赖的法律AI
本文介绍了LegalHalluLens,一个用于审计法律AI中幻觉的框架,提供类型化幻觉档案和风险方向指数,以提升可信赖部署。
信任但验证:通过事后对抗性审计和多智能体反馈循环减轻医疗幻觉
本文提出了一种多智能体‘信任但验证’系统,旨在减少大语言模型中的医疗幻觉。该系统在关于违禁药物的临床问题上测试了三种开放获取模型,实现了53%的幻觉错误率降低。
@shao__meng: Stanford University CS329Z 工程AI代理课程已正式启动,第一讲幻灯片现已公开…
Stanford University的CS329Z工程AI代理课程已启动,讲义现已公开,涵盖从模型到自主系统等主题,并由Diyi Yang和Michael Ryan等讲师主讲。