@shao__meng:Stanford CS224V "Agentic AI" 课程:Monica Lam 团队如何将易产生幻觉的 LLM 转变为可信、可追责的智能体……

X AI KOLs Following 新闻

摘要

由 Monica Lam 团队主导的 Stanford CS224V "Agentic AI" 课程,构建了一套防幻觉知识栈,涵盖 RAG、知识策展(STORM)、形式化方法和元智能体,旨在将不可靠的 LLM 转变为可信、可追责的智能体。前两次课的讲义现已公开。

Stanford CS224V "Agentic AI" 课程:Monica Lam 团队如何将易产生幻觉的 LLM 转变为可信、可追责的智能体 Stanford CS224V "Agentic AI" https://web.stanford.edu/class/cs224V/index.html… 整门课程围绕一个核心问题展开:如何将本质上不可靠、易产生幻觉的 LLM 转变为可信、可追责的智能体。课程认为,这类系统"在加速科学发现以及让医疗/法律/教育服务普惠化方面拥有巨大的潜力",但前提是必须首先解决可靠性问题。 课程的技术主线:一个"防幻觉"知识栈 如果把 15 次课和阅读清单放在一起看,课程实际上从零开始构建了一套完整的技术栈,每一层都在回答"可靠性从何而来": 1. 基础层:LLM 本身 2. 知识策展(STORM 系列,9/28 课时 STORM/Co-STORM): 3. 自由文本上的可靠问答(RAG):检索(ColBERT、RankGPT)+ 生成 + 验证 4. 面向结构化和异构数据的智能体——这是课程最具特色的部分 5. 形式化方法与可追责 AI(课程最具独特性的标签) 6. 任务导向对话智能体 Genie Worksheet 7. 元智能体与元优化(一节前瞻性的课程) 前两次课的讲义目前均已公开: https://web.stanford.edu/class/cs224V/lectures_2026/l-introduction.pdf…
查看原文
查看缓存全文

缓存时间: 2026/10/04 13:11

Stanford CS224V “Agentic AI” 课程:Monica Lam 团队如何将容易产生幻觉的 LLM 打造成值得信赖、可问责的智能体

Stanford CS224V “Agentic AI” https://web.stanford.edu/class/cs224v/index.html…

整门课程围绕一个核心问题展开:如何把天生不可靠、容易产生幻觉的 LLM,转变为值得信赖、可问责的智能体。课程认为,这样的系统“在加速科学发现、推动医疗/法律/教育服务民主化方面拥有巨大的潜力“,但前提是必须首先解决可靠性问题。

课程的技术主线:一个“反幻觉“知识栈

如果把 15 次讲座和阅读列表放在一起看,你会发现课程实际上从零开始构建了一套完整的技术栈,每一层都在回答“可靠性从哪里来“这个问题:

  1. 基础层: LLM 本身
  2. 知识策展(Knowledge Curation): STORM 系列(9/28 讲 STORM/Co-STORM)
  3. 自由文本上的可靠问答(RAG): 检索(ColBERT、RankGPT)+ 生成 + 验证
  4. 面向结构化与异构数据的智能体——这是课程最有特色的部分
  5. 形式化方法与可问责的 AI——课程最具独特性的标签
  6. 面向任务的对话式智能体: Agent Genie Worksheet
  7. 元智能体与元优化——一节具有前瞻性的讲座

前两次讲座的幻灯片目前公开可下载: https://web.stanford.edu/class/cs224v/lectures_2026/l-introduction.pdf…


来源: https://web.stanford.edu/class/cs224v/index.html

关于 CS 224V

由大型语言模型驱动的 AI 智能体已经在改变我们工作、学习和解决问题的方式——而这仅仅是个开始。随着这些系统能力不断增强,它们在加速科学发现、推动全球范围内获取高质量医疗、法律和教育服务方面拥有巨大的潜力。本课程以项目为主,同时配有严谨的讲座,讲解智能体 AI 背后的原理、方法论和前沿研究。学生将在基础方法论研究或构建某一领域新型智能体两方面之一,完成一个为期一学季的大规模项目。

涵盖主题包括:

  • 使用检索增强生成(RAG)和形式化任务描述,最大限度减少问答和面向任务的智能体中的幻觉。
  • 在数据库、知识库和非结构化文本之上的混合知识推理。
  • 面向科学研究的 AI 驱动知识策展与发现。
  • 通过形式化方法提升决策智能体的准确性和可解释性。
  • 提升长时程(long-horizon)智能体准确性和效率的自动化技术。

答疑时间(Office Hours)

  • Vidhyakshaya Kannan:周一 1:00–3:00pm,Gates 392(B Wing)
  • Harshit Joshi:周二 4:00–5:00pm,Gates 392
  • Yu He:周三 4:30–6:30pm,CoDa E206
  • Mahathi Mangipudi:周四 8:00–10:00am,ECON 106
  • Jeongyeon Kim:周五 8:00–10:00am,Huang 130

更多导师和外部顾问信息列在各项目的项目提案中: https://web.stanford.edu/class/cs224v/projects.html

课程安排

上课时间: 周一/周三 3:00–4:20pm,线下授课,地点为 CoDa B80(http://campus-map.stanford.edu/?srch=CoDa)。出勤为强制要求。

课程录像: 讲座视频可在 Canvas(https://canvas.stanford.edu/courses/230723)上观看。

课件: 可在 Schedule(https://web.stanford.edu/class/cs224v/schedule.html)页面以及 Canvas(https://canvas.stanford.edu/courses/230723)的讲座课件文件夹中找到。发布的课件省略了一些重要细节,以便促进课堂互动。请务必观看讲座。

作业: 作业发布在 Schedule(https://web.stanford.edu/class/cs224v/schedule.html)页面,提交在 Gradescope(https://canvas.stanford.edu/courses/230723/external_tools/74302)上进行。

联系方式: 所有与课程相关的问题请在 Ed(https://edstem.org/us/courses/100778/)上提问,课程公告也会发布在该平台。如需外部咨询、私人事务或紧急情况,可发送邮件至工作人员邮箱 [email protected]。

学业便利(Academic accommodations): 如果你需要基于残障的学业便利,应向无障碍教育办公室(Office of Accessible Education,OAE)提出申请。OAE 将对申请进行评估,推荐相应便利措施,并为教学团队准备一封证明信。收到该信后,请将其发送至课程工作人员邮箱 [email protected]。学生应尽早联系 OAE,因为便利措施的协调需要提前通知。

旁听申请(Audit Requests): 如需旁听本课程,请发送邮件至课程工作人员邮箱 [email protected],邮件主题注明“audit cs224v request“。

课堂参与: 我们通过 SCPD 提供本课程以服务远程学生;但这并不意味着允许学生选修时间冲突的课程。课堂出勤和参与是课程的重要组成部分。我们为课堂参与分配课程总成绩的 15%,这对充分利用课程至关重要。

  1. 如果你是本地学生,课程总成绩中的 5% 用于评估课堂出勤和参与。
  2. 我们分别将成绩的 10%(本地学生)和 15%(远程学生)分配给:(1)周末进展更新;(2)每周与项目导师的互动。
  3. 在 Ed 上帮助其他同学的贡献将获得加分。

选课

CS 224V 名额有限,以便为学生提供充分的项目和科研指导。本课程目前仅接受候补名单(Navigator 上课程编号为 2029:https://navigator.stanford.edu/classes/1272/2029)。

先修课程要求: 以下课程之一:LINGUIST 180/280、CS 124、CS 224N、CS 224S、CS 224U。

相似文章

@shao__meng: https://x.com/shao__meng/status/2105545533121294508

X AI KOLs Timeline

斯坦福 Monica Lam 团队推出 CS224V「Agentic AI」研究课程,以反幻觉和可追责为主线,用检索、声明式规约、定理证明器和严格评估把不可靠的 LLM 改造成可信赖的智能体,项目占总成绩 65%。