标签
本文讨论了提示优化作为事件驱动开发中的关键技术,提到了像MLflow这样的框架,支持DSPy、GEPA和MIProv2等算法,以改进LLM提示。
本文通过将AI代理的'Harness'与登山安全带进行比较,来解释其概念,详细介绍了系统提示和工具等组件,这些组件使AI模型能够作为代理运行。
作者对Apple Silicon上的AI推理优化进行了为期两周的调查,发现软件生态系统碎片化,缺少前缀缓存和推测解码等关键功能,建议围绕vllm-metal等框架进行整合。
作者认为,AI行业充斥着针对其他开发者的复杂框架,而非解决像发送发票提醒这样的真实简单业务问题。他们主张专注于小而实用的构建,真正帮助人们。
讨论在基准测试AI智能体框架时应优先考虑哪些指标,特别是比较ADK和LangGraph。
阿里通义实验室推出智能体评测基准PawBench v1.0,首次将底座模型与运行框架纳入统一评测体系,覆盖9个模型和3个框架,含150个任务,发现框架设计对智能体性能影响显著,并提出四项设计原则。
LlamaIndex 创始人 Jerry Liu 讨论了公司从通用AI框架的战略转型,转而专注于从企业文档(如PDF和PowerPoint)中提供高精度的上下文提取,目标是在法律、保险和金融领域的代理工作流中实现95%以上的准确率。