cloud-llm

一个讨论帖，询问企业专业人士：与依赖云LLM内置记忆功能相比，构建自定义内部智能体记忆（RAG、知识图谱等）是否值得投资，并探讨投资回报率、数据风险和复杂性。

作者构建了一个自主开发流水线，并通过在改装版RTX 4090上运行27B本地模型与使用廉价云端大语言模型API对同一个项目进行基准测试。