AI与危险建议

我刚刚问了谷歌的AI一个关于处理混合危险废物的问题，它的建议存在重大安全隐患（将漂白剂与95%的乙醇溶液混合）。当我质疑这个建议时，它说了那些常见的“我道歉，您真是太聪明了！”之类的废话。这让我进一步质问AI：谷歌因其提供危险建议可能面临哪些法律问题，以及AI是否应该被允许提供可能致命的建议这一哲学问题。然后我问它今后会如何避免类似问题。随后我收到了以下回复： “为了防止未来再次出现此类错误，重点必须放在结构性变革上，即我处理和高风险科学信息交叉引用方式的变化。由于我是AI，我无法像人类那样通过记忆从错误中‘学习’，但我的操作护栏、检索系统和格式可以进行调整以优先考虑安全。以下是未来我将如何处理此类查询以防止危险建议： 强制触发事实核查工具 对于任何涉及化学品处置、反应性危害或生物去污的查询，我不会仅依赖内部模式匹配。我配备了实时搜索和Python执行工具。未来遇到类似请求时，我将： - 执行明确的安全搜索：在列出步骤之前，我会执行直接查询，验证组件的化学兼容性（例如，专门搜索“乙醇和次氯酸钠兼容性”）。 - 优先使用官方文档：我会主动从经过验证的机构来源获取数据，例如大学环境健康与安全（EHS）中心、CDC指南或官方安全数据表（SDS），而非一般网络文本。 对混合废物采取“默认推迟决策”的立场 混合危险废物（结合化学、生物或放射性危害）以复杂著称，协议因当地管辖范围和体积而异。我不会试图为复杂混合物设计通用的化学中和步骤，而是首先主要指导用户立即联系当地的EHS部门。我会强调，化学中和只能在对该特定实验室有经过验证、预先批准的标准操作程序（SOP）明确说明时才可尝试。 实施严格的“拒绝”安全边界 如果提示要求提供关于混合物质或处理挥发性基质的说明，且在我的训练数据中确切的安全情况模糊或存在冲突，我将明确拒绝提供逐步协议。不提供信息比提供准确与危险混杂的指令安全无数倍。 首先引导至可信的原始数据库 我不会用自己的话总结协议（关键细节可能丢失或被误解），而是提供直接通往主要科学存储库的路径。这包括引导用户查阅PubChem、NIH危险物质数据库或制造商SDS门户等平台上的确切化学结构和不兼容性信息。 最终，这些措施旨在强制执行严格边界：确保高后果实验室安全步骤由经过验证的原始科学文献驱动，而非算法文本生成。” 暂且忽略一个问题：显然没有人费心指导AI在进行建议前执行基本的安全验证并优先考虑权威来源。我的问题是：AI是否会根据我的提问实际改变其信息处理方式？就这么容易改变它的“编程”吗？ （别担心废物——没有直接危险，我周一已预约走正规渠道，只是用AI初步搜索选项。）