llm-chatbots

Tag

Cards List
#llm-chatbots

If AI chatbots can't recognise when correct advice is dangerous, how safe are autonomous AI agents?

Reddit r/AI_Agents ↗ · 2026-10-22

NYU 和威斯康星大学麦迪逊分校的研究发现,AI 聊天机器人在回答涉及技术助长的家庭暴力问题时,60% 的回答遗漏了关键安全警告。文章据此引出对自主 AI 代理安全性的担忧,探讨是否应要求代理在高风险情境下请求人工批准。

0 favorites 0 likes
← Back to home

Submit Feedback