ai-accountability

一个思想实验，质疑人工智能系统是否应该维护一个可验证的记忆轨迹，记录其在决策时的知识和信念，以增强信任和问责制。

认为软件工程始终是必要的，因为需要人类问责来确保AI构建安全且正确的系统。

文章指出，AI系统正在做出具有重大影响的决策，却缺乏透明度和问责制，呼吁制定硬性法律，强制要求披露、解释以及人类对AI决策承担责任。

一位英国议员正在起诉埃隆·马斯克的xAI，涉及深度伪造内容，这为人工智能公司在合成媒体方面的问责制设立了一个里程碑式的法律测试。该案可能为人工智能公司如何对有害生成内容承担责任开创重要先例。

EVE-Agent 提出了一个自我进化搜索智能体框架，通过生成问题、答案和证据片段，并基于证据的边际准确性增益进行训练，确保证据可验证性。这提高了基于依据的正确性，且无需人工标注。

Kyle Kingsbury讨论了机器学习系统中人类问责的新兴角色，包括内容审核员、法律代表和合规官员，这些人可能对AI系统的故障承担责任。