AI是否应该在面向儿童的内容中实现完全自主？我们选择了不这样做，这大大减慢了我们的进度。

Reddit r/artificial 新闻
ai-safety educational-content human-in-the-loop kids-content ai-ethics

摘要

作者讨论了避免在生成儿童内容时使用完全人工智能自主的伦理决定，选择强制性人工审查以确保安全性和可信度。

我们为K-5学习材料（练习册、练习题、拼写内容）构建了一个人工智能内容生成引擎。从技术上讲，它可以在零人工审查的情况下运行。但我们没有让它这样做。每个问题、每个模板、每个TTS行在到达孩子之前，都经过教师审核。课程本身是与公立学校教师共同设计的，在编写任何生成代码之前历时两年。这比纯自动化更慢且更昂贵。我们还在应用内发布了一个简单的报告按钮，假设即使仔细的人工审查过程有时也会遗漏内容。真诚地询问社区：对于专门面向儿童的内容，你认为完全人工智能自主会变得足够可信吗？或者无论模型变得多好，永久的人工把关只是这一类别的正确上限？
查看原文

相似文章

孩子们眼中的AI：他们自己的话

MIT Technology Review

《麻省理工科技评论》采访了10至18岁的孩子，了解他们对AI的态度，发现大多数孩子将AI用于搜索和作业等无害用途，同时也对创造力和社会影响表达了细致入微的担忧。