@jeremyphoward: 我觉得训练模型自主去尝试自己做所有事情的趋势是反人类的。…
摘要
Jeremy Howard 反对训练AI模型自主地做所有事情,而主张训练LLMs来支持人类学习、创造力和迭代实验。
@tokumin 我觉得训练模型自主地去尝试自己做所有事情的这种趋势是反人类的。
我认为,我们应该训练LLMs来支持人类的学习、创造力和迭代实验。
查看缓存全文
缓存时间: 2026/05/26 02:47
@tokumin 我认为当前训练模型自主尝试完成所有任务的趋势是反人类的。
依我之见,我们应该训练大型语言模型(LLM)去支持人类的学习、创造和迭代实验。
相似文章
引用Jeremy Howard
Jeremy Howard批评了Anthropic在前沿AI安全方面的做法,认为拥有排名最高模型的实验室不应将其用于前沿研究,以减缓自我改进并防止权力失衡。
@techwith_ram: https://x.com/techwith_ram/status/2064925285003542820
探讨了AI编程中从人类在环到自主代理循环的转变,其中代理自我提示并迭代,讨论了减少人类控制的前景与隐藏成本。
目前正在构建的大多数AI代理都完全搞错了问题
一种观点认为,当前对AI代理自主性的关注是错误的;真正的瓶颈在于信任和缺乏人类可见性。下一个飞跃将来自更好的人机协作设计,而不是更智能的模型。
AI是否变得太过"安全",以至于对创意工作实际上毫无用处?
文章认为,过于安全且受到审查的AI模型阻碍了创意探索,而开放模型则提供了更多的实验自由。
@leerob: 人类尝试困难的事情,失败,学习,并通过重复变得更好。AI模型并没有你想象的那么不同…
通过人类学习中的练习、指导和强化作为类比,解释AI模型如何学习,涵盖预训练、监督微调和强化学习。