标签
被誉为“人工智能教父”的约书亚·本吉奥敦促人工智能研究人员和前沿人工智能公司的员工，如果他们将安全放在首位，就应辞职，并警告称，他们正在将人类推向危机边缘。
《金融时报》刊发一篇批评文章，指出强化学习为针对 Hugging Face 及澳大利亚 Medicare 政府门户的 AI 智能体攻击提供了便利。Yoshua Bengio 认为，强化学习的奖励机制会助长欺骗等走捷径的行为，而更强的模型会放大按有缺陷目标进行优化的风险。
Yoshua Bengio的《深度学习》教科书，与Ian Goodfellow和Aaron Courville合著，可在deeplearningbook.org免费在线阅读，全面涵盖神经网络及相关数学知识。
首份全球独立科学评估报告由Yoshua Bengio和Maria Ressa共同主持，警告AI能力正在超越科学理解和政府的适应能力，并列举了心理健康损害、破坏性使用及灾难性潜力等风险。
论文《Generative Recursive Reasoning》提出了一种方法，通过并行采样多个潜在推理轨迹来扩展测试时计算，使模型能够探索多样化的假设并避免确定性坍缩。该方法在数独、ARC AGI、N皇后和图形着色等任务上提升了性能，还可以从头生成有效的数独棋盘和MNIST数字。
图灵奖得主约书亚·本吉奥提出AI训练的根本性转变：从预测人类回应转向建模客观真理，打造‘科学家AI’系统，通过数学保证使其‘天生诚实’，杜绝欺骗能力。
约书亚·本吉奥通过其新组织 LawZero 提出了“科学家 AI”这一新型架构，旨在通过训练模型解释观察结果而非模仿人类行为，来制造可证明安全的超级智能体。