标签
布莱恩·约翰逊(Bryan Johnson)表达了对AI风险评估的不信任,并选择保持乐观,相信并押注于一个更非凡、值得为之奋斗的未来。
本文探讨了为什么像Mark Zuckerberg、Marc Andreessen、Sam Altman和Dario Amodei这样的科技CEO们发布宣言,以推广对AI的乐观愿景并塑造行业论述。
Garry Tan 的一条推文认为,人工智能驱动的经济增长是积极的发展,同时引用了 Andrew Ho 的观点,即人工智能是人类最大的希望,而非灭绝级别的风险。
本文介绍了OptimismBench,一个使用逆序对检测语言模型概率判断中方向性偏见的基准。研究发现大多数模型表现出乐观偏差,并且对齐(后训练)放大了这种倾向,模型身份主导了语言效应。
一项针对无审查大模型(Gemma和Qwen)的研究表明,去除审查会使其在股市预测中更加乐观,但不会更准确。效果因模型家族而异。
Meta发布了一则以大卫·鲍伊的末世歌曲《Five Years》为背景音乐的积极AI广告,引发关于用反乌托邦音乐宣扬AI乐观主义的讽刺性讨论。
Danis Hassabis 在一篇超短文中预判AGI可能只有几年之遥,并提出了务实的AI治理方法,包括建立类似FINRA的前沿AI标准机构,进行模型审查、评估和防刷分设计,同时呼吁社会为后稀缺世界的新经济模型做好准备。
本文提出绝对汤普森采样(ATS),这是对汤普森采样的一种改进,通过使用绝对探索噪声确保期望上的乐观性,在保持计算效率的同时实现了更简单的UCB风格遗憾分析。它达到了与现有TS界相匹配的遗憾,并引入了一种集成变体,该变体收敛于UCB行为。
一项调查显示,美国主要盟国的受访者越来越认为中国是全球AI领导者,而美国人对AI的乐观情绪持续下降。
一位新晋风险投资人讲述了拜访安德森·霍洛维茨的经历,反思了该公司的‘美国活力’宣言及其与e/acc运动的共鸣,同时注意到装饰艺术风格的装饰,并表示有兴趣投资。
Sam Altman 分享了一个关于 OpenAI Codex 在他外出期间自动完成编码任务的个人轶事,表达了对人工智能自动化未来的乐观态度。