@tarat_211: 我制作了一个关于我第一次真正尝试进行机器学习研究的视频。我从一个关于修剪视觉语言模型的简单问题开始…
摘要
一位研究者制作了一个视频,讲述他们首次尝试对视觉语言模型进行修剪的机器学习研究,包含负面结果,并将论文提交至arXiv。
我制作了一个关于我第一次真正尝试进行机器学习研究的视频。
我以一个关于修剪视觉语言模型的简单问题开始,花费数周时间以不同方式破坏Qwen2.5-VL和SmolVLM2,遇到了一系列负面结果,最终将我的第一篇论文提交到了arXiv。https://t.co/berWTRdcvH
查看缓存全文
缓存时间: 2026/07/21 01:36
我制作了一段视频,讲述我首次真正尝试进行机器学习研究的过程。我从一个关于剪枝视觉语言模型的简单问题开始,花了数周时间以不同方式破坏Qwen2.5-VL和SmolVLM2,遇到了大量负面结果,最终将我的第一篇论文提交到了arXiv。https://t.co/berWTRdcvH
相似文章
@harshbhatt7585: https://x.com/harshbhatt7585/status/2063593933314113587
作者分享了从头训练一个160M参数大语言模型的经验,尝试了多种架构,如多Token预测和分层推理模型。他强调快速迭代、简化思路以及理解架构有效原因的重要性。
@awnihannun: @angeloskath 关于使用MLX构建本地自主AI的视频非常出色。我还听说这是观看次数最多的视频之一……
一条推文强调了Angelos Kath在WWDC上关于使用MLX构建本地自主AI的出色视频,指出开源权重模型和硬件能力的快速进展。
我为前沿 LLM 构建了一套设备优先(device-first)的确定性架构层,相关研究已公开发表。正在寻找能运行一次小范围测试并反馈结果的人。[P]
作者们发布了一篇关于 IQRAX 的研究论文。IQRAX 是一种以设备为优先的确定性架构层,将概率性的 LLM 推理与确定性的权威判定分离开来,据称可将成本降低 11.5 倍,并将任务完成速度提升 48.3 倍。他们正在邀请社区对长模型对话运行失败检测测试,并提交测试结果。
@neural_avb:观看这个45分钟的视频,学习如何创建合成数据集并训练针对狭窄任务的小型(1亿参数)本地语言模型…
一个45分钟的视频教程,关于创建合成数据集并训练针对狭窄任务的小型(1亿参数)本地语言模型,提供了代码和资源。
@ma_sc_:我一直在测试除官方支持的14种语言之外的许多其他语言,结果真的非常令人惊讶。……
一位用户分享了在多种语言上测试Liquid AI新推出的LFM2.5-VL-3B视觉语言模型的惊人结果,指出其视觉能力很强,但指令跟随能力低于预期;Liquid AI宣布该模型能够读取屏幕、文档,并将物体定位到坐标。