architecture-optimization

本文介绍了Neural Spectral Capacity (NSC)，一种基于奇异值谱的无需训练的指标，用于评估和优化神经网络架构，并提出了动态规划方法以在约束下进行最优设计。

本文介绍了 Coupled Scaling，一个任务条件框架，用于解释神经缩放定律如何根据任务结构与架构优化系统可访问的几何表示之间的关系而变化。

MiniCPM-V 4.5 是一款 8B 参数规模的多模态大语言模型，凭借统一的 3D-Resampler 架构、创新的数据策略以及混合强化学习方法，实现了高效率与卓越性能。据悉，该模型在显著降低 GPU 显存占用与推理耗时的同时，综合表现已超越更大规模的闭源及开源标杆模型。