标签
本文提出了一种用于块扩散语言模型的混合Mamba-注意力架构，该架构将反向Mamba扫描限制在活跃去噪块内，从而实现了块间的精确缓存，并在长上下文生成中达到了高吞吐量。
提出几何感知R结构KAN（GRS-KAN），一种将R函数集成到KAN中以编码几何和逻辑约束的混合神经架构，在含不连续性的回归基准上实现了高达67%的RMSE降低。
介绍 Neuro-Bayesian-Symbolic Residual Attention Shallow Network (NBS-RASN)，一种用于开源生态系统中可解释网络安全风险评估的混合神经架构，使用80个可解释神经元分布在12层，并带有硬约束以保证可解释性。
英伟达的Nemotron-3-Super-120B-A12B，一种混合Mamba和混合专家模型，仅使用四块RTX 3090 GPU就实现了在504K token下的完美大海捞针检索。
文章认为，知识图谱与向量数据库在企业AI中服务于不同目的，应结合使用而非相互替代。它推荐采用混合架构或像60x这样的托管解决方案，以同时处理语义检索和结构推理。
本文介绍了两个代理型AI框架：DeepTS/DeepCollector和DeepScribe，它们利用混合本地-云端架构和大语言模型，自动化科学工作流程，包括时间序列数据整理以及将物理讲座转化为结构化报告。
Interfaze introduces a new hybrid AI model architecture combining DNN/CNN encoders with transformers to achieve superior accuracy and cost-efficiency for deterministic tasks like OCR, vision, and STT compared to generalist models.
这篇文章讨论了本地AI模型在日常任务中日益增长的可行性，暗示了向混合架构的转变，这种架构优化成本和延迟，而不是仅仅依赖前沿的云模型。