30倍更快的分析、自动从SQL生成的GPU内核、AI与实验室培养的肿瘤模型匹配用于癌症治疗，以及无需重新训练即可跨任务学习的大型语言模型。深入了解最新一期《研究聚焦》：https://t.co/X0A6tEHLuw https://t.co/QLHpdWMYnP

硬件加速分析、AI驱动的癌症研究以及知识工作的未来

来源：https://www.linkedin.com/pulse/hardware-accelerated-analytics-ai-powered-cancer-research-nznve 本期内容：

• CoddSpeed：一个硬件加速框架，在Microsoft Fabric中为GPU、FPGA和其他加速器带来高达30倍的分析加速
• GIRAFFE：一个AI驱动的野生动物重识别系统，运行速度比基准方法快120倍，在九个指标上准确率超过0.9
• 采用 vs. 适应：一项对12,000名Copilot用户的纵向研究发现，个人使用大型语言模型的习惯随时间变化甚微
• ConDABench：一个新的基准框架，捕捉了现有大型语言模型数据分析评估所忽略的真实世界复杂性和交互性
• EvoLib：一个测试时学习框架，让大型语言模型能够跨任务积累和演化知识，而无需更新模型参数
• DEPART：一个诊断框架，利用可观察的语言属性和模型条件探测来解释多语言大型语言模型的性能差距
• 浏览大型图：一种新的浏览器原生方法，使用瓦片金字塔和“套管路由”在每一缩放级别保持关键标签可读，无需专用服务器
• HARNESS-LM：一种三阶段训练方法，在赞助搜索中恢复大型检索器98%的精度，同时延迟降低高达27倍
• GPU标量加速：一个自动编译器流水线，将基于CPU的SQL标量函数转换为优化的GPU内核，无需手写代码即填补了分析数据库中的主要性能差距
• OptiMind：一个专用语言模型，将自然语言业务问题转化为求解器就绪的数学公式
• Project Ex Vivo：微软研究人员将AI与实验室培养的肿瘤模型相结合，以理解为何具有相似癌症诊断的患者结果差异巨大，并改进治疗匹配
• AI与知识工作的民主化：一篇新文章，概述了AI实现广泛、公平效益所需的技术和政策步骤

新研究

这项研究介绍了CoddSpeed，一个用于在异构加速器上执行分析工作负载的硬件加速框架。CoddSpeed专为微软的统一云原生数据平台Microsoft Fabric而构建，允许分析引擎利用不断发展的加速器技术，包括GPU、FPGA、ASIC、NVLink和InfiniBand。

作者描述了一项多年努力，旨在重新设计Fabric以适应加速分析工作负载，同时保持跨硬件代的灵活性。他们提出了一个源自微软张量查询处理器（TQP）的基于GPU的执行引擎，以及一个针对高速互连优化的数据移动系统。

测试结果显示，与基于CPU的执行相比，在多个生产和基准场景中均有显著提升，包括在TPC-H 1TB工作负载上实现高达30倍的加速。这项工作为构建大规模、加速器原生的分析系统提供了实用经验，强调了在异构计算新兴时代实现性能和可移植性的策略。

新研究

这项研究提出了一个用于野生动物自动重识别的系统，这对广泛的生态研究至关重要。GIRAFFE（基于图像的通用人工智能动物特征提取重识别系统）专注于长颈鹿，并可扩展到其他物种。它使用局部特征匹配来识别已知个体，并将未知个体分区以便于大规模标签注释。作者还开发了一个用户界面，使技术和非技术用户都能管理大型数据集并分析重复调查数据。

与现有需要手动标记以便于个体重识别的方法不同，GIRAFFE自动化了重识别流水线中的关键步骤，在保持准确性和可解释性的同时减少了人工工作量。在实际数据集上验证，该系统在九个标准指标上准确率超过0.9，部分指标接近完美分数。它的运行速度比基准方法快120倍，成本效益提高了132倍。

准确的野生动物重识别对于广泛的生态研究至关重要，包括通过捕获-再捕获进行密度估计、人口统计分析和行为研究。这项技术支持濒危物种追踪，改进对种群动态和移动模式的分析，并最终实现数据驱动的保护策略。

新研究

这项研究分析了个体用户使用大型语言模型的行为如何随时间变化，这是当前研究大多缺失的一个维度，后者描绘的是静态的使用情况。

作者通过检查12,000名随机抽样的微软Bing Copilot用户的对话轨迹来填补这一空白，并将其与WildChat-4.8M的数据进行比较。虽然Copilot数据包含显著的人口层面趋势，但关于个体用户轨迹的证据要弱得多。用户的习惯往往随时间变化很小。

研究还发现，不同活跃程度的用户之间存在显著差异：更活跃的用户拥有更成功的对话，并使用大型语言模型处理更复杂、更专业导向的任务。结果表明，改变现有用户行为是困难的，并且大型语言模型的使用在不同个体之间差异很大。

新研究

ConDABench是一个用于生成对话数据分析基准并评估外部工具在这些生成基准上表现的框架。这解决了真实世界数据分析任务的问题，这些任务通常目标不明确且数据不干净。用户交互对于理解和澄清用户意图是必要的，这对解决这些复杂任务至关重要。现有用于评估大型语言模型数据分析能力的基准没有捕捉到这些复杂性，也没有为交互性提供一等支持。

在这些基准上对最先进的大型语言模型的评估显示，虽然新一代模型能解决更多实例，但它们不一定更擅长解决需要持续、长期参与的任务。ConDABench为模型构建者提供了一条途径，以衡量向真正协作模型（能够完成复杂交互任务）的进展。

新研究

这项研究介绍了EvoLib，一个测试时学习框架，使大型语言模型能够通过跨任务积累和演化知识来自我改进，而无需参数更新。这解决了当前大型语言模型最大的缺点之一——大多数模型无法从一次对话到下一次对话中学习经验。

该方法不是调整模型参数，而是维护一个共享的知识抽象库，包括模块化技能和反思性见解，这些是从模型自身的推理轨迹中自动提取的。为了支持持续改进，作者引入了一个有原则的权重和整合机制，同时优化即时效用和长期价值。这使得简单的、实例特定的抽象能够随时间演化为更通用、更可复用的抽象。在数学推理、代码生成和多轮智能体环境等具有挑战性的基准上，EvoLib在无需真实反馈的情况下，显著优于顶级的测试时缩放和学习方法。

新研究

这项研究将多语言大型语言模型评估从被动映射跨语言性能差距，重构为一个可解释的诊断框架。这解决了一个更深层次的问题：在运行基准之前，可以预测多少差距，而又有多少差距仍然是每个检查点不可约的残差？答案是通过使用可观察的语言属性（文字系统、语系、类型学距离、资源类别）和廉价的模型条件探测（分词器繁育度、与英语的内部表示相似性）得出的。

本文将多语言评估从被动的性能映射重构为一个可解释的诊断框架，并提供了具体的杠杆来针对语言差异的根本驱动因素。

新研究

这项研究解决了在没有专用服务器的情况下在网页浏览器中可视化图的挑战。作者创建了一个瓦片金字塔，实现了语义缩放视图，其中最重要的节点标签在每一缩放级别都保持可读，类似于主要地理标签在数字地图上的持久显示。边通过一种称为“套管路由”的新方法进行路径规划，该方法搜索约束Delaunay三角剖分的对偶图，通过自由空间选择一系列三角形，然后应用漏斗算法计算选定套管内的最短路径。还部署了几种启发式方法来加速路由。

新研究

本文介绍了HARNESS-LM（HLM），一种旨在在竞争激烈的赞助搜索领域平衡检索质量与生产延迟的新方法。HLM是一个三阶段训练框架，用于将大规模检索器的能力转移到紧凑、成本高效的模型中。该方法包括：（1）通过微调一个十亿参数规模的小型语言模型（SLM）来训练一个高性能的参考（“教师”）检索器；（2）通过L2目标对齐查询表示，将知识蒸馏到一个小于6亿参数的学生编码器中；（3）应用最终的对比精炼阶段，优化学生的检索性能。

作者还对关键设计选择进行了全面的实证研究，包括对齐目标、嵌入维度、模型规模、架构和优化策略，以确定在生产环境中最为有效的配置。在真实世界的Bing Ads评估基准上，HLM在多种设置下恢复了参考检索器超过98%的精度，同时在NVIDIA A100 GPU上实现了高达27倍的在线查询编码器延迟降低和20倍的吞吐量提升。在Bing Ads上的在线A/B测试显示，与当前检索器相比，收入、展示和点击量均有显著提升，清楚地凸显了HLM方法在真实赞助搜索场景中的实际效能。

新研究

这项工作介绍了一个自动编译器流水线，将基于CPU的SQL标量函数转换为优化的GPU内核，解决了GPU加速数据库中的一个主要差距。虽然之前的系统主要侧重于加速关系运算符，但标量函数在分析查询中通常仍是关键的性能瓶颈。

该系统使用基于LLVM/MLIR的编译器，将数百个生产数据库标量函数转换为GPU代码，同时保留其原始语义以及对数据类型和数据库上下文的支持。作者在真实工作负载和一个增强的TPC-H基准（旨在在标准基准中强调标量函数）上评估了该方法。

集成到最先进的GPU数据库系统中后，该方法相比领先的CPU数据库取得了显著的性能提升。生成的GPU内核性能与手动优化的实现相当，展示了在GPU上加速复杂SQL分析的实用且可扩展的途径。

新研究

OptiMind是一个专用语言模型，旨在提供复杂商业环境中的领域专业知识。它作为 Foundry 中的实验性模型发布（https://www.linkedin.com/redir/redirect?url=https%3A%2F%2Flabs%2Eai%2Eazure%2Ecom%2Fprojects%2Foptimind%2F&urlhash=UkOq&trk=article-ssr-frontend-pulse_little-text-block），将自然语言业务问题转化为求解器就绪的数学公式。

与其他生成式AI模型不同，OptiMind解决的是关于优化和在真实操作约束下决策的根本不同类别的问题，在这些约束下，那些在干净环境中看起来令人印象深刻的模型可能会表现不佳。使用这些系统的人很少是研究人员，而可能是调度员、工厂经理和工程师，他们需要在约束波动和权衡带有实际后果的系统中获得可靠、实用的解决方案。

新研究

即使有了更精确的癌症治疗方法，具有相似诊断的患者也可能结果截然不同。微软的Project Ex Vivo专注于细胞行为如何以及应该影响癌症的分类和治疗。通过将AI与实验室培养的肿瘤模型相结合，研究人员正在了解为什么会发生这些差异，以及为什么实验室结果并不总是与患者结果相匹配，从而有助于迈向更匹配、更有效的治疗方法。

文章

这项研究探讨了AI在多大程度上使知识工作民主化，并描述了确保AI能够带来最广泛利益所需的技术和社会干预措施。

相关近期研究表明，当人们在工作中使用生成式AI时，主要用于高复杂度的知识工作任务。然而，这留下了谁才是这些工具的使用者和受益者的问题。

作者建议如下：

技术优先事项

1. 改善隐私和安全，使AI能够安全地用于敏感领域。
2. 投资于针对创造性、开放式工作的后训练，以分别扩展AI使用有益于新手用户与专家用户的任务集。
3. 跨语言和文化扩展性能与安全性，以确保全球可及性和公平性。

政策优先事项

1. 通过以增强而非取代人类决策的方式整合AI来保护工人自主权。
2. 通过劳动力培训、再技能培训和支持被替代工人来分享AI驱动的生产力收益。
3. 扩大AI的获取和素养，同时继续扩展互联网和宽带基础设施。