标签
本文提出了一种局部感知的私有类识别方法，以及一种基于可靠最优传输的方法（ReOT），以解决极端标签偏移下的域适应挑战，特别是区分共享类与私有类。
本文介绍了 MultiLinguahah，这是一种基于 BYOL-A 编码器表示并使用隔离森林（Isolation Forests）进行无监督多语言声学笑声分割的方法。作者证明，通过将笑声检测视为异常检测任务，该方法在非英语环境下的表现优于最先进（SOTA）的监督方法。
MSR-MEL 提出一种无监督框架，利用大语言模型对多视角证据进行合成与推理，实现多模态实体链接，在标准基准上全面超越既有方法。
# 基于社区的立场分布与论点组织方法 来源：[https://arxiv.org/html/2604.16852](https://arxiv.org/html/2604.16852) \\jvol vv\\jnumnn\\jyear2025\\dochead\\pageonefooter行动编辑：\{action editor name\}。收稿日期：DD Month YYYY；修改稿日期：DD Month YYYY；录用日期：DD Month YYYY。\\affilblock Laks V. S. Lakshmanan2 Raymond T. Ng3 University of British Columbia University of British Columbia University of Bri
C-Mining提出了一个无监督框架，通过利用嵌入空间中的跨语言几何错位来发现LLM训练数据中的文化种子，实现可扩展的合成数据生成以支持文化对齐，无需手动或LLM监督。
本文提出“多样性字典学习”，证明在无需强假设的情况下，仅凭观测数据即可识别潜在变量间的关键集合论关系，实现部分甚至完全可识别性，且仅需极小的归纳偏置。
# 通过对比预训练的文本和代码嵌入 源：[https://openai.com/index/text-and-code-embeddings-by-contrastive-pre-training/](https://openai.com/index/text-and-code-embeddings-by-contrastive-pre-training/) ## 摘要 文本嵌入是许多应用中的有用特征，例如语义搜索和计算文本相似性。以往的工作通常训练针对不同用例定制的模型，在数据集选择、训练目标和模型架构方面各不相同。在这
OpenAI的Image GPT（iGPT）将GPT-2 Transformer应用于像素序列，用于图像生成和分类。它展示了用于语言处理的相同架构能够以无监督的方式学习连贯的视觉特征，并在图像分类基准测试中实现具有竞争力的性能。
OpenAI 发布了 MuseNet，一个基于 GPT-2 架构的深度神经网络，通过从数十万个 MIDI 文件中学习模式，能够生成 4 分钟的音乐作品，包含 10 种乐器。该模型可以结合多种音乐风格并以新颖的方式融合它们。
OpenAI 推出 GPT-2，这是一个拥有 15 亿参数的基于 Transformer 的语言模型，在 40GB 的互联网文本上进行训练，在语言建模基准上达到了最先进的性能，并在阅读理解、翻译、问答和摘要生成等任务上展示了零样本学习能力。出于安全考虑，仅公开发布了较小的模型和技术论文，而非完整的训练模型。
OpenAI 提出了一种两阶段方法来改进语言理解：首先在大规模无监督数据集上使用语言建模对 transformer 模型进行预训练，然后在较小的有监督数据集上针对特定任务进行微调。该方法在包括常识推理、语义相似度和阅读理解在内的多种任务上取得了最先进的成果，同时需要的超参数调优工作最少。
OpenAI 展示了一个无监督系统，通过训练乘法 LSTM 来预测亚马逊评论中的下一个字符，学习情感表示。该系统在斯坦福情感树库(Stanford Sentiment Treebank)上实现了最先进的情感分析效果(91.8% 准确率)，同时所需的标注样本比监督学习方法少 30-100 倍。模型发现了一个独特的'情感神经元'，能够捕捉情感信息，可以直接操纵来控制文本生成的情感。
OpenAI 提出了一种无监督第三人称模仿学习方法，使智能体能够从不同视角的演示中学习，无需显式的状态对应，利用域混淆技术来学习视角无关的特征。
# 变分有损自编码器 来源: [https://openai.com/index/variational-lossy-autoencoder/](https://openai.com/index/variational-lossy-autoencoder/) ## 摘要 表示学习旨在将观测数据的某些方面暴露在学习表示中，这种表示便于分类等下游任务。例如，对于二维图像，一个好的表示可能是只描述全局结构并丢弃有关详细纹理信息的表示。在本文中，我们提出
OpenAI 发布了关于生成式模型的概览，将其作为开发机器理解世界的方法，解释了这些模型如何通过学习生成与训练集相似的数据来工作，以及它们在各个领域的潜在应用。