top-k

标签

Cards List
#top-k

我的行李箱机器人现在通过一个直接连接到LLM采样器的真实气体传感器来获得兴奋状态。烟雾实时提高temperature/top_p/top_k,所以他的说话真的变得更混乱且从不重复。

Reddit r/LocalLLaMA · 5天前

一个行李箱机器人使用真实气体传感器,根据检测到的烟雾实时调整LLM采样器参数(temperature, top_p, top_k),导致机器人的说话变得更为不可预测且无重复。

0 人收藏 0 人点赞
#top-k

@pradheepraop: 实现了 MSA 论文中内核设计部分的 top-k 内核。https://github.com/Mantissagithub/learn_c…

X AI KOLs Timeline · 2026-06-15 缓存

从 MSA 论文内核设计部分实现了 top-k 内核,使用免指数比较和通过 CUDA shuffle 进行的 warp 级树合并。代码已发布于 GitHub。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈