@MaziyarPanahi: 我们获得了每秒755个token！这是OpenMed privacy-filter v2（nemotron，MLX 8位）读取一份13,000个token的临床文件…

X AI KOLs Timeline 模型
privacy-filter nemotron mlx 8-bit pii-redaction clinical-data streaming

摘要

OpenMed privacy-filter v2使用nemotron和MLX 8位，在Mac上实现了每秒755个token的处理速度，从一份13,000个token的临床文件中脱敏了22个类别的1,152个PII标识符，且数据从未离开本机。

我们获得了每秒755个token！🔥 这是OpenMed privacy-filter v2（nemotron，MLX 8位）正在读取一份13,000个token的临床文件，并在流式处理中脱敏每个标识符。在Mac上捕获了22个PII类别中的1,152个。数据从未离开本机。https://t.co/SeoCvSIiGA
查看原文
查看缓存全文

缓存时间: 2026/07/04 20:53

我们达到了每秒755个token！🔥

这是OpenMed隐私过滤v2（nemotron，MLX 8-bit）正在读取一份13,000 token的临床文件，并在流式处理过程中实时遮盖所有标识符。在Mac上，它成功捕获了1,152个标识符，覆盖22个PII类别。没有任何数据离开过这台机器。https://t.co/SeoCvSIiGA

相似文章

maziyarpanahi/openmed

GitHub Trending (daily)

OpenMed 是一个开源、本地优先的医疗保健人工智能工具包，提供实体提取、PII 去标识化以及超过 1,000 种专门的医疗模型，所有这些都在设备上运行，无需依赖云端。