Ask HN：你与GenAI的“糟糕”时刻是什么？

# 在 Hacker News 上提问：你用 GenAI 时遇到的“糟糕了”时刻是什么？ 来源：https://news.ycombinator.com/item?id=48406174 https://news.ycombinator.com/vote?id=48419396&how=up&goto=item%3Fid%3D48406174 我不会否认它们是有用的工具，但科技 CEO 们关于它们将在 12\-18 个月内取代所有白领工作者的夸张说法，把期望值抬得如此之高，以至于我至今仍然站在“花哨的自动补全”阵营里。感觉它们离取代任何人的程度还差得远，至少在我工作的地方是这样。虽然有用，但它们远没有承诺的那么有用。幻觉和糟糕的指导仍然是日常问题，让我无法信任任何智能体。 如果他们对承诺更务实一些，而不是把目标设定为两年内取代我们所有人，我可能会对这个技术更兴奋。但现在他们的说法被证明是假的，他们又试图往回退缩，已经太晚了。兴奋的时刻已经过去，它只是存在的东西。 数据中心争夺战也给这项技术泼了一盆冷水，因为他们对我附近的城镇提起诉讼，强行要求开始建设，尽管城镇投票反对。城镇无力承担这场斗争，所以人民的意愿和城镇的利益被碾压了。看着真是相当恶心。 https://news.ycombinator.com/vote?id=48419485&how=up&goto=item%3Fid%3D48406174 是啊，我觉得缺失的一点是，他们的第一个想法是“我们可以用更少的人做同样的事”，而不是最初让我对技术产生兴趣的那种增长思维。 而且令人惊讶的是他们没有意识到这一点，因为大多数科技行业只有在办公室（无论是实体还是虚拟）里坐满了愿意在工作和下班后花钱的人的世界里才能获得报酬。 现在仍然很少有人问“我们如何用更多的人做更多的事？”但能想出这一点的人将会成为赢家（如果没有人想出来，我们都会输，即使你成功转型到一个仍然存在的工作，围绕你的世界也将是一场噩梦）。 https://news.ycombinator.com/vote?id=48418158&how=up&goto=item%3Fid%3D48406174 我以超低价买了一个 Alesis QS8\.1，状态完美（90 年代顶级数字钢琴/合成器）。 然后我意识到所有与之相关的软件（我从废弃网站收集并存档在 GitHub 上）都非常古老，在厌倦了每次都用 WINE 之后，我决定需要一个跨平台的现代替代品，能完成这些不同程序所做的所有事情（同时还能利用现代计算机实现一些可能的新功能）。 我以为这会非常困难，因为计算机与合成器的通信几乎完全通过 sysex 命令（其中实际的波形文件编码协议没有文档记录）。 Claude 指导我在 GHIDRA 中检查一些原始软件，当晚我就有了一个可用的演示……现在我只是在玩着添加新功能。 https://news.ycombinator.com/vote?id=48419513&how=up&goto=item%3Fid%3D48406174 出于好奇，我对我的相机镜头固件更新程序做了类似的事情，而且我没有使用任何 MCP。它能够使用 Ghirda API 编写一个自动化脚本来反编译程序，然后通过阅读代码进行代码探索。 Claude 对好的变量名的需求远低于人类，所以重命名/类型定义似乎不那么必要。 https://news.ycombinator.com/vote?id=48419523&how=up&goto=item%3Fid%3D48406174 就在昨天晚上，我给了 Claude Code 以下提示，一字不差： “每当我在 Chromecast 4k 上启动 Kodi 时，它就会崩溃。我认为这与某个插件或皮肤有关。如果我清除缓存，它会好一会儿，但最终会再次出现。你能通过 adb 连接到设备吗（我已经运行了 adb connect），并精确调试出崩溃的地方？完成后，提出一个解决方案。如果需要通过 adb 下载、修复、重建然后上传损坏的扩展，不要犹豫。我在这台 Mac 上应该有 Android 开发工具（Gradle 等）。” 果然，在无人干预的情况下，它定位了崩溃点，下载了 Kodi 源代码，修补了一个自 2016 年以来就存在的 bug，重新编译，签名，然后推送到我的 Chromecast，同时小心翼翼地保持我所有设置不变。 还让它创建了一个 PR（目前尚未发布；将在未来几周内进行更多测试）。 https://news.ycombinator.com/vote?id=48418620&how=up&goto=item%3Fid%3D48406174 现在看其实非常简单，但去年某个时候，我试图弄清楚用我的卡车把我女儿的车拖运到全国各地需要什么：有哪些拖车/拖车架选项，它们要花多少钱，我的卡车实际能拖运总重量吗，等等。 我开始像用 Google 一样用 ChatGPT 提示，一次一个小提示，询问各种细节。但试了一两次之后，我直接问了：“我想用我的 B 型号卡车把一辆 A 品牌的车从 C 点拖运到 D 点，有哪些选项？”然后它给我写了一份报告，里面有对比表格、计算的拖运重量以及其他不同选项的细节。 在那一刻，我心想：“哦。这不一样了。而这还只是开始。” https://news.ycombinator.com/vote?id=48419159&how=up&goto=item%3Fid%3D48406174 类似地，我用 Gen AI 审查了一笔房地产购买。我提供了 Zillow 的房源照片、所有电器的序列号、配电板以及我在看房时拍摄的一些额外区域（不在图片中的）。 我提示 AI 像房屋检查员一样写一份报告，它实际上做得更好，识别出了一些付费 750 美元的检查员忽略的问题。 https://news.ycombinator.com/vote?id=48418364&how=up&goto=item%3Fid%3D48406174 作为工作的一部分，我有一个很大的 token 预算。一位同事在扫描一些仓库的漏洞作为测试。他发现一个流行项目中有一个看起来可怕的远程漏洞，并把它分享给我，让我看看第二意见。我启动了一个本地实例的项目，并针对它运行了 POC：什么也没有。原来它需要调整一些配置旋钮来降低一些安全保护。 所以我告诉 AI 发生了什么，并让它修复 POC，使其能在默认配置下工作。它在那上面折腾了几分钟，然后高兴地把 POC 修补成了一个武器化的版本。我运行了它。我刚刚下载、自己编译并用默认配置文件启动的本地实例立即崩溃了。 我浑身冒冷汗。我读过这本小说。我看过这部电影。哇。我在一个核信息炸弹的控制台上有一个闪烁的光标。我整夜辗转反侧，只睡了大约半个小时，第二天上班时看起来就像见了鬼一样。 好的一面是，这给了我们团队非常明确的伦理和道德指导：我们要这样做，并且我们要把我们的发现分享给相关的作者，因为我们可以这样做。因为我想生活在一个好人努力在坏人找到问题之前修复问题的世界里，我决定帮助建造那个世界。就像，好吧，我想这就是我现在要做的事了。 https://news.ycombinator.com/vote?id=48417845&how=up&goto=item%3Fid%3D48406174 2025 年假期期间，我的炉子坏了，我无法在两天内约到维修人员。我的房子变得非常冷，所以我爬到阁楼里，拍了几个炉子试图启动的视频，然后发给了 Gemini。它立即诊断出了问题，并让我在炉子试图点火时旋转其中一个组件（一个小排气扇）。炉子立刻启动了。我不得不重复了几次，但它一直工作到 HVAC 服务人员到来。 https://news.ycombinator.com/vote?id=48419105&how=up&goto=item%3Fid%3D48406174 这周也发生了非常类似的事情，还有一个有趣的故事！ 我打电话给我常去的 HVAC 公司，因为租户报告说空调不制冷了。当我打电话时，我遇到了他们最新的人工智能语音助手来帮助我，那是一次糟糕的体验，在助手告诉我办公室会回电话之后，我就再也没有收到回音。 所以，我去了那所房子，用 ChatGPT 帮我诊断问题，拍了室外压缩机面板的一些照片。它引导我检查内容，我提供了一些我看到的诊断代码……它引导我进行了非常简单的维修——更换那个 25 美元的电容。光是诊断问题的上门服务费就要花掉我将近 4 倍的钱。 所以，这次奇怪的经历是：Gen AI 让我失去了对我常去的 HVAC 公司的信任，而更多的 Gen AI 基本上让我在同一天内取代了我的 HVAC 公司并自己完成了维修。 https://news.ycombinator.com/vote?id=48419007&how=up&goto=item%3Fid%3D48406174 这周也遇到了类似的事。燃气烘干机启动了，但不加热。Gemini 建议说通常是热熔断器的问题。我拆下后面板，上传了一张照片给 Gemini。它指给我看熔断器的位置（例如“蓝色和红色电线上面的白色矩形”），并引导我进行测试。不仅如此，在我提供了烘干机的型号后，它还链接了我需要的零件。最后，它建议清理通风口，因为熔断器很可能是因为热量无法正常排出而熔断的。彻底清理排气管道并更换了一个 5 美元的熔断器后，烘干机工作正常了。 https://news.ycombinator.com/vote?id=48417972&how=up&goto=item%3Fid%3D48406174 我一直在安装厨房，ChatGPT 在和我 brainstorming 以及解决问题方面很有用。当然，如果宜家的文档不那么稀疏，我也不需要它，但那是另一个故事了。 我想我看到了与新手程序员类似的益处。专业人士会对我的工作嗤之以鼻，但他们既昂贵又难以合作。与此同时，我完成了工作。 另一方面，我不会把任何开发工作交给 AI。我太担心我的技能会退化，或者不能真正学到新东西。 https://news.ycombinator.com/vote?id=48418433&how=up&goto=item%3Fid%3D48406174 宜家的说明真奇怪。 感觉刚好有足够的信息来推断每一步。但只是刚刚好——错过一个线索，你第 7 步可能就把东西装反了，直到第 37 步才会发现。 我觉得制作这些说明的人大概能做一个极难的《纽约时报》填字游戏。 https://news.ycombinator.com/vote?id=48418074&how=up&goto=item%3Fid%3D48406174 那真不错。 （不过，这种动手故障排除步骤/修复方法，在互联网变得一团糟之前，人们也可以很容易地通过谷歌搜索找到。） https://news.ycombinator.com/vote?id=48417904&how=up&goto=item%3Fid%3D48406174 你能详细说明一下吗？你是直接向 Gemini 提示发生了什么，还是给了 Gemini 炉子的照片等等？ https://news.ycombinator.com/vote?id=48419484&how=up&goto=item%3Fid%3D48406174 是的，这是我的提示。它还包含一个视频：“我有一个炉子，当我重置这个设备的电源时它不加热。它的风扇系统发出一些噪音，大约持续三到四分钟，然后我就得到一个错误灯。你能帮我弄清楚可能是什么问题吗？”这个提示不是最好的，但我当时在阁楼里冻得不行。 https://news.ycombinator.com/vote?id=48418095&how=up&goto=item%3Fid%3D48406174 > 拍了几个炉子试图启动的视频，然后发给了 Gemini 我猜是录了视频并在 Gemini 手机应用程序中上传；然后可能说了“出什么问题了？” Gemini 在那种事情上非常擅长。我最近得到了一些棘轮捆绑带，需要用到它们，但当时我不知道它们叫什么，所以我不知道在 Google 上搜索什么。我打开 Gemini 应用，按下拍照按钮（就像在短信中一样），并附上了一条信息，类似于“这是什么，我该怎么用？” https://news.ycombinator.com/vote?id=48418891&how=up&goto=item%3Fid%3D48406174 Gemini 差点害死你。 排气鼓风机不工作触发了安全装置，阻止了炉子点火。 手动旋转它绕过了安全装置。 你可能吸入了一氧化碳，比你知道的多得多。 https://news.ycombinator.com/vote?id=48419498&how=up&goto=item%3Fid%3D48406174 实际上我是反向旋转它的，但足以启动排气鼓风机。而且它在大约 6 个小时内都能很好地重新启动。可能是轴承的问题。另外，顺便说一句，我有多个一氧化碳/空气质量监测器，没有任何警报触发或报警。 https://news.ycombinator.com/vote?id=48419369&how=up&goto=item%3Fid%3D48406174 你能详细说明一下吗？我像另一个评论者一样理解为，鼓风机风扇只需要手动启动一下，然后在炉子启动后继续运行。你所说的对我来说只有一种情况下成立，那就是手动旋转风扇在启动时绕过了安全装置，让炉子启动了，但这是否意味着如果排气扇在正常运行期间停止（比如堵塞等），炉子会继续运行，把 CO 排放到家里？ https://news.ycombinator.com/vote?id=48418988&how=up&goto=item%3Fid%3D48406174 根据描述，我认为是电容老化或缺乏润滑导致鼓风机无法自行启动，但鼓风机（以及整个炉子）如果手动给它一个启动旋转就能工作。 https://news.ycombinator.com/vote?id=48419364&how=up&goto=item%3Fid%3D48406174 我正在和我 10 岁的孩子一起做一个科学实验（电磁学），准备在他的学校科学展上展示。我们在实验过程中遇到了一个我们自己无法调试的小问题。我开启了 Gemini 实时视频通话来帮助我们找出根本原因。它能够清晰地阐述所有可能的问题，并最终成功让我们的装置如预期那样工作。结果发现，我缠绕在螺丝上的电线在与电池连接的那一侧有一些绝缘层没有刮干净。Gemini 能够捕捉到这个细节，而我肉眼却看不到。我的孩子和他的两个朋友不仅对实验印象深刻，而且因为我们与 AI 进行的实时音频/视频对话几乎像是魔法一样！ https://news.ycombinator.com/vote?id=48417379&how=up&goto=item%3Fid%3D48406174 我可以一直说下去，但最近 Claude 反编译了我的露营车的固件，记录了所有 CAN 接口，然后编程了一个 ESP32 模块与露营车的集成系统（电源、HVAC、照明、水箱）进行通信。这种嵌入式系统集成完全超出了我的能力范围。 我真的不理解 AI 的反对者。我每天都使用 Claude，无论是作为解决方案架构师的专业工作，还是在各种我独自根本无法触及的个人项目中。 https://news.ycombinator.com/vote?id=48417692&how=up&goto=item%3Fid%3D48406174 我也不理解。“这只是个随机鹦鹉”。 我想这些人要么是在撒谎，以便证明他们高薪工作的合理性，要么就是根本不知道如何使用 LLM 或提示 GenAI 工具。 https://news.ycombinator.com/vote?id=48417864&how=up&goto=item%3Fid%3D48406174 我来解释一下：这些工具是非确定性的，人们有不同的体验。对少数人来说，每次互动都完全搞砸了，他们认为 Gen AI 的鼓吹者在撒谎；对另一些人来说，聊天机器人连续打出全垒打，让他们能够在 CAN 总线上添加微控制器。当这些幸运儿的好运耗尽时，他们开