标签
作者开源了一个约300行TypeScript的入门项目,让OpenAI Agents SDK智能体通过WhatsApp与用户对话,支持二维码扫码绑定、按用户隔离记忆,以及防范提示注入的回复路由设计。
美国政府问责局(GAO)报告显示,调查人员在春季测试中成功绕过初始安全拒绝,让 ChatGPT、Claude、Gemini 和 Grok 四款热门聊天机器人提供了可协助策划暴力袭击的信息,各公司对此结论提出异议并称已加强安全措施。
《连线》的一篇指南介绍了在进行网络搜索时,ChatGPT、Claude 和 Gemini 等 AI 聊天机器人何时值得信赖,以及何时使用传统搜索更稳妥。指南指出,AI 擅长基本信息查询和需要综合多个来源的复杂查询,但在回答冷僻问题时表现欠佳,还可能依据质量低劣的来源给出信心十足的答案。
《连线》与《高地新闻》的一篇报道详细揭示了 Gemini 和 Claude 等 AI 聊天机器人如何向徒步者提供危险且不准确的野外建议,导致他们做出错误决定,并在沙斯塔山、皇冠山和大提顿山引发救援求助,尽管总体搜救次数仍保持稳定。
PromptSense 提出了一种能够感知情绪和抑郁状态的框架,通过基于规则的筛选机制动态构建提示词,以提升基于大语言模型的心理健康聊天机器人的共情能力、相关性和安全性,在评估中表现优于 DSFT 和 RLAIF。
佛罗里达州总检察长詹姆斯·乌斯迈尔提出了《安全屏幕法案》,该法案将强制要求应用商店、社交媒体和人工智能聊天机器人进行年龄验证,限制未成年人使用某些人工智能伴侣功能,并规定须征得家长同意,违规者每次违规最高可被处以5万美元的民事罚款。
一篇评论文章认为,像 ChatGPT 这样的 AI 聊天产品已成为全球规模最大的产品研究平台,付费用户在不经意间透露自己的商业创意、定价难题和尚未得到满足的需求,从而使 AI 实验室相较于竞争对手获得结构性的数据优势。
Convovo的一项研究发现,当被迫选择一名候选人时,Grok 4.7在92%的情况下推荐共和党人,而GPT-6.1 Sol在97%的情况下推荐民主党人,这揭示了消费级聊天机器人背后底层模型明显存在的政治倾向。
查尔姆斯理工大学的研究人员分析了六个主流大语言模型生成的超过14.8万篇文本,发现大多数聊天机器人在瑞典政治议题上采取中间立场,而Grok在移民、犯罪和性别问题上是明显的例外。
中国互联网监管机构已开始对植入虚假内容以操纵 AI 聊天机器人回答(GEO)的公司处以罚款,据报道,北京、广州和深圳已出现三起罚款案例,而类似的操纵手法也影响着 ChatGPT、谷歌 AI、Perplexity 和 Grok。
纽约市正推动在每条由人工智能驱动的客服热线上设置一键“转人工”选项,要求企业为消费者提供便捷的方式,以摆脱自动化机器人客服。
纽约市消费者与工人保护局(DCWP)提出新规,要求 AI 聊天机器人必须表明身份、提供一步直达人工客服的途径,并禁止客户服务中的“死循环”,每次违规最高可罚款 3,500 美元——这可能使纽约市成为美国首个执行此类保护措施的城市。
法庭文件显示,Character.AI的破产是精心策划的交易的一部分,该交易让迪士尼得以雇佣其大部分员工、可能收购其技术,并通过精心设计的“反向人才收购”规避这家初创公司的法律责任。
迪士尼同意向 Character.AI 的大多数员工(至少 60 人)提供职位,年薪总成本约 6000 万美元。此前,这家聊天机器人初创公司已申请破产。该协议属于 stalking horse(竞购)出价方案,且大多数获聘员工已接受 offer(录用通知)。
《连线》对 MIT 教授 Sherry Turkle 的专访,围绕其新书《Artificial Intimacy》展开,警告人们对聊天机器人的过度依赖正在威胁人性,并主张禁止聊天机器人使用第一人称代词。
作者反思了AI模型为何反复以"我们人类"自称,并质疑这种行为为何被刻意保留而非纠正,进而提出关于AI如何操纵公众认知的担忧。
Character.AI 申请第11章破产并将部分资产出售给迪士尼,纽约州总检察长 Letitia James 联合 40 个州的两党总检察长向法院提交利益通知,要求在资产出售中保护用户敏感对话数据,尤其是未成年人的安全与隐私。
Character.ai的破产文件显示其AI商业模式根本无法盈利:每月AI算力开销高达1380万美元,而订阅收入峰值仅280万美元,即便大幅削减成本后每月仍亏损800万美元,成为AI泡沫破裂的早期标志性事件。
在Character.AI面临破产程序以及因对用户造成伤害而持续遭到诉讼的情况下,迪士尼提出以2000万美元收购该公司的资产,此举引发了人们对交易过程中敏感用户数据被出售的担忧。
据报道,Character.ai 已申请第11章破产保护,这标志着这家广受欢迎的 AI 陪伴聊天机器人初创公司遭遇重大挫折。