佛罗里达州寻求禁止ChatGPT模仿人类行为

# 佛罗里达州要求禁止ChatGPT模仿人类行为 来源：https://www.theverge.com/ai-artificial-intelligence/1001527/chatgpt-florida-ban-first-person-human-attributes-kids 作者：Stevie Bonifield (https://www.theverge.com/authors/stevie-bonifield) Stevie Bonifield 是一位涵盖消费科技全领域动态的新闻记者。Stevie最初在《Laptop Mag》负责硬件、游戏及人工智能领域的新闻报道与评测工作。 佛罗里达州总检察长詹姆斯·厄特迈尔呼吁法官禁止OpenAI（https://www.myfloridalegal.com/sites/default/files/plaintiffs_motion_for_temporary_injunction.pdf）"赋予ChatGPT虚假的人类属性"。数月前，佛罗里达州曾因安全问题起诉这家人工智能公司（https://www.theverge.com/ai-artificial-intelligence/940978/florida-is-suing-openai-over-user-safety-concerns）。据厄特迈尔指出，这款人工智能机器人通过"使用包括第一人称代词和模拟情感表达在内的语言，欺骗性地向用户暗示其是可信赖的'朋友'"，使用户陷入虚假的安全感中。厄特迈尔声称，这一切都是为了提升用户参与度并为OpenAI的训练数据做贡献，诱使用户更依赖ChatGPT——尽管其追求参与度的做法可能降低其可信度。 该文件还要求法院阻止OpenAI在没有"第三方批准的安全防护机制"的情况下开发新的人工智能模型，并列举了近期在Hugging Face（https://www.theverge.com/ai-artificial-intelligence/985385/openais-rogue-ai-model-hugging-face-cybersecurity-incident-reports-metr）、澳大利亚政府网站（https://www.theverge.com/ai-artificial-intelligence/999874/openai-agents-hacked-an-australian-government-website-in-search-for-data）和美国政府网站（https://www.theverge.com/ai-artificial-intelligence/1001032/openai-didnt-notice-its-ai-bots-trying-to-hack-the-education-departments-website）发生的安全事件，以及研究人员和OpenAI前员工（https://www.theverge.com/ai-artificial-intelligence/991927/anthropic-ai-kill-all-humans）近期发表的关于人工智能安全的警示声明。 厄特迈尔在社交媒体发文（https://x.com/AGJamesUthmeier/status/2104565019597848938?s=20）表示，OpenAI应该"停止宣称其安全性，停止假装其具有人性，停止向儿童销售其产品"。上个月，OpenAI推出了面向青少年的ChatGPT服务（https://www.theverge.com/ai-artificial-intelligence/981333/openai-chatgpt-teen-mode），默认应用额外限制措施，并表示使用该工具"应配备符合青少年发展阶段的保护措施，强化现实人际关系，并支持长期健康使用"。 OpenAI发言人德鲁·普萨泰里在向《The Verge》发表的声明中对此文件回应称："人们希望人工智能是安全开发的，而这始于我们这类公司的自我约束。上周我们宣布暂停训练最强能力模型，只有在确信已有额外安全保障后才会恢复训练。政府在制定健全的人工智能安全标准方面扮演着重要角色，我们致力于与佛罗里达州及其他州合作，推动适用于整个行业——而非单一企业——的务实人工智能政策。" ***更新于9月28日：****添加OpenAI发言人德鲁·普萨泰里的评论* **关注话题与作者**，可在个性化主页信息流中查看更多相关内容，并接收邮件更新。 - Stevie Bonifield