儿童监控应用或需全面升级

MIT Technology Review 新闻

摘要

本文探讨了由于数字风险不断增加,儿童监控应用为何需要发展,强调市场增长和人工智能集成以提高家庭安全性。

<p>Pam Wisniewski的数字青春期向她展示了互联网的最好和最坏之处。14岁时,她离开了一个虐待的家庭,她曾被隔离在一条七英里土路尽头的旅行拖车里。她搬去和姐姐一起住,并在AOL Instant Messenger上自学打字。在线上,她寻求她在家所缺乏的支持和社区。她也发现了冰面可以有多薄。“我把我地址发给新墨西哥州的一个人,让他给我寄一个印有我名字的杯子,”她回忆道。“然后大约五到十年后,我发现了一个新闻报道,说他杀了人。”</p> <p>这些经历奠定了她职业生涯的方向。Wisniewski——现在是国际计算机科学研究所的首席研究科学家,该所是加州大学伯克利分校的附属非营利机构——十多年来一直在研究,在快速变化的技术环境中,家庭安全应该是什么样子,以及如何在不牺牲信任的情况下实现安全。“我真的把互联网视为一把双刃剑,”她说。&nbsp;</p> <p>数字伤害已成为美国家长的核心恐惧。在<a href="https://www.google.com/url?q=https://mottpoll.org/reports/top-health-concerns-2025&amp;sa=D&amp;source=docs&amp;ust=1787088722063097&amp;usg=AOvVaw0ZPxlPZpn56udYmoVVMXcy">密歇根大学2025年儿童健康全国调查</a>中,家长的前三项担忧与社交媒体、屏幕时间和网络安全有关。根据<a href="https://www.pewresearch.org/internet/2022/12/15/teens-and-cyberbullying-2022/">皮尤研究中心</a>的数据,近半数美国青少年表示他们曾在网上被欺凌或骚扰。在此基础上,危险进一步升级。在线毒品贩子出售掺有芬太尼的假冒药丸。2025年上半年,<a href="http://www.missingkids.org/content/ncmec/en/blog/2025/spike-in-online-crimes-against-children-a-wake-up-call.html">全国失踪与受虐儿童中心处理了</a>超过23,000起金融性勒索报告,其中捕食者假扮同龄人,从儿童那里获取性图像并威胁发布,除非支付赎金。聊天机器人是最新的危险,<a href="https://www.technologyreview.com/2025/09/16/1123614/the-looming-crackdown-on-ai-companionship/">像OpenAI这样的公司正面临诉讼</a>,被指控引导儿童走向自杀。&nbsp;</p> <p>大多数家长的第一道防线是谈话。在<a href="https://www.pewresearch.org/internet/2016/01/07/how-parents-talk-to-teens-about-acceptable-online-behavior/">皮尤调查</a>中,超过九成的家长表示他们与青少年讨论过网上适合分享的内容以及如何对待同龄人。他们通过手机预装工具获得帮助,以限制接触:苹果的屏幕使用时间和谷歌的家庭链接让家长可以设定屏幕时间上限、屏蔽或批准应用、过滤网页内容以及跟踪设备。还有一些应用允许家庭成员分享位置;最大的Life360拥有近9800万月度用户。&nbsp;</p> <p>但越来越多的成年人选择功能更强大的工具。与其简单地限制或定位,内容监控应用会扫描孩子的短信、照片、电子邮件和聊天记录,并在算法标记出任何认为危险的内容时向家长发出警报。生意兴隆,下一波增长浪潮正围绕人工智能展开,公司们将自己定位为聊天机器人伴侣和其他风险的对抗者。更广泛的家长控制软件市场,涵盖数十种应用,2025年<a href="https://www.fortunebusinessinsights.com/parental-control-software-market-104282">估计价值15.7亿美元</a>,预计到2034年将接近三倍增长。目前内容监控应用的领先者Bark Technologies<a href="https://www.bark.us/annual-report-2025/">表示,在2025年扫描了110亿条发送给或来自美国750万儿童的消息</a>。其免费学校计划覆盖超过3700个学区,约占美国十分之一的儿童。虽然Bark旨在仅标记触发其过滤器的内容,但一些竞争对手,如FlashGet Kids,包括了屏幕镜像和摄像头访问等功能。&nbsp;</p> <p>这些应用取得了真正的成功:它们防止了自杀企图、拦截了捕食者、避免了校园枪击事件。但它们本身也可能造成伤害。为了了解数字监控如何影响年轻人,我抓取了超过60万条领先应用的评论,并与孩子、家长以及童年时被监控现已成年的人进行了交谈。一些孩子感激父母的保护。另一些人则描述了虚假警报导致的惩罚、过早暴露的秘密、信任破裂,以及伴随他们进入成年的焦虑。(为保护他们的隐私,我们未使用全名。)</p> <div class="wp-block-image"> <figure class="wp-block-image size-large"><img fetchpriority="high" decoding="async" height="2000" width="1535" src="https://wp.technologyreview.com/wp-content/uploads/2026/08/MIT-Teh-Review-Illu1-FINAL-send.jpg?w=840" alt="&quot;&quot;" class="wp-image-1141970" srcset="https://wp.technologyreview.com/wp-content/uploads/2026/08/MIT-Teh-Review-Illu1-FINAL-send.jpg 1612w, https://wp.technologyreview.com/wp-content/uploads/2026/08/MIT-Teh-Review-Illu1-FINAL-send.jpg?resize=230,300 230w, https://wp.technologyreview.com/wp-content/uploads/2026/08/MIT-Teh-Review-Illu1-FINAL-send.jpg?resize=768,1000 768w, https://wp.technologyreview.com/wp-content/uploads/2026/08/MIT-Teh-Review-Illu1-FINAL-send.jpg?resize=1535,2000 1535w, https://wp.technologyreview.com/wp-content/uploads/2026/08/MIT-Teh-Review-Illu1-FINAL-send.jpg?resize=1179,1536 1179w, https://wp.technologyreview.com/wp-content/uploads/2026/08/MIT-Teh-Review-Illu1-FINAL-send.jpg?resize=1572,2048 1572w" sizes="(max-width: 1535px) 100vw, 1535px" /><div class="image-credit">FRANZISKA BARCZYK</div> </figure> </div> <p>这些都不容易解决。但儿童安全研究人员和倡导者表示,更好的方法是存在的。一种是使平台本身更安全,迫使社交媒体公司建立防护栏,而不是让家庭自行寻找。这种“关怀责任”方法目前正在英国、澳大利亚和美国的一些州推进。另一种是少花精力监控孩子,多花精力帮助他们识别风险、应对风险,并在出错时转向可信赖的成年人。这种方法称为韧性培养。</p> <p>Wisniewski和其他人正在开发工具,这些工具不积极监控孩子,而是训练他们的韧性,并与父母建立信任。“如果我们把安全定义为没有风险,那么保持他们安全的方法就是让他们完全不接触平台,”她说。“但如果我们把安全定义为自我保护的能力,以及在不涉及风险的情况下参与,那么解决方案就大不相同了。”这就像是禁欲讲座与性教育之间的区别。</p> <hr class="wp-block-separator has-alpha-channel-opacity"/> <p>内容监控应用通常涉及两个软件部分——一个在孩子的设备上,一个在家长的设备上。家长安装孩子端应用,连接孩子的账户,并选择监控内容:消息、社交应用、浏览记录、位置、屏幕时间。孩子端软件将活动转发给公司的算法分类器,这些分类器扫描与性、毒品、欺凌和自伤等相关的内容,并向家长仪表板推送警报。同样类型的软件可以加载到学校发放的账户和设备上。&nbsp;</p> <p>有时安全网是有效的。Bark的首席营销官Titania Jordan告诉我,FBI多次感谢该公司将可信的校园枪击威胁信息带给他们。“我讨厌我们必须存在,”她说。“但我非常感激我们存在。”根据Bark的年</p>
查看原文
查看缓存全文

缓存时间: 2026/08/19 09:50

# 儿童监控应用或许需要重新启动 来源:https://www.technologyreview.com/2026/08/19/1141623/child-monitoring-apps-need-reboot 帕姆·维辛斯基的数字青少年时期让她见证了互联网的光明与黑暗。14岁时,她逃离了虐待家庭,此前她一直被隔离在一条七英里土路尽头的拖挂房车里。她搬去与姐姐同住,并在AOL即时通讯软件上自学打字。在线上,她寻求家庭中缺失的支持与社群,同时也发现了网络世界是何等脆弱。“我把地址发给了新墨西哥州的某个网友,让他给我寄一个印有我名字的杯子,”她回忆道,“结果五到十年后,我看到新闻说他杀了人。” 这些经历决定了她的职业道路。维辛斯基——现为加州大学伯克利分校附属非营利机构国际计算机科学研究所的首席研究科学家——十多年来一直在探究:在技术浪潮不断演变的背景下,家庭应如何实现安全?如何在不牺牲信任的前提下达成这一目标?“我真心认为互联网是一把双刃剑,”她表示。 数字危害已成为美国家长最大的恐惧。密歇根大学2025年全国儿童健康调查(https://www.google.com/url?q=https://mottpoll.org/reports/top-health-concerns-2025&sa=D&source=docs&ust=1787088722063097&usg=AOvVaw0ZPxlPZpn56udYmoVVMXcy)显示,家长最担忧的三大问题均与社交媒体、屏幕时间和网络安全有关。皮尤研究中心(https://www.pewresearch.org/internet/2022/12/15/teens-and-cyberbullying-2022/)数据表明,近半数美国青少年表示曾遭受网络霸凌或骚扰。在此之上,危险持续升级:网络毒贩售卖混有芬太尼的假药;2025年上半年,美国失踪与受虐儿童中心(http://www.missingkids.org/content/ncmec/en/blog/2025/spike-in-online-crimes-against-children-a-wake-up-call.html)收到超过23,000起“金融性勒索”报告——诱骗者假扮同龄人获取儿童色情影像,威胁公开以勒索钱财;而聊天机器人已成最新威胁,OpenAI等公司(https://www.technologyreview.com/2025/09/16/1123614/the-looming-crackdown-on-ai-companionship/)因被指控诱导儿童自杀而面临诉讼。 多数家长的第一道防线是沟通。皮尤调查(https://www.pewresearch.org/internet/2016/01/07/how-parents-talk-to-teens-about-acceptable-online-behavior/)显示,超九成家长与青少年讨论过网络分享规范及待人之道。手机预装工具则协助限制接触范围:苹果的屏幕使用时间与谷歌的家庭守护允许家长设置时长限制、管控应用、过滤网页内容并追踪设备位置。位置共享应用也颇受欢迎,用户量最大的Life360月活近9800万。 但越来越多的家长选择更深入的监控工具。与单纯限制或定位不同,内容监控应用会扫描孩子的短信、照片、邮件及聊天记录,并在算法标记危险内容时向家长发送警报。该行业正蓬勃发展,下一波增长已开始围绕AI营销,企业将自身定位为聊天机器人伴陪等风险的制衡力量。2025年,涵盖数十款应用的家长控制软件整体市场规模(https://www.fortunebusinessinsights.com/parental-control-software-market-104282)估值约15.7亿美元,预计到2034年将增长近两倍。当前领跑的内容监控应用Bark Technologies称(https://www.bark.us/annual-report-2025/),2025年其系统扫描了750万美国儿童收发的110亿条信息。其免费校园计划覆盖超3700个学区,约占美国十分之一的儿童。虽然Bark旨在仅标记触碰过滤器的内容,但部分竞争者如FlashGet Kids还包含屏幕镜像与摄像头访问功能。 这些应用确有实绩:曾阻止自杀未遂、拦截诱骗者、避免校园枪击案。但它们自身也可能造成伤害。为探究数字监控对青少年的影响,我抓取了600余条主流应用评价,并采访了儿童、家长及曾被监控现已成年的人群。部分孩子感激父母的保护,另一些则讲述了误报导致受罚、秘密提前泄露、信任破裂及伴随至成年的焦虑。(为保护隐私,以下均不使用全名。) > **FRANZISKA BARCZYK** 问题错综复杂。但儿童安全研究者与倡导者认为存在更优路径。一是从平台源头着手,强制社交媒体公司构建防护体系,而非让家庭各自应对。这种“照管责任”理念正在英国、澳大利亚及美国多个州推进。二是减少对孩子行踪的盯视,转而帮助他们识别风险、应对困境,并在出事时向可信成人求助。此方法称为培养“抗压能力”。 维辛斯基等人正开发非侵入式监控的工具,旨在培养孩子的抗压能力并建立亲子信任。“若将安全定义为零风险,那让他们远离平台即可,”她说,“但若将安全定义为自我保护与无风险参与的能力,解决方案将截然不同。”这类似于禁欲教育与性教育的差别。 --- 内容监控应用通常包含两部分软件——分别安装于儿童设备与家长设备。家长端安装儿童应用后,可连接孩子的账户并选择监控内容:信息、社交应用、浏览记录、位置或屏幕时间。儿童端软件将活动数据传至公司算法分类器,后者扫描涉及色情、毒品、霸凌及自残等内容,并向家长仪表盘推送警报。同类软件亦可植入学校账户及设备。 有时这套防护网确实有效。Bark首席营销官蒂塔妮亚·乔丹告诉我,FBI曾多次因该公司提供可信校园枪击威胁线索而致谢。“我痛心于我们必须存在,”她说,“但更庆幸我们确实在发挥作用。”根据Bark年度报告,其分类器在2025年向数十万家庭提示了严重自残风险。校园监控竞争对手Gaggle(https://news.gaggle.net/student-safety-report-2025)也在年报中宣称,其软件在2024-2025学年挽救超千条生命。 > **近五分之一孩子感到被监视或隐私被剥夺。约十分之一表示监控破坏了他们对父母的信任;十二分之一描述了焦虑或痛苦。** 整个市场的实际效能更难衡量,尽管评论区存在大量轶事——主要关于Life360等位置共享应用帮助家长找到走失儿童。数十条评论也赞扬内容监控应用避免了自杀或自残等重大危机。在我抓取的评论中(需说明,评论样本存在自选偏差,倾向强烈情感表达),超20万条可判断来自家长或儿童。家长青睐任何有效手段:屏幕时间限制器与位置追踪器的五星好评率平均达74%-78%。操作系统级控制与内容扫描应用表现稍逊(好评率分别为44%与48%),家长主要抱怨应用不可靠:频繁断连、漏报真实风险、对无关内容过度警报。 被监控的孩子关注点不同。约1.4万条可归属家长或儿童的评论来自当前被监控的儿童或成年后回顾经历的成人。约七分之一总体持感激态度。(我联系的青少年加文表示,监控“教会了我责任感和正直”)但近五分之一感到被监视或隐私被剥夺,约十分之一称破坏了对父母的信任,十二分之一描述焦虑或痛苦。这并不意外,因为儿童发展专家早已指出:试探边界与建立自主性是青春期的核心课题。《欧洲发展心理学杂志》2019年一项元分析(https://www.tandfonline.com/doi/full/10.1080/17405629.2018.1476233)综合31项亲子沟通长期研究发现,随着年龄增长,孩子会自然减少向父母倾诉——这是构建独立自我的过程。 更艰难的是,许多内容被不必要地捕入监控网。11岁自闭症谱系女孩S.回忆,她曾与好友在校通讯中讨论服务犬能否缓解情绪崩溃或防止自伤。学校使用的Bark应用向校长、S.的家长及好友家长发出警报,理由是涉及“自伤内容”。或许是被警报吓到,好友家长中断了两人联系。“我的第一反应是:为什么?”S.告诉我,“我又没隐瞒什么,但宁愿无关者别看到这些。”一年过去,两个女孩仍未和好。 需要帮助? - 若你或认识的人正受心理健康困扰或可能有自杀/自伤风险,**拨打或发送短信至988**联系自杀与危机生命线咨询师。 - 成人若需指导及建议以管理孩子科技与社交媒体使用、了解家长控制功能,可访问commonsensemedia.org(https://institute.commonsensemedia.org/)。 虽然应用无法左右家长的反应,但误报似乎已是常态而非例外。“99%的警报都是垃圾,”澳大利亚父亲格兰特·卡拉汉告诉我。他为13岁儿子试用过数款监控应用后决定自建系统。“它标记两个孩子说第三个孩子烦人属于霸凌;标记孩子说头痛是‘需关注的医疗内容’。”当我在模拟10岁儿童的测试手机上安装Bark时,它竟因我保存在备忘录里的随机密码生成了诱骗场景。 Bark的乔丹未否认误报存在,她主动举例:一名足球运动员因照片中手腕被球网划伤而被标记为潜在自伤。但她强调过度标记比漏报更安全:“宁可多知道也不能一无所知。”在Bark参与的2021年研究(https://jamanetwork.com/journals/jamanetworkopen/fullarticle/2784337)中,美国疾控中心研究人员发现,触发多项风险标记的学生后续更可能因严重自伤触发警报——说明标记未必是干扰项。 另一问题是,Bark等监控应用可能暴露孩子尚未准备好公开的信息。民主与技术中心全国调查(https://cdt.org/insights/brief-hidden-harms-targeting-lgbtq-students/)显示,近三分之一LGBTQ+学生表示自己或认识的人曾被校园监控软件曝光身份。乔丹称Bark不标记性取向,但筛查色情内容时可能捕获相关讨论。她再次强调,家长如何处理此类警报超出任何应用控制范围。“若家长因孩子身份认同而拒绝接纳,”她告诉我,“那是育儿失败,而非儿童安全功能按设计运行。” 监控工具造成的伤害可能伴随孩子至成年。在成年人回顾被监控经历的评论中,八分之一描述造成持久伤害。我联系的人中仅一位同意公开姓名,其余均因隐私担忧及持续困扰他们的焦虑而拒绝。 > **“青少年有太多方法绕过监控。而这些应用传递给孩子最重要的信息是:我们不信任你。”** ——帕姆·维辛斯基 那位化名M.的女性现年19岁。她13岁获得首部智能手机时,母亲在交付前安装了监控应用。尽管自幼遭受虐待,M.告诉我,首次严重殴打发生在她向朋友短信倾诉抑郁之后。“她不想我能与人谈论她对我做的事,”M.推测。她后来秘密购置第二部手机,并最终与母亲断绝联系。如今,M.甚至不让未婚夫碰她的手机。“我一生都被监视,”她说,“我理应拥有这份隐私。” M.的案例代表了监控应用沦为虐待工具的极端情况,但可能反映更广泛的问题——尤其是通过非官方应用商店下载的侧载工具。圣帕尔滕应用科学大学与伦敦大学学院研究者主导的2025年审计(https://arxiv.org/abs/2504.16087)发现,近半数侧载监控应用在功能上与跟踪软件无异。 最重要的是,这些应用能否兑现“让孩子更安全”的核心承诺尚不明确。我未找到任何商业监控应用发布过证明其能减少伤害的对照试验。 孩子们在线交换绕过监控的技巧。约7%的儿童评论提及具体规避方法。“只要简单测试,”维辛斯基说,“青少年就有太多方法绕过它们。归根结底,多数应用告诉孩子的是:我们不信任你。”她团队2018年调查发现,家长控制工具的使用与孩子遭遇网络风险(包括接触骚扰)的*增加*相关。但因果难定——监控可能跟随问题而非引发风险。 风险也可能转移至监控盲区,因为潜在诱骗者主动寻找未监控空间。根据Bark 2025年度报告,随着对话转向盲区,涉及诱骗者的警报近年有所下降。儿童安全非营利组织Thorn(https://www.thorn.org/research/library/financial-sextortion/)发现,罪犯惯常引导目标转向WhatsApp等加密应用。Meta将Messenger默认加密后,美国失踪与受虐儿童中心年度报告数量近20%(https://www.nbcnews.com/tech/security/child-exploitation-watchdog-says-meta-encryption-led-sharp-decrease-ti-rcna205548)下降——该中心将此归因于可见度丧失。家长可屏蔽此类空间,但精通技术的孩子可通过浏览器版本、借用手机或秘密账户规避。 --- **禁止还是放手** 禁止儿童接触社交媒体并非万能解药。 科琳·约齐奥 社交媒体禁令激增。截至今夏,七个国家限制儿童使用Snapchat和TikTok等平台;三个国家即将实施禁令;16个国家已提出相关提案。

相似文章

在AI中成长

MIT Technology Review

一位编辑反思了个人经历中孩子数字足迹的形成,以及社会对技术与AI对青少年影响日益增长的担忧,强调需要让孩子为技术驱动的世界做好准备。

父母担心孩子使用AI,但更担心他们不使用AI

Reddit r/artificial

# 父母担心孩子使用AI,但更担心他们不使用AI 来源:[https://www.chicagobooth.edu/review/parents-worry-about-their-kids-using-ai-worry-more-about-them-not-using-it](https://www.chicagobooth.edu/review/parents-worry-about-their-kids-using-ai-worry-more-about-them-not-using-it) 对于那些期望孩子在一个人工智能无处不在的世界中成长、生活和工作的父母来说,帮助孩子熟练掌握这项技术可能会觉得势在必行