检查一下。专家称人工智能可能威胁儿童 https://taipeitimes.com/News/taiwan/archives/2026/07/20/2003861049… #科技 #数字 #隐私 #加密货币 #人工智能

专家称人工智能可能威胁儿童

来源：https://www.taipeitimes.com/News/taiwan/archives/2026/07/20/2003861049

高威胁未来：人工智能的开发和普及可能从多方面给青少年带来全新的网络威胁

• 作者：Fion Khan / 职员记者，中央社
• • 添加TT为首选来源 (https://www.google.com/preferences/source?q=taipeitimes.com) - ** (https://twitter.com/intent/tweet?text=AI+could+threaten+children%3A+experts%20https%3A%2F%2Fwww.taipeitimes.com%2FNews%2Ftaiwan%2Farchives%2F2026%2F07%2F20%2F2003861049) - ** (http://www.facebook.com/sharer.php?u=https%3A%2F%2Fwww.taipeitimes.com%2FNews%2Ftaiwan%2Farchives%2F2026%2F07%2F20%2F2003861049&t=AI+could+threaten+children%3A+experts) - ** (https://lineit.line.me/share/ui?url=https%3A%2F%2Fwww.taipeitimes.com%2FNews%2Ftaiwan%2Farchives%2F2026%2F07%2F20%2F2003861049?utm_medium=P&utm_campaign=SHARE&utm_source=LINE)

数位部3月发布的报告显示，在评估人工智能（AI）应用发展对青少年、人权及性别的影响时，深度伪造相关风险是专家列出的三大关注重点之一。

数位部需根据立法院去年12月通过的《人工智慧基本法》附带的补充决议进行这些评估。

数位部表示，他们与国科会、卫福部、教育部、国家通讯传播委员会等行政院部会合作，在咨询了30位相关领域专家后，完成了三份报告。

图中是一名计算机使用者，拍摄日期不详。

照片：路透社

报告显示，专家对18个AI相关场景评估了相对较高的风险分数，表明AI在三个受检领域普遍构成中等到高等风险。

对于未成年人，评估中风险最高的场景是借助深度伪造进行身份欺诈或利用伪造色情图片进行勒索；而在性别方面，深度伪造技术对不同性别的影响被评为最重要风险。

在人权方面，排名前三的风险是：AI降低网络攻击门槛，危害隐私和数据安全；AI生成的非法或有害内容；以及利用深度伪造冒充他人或伪造图像、音频，损害个人尊严。

专家针对这三个领域提出了削弱AI相关威胁的建议。

首先，为应对影响未成年人的深度伪造风险，他们建议加强监管和数字素养教育。

专家表示，针对儿童的AI应用，如情感陪伴聊天机器人、深度伪造图像生成工具和自动化教育评估系统，应纳入监管框架。

专家强调，对家长进行教育至关重要，包括深度伪造检测培训以及对AI偏见的认识，以提高判断力。

其次，在人权方面，专家指出，应在技术开发和系统设计阶段纳入保障措施，以便在大规模部署前识别并纠正偏见。

专家表示，预防应优先于补救，建议在模型开发阶段进行差异化影响分析、训练数据代表性审查以及风险模拟。

公共部门掌握的社会福利、公共卫生和司法数据高度敏感，如果引入AI系统分析这些信息或提供相关服务，数据安全规划应纳入系统设计的初始阶段。

为应对AI降低网络攻击门槛以及生成非法或有害内容的风险，专家呼吁为生成式AI系统加强防护机制和内容过滤机制。

第三，在性别议题方面，专家建议，负责评估AI应用治理措施的当局（包括深度伪造图像生成工具和AI辅助的性别暴力风险评估系统）应参考报告中识别的场景，并在进行系统性评估时跨机构、跨专业领域协作。

数位部表示，已于5月召集儿童福利专家、AI专家及利益相关方组成小组，审查儿童及青少年影响评估报告中识别的18个风险场景，并判定它们是否符合《人工智慧基本法》中“高风险”的定义。

该小组建议将12个场景归类为高风险，涉及AI相关内容、隐私与安全风险，以及学习能力与判断力等方面。

在AI相关内容方面，场景包括影响未成年人的算法内容推荐系统、AI生成或传播的儿童不宜内容。

隐私与安全风险场景包括借助深度伪造的身份欺诈和色情图像勒索、针对未成年人的AI驱动钓鱼信息、收集儿童数据带来的隐私风险，以及安全漏洞导致的数据泄露。

在学习能力与判断力方面，场景包括操控性AI系统、过度依赖AI聊天机器人、误导性信息影响判断、AI生成内容削弱学习能力、有偏见的训练数据，以及无法解释影响儿童决策的AI系统。

数位部表示，这三份报告旨在作为初步评估和政策观察，以收集跨学科视角和实践经验。

报告中所列出的优先场景仅供参考，不一定构成《人工智慧基本法》法律定义下的高风险。

已建立AI风险分类框架，作为政府机关识别、评估和应对AI相关风险的共同基础，为未来修法和制度改革提供依据。