互联网用户变得年轻化；英国正在权衡是否可以利用人工智能来保护他们

人工智能一直是政府关注的焦点，他们担心它可能被滥用用于欺诈、虚假信息和其他恶意网络活动；现在在英国，监管机构正在准备探索人工智能在打击同类问题方面的运用，特别是与有害儿童内容相关的问题。

英国的Ofcom是负责执行《在线安全法》的监管机构，它宣布计划就如何利用人工智能和其他自动化工具来主动检测和清除网络上的非法内容展开磋商，特别是为了保护儿童免受有害内容的侵害，以及识别以前难以检测到的儿童性虐待材料。

Ofcom正在集中关注在线儿童安全，这些工具将会成为其汇总提案的一部分。Ofcom表示，有关这些综合提案的咨询将在未来几周内开始，AI方面的咨询将在今年晚些时候进行。

Ofcom在线安全小组主任Mark Bunting表示，他们对AI的兴趣始于研究当前作为筛选工具使用的效果如何。

他在接受TechCrunch采访时表示：“一些服务已经在使用这些工具来识别并保护儿童免受这些内容的侵害。但目前关于这些工具的准确性和有效性还没有太多信息。我们希望探讨如何确保行业在使用这些工具时进行评估，确保对言论自由和隐私的风险得到管理。”

Ofcom可能会建议平台如何评估和审核内容，这可能会导致平台采用更先进的工具，如果它们未能提供在屏蔽内容或创造更好的方法来保护年轻用户不看到内容方面的改进，可能会面临罚款。

他说：“对于许多在线安全规定，责任在于企业确保他们采取适当的步骤，并使用适当的工具来保护用户。”

这些举措会有批评者和支持者。人工智能研究人员正在找到越来越复杂的方法来使用人工智能来检测，例如深度伪造视频，以及在线验证用户。然而同样有许多怀疑者指出，人工智能的检测远非绝对可靠。

Ofcom发布了关于AI工具的咨询，同时公布了他们最新的研究结果，调查了英国儿童在网络上的参与情况。研究发现，总体上，与以往任何时候相比，连接网络的年龄更小的儿童更多，因此Ofcom现在正在细分不同年龄段儿童的在线活动。

据美国家长的调查显示，现在将近四分之一，即24%的5至7岁儿童拥有自己的智能手机，如果包括平板电脑，这个比例上升至76%。同时，这个年龄段的儿童在这些设备上使用媒体的情况也大大增加：65%的儿童进行语音和视频通话（与一年前的59%相比），一半的孩子在观看流媒体内容（与一年前的39%相比）。

一些主流社交媒体应用的年龄限制正在降低，然而无论限制是什么，英国似乎并不遵守。Ofcom发现，有38%的5到7岁的儿童在使用社交媒体。其中，Meta的WhatsApp是最受欢迎的应用，占37%。而在Meta的旗舰图像应用可能首次被认为比字节跳动的病毒传播感应更少的情况下，TikTok被发现有30%的5到7岁儿童使用，Instagram则仅“仅仅”为22%。Discord排在这个清单的最后，但仅有4%的使用率。

这个年龄段的孩子中大约三分之一，32%，独自上网，有30%的家长表示他们允许他们未成年的孩子拥有社交媒体账户。YouTube Kids仍然是年轻用户中最流行的网络，占48%。

游戏在孩子中一直很受欢迎，现在有41%的5至7岁儿童在玩游戏，其中有15%的孩子玩射击游戏。

Ofcom 指出，虽然进行调查的家长中有76%称他们会与他们年幼的孩子讨论如何在网上保持安全，但实际情况存在疑问。在针对年龄为8-17岁的较大孩子的研究中，Ofcom 直接采访了他们。调查发现，有32%的孩子报告称他们在网上看到了令人担忧的内容，但只有20%的家长表示他们的孩子有报告过任何问题。

尽管考虑到一些报道不一致性，“研究表明，较大年龄的孩子在网络上接触可能有害内容的同时，他们与父母分享的网络体验并不一致。”Ofcom写道。令人担忧的内容只是其中一个挑战：深度伪造也是一个问题。Ofcom表示，在16-17岁的儿童中，有25%表示他们不确定如何区分网络上的虚假与真实。