OpenAI成立一个新团队来研究儿童安全

在活动人士和父母的监督下，OpenAI组建了一个新团队，研究方法以防止其人工智能工具被儿童滥用或误用。

在其职业页面的一则新的职位招聘中，OpenAI透露了一支儿童安全团队的存在。该公司表示，该团队与OpenAI内部的平台政策、法律和调查组以及外部合作伙伴合作，以管理与未成年用户相关的“流程、事件和评估”。

团队目前正在寻找一位儿童安全执行专员，负责在AI生成的内容中应用OpenAI的政策，并处理与“敏感”（可能是与儿童相关的）内容相关的审查流程。

某些规模的科技供应商花费了大量资源来遵守像美国儿童在线隐私保护规则这样的法律，这些法律要求对儿童在网络上能够访问和无法访问的内容进行控制，以及规定公司可以收集哪些类型的数据。因此，OpenAI雇佣儿童安全专家并不令人完全惊讶，特别是如果公司预计将来会有大量未成年用户。 （OpenAI目前的使用条款要求13至18岁的儿童获得父母的同意，并禁止未满13岁的儿童使用。）

然而，成立这支新团队的举措是在OpenAI宣布与Common Sense Media合作制定适合儿童的人工智能准则、并获得首位教育客户几周后进行的。这也表明了OpenAI对于未成年人使用人工智能相关政策以及负面报道存在顾虑。

越来越多的儿童和青少年正趋向于使用GenAI工具，不仅用于学业上的帮助，也用于处理个人问题。根据民主与技术中心的一项调查显示，有29%的孩子表示曾使用ChatGPT来应对焦虑或心理健康问题，有22%的孩子使用它来解决与朋友之间的问题，还有16%的孩子用于家庭冲突的处理。

有些人将其视为逐渐增加的风险。

去年夏天，学校和大学急切地禁止使用ChatGPT，因为担心它会引发抄袭和错误信息。此后，有些学校已经解除了禁令。但并非所有人都相信GenAI的积极潜力，他们引用了英国更安全的互联网中心的调查结果，该调查发现超过一半的孩子（53%）表示他们见过同龄人使用GenAI的负面方式，比如创造出具有可信度的虚假信息或图像来使某人不安。

今年九月，OpenAI发布了ChatGPT在课堂上的应用文档，其中包括提示和常见问题解答，以指导教育工作者使用GenAI作为教学工具。在其中一篇支持文章中，OpenAI承认其工具，尤其是ChatGPT，“可能产生对所有受众或年龄段不适宜”的输出结果，并建议在接触儿童（即使符合年龄要求）时要“慎重”。

对于儿童使用人工智能（GenAI），需求出台指南的呼声日益增加。

去年底，联合国教育、科学和文化组织（UNESCO）推动政府对教育中的通用人工智能（GenAI）使用进行监管，包括对用户设定年龄限制和加强数据保护和用户隐私的安全措施。UNESCO总干事奥黛丽·阿祖莱在一份新闻稿中表示：“生成式人工智能对人类发展有着巨大的机遇，但也会造成伤害和偏见。在教育中引入它必须经过公众参与以及政府提供必要的安全保障和监管措施。”