开放AI与常识媒体携手合作,共同制定人工智能准则

AI7号2024-01-292188

Chat中文版

OpenAI希望与致力于减少科技和媒体对儿童、青少年产生的伤害的组织合作,以赢得家长和决策者的信任。

以此为例,OpenAI今天宣布与Common Sense Media合作,这是一家非营利组织,负责评估和排名各种媒体和科技对儿童的适宜性,以便共同制定AI指南和教育材料,供家长、教育工作者和年轻成人使用。

作为合作的一部分,OpenAI将与Common Sense Media合作,根据Common Sense的评级和评估标准,在OpenAI的GPT市场——GPT Store中策划“适合家庭”的GPTs,即由OpenAI的GenAI模型驱动的聊天机器人应用程序,OpenAI首席执行官Sam Altman表示。

“人工智能为家庭和青少年带来了不可思议的好处,我们与Common Sense的合作将进一步加强我们的安全工作,确保家庭和青少年能够自信地使用我们的工具”,Altman在一份事先准备好的声明中补充道。

合作伙伴关系的启动是在OpenAI表示将参与Common Sense于9月推出的新框架之后。该框架旨在评估AI产品的安全性、透明度、道德使用和影响。根据Common Sense的联合创始人兼首席执行官詹姆斯·斯泰尔的说法,Common Sense的框架旨在为基于AI技术的应用程序提供“营养标签”,以揭示其使用的背景,并强调潜在机遇和风险的领域,遵循一组“常识原则”。

Chat中文版

在一份新闻稿中,斯泰尔暗示如今的家长们普遍对于GenAI工具(例如OpenAI的病毒传播的基于人工智能的聊天机器人ChatGPT)所了解的比年轻一代少。去年底,由Common Sense Media委托进行的一项Impact Research民意调查发现,12至18岁的学生中有58%使用过ChatGPT,而在有学龄子女的家长中只有30%使用过。

“共同来说,Common Sense和OpenAI将共同努力确保人工智能对所有青少年和家庭产生积极的影响。” Steyer在电子邮件声明中表示,“我们的指南和策展将旨在教育家庭和教育工作者安全、负责任地使用[像]ChatGPT这样的OpenAI工具,从而我们能够共同避免这种新兴技术可能带来的任何意外后果。”

OpenAI受到监管机构的压力,要证明其使用GenAI技术推动的应用,包括ChatGPT,对社会是一种整体上的好处,而非危害。就在去年夏天,美国联邦贸易委员会对OpenAI展开调查,核查ChatGPT是否通过收集数据和发布关于个人的虚假陈述损害了消费者的利益。欧洲数据机构也对OpenAI的个人信息处理表示担忧。

OpenAI的工具,就像所有GenAI工具一样,倾向于自信地编造事实并出现基本事实错误。而且它们存在偏见——这是训练它们所使用数据的一种反映。

越来越多的儿童和青少年,无论是否意识到工具的局限性,都越来越多地使用它们来帮助他们不仅在学业上,还在个人问题上。根据民主与技术中心的一项调查,有29%的儿童表示他们使用ChatGPT来处理焦虑或心理健康问题,22%用来解决与朋友的问题,16%用于处理家庭冲突。

推荐阅读

随着裁员的加深,AI在裁员中的作用仍不明确,但肯定存在

2024-01-291816
Chat中文版

Cap VC想成为为风险投资公司提供人工智能支持的“操作系统”

2024-01-291877
Chat中文版

Refact旨在使生成代码的人工智能更具吸引力,以供企业使用

2024-01-29763
Chat中文版

ChatGPT违反了欧洲的隐私法律,意大利数据保护机构告知OpenAI

2024-01-29482
Chat中文版

创业投资如何在三年的流动性下滑中生存下来?

2024-01-272092
Chat中文版