首页 今日新闻文章正文

OpenAI公布青少年人工智能安全标准蓝图

今日新闻 2025年11月07日 04:57 4 admin

OpenAI于本周四发布了针对青少年使用人工智能的安全标准蓝图,并希望立法者能据此制定相关政策。该蓝图由OpenAI首度向Axios共享,意在引导公众与政策制定者关注青少年安全与AI应用规范。

OpenAI公布青少年人工智能安全标准蓝图

此举的背景是多州正在考虑AI安全法案,而美国参议院也在推动一项禁止未成年人使用聊天机器人的法案。与此同时,OpenAI因一起涉及未成年人自杀的高调诉讼案正在接受外界审视,公众普遍关注其平台对青少年用户的安全防护措施。此外,OpenAI正积极推动AI在学校中的应用,因此这些安全框架显得尤为重要和迫切。

OpenAI在蓝图中提出,应让青少年能够安全、可信地接触AI,但同时必须防范其可能带来的伤害。蓝图指出:“我们认为ChatGPT应根据使用者的年龄作出不同回应,针对15岁的青少年和成年人应有区别。”

公司提出了五项针对青少年保护的建议:

  • 识别平台上的青少年用户,并以适合年龄的方式进行处理;

  • 通过相关政策,防止AI系统描绘自杀及自残内容、禁止敏感及暴力内容,不鼓励危险行为或不切实际的身体标准;

  • 在无法确定用户年龄时,默认以未满18岁体验进行处理;

  • 为家庭提供家长控制工具,允许家长管理青少年账户使用情况;

  • 拓展更多基于青少年与AI相关最新研究成果的防护功能。

技术平台的年龄验证极具挑战性,许多未成年人仍可以轻易绕过现有规则。OpenAI正寻求通过多元措施提升青少年用户安全,推动更多家庭和学校共同参与AI规范及监督工作。

发表评论

长征号 Copyright © 2013-2024 长征号. All Rights Reserved.  sitemap