生成式人工智能服务大模型备案安全措施要求

1）模型适用人群、场合、用途方面：

应充分论证在服务范围内各领域应用生成式人工智能的必要性、适用性以及安全性。

服务用于关键信息基础设施、自动控制、医疗信息服务、心理咨询等重要场合的，应具备与风险程度以及场景相适应的保护措施。

tip

服务于前述重要场合时，需在评估时明确风险程度、具体服务场景，并展开论述采用了何种保护措施。

2）服务适用未成年人方面：

• 应允许监护人设定未成年人防沉迷措施，删除并通过密码保护。

• 删除限制未成年人单日对话次数与时长，若超过使用次数或时长需输入管理密码。

• 不应向未成年人提供与其民事行为能力不符的付费服务（有修改表述）。

• 应积极展示有益未成年人身心健康的内容（有修改表述）。

• 由服务提供者结合通常标准自行论证是否适用未成年人。

• 服务不适用未成年人的，应采取技术或管理措施防止未成年人使用。
  

tip

实践中主要体现企业已针对是否适用于未成年人有所考量，明确业务适用的范围、场景，以及不适用的场景。