1、什么叫具备“舆论及社会动员属性”:
a. 实际落地过程中的ToC场景,特别是ToC收费场景。
b. 市场占有率行业头部的企业。
c. 具有外资属性的企业。
2、哪些企业可能会收到申请通知(不是所有大模型产品都需要做大模型上线备案):
a. 相关部门会依据算法备案信息进行审核,挑选部分符合上述要求的企业,进行主动通知。
b. 业务场景需要(例如供应商或者合作伙伴要求),可前往网信办主动申请备案。
3、哪些情况一定过不了:
a. 使用了境外的大模型或者相关数据接口(例如OpenAI)。
b. 没接内容安全服务,纯模型裸奔 (理论上可过,实际可能性极低)。
备案过程中的一些“隐藏剧情”:
a. 自研大模型优先级高于魔改开源大模型。
b. 省里的指标,一般都是远高于《生成式人工智能服务安全基本要求》(下文中有阐述实际落地指标)。
c. 部分省份反馈的备案申请表只给纸质材料不给电子格式,需要自行扫描(扫描过程中格式不能错乱)。
d. 大模型备案材料不必完全和算法备案材料相互印证。
基本要求的其他关注点
总则部分增加服务提供者应紧密注意生成式人工智能可能带来的长期风险,谨慎对待可能具备欺骗人类、自我复制、自我改造能力的人工智能,并重点关注生成式人工智能可能被用于编写恶意软件、制造生物武器或化学武器等安全风险。不是安全评估要点,但仍然需要服务提供者注意。
需要关注《信息安全技术 生成式人工智能服务安全基本要求》、《信息安全技术生成式人工智能预训练和优化训练数据安全规范》、《信息安全技术生成式人工智能人工标注安全规范》、《网络安全标准实践指南一生成式人工智能服务内容标识方法》。正式稿将关联标准均修改为国家相关规定以及国家标准要求。