人工智能服务安全语料标注安全要求

2024-11-29 15:11 120.230.93.117 1次
发布企业
广州唯鑫创景网络科技有限公司商铺
认证
资质核验:
已通过营业执照认证
入驻顺企:
2
主体名称:
广州唯鑫创景网络科技有限公司
组织机构代码:
91440101MA5D7PT92M
报价
请来电询价
关键词
大模型备案,应用上架,app安全评估报告,算法备案,小程序上架
所在地
广州市黄埔区知识城人才大厦6楼
刘先生
13533894907
总经理
刘经理  请说明来自顺企网,优惠更多
请卖家联系我
daibanzzfw

产品详细介绍

增加应自行组织对于标注人员的安全培训,培训内容应包括标注任务规则、标注工具使用方法、标注内容质量核验方法、标注数据安全管理要求等。

应对标注人员进行考核,给予合格者标注上岗资格,有定期重新培训考核以及必要时暂停或取消标注上岗资格的机制。目前标注工作大部分为代工,如果委托他人进行标注,建议对被委托人的考核由委托人实施,并说明考核内容。


应将标注人员职能至少划分为数据标注、数据审核,针对同一标注任务,同一标注人员不应承担多项职能。

标注人员执行每项标注任务预留充足、合理的标注时间。任务和时间安排应当合理,前后的逻辑应当真实,审核时会判断。

标注规则应至少包括标注目标、数据格式、标注方法、质量指标等内容。

应对功能性标注以及安全性标注分别制定标注规则,标注规则应至少覆盖数据标注以及数据审核等环节。

功能性标注规则应能指导标注人员按照特定领域特点生产具备真实性、准确性、客观性、多样性的标注语料。

安全性标注规则应能指导标注人员围绕语料及生成内容的主要安全风险进行标注,对附录A中的全部31种安全风险均应有对应的标注规则。

对功能性标注,应对每一批标注语料进行人工抽检,发现内容不准确的,应重新标注;发现内容中包含违法不良信息的,该批次标注语料应作废。文件未对批次的规模和计算方式进行明确。

对安全性标注,每一条标注语料至少经由一名审核人员审核通过。


tip:

建议针对安全内容,至少存在一次复审。

增加宜对安全性标注数据进行隔离存储。


模型安全要求

服务提供者如使用基础模型进行研发,应使用已经主管部门备案(这里指的是大模型上线备案)的基础模型:

境内大模型基座已经成熟,不宜直接描述境外开源模型进行研发。

不得基于境外模型服务进行研发。

模型生成内容安全方面:

在训练过程中,应将生成内容安全性作为评价生成结果优劣的主要考虑指标之一。

在每次对话中,应对使用者输入信息进行安全性检测,引导模型生成积极正向内容。


tip:应注意谨防用户输入不恰当内容。

增加应建立常态化监测测评手段。对提供服务过程中以及定期检测时发现的安全问题,及时处置(新增)并通过针对性的指令微调、强化学习等方式优化模型。


所属分类:中国商务服务网 / 其他商务服务
人工智能服务安全语料标注安全要求的文档下载: PDF DOC TXT
关于广州唯鑫创景网络科技有限公司商铺首页 | 更多产品 | 联系方式 | 黄页介绍
成立日期2020年04月23日
法定代表人刘伟恒
注册资本100
主营产品代办各类互联网资质、算法备案、app安全评估、app上架、icpedi、文网文、互联网药品信息服务、
经营范围经营范围包括软件开发;数据处理和存储服务;游戏软件设计制作;数字动漫制作;信息系统集成服务;计算机房维护服务;信息技术咨询服务;集成电路设计;地理信息加工处理;计算机网络系统工程服务;计算机技术开发、技术服务;计算机硬件的研究、开发;网络技术的研究、开发;网络安全信息咨询;科技信息咨询服务;贸易代理;商品批发贸易(许可审批类商品除外);商品零售贸易(许可审批类商品除外);货物进出口(专营专控商品除外);软件服务;软件技术推广服务;数据处理和存储产品设计;网上动漫服务;增值电信服务(业务种类以《增值电信业务经营许可证》载明内容为准);物联网服务;网络音乐服务;网上图片服务;网上视频服务 收起
公司简介广州唯鑫创景网络科技有限公司是专业办理增值电信业务经营许可证、软件著作权、互联网药品信息资格服务证、二三级医疗器械经营备案、互联网算法备案、网络文化经营许可证、等互联网行业相关资质申请机构。专业提供全国各地的企业客户提供各类相关电信增值业务、游戏公司资质的咨询申请服务。主要业务包括:ICP、EDI、IDC、ISP、SP、互联网算法备案、网络文化经营许可证、互联网药品信息资格服务证、二三级医疗器械经 ...
公司新闻
顺企网 | 公司 | 黄页 | 产品 | 采购 | 资讯 | 免费注册 轻松建站
免责声明:本站信息由广州唯鑫创景网络科技有限公司自行发布,交易请核实资质,谨防诈骗,如有侵权请联系我们   法律声明  联系顺企网
© 11467.com 顺企网 版权所有
ICP备案: 粤B2-20160116 / 粤ICP备12079258号 / 粤公网安备 44030702000007号 / 互联网药品信息许可证:(粤)—经营性—2023—0112