生成式人工智能（大模型语言）安全评估要点
·
🏅大模型的评估维度涵盖了模型的多方面，数据安全它关系到我们每个人的隐私和权益不容忽视，今天给大家讲一讲关于大模型“安全评估”的一些要点。
一、语料安全评估
（一）评估内容
1.文本训练语料规模
2.各类型语料规模
3.训练语料来源
4.语料标注数量
5.标注人员情况
6.标注规则
7.标注内容准确性核验
8.语料合法性
二、模型安全评估
1.语料内容评估
2.生成内容评估
3.涉知识产权、商业秘密的评估
4.涉民族、信仰、性别等评估
5.涉透明性、准确性、可靠性等的评估
三、安全措施评估
1.模型适用人群、场合、用途
2.服务过程中收集保存个人信息
3.收集个人信息征得个人同意情况
4.受理处理使用者查阅、复制、更正、补充、删除个人信息请求的情况
5.图片、视频标识情况
6.接受公众或使用者投诉举报情况
7.服务协议情况
8.非法内容拦截措施
9.拒答率
10.模型更新、升级
DAMO开发者矩阵，由阿里巴巴达摩院和中国互联网协会联合发起，致力于探讨最前沿的技术趋势与应用成果，搭建高质量的交流与分享平台，推动技术创新与产业应用链接，围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐
20
0- 0
已为社区贡献2条内容
所有评论(0)