BAUER GROUP产品审查方案
流程
每当进行新产品开发或对现有含AI组件的产品进行重大变更时,应执行以下审查:
步骤一:第5条快速审查
针对八项禁止事由逐一评估:该产品在预期用途或可预见的滥用情形下,是否可能属于该禁止事由的范围?
| # | 禁止事由 | 是/否 | 理由说明 |
|---|---|---|---|
| 1 | 潜意识操纵 | ||
| 2 | 利用弱势群体的脆弱性 | ||
| 3 | 社会评分 | ||
| 4 | 犯罪预测(仅基于画像分析) | ||
| 5 | 无差别人脸识别数据抓取 | ||
| 6 | 情绪识别(工作场所/教育机构) | ||
| 7 | 生物特征分类(敏感数据) | ||
| 8 | 实时远程生物特征识别(公共场所) |
步骤二:结果
- 全部为"否": 产品不受禁止条款影响 → 继续进行风险分类
- 至少一项为"是": 停止产品开发,或修改AI组件使其不再属于该禁止事由的范围
步骤三:文档记录
将审查结果连同日期、责任人和产品标识一并归档。
可预见的滥用
审查还必须考虑可预见的滥用情形。如果一个AI系统在预期用途下无害,但可以轻易被改作禁止用途,则需要采取技术保护措施。