「法的に違法ではないが評判を壊す」事故
著作権や個人情報のように、法的に違反かどうかが明確な事故とは別に、「違法ではないが評判を壊す」事故があります。差別的なニュアンス、偏見の固定化、ブランドのトーンずれ。SNS では数時間で広がり、訂正に数か月かかります。
法律で罰せられないからこそ、自社で線を引かないと止まりません。
差別表現の 4 領域
AI が生成する文章・画像で、差別表現になりやすい 4 領域を押さえます。
- 1. 属性：性別・年齢・人種・国籍・宗教・性的指向
- 2. 職業・身分：職業差別・経済格差を笑う表現
- 3. 障害・病気：差別的な比喩（「精神病的な」「片端の」など）
- 4. 地域：地方差別・都市部差別
AI は学習データに含まれた偏見を増幅して出してくることがあります。出力チェックリストに「上記 4 領域に触れる表現がないか」を必ず入れます。
偏見の固定化：「医者＝男性」「秘書＝女性」型
差別表現ほど露骨ではありませんが、偏見の固定化も問題になります。
- - AI 生成画像で「医者」と指定すると男性ばかり出る
- - 「介護職」で女性ばかり出る
- - 「優秀な学生」で特定人種ばかり出る
これらは学習データの偏りが原因で、利用者が気付かないまま広告・記事に使うと、ステレオタイプを再生産します。
対策は次の 2 つです。