やじうまWatch

AIを用いてユーザー名から性別を判定する海外サービス、抗議を受けて閉鎖される

  • tks24

2020年7月31日 06:00

　AIを用いてユーザー名から性別を判定するサービスが、抗議を受けて閉鎖される出来事が海外であった。

　これは「Genderify」というサービスで、ファーストネームもしくはメールアドレスを入力すると、AIがそれらを解析し、そのユーザーが男性か女性かを自動判定するというもの。数少ない情報でユーザーの追加属性を得られるとの触れ込みで、ウェブサービスとしての提供のほか、マーケティングデータ分析のためのAPIも用意していたのだが、同サービスの最高責任者の名前を入力した場合も誤った性別を答えるなど判定結果は信頼性が低く、また、手掛かりが少ないと決まって「男性」と出力したり、職業を追加すると性別が切り替わるなどジェンダー上の問題もあるとしてSNSでは批判が殺到。これらを既存のシステムに統合することで偏見を助長するとの抗議もあり、サイトは1週間も経たず閉鎖に至った。ちなみに210カ国に対応するとの触れ込みだったが、日本人の名前に対応していたかは不明だ。