顔認識の「人種バイアス問題」、なぜ解決が困難なのか[03/30]

Jimmy Gomez氏は、カリフォルニア州選出の民主党議員。ハーバード大卒で、米下院の数少ないヒスパニック系議員の1人だ。

だが、Amazonの顔認識システムは、同氏を潜在的犯罪者と見たようだ。

　Gomez氏は、逮捕歴のある人物の顔写真と誤って一致されてしまった28人の米連邦議会議員の1人だ。これは、アメリカ自由人権協会（ACLU）が2018年に実施したAmazonの「Rekognition」プログラムのテスト結果の1つだ。

　犯罪者の顔写真2500枚を米連邦議会議員の顔写真と比較したこのテストで、（非白人は全議員の20％しか占めていないにもかかわらず）誤認識された米議員の約40％は非白人だった。このAmazonのツールは警察も利用している。

　この結果から、人権擁護団体、議員、さらに一部のIT企業までもが、顔認識技術がより主流になれば、マイノリティーを傷つけることになると懸念した。顔認識技術は、既に「iPhone」や「Android」スマートフォンで使われており、警察、小売店、空港、学校なども徐々に採用しつつある。だが、顔認識システムは女性と肌の色が濃い人の認識が苦手であることを、複数の調査結果が示している。それが悲惨な偽陽性につながる可能性がある。

　ACLUの弁護士を務めるJacob Snow氏は「これは、法執行機関による顔認識技術の採用が、既に過剰に規制されているコミュニティーにとって有害な結果をもたらすことの一例だ」と語った。

　顔認識技術には利点がある。メリーランド州警察はこの技術を使って、新聞社Capital Gazetteでの銃撃事件の容疑者を特定した。インドでは、警察がおよそ3000人の行方不明の子どもたちを4日間で確認する際に役立った。Facebookは、目の不自由なユーザーに写真に写っている人物を教えるために、この技術を使っている。スマートフォンのロック解除の便利な方法でもある。

　だが、技術は完璧ではなく、大きな失敗もあった。「Googleフォト」はかつて、2人の黒人をゴリラと認識した。中国ではある女性が、自分のiPhone Xのロックを同僚が「Face ID」を使って解除できてしまうと主張した。誤認識のリスクは、法執行機関が犯罪の容疑者あるいは反対運動の活動家の特定に顔認識技術を使う場合に高まる。

　Gomez氏は次のように語った。「犯罪者の特定という目的で法執行機関に顔認識技術を販売するとなれば、話は全く違ってくる。誤認識があれば、警察と誤認識された人との関係は最悪になる」

　同氏は、ACLUのテスト結果に驚いていないという。技術者というものは、何かを稼働させる方法については熟考しても、彼らが構築するツールがマイノリティーに与える可能性のある影響については十分に考慮しないものだと指摘した。

　IT企業は、顔認識システムの訓練で使うデータを改善することで批判に対応するとともに、人権活動家と同様に、この技術の悪用を防ぐために、政府による規制が必要だとしている。ジョージタウン大学ロースクールの研究者によると、米国の成人の2人に1人は法執行機関が使う顔認識ネットワークに登録されているという。

　AmazonはACLUの調査結果について、ACLUはテストの際、誤った設定を使ったと主張し、反論した。

　Amazon Web Services（AWS）で人工知能（AI）担当ジェネラルマネジャーを務めるMatt Wood氏は公式ブログで「機械学習は法執行機関を支援する非常に価値のあるツールだ。正しく応用されているのかという懸念はあるものの、われわれは、オーブンの設定温度をピザを炭にしてしまう高温に設定することもできるからといって、オーブンを放り出すべきではない」と述べた。

続きはソースで

http://japan.cnet.co...images-135627371.jpg

https://japan.cnet.com/article/35134952/

２ゲット。
人種差別ではなく正しい人の見方。

実は本当に犯罪者だったんじゃないか？
日本なら時々あるぞ

サンドウィッチマンを判定してほしい

傾向が確かに存在するってことだろ

精度が甘い

白人が利用しやすいように作ったシステム。
黒人が作ると、いいものができそう。

統計的事実として有色人種の方が犯罪率高いなら、
そっくり犯罪者が存在する確率も、
有色人種の議員の方が高くなるのは当然だろ？
むしろシステムが統計的客観性を持っている証拠じゃないか。

有色人種では精度が悪いという記事
目鼻立ちの特徴の薄い日本人も例外では無いよ

色情報を使わなきゃ、ガミラス人にも使えるだろう。

そもそも黒はコントラストが取りにくいんだろう。
ゴリラを人と認識するのを仕様とすればいい。

日本でも犯罪者が政治家やってたりするからな

色成分抜いて、輪郭やパーツ抽出で同定できんもんなんかな
こういうとこで苦労してるのを見ると、かなり強い人力の補助条件が必要で
実はそんな上手く行ってないんじゃあと思う。人力資源がある中国が強いだろう

顔認識ってある程度の誤認識の限界がありそう
数人の顔から選ぶなら違いが大きいだろうから、正確に判別できるだろうけど
数千、数万
さらに国の人口レベルの数億とかなったら誤判定もかなり起きそう
結局、補助的に使うしかなさそう

顔だけから人間を特定するのは厳しくて
入力したＩＤ番号に対して、操作している人間が妥当かチェックする
ぐらいの状況じゃないと厳しそう

学習したデータが白人に偏ってただけでしょ
白人６、東洋人３、黒人１とか

実際統計とってみるとそうなんだろう
日本も外国人犯罪者数の統計を国ごとに高い順にすると
3rd の数を1 とするとき
1st と 2nd の合計は20 だ。大差

ちなみに内訳は 中国 > 韓国 > フィリピン となるのが毎年の常連だ

中南米の日本の百倍の殺人率から考えて、
100倍危険な奴と警戒するのは当然だろ！
上院議員というデータを知らなければな。

28人もの米連邦議会議員が誤認識されるなんて、そもそも使い物にならない代物だろ

そもそもの精度が余りに低すぎ

中国のビッグデーターを使えば、黄色人種の識別は完璧やろ

AI「どうせ１００億未満なんだから全員覚えたらええがな

「なぜ解決が困難なのか」とタイトルを付けつつ困難な理由の説明がない
解決して欲しいんじゃなくて危険だと煽りたいみたいだな

>>21
困難な理由は元サイトの記事に書かれてる。
ここのスレ立ては、どんな長い文章でも記事の
1ページ目だけをコピペするだけだからここに
貼ってある文章で何か批評めいたことをしても
全く意味がない。

こんなんデータ増やしてきゃどんどん精度上がってくやろ

>>23
それだけじゃない可能性も元記事には
記載されてるよ。URL書いてあるのクリックも
できないの？

つうかなんでも機械は無理だし
悪意あるプログラムもやればできるし
まあ自社システムしかないしな

googleフォトがゴリラと判断したあの女二人、人の目でも判別は難しかったな

>>1
つうかFaceIDなんて使うなよ
指紋もやだね

>>5
アジアンつうか日本人の年齢もあてにならんから
単なるやる気のなさだろ
そもそもつくってる連中まさか警察で採用されるとは(棒)
みたく警察や軍から金もらっても提供されたデータとかプログラムしかくまないんじゃないか？
昔は採用されるまでのテストケースに期間あったけどいまやなんでもかんでも先に流せだし

ちなみに警察も軍もやって れっかみたく運用責任が微妙つうか
アプリ開発側も初期は金もらえるけど知らんがなだろう

まあ四半期会計からくるいはじめたがグダグダやで

>顔認識システムは女性と肌の色が濃い人の認識が苦手であることを、複数の調査結果が示している。

肌の色は分からんでもないが女はなんで見分けづらいんだろう？

>>30
それは単に関心が薄いから学習できてないだけじゃないの？
常に接してる専門家でも個体を区別できないのはペンギンぐらいだw

いや実はゴリラが人なんだろ？

>>24
元のデータセットが白人男性が多くて、それ以外の精度が上がらんのか
心理学の論文でも似たようなのあったな。元のサンプリングバイアスの影響

>>33
それとプログラムを作る人の知ってる顔の傾向も影響されてると、書いてるね

シュレーディンガーの猫。

統計に忠実なだけだろ

>>34
そんなこと有り得るかな。
今のディープラーニングなんて、
なんでAIがそう判断したのかプログラマーにもわからないレベルやけど。

>>37
知り合いが白人ばかりだと
そもそも白人ばかりのデータセットに違和感を覚えないのだろう