【驚愕】AI自動車の物体認識システム、歩行者を○○で識別していることが判明・・・

1: しじみ ★ 2019/03/04(月) 13:16:54.25 ID:CAP_USER

ジョージア工科大学の研究チームは、自律自動車で使われている最先端技術による物体認識システムが、肌の色の濃い歩行者の検出に関して精度が低くなることを発見した。

研究チームは、標準データセットで訓練された8つの画像認識システムに対し、多数の歩行者画像を用いたテストを実施した。テストに用いた歩行者の画像は、フィッツパトリック分類に基づいて、肌の色の白い歩行者のグループと濃い歩行者の2つのグループに分けられた。フィッツパトリック分類とは人の肌の色を分類する方法の1つだ。

テストの結果、これらの物体認識システムの検出精度は、肌の色の濃いグループの方が平均5％低いことが分かった。この結果は、時刻や視界の遮りを調整した場合も変わらなかった。

さらなる分析の結果、研究チームはこの偏りがおそらく2つの原因によるものだろうと判断した。1つは、訓練に用いた画像に肌の色の濃い歩行者の画像の例が少な過ぎたこと、もう一つは、その限られた数の例からの学習に重点を置くのが十分ではなかったことだ。研究チームは、こうした偏りはデータとアルゴリズムの両方を調整することで低減できる可能性があるとしている。

https://www.technologyreview.jp/nl/self-driving-cars-may-be-more-likely-to-hit-you-if-you-have-dark-skin/

3: ニュースソース検討中＠自治議論スレ 2019/03/04(月) 13:19:44.63 ID:KE4mkAcW

これは人権団体がAIを訴える日も近いな

4: ニュースソース検討中＠自治議論スレ 2019/03/04(月) 13:23:57.34 ID:+hYkmB6l

スレショルドを明るい方に合わせて検出してるんだな。

5: ニュースソース検討中＠自治議論スレ 2019/03/04(月) 13:25:50.85 ID:lDw3PzS2

色で判別するなんて馬鹿げてる

if(navigator.userAgent.indexOf(‘iPhone’) > 0){
document.write(”);
} else if( navigator.userAgent.indexOf(‘Android’) > 0 ) {
document.write(”);
} else {
;
}

6: ニュースソース検討中＠自治議論スレ 2019/03/04(月) 13:29:01.77 ID:HCv65bUG

ならば人間の方を薄い色に改良すれば

7: ニュースソース検討中＠自治議論スレ 2019/03/04(月) 13:29:36.36 ID:u+gBI3qh

白い方が明度が高いから検出しやすいのは当然だ

32: ニュースソース検討中＠自治議論スレ 2019/03/04(月) 23:38:05.73 ID:P4gU4ky8

>>7
違う学習データーが片寄ってた

8: ニュースソース検討中＠自治議論スレ 2019/03/04(月) 13:35:24.77 ID:lDw3PzS2

可視光線だけで検出してたら人間を超えられないよな

if(navigator.userAgent.indexOf(‘iPhone’) > 0){
document.write(”);
} else if( navigator.userAgent.indexOf(‘Android’) > 0 ) {
document.write(”);
} else {
;
}

10: ニュースソース検討中＠自治議論スレ 2019/03/04(月) 13:41:59.59 ID:vD3Nz82x

人種差別かよアイサイト最低じゃん

11: ニュースソース検討中＠自治議論スレ 2019/03/04(月) 13:43:04.07 ID:UigD6DDP

高解像度の赤外線カメラでＯＫ

http://mv-mindhack2ch.up.seesaa.net/common/kijinaka.js

17: ニュースソース検討中＠自治議論スレ 2019/03/04(月) 14:30:14.39 ID:LUo0GUM1

>>11
赤外線とか可視光線にくらべて非常に光量ないぞ

13: ニュースソース検討中＠自治議論スレ 2019/03/04(月) 13:53:58.83 ID:AkKrDGbQ

当たり屋が出そうだな

if(navigator.userAgent.indexOf(‘iPhone’) > 0){
document.write(”);
} else if( navigator.userAgent.indexOf(‘Android’) > 0 ) {
document.write(”);
} else {
;
}

14: ニュースソース検討中＠自治議論スレ 2019/03/04(月) 14:18:19.73 ID:SQ54v/gi

差分検出にしても車自体が動いてるから相対的な計算しないと難しいし、学習だけでは
難しいとこかね

16: ニュースソース検討中＠自治議論スレ 2019/03/04(月) 14:28:40.39 ID:fYUpn6Ul

暴漢が降りてきたときに自動で正当防衛してくれる機能も必要

18: ニュースソース検討中＠自治議論スレ 2019/03/04(月) 14:36:05.54 ID:siunUuQ4

危険を察知した場合、避けようなんてプログラム組むんじゃねーぞ。
余計事が大きくなるぞ。

20: ニュースソース検討中＠自治議論スレ 2019/03/04(月) 16:24:55.87 ID:LnEW/vJw

当たり前だろ。差別でもなんでもない。
「黒い物体＝光を反射しない＝一種のステルス」なんだから。
光学画像認識である以上、黒いものは生物だけでなく機械にとっても見えにくい。

if(navigator.userAgent.indexOf(‘iPhone’) > 0){
document.write(”);
} else if( navigator.userAgent.indexOf(‘Android’) > 0 ) {
document.write(”);
} else {
;
}

22: ニュースソース検討中＠自治議論スレ 2019/03/04(月) 17:39:41.06 ID:jiElasbZ

暗いところで黒かったら分からんもんな

23: ニュースソース検討中＠自治議論スレ 2019/03/04(月) 19:24:45.84 ID:D3m8G1S1

サンコン探しを思い出した

27: ニュースソース検討中＠自治議論スレ 2019/03/04(月) 19:59:29.66 ID:lG0kO0eg

その判定方法は無理じゃないかなぁ

28: ニュースソース検討中＠自治議論スレ 2019/03/04(月) 20:28:51.41 ID:2UE1I2zN

背景が白色で昼間なら肌色濃い方が目立つはずだが、
「時刻や視界の遮りを調整した場合」というのは、
そういう条件ですら暗色の人が発見されにくかった
という意味かな。

if(navigator.userAgent.indexOf(‘iPhone’) > 0){
document.write(”);
} else if( navigator.userAgent.indexOf(‘Android’) > 0 ) {
document.write(”);
} else {
;
}

34: ニュースソース検討中＠自治議論スレ 2019/03/05(火) 01:34:27.80 ID:6HyJ9tAh

逆光とかも危なそう
人間なら最悪の場合は見えなくても予測して操作するけどセンサーありきのAIはどうなるかね
物体認識に異常が出た場合でも一時的なら予測トレース出来るようになってるのかな？
豪雨とか豪雪とかどうなる？

31: ニュースソース検討中＠自治議論スレ 2019/03/04(月) 22:05:27.93 ID:SNR0tqyc

濃い色は保護色系だから、当たり前だ。