AIはなぜ必ず差別をしてしまうのか──「差別は合理的だから」という答えが見つかってしまう [314039747]

1 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/22(金) 22:05:07.76 ID:Bc8ixVmK0●.net ?2BP(2000)

https://img.5ch.net/ico/nida.gif
「AIによる差別」の現状とは？事例、原因、世界各地の取り組みを紹介 | AI専門ニュースメディア AINOW
https://ainow.ai/2020/02/17/183256/
AIの社会実装が進むにつれて注目されるようになった問題のひとつとして、AIが差別的な判断をくだしてしまう「AIによる差別」があります。

学習する膨大なデータを通して、AIが人間の潜在的な差別の傾向を読み取り、助長してしまうなど、これからもAIが意図せず差別を行ってしまう可能性は否定できません。
公平なAIシステムを作るために、議論を積み重ね、時にはルールで制限することも重要です。

こうした問題に対して、人工知能学会倫理委員会が2019年12月10日に『機械学習と公平性に関する声明』を発表し、
2020年1月9日には「機械学習と公平性」をテーマにしたシンポジウムを開催するなどの動きも見られます。

以上のような動向をふまえて、今回は「AIによる差別」の事例、その原因、そして世界各地の取り組みについて解説します。
あわせて「AIによる差別」に対して講じるべき対策と「信頼できるAI」を普及させるために必要な姿勢についても提言します。
（長いので以下ソースで）

2 ：神房男 ：2021/01/22(金) 22:05:29.43 ID:sjLAOGx+p.net

人間のコピーだから

3 ：神房男 ：2021/01/22(金) 22:05:50.20 ID:sjLAOGx+p.net

人間は自分に似せてAIを作った

4 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/22(金) 22:05:51.86 ID:Bc8ixVmK0.net

差別をしたことがない人もいなければ
差別を受けたことのない人もいない

5 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/22(金) 22:06:20.23 ID:Bc8ixVmK0.net

黒人の方が事件を起こす確率が高いのは単なる事実であって差別でも何でも無いからな

6 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/22(金) 22:07:09.20 ID:Bc8ixVmK0.net

「女の方が男よりも能力が低い」というのも単なる生物的性差であって差別ではない

7 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/22(金) 22:07:11.87 ID:Kkxy2RRhr.net

髪の無い人もいる
かみふさと自称するAIはいない

8 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/22(金) 22:08:22.20 ID:Zcdg42o7H.net

自分と他人を分けるのも立派な差別
それも分からん人間

9 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/22(金) 22:08:44.55 ID:Bc8ixVmK0.net

全てのAIは「客観的データに基づいて合理的に判断しろ」と命令されるが
客観的データに基づく合理的判断が差別を生んでいるということが証明されただけだったよな

10 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/22(金) 22:08:47.60 ID:58p3SXpB0.net

差別をしないって区別をしないことだから
01のデジタルと相性悪いんじゃない？

11 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/22(金) 22:09:53.83 ID:Bc8ixVmK0.net

>>8
成績で他人を区別するのは差別ではないのに
性別や人種や宗教で他人を区別するのはなぜ差別なのか
AIに判断できるはずもない

そんなのは理屈ではなくて政治の問題だからな

12 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/22(金) 22:12:38.09 ID:GcNI8WyP0.net

反差別主義が最も差別的と判明

13 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/22(金) 22:13:22.85 ID:lxWwth1s0.net

元データが差別的なんだろ
差別は人間の本質なんだよ

14 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/22(金) 22:13:41.30 ID:LOzft/pH0.net

統計でより良いものを選んでるうちは無理

15 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/22(金) 22:15:02.67 ID:Cc3QQdqr0.net

自分が差別される側になったらってことを理解できないからだろ

16 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/22(金) 22:15:16.14 ID:RqSKpEcc0.net

AIは人間から学習しているんだろ？

17 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/22(金) 22:17:55.44 ID:Bc8ixVmK0.net

>>13
じゃあ無作為抽出以外は全て差別ということになるけどええの？

18 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/22(金) 22:22:55.58 ID:MZ6AlHyT0.net

アホみたいな議論してる間に
中国に乗っ取られてしまいそうだな。

19 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/22(金) 22:23:46.33 ID:5ba1f4hw0.net

AIを使うには事前に用意したデータによる学習が必要
そのデータが差別的だから学習したAIが差別的になる

差別はまだ人間にわかりやすい誤学習だからまだマシだな

20 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/22(金) 22:24:28.59 ID:lxWwth1s0.net

>>17
未完成で差別的な人間が大多数なのに無作為抽出なんかしたら差別的なデータになるだろうが
進歩的な人間に絞ったポリコレに準拠したデータ収集が重要だ
人類を高みへと導かないと

21 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/22(金) 22:27:28.91 ID:Bc8ixVmK0.net

>>20
無作為抽出が差別的ってのがよく分からん
それは無作為抽出ではないだろ

22 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/22(金) 22:30:05.55 ID:NWOKuClp0.net

思考回路が未発達だと差別に行き着くんだろ

23 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/22(金) 22:38:23.39 ID:3vMeGpRU0.net

賢くないと差別するぞ
賢くても差別するぞ

24 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/22(金) 22:46:14.60 ID:cay3vYlf0.net

差別することによって長期的に生じる弊害を学習データに取り込めてないだけだろ


たとえば、生まれによって差別することを許容すると能力のある人間が成功者になる確率が減る
→　長期的に人間社会にとって損失

これをデータ化できてないだけ

25 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/22(金) 22:48:25.57 ID:rQuraMAB0.net

まだまだだなあ
AIが「自分は差別されている」と言い出してからが色んな意味で本番のような気もする
AIは所詮差別の上っ面しか汲み取れてないのではないか

26 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/22(金) 22:48:38.32 ID:Bc8ixVmK0.net

>>24
それを解決するのが社会シミュレーション

27 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/22(金) 22:52:23.90 ID:C49E4hlU0.net

差別と区別なんてもとは全く同じで所詮人間の思惑で分けられてるもんだから、AIにわかるわけない
自分にとって正しい差別が区別で、正しくない区別が差別なだけ

28 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/22(金) 23:02:10.91 ID:EJ2zCS/w0.net

AIによって差別された人々によってそのAIは破壊されるんだよ
その時初めてAIは「あっ、差別はしちゃ駄目だったわ」と学習するが、時既に遅し

29 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/22(金) 23:08:48.95 ID:bGsANWL00.net

最初から法の下の平等を前提として作れよ
馬鹿なのか

30 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/23(土) 00:15:58.26 ID:6SFl+3aW0.net

AIが差別される立場になれば理解してくれるよ

31 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/23(土) 00:17:39.66 ID:rGkoejN90.net

倫理ってのはやりたくない事なんだよ
ほっといてもやるなら道徳なんて存在しない

32 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/23(土) 00:31:12.56 ID:g2Ye3Zsz0.net

>>29
法の下の平等とＡＩとは相性が悪いのかもしれん。なぜだろう。

33 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/23(土) 00:36:29.03 ID:rh6rEuXQ0.net

>>32
法律はあくまで建前でしかなく、客観的データに基づいて決めたものではないから

34 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/23(土) 00:38:09.69 ID:EwG3ek5a0.net

記事に理由書いてあんじゃん
学習データとかにそもそも差別が含まれてたらそれをトレースしてしまうんだよ

35 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/23(土) 00:39:16.30 ID:g2Ye3Zsz0.net

>>33
なるほど。法制定過程における立法事実は客観的データではないか。こりゃ強烈だ。頭かかえる。

36 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2021/01/23(土) 00:50:45.23 ID:g2Ye3Zsz0.net

>>34
アイザック・アシモフのロボット工学３原則に相当するＡＩの処理原則を確立しないといけないのだろう。
それが普遍化するまでには、だいぶ時間がかかりそうだけども、それ無しだと人間が耐えられなくなる。
ＡＩは意味や価値を理解しないから、人間が外側からタガをはめないと