youtubeのAI「黒vs白…攻撃…これはヘイトだ！BAN！」　I登録者数100万人超の人気チェスチャンネルに災難 [764390217]

https://img.5ch.net/ico/syobo.gif
https://finders.me/articles.php?id=2631
「アガドメーター」の名前で知られるクロアチアのチェスプレイヤーのアントニオ・ラディッチさん（33歳）は
チェスのYouTubeチャンネル『agadmator's Chess Channel』を運営するYouTuberでもある。2017年に開設したこの
チャンネルは、現在チャンネル登録者数100万人を超え、チェスの分野では世界で最も人気だ。

ところが昨年夏、「有害または危険なコンテンツに関するポリシー」の違反で、YouTubeチャンネルが突然停止されてしまった。
問題とされた動画は、5度の米国チャンピオンを獲得し、当時最年少でチェス界の最高タイトル「グランドマスター」
の称号を手にしたヒカル・ナカムラ氏の盤面を解説したものだ。
24時間後、無事にチャンネルは復活したが、YouTube側から停止した理由について特に明かされなかったという。

今回のトラブルについて、米国カーネギーメロン大学のコンピューター科学者たちは、チェスに関する発言がヘイトスピーチと
勘違いし、AIを混乱させたのではないかと推測している。

実際、この動画の80％以上の発言で、「黒（black）」「白（white）」「攻撃（attack）」「脅威（threat）」といった言葉を使用していることがわかった。
アントニオさんもチェスの話しかしていないが、「白対黒（black vs. white）」といった表現が停止された原因ではないかと考えているという。
同研究所のアシカー・R・クダブクシュ氏も「YouTubeがどのツールを使用しているかわからないが、人種差別的な言葉を検出するために
AIを使っている場合、今後同じような事例が発生する可能性がある」と述べている。

また、アントニオさんの仮説を明らかにするため、クダブクシュ氏と研究員のルーパク・サルカール氏は、ヘイトスピーチを検出するように
設計された2つの最先端のAIソフトウェアを使ってテストを実施。

チェス分野で人気の5つのYouTubeチャンネルから取得した68万以上の発言を、AIソフトウェアで調べたところ、コメントの82％がフィルター
によってフラグが立てられたが、明らかな人種差別的な言葉や悪意のある表現が含まれていなかったとのこと。

研究者たちは現在、今後このような誤認識を避けるため、SNSのアルゴリズムにチェス言語を組み込むべきだと提案している。

使うシーンやニュアンスによって変わる人間の言葉を、今後どこまでAIが正確に分析できるようになるのか。
進化が楽しみでもありつつも、少し複雑な気持ちを抱かされた。

youtubeのAI「黒vs白…攻撃…これはヘイトだ！BAN！」 I登録者数100万人超の人気チェスチャンネルに災難 [764390217]

youtubeのAI「黒vs白…攻撃…これはヘイトだ！BAN！」　I登録者数100万人超の人気チェスチャンネルに災難 [764390217]