中国社会を覆う「見えない檻」、犯罪予測AIが実現したSFディストピアへようこそ [573958201]

sssp://img.5ch.net/ico/sii_2ch.gif
2020年、中国南部の当局が、結婚に不審な点があるとソフトウェアが警告した後、夫と一緒に香港に移住したいという女性の要求を拒否したと、地元警察が報じた。その後の調査で、2人が同じ時間に同じ場所にいることはあまりなく、春節の連休も一緒に過ごしていないことが判明した。警察は、移住許可証を得るための偽装結婚と結論づけた。

同じ年、中国北部では、ある男性が別の仲間と頻繁に住宅地に入り込んでいるという自動通報があり、警察が捜査に乗り出しました。国営メディアによると、この男性はマルチ商法に加担していたことが判明したという。

これらの新しいセキュリティ技術の詳細は、警察の研究論文、監視請負業者の特許やプレゼンテーション、さらにThe Timesが調査・確認した何百もの公的調達文書に記載されています。調達文書の多くは、アジア・ソサエティが発行するオンラインマガジンChinaFileが共有したもので、政府のウェブサイト上の何年にもわたる記録を体系的に集めている。また、港湾都市・天津の当局が、陳情者が隣の北京に行くのを阻止するために購入したソフトウェアについて説明した一式は、監視業界の出版社であるIPVMから提供されたものである。

中国公安部は、北京の本部と全国にある6つの地方部門にファックスでコメントを求めたが、回答はなかった。

この監視の新しいアプローチは、アメリカやヨーロッパのデータ駆動型警察ソフトウェアに基づいている。権利保護団体が言うには、どの地域が最も厳しく取り締まられ、どの囚人が仮釈放されるかといった決定に人種差別が組み込まれた技術である。中国はこれを極端にし、全国に蓄積されたデータを利用することで、警察が不透明かつ無差別に活動できるようにしている。

多くの場合、人々は自分が監視されていることに気づいていない。警察は、この技術の有効性や、それが促す行動について、外部からの監視をほとんど受けていない。中国当局は、個人情報を収集するために令状を必要としない。

このシステムは、最先端のものであるだけに、SFの世界ではよくある難問を提起している。もし、未来が起こる前に警察が介入したら、未来が正確に予測されたことをどうやって知ることができるのだろうか？

たとえソフトウェアが人間の行動を推測するのに失敗しても、監視自体が不安や犯罪を抑制するのだから、それは成功したと言える、と専門家は言う。

ヒューマン・ライツ・ウォッチの中国上級研究員であるマヤ・ワンは、「これは目に見えないテクノロジーの檻が社会に押し付けられているのです」と言い、「中国社会ですでに深刻な差別を受けている集団に不釣り合いな負担がかかっているのです」と述べた。

2017年、中国で最も有名な起業家の1人が、犯罪を予知できるコンピューターシステムという大胆な未来像を描いていた。

人工知能スタートアップのMegviiを設立したこの起業家、Yin Qiは、中国の国営メディアに対し、監視システムが警察に犯罪の検索エンジンを与え、膨大なビデオ映像を分析してパターンを直感し、疑わしい行動を当局に警告することができる、と語った。例えば、駅に長時間いる人をカメラがとらえれば、スリの可能性があると判断できる。

「カメラの背後に実際に人がいたら怖いですが、カメラの背後にはシステムがあります。「私たちが毎日使っているインターネット上の検索エンジンと同じで、とても中立的なものです。それはとても中立的なもので、善意のものであるはずなのです。

そして、このような監視があれば、「悪人はどこにも隠れることができない」と付け加えた。

それから5年、彼の構想は徐々に現実のものとなりつつある。タイムズ紙が調べたメグヴィの社内プレゼンでは、この新興企業の製品が、警察のための完全なデジタル書類をどのように組み立てるかが示されている。

「顔、写真、車、事件、事故の記録を保存する多次元データベースを構築する」と、"インテリジェントサーチ "と呼ばれる製品の説明にはある。このソフトウェアは、データを分析して、"無実と思われる一般人を掘り起こす "ことで "違法行為をゆりかごの中で押しとどめる "のだという。

Megviiの広報担当者は、電子メールによる声明の中で、同社は人工知能の責任ある開発に取り組んでおり、生活をより安全で便利にすることに関心があり、"特定のグループや個人を監視することが目的ではない "と述べた。

https://www.nytimes.com/2022/06/25/technology/china-surveillance-police.html