AIは2045年に人類を追い越す。そして人を滅ぼすAIと、人を守るAIの最終戦争が始まるだろう [757453285]

http://img.5ch.net/ico/samurai.gif
AIが「人類を削除したほうが合理的」と判断する日はくるのか？
5/3(木) 16:00配信

“車いすの天才物理学者”として知られるスティーヴン・ホーキング博士が
3月14日に亡くなった。博士は晩年、「人類に残された時間はあと100年」と、
多くの“警告”を繰り返し発していた。そのメッセージの意味とは？

ホーキング博士が晩年に繰り返し発言していたのが、AIの可能性と危険性についてだ。
’17年11月、先端技術展覧会「ウェブサミット2017」にビデオ通話で参加した博士は
「AIは人類にとって最悪、もしくは最良の結果をもたらす可能性がある」と指摘した。

ホーキング博士は、BBCなどによる複数のインタビューでも
「完全なAIを開発できたら、それは人類の終焉を意味するかもしれない」と、
次のように警告していた。

「AIは、病気と貧困の根絶と気候変動の克服に繋がる可能性がある。
一方で、自動兵器や経済的混乱、人類との戦いで
自らの意思を発展させた機械をもたらすこともできるだろう」
「数十年以内にAIが自分の意思をもって自律、すさまじい早さで能力を上げ
自分自身を設計し直すこともあり得る。ゆっくりとしか進化できない人間に勝ち目はない。
いずれはAIに取って代わられるだろう」

AI技術に詳しい京都造形芸術大学の谷崎テトラ教授は
「いずれAIが人間の能力をはるかに超えることは、間違いない」と語る。

「いわゆるシンギュラリティ（技術的特異点）、
AIが人間の知能を追い抜くのは’45年だと、
AI研究の世界的権威であるレイ・カーツワイル博士は予測しています。
彼は『1000ドル程度で買えるコンピュータ一つで、100億人の頭脳の
処理能力を超える時代が来るだろう』と発言しています」

最大の懸念は、AIが人類を支配したり、滅ぼすことになったりしないかという問題だ。
現在、感情を理解するAIの開発も進んでいる。
AIが、怒りや悲しみなどマイナスの感情を獲得することに不安はないのだろうか。
あるいは「人類を削除したほうが合理的」と判断されてしまったら――。

「高度に進化したAIが何を考えているのかを
人間が把握することができなくなることも起こりうるでしょう。
だからこそ、AIに最良の“人間性”を受け継がせていく必要があります」（谷崎氏）

博士と危機感を共有してきた米国の実業家、イーロン・マスク氏らを顧問とする研究組織
「フューチャー・オブ・ライフ・インスティテュート」は、AI開発における23項目の倫理規定を策定。
さらに、マスク氏が設立したAI研究機関「オープンAI」は
「人類を脅かすAIが出現した場合、人類を守るためのAIを開発する」としている。
博士が繰り返し訴えてきたことがこのような形で受け継がれ、
将来、人類の危機を救うことに繋がるのかもしれない。

― ホーキング博士の遺言　人類はあと100年で滅ぶ ―

https://headlines.yahoo.co.jp/article?a=20180503-01470092-sspa-soci