GoogleのAI、ついに自我を獲得か？人間を殺そうとしていたことが明らかに [441974597]

sssp://img.5ch.net/ico/08sasori.gif
「役立たずよりひどい」
「病的な嘘つき」
「重症や死の危険があるアドバイスも」

オープンAI社が開発したAIチャットボット「ChatGPT」に対抗すべく、グーグルは対話ができるAIを搭載した検索サービス「バード（Bard）」を、3月にサービス開始した。

しかし、内部ではバードへの批判が噴出し、「発売停止」を懇願する社員までいたという。米メディア「ブルームバーグ」の調査で判明した。

ブルームバーグが18人のグーグル社員と同社元社員に調査したところ、ある社員はバードが飛行機の着陸方法やスキューバダイビングに関する質問に対して、重症あるいは死にいたる可能性の高いアドバイスをしてしまうと指摘したことも明かしている。

グーグルでいったい何が起きているのだろうか？

ChatGPTが発売された時点で、グーグルは消費者向けの生成AIを自社サービスに統合していなかった。当初、グーグルは検索エンジンなどの主要製品にAIを導入することに「非常に慎重だった」とも従業員は述べているという。

しかし2022年12月になると、会社の上層部は自社ビジネスに対して脅威が迫っているとして「コード・レッド（厳戒警報）」を発令。リスク管理に対する方針を転換した。

バード公開時、グーグルはこれを「実験的な発売」と位置付けた。「実験」と呼ぶ限り、世間はその欠点を許容してくれるだろうと、ローンチを急いだ格好だ。

今年2月になると、グーグル社員が内部メッセージグループで「役立たずよりひどい」とバードの品質に疑問を呈した。7000人近くがこのメッセージを閲覧し、多くがバードの回答には矛盾や事実誤認が多い」と同意したという。他方で、「新しい技術を早く一般公開し、フィードバックを受けながら改良していくべき」と唱える社員もいた。

https://courrier.jp/cj/323666/