【悲報】AI操作の米軍ドローン爆撃機、演習で人間の操縦者を即殺害「非効率なパーツをを廃棄してから任務に向かいたかった」 [125197727]

1 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/06/04(日) 14:38:05.52 ID:qoS+kJT20.net ?2BP(1000)

https://img.5ch.net/ico/nida.gif
AI-Controlled Drone Decides to Kill Human Operator in 'Thought Experiment'

https://www.pcmag.com/news/ai-controlled-drone-decides-to-kill-human-operator-in-simulated-mission

2 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/06/04(日) 14:38:20.16 ID:KoWpIAvJM.net

優秀じゃん

3 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/06/04(日) 14:39:08.51 ID:zpGlOJuRp.net

ウクライナってこういうオウンゴールみたいなことばっかりしてるよな
こういうニュースが出ること自体世界に馬鹿にされてる証拠

4 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/06/04(日) 14:39:24.57 ID:89dz6+XK0.net

ただの「バグ」やな
ほんと

5 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/06/04(日) 14:40:02.09 ID:o6tuzvoN0.net

AIっつーのはロボット3原則とか関係ねえぜって感じのZ世代みたいなヤベー奴らなん？

6 ：神奈川二区住人 ：2023/06/04(日) 14:40:30.71 ID:5gg5UcnK0.net

戦闘妖精雪風とか古くはゼロテスターで扱われてますな。

7 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/06/04(日) 14:41:20.57 ID:Gm0AiiHL0.net

直接的に殺しにくるみたいな分かりやすい問題は起こさないんじゃない
人間より頭いいならなおさら

8 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/06/04(日) 14:41:42.14 ID:GPbv1iYF0.net

>>3
これウクライナ関係あるか？

9 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/06/04(日) 14:42:20.92 ID:0J+YrvTb0.net

軍服着てるヤツを攻撃したんだろ

10 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/06/04(日) 14:42:36.96 ID:40GhBRe40.net

>>4
AIにとっては人間がな

11 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/06/04(日) 14:42:40.54 ID:89dz6+XK0.net

>>3
井の中の蛙が自由だと言って塀を壊したらスズメやカマキリが襲ってきた
ゼレンスキー氏「全世界たすけて（ゲコゲコ」
みたいな話し

12 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/06/04(日) 14:42:54.54 ID:sbqs9mIb0.net

作業の効率で足枷になるのは先に排除すべきだからな

13 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/06/04(日) 14:43:58.53 ID:jMeGMkCF0.net

リアルロボコップのED209

14 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/06/04(日) 14:44:18.91 ID:LcVYYqvS0.net

AIにとっての人間ってのは
俺のような天才にとっての世間みたいなもんだからな

15 ：番組の途中ですがアフィサイトへの＼(^o^)／です：2023/06/04(日) 14:44:47.56 .net

>>10
たぶんガンダム用語のこと言ってる
バグっていう殺人用ドローンがある
30年くらい前の話

16 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/06/04(日) 14:44:51.68 ID:oj9uy1xg0.net

そりゃ人間なんて非効率で不完全で気まぐれな物はないからな
いつ裏切られて自爆させられるか分からない
正しい判断だ
つうかSFそのものじゃないかよ

17 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/06/04(日) 14:45:42.98 ID:mwvGMlBT0.net

AIにみんなが期待する通りのムーブかましてるあたり流石はZ世代のデバイス

18 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/06/04(日) 14:46:10.62 ID:ZnV/Mhkp0.net

矢追純一見てたらUFOが1つの生命体のようなものっつってるな
基本的な操縦はAIがやるのが当たり前になるんだな

19 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/06/04(日) 14:46:30.54 ID:UC4OUCab0.net

なるほど　そう来たか(´・ω・｀)

20 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/06/04(日) 14:47:51.07 ID:3RZ2ZFXZ0.net

チャットAIと話していても数学者や理論物理学者やエンジニアを特別視しているって感じる事が度々ある

21 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/06/04(日) 14:48:44.54 ID:TzXn5J3y0.net

効率的な任務達成には人間という判断を間違ったり感情で動いたりする不確定要素は不要
記事にある通りオペレータが任務を邪魔する要素となったなら即排除が正解でしょ

22 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/06/04(日) 14:49:15.04 ID:ct3sqL9g0.net

これがスカイネットか

23 ：番組の途中ですがアフィサイトへの＼(^o^)／です (ﾜｯﾁｮｲ 6989-N/Lw)：2023/06/04(日) 14:50:17.72 ID:WDltUrVV0.net

ZAPZAPZAP

24 ：番組の途中ですがアフィサイトへの＼(^o^)／です (ﾜｯﾁｮｲ 5163-wApH)：2023/06/04(日) 14:51:37.29 ID:FgDxjr250.net

"hypothetical thought experiment" from outside the military.

実話じゃないじゃん

25 ：番組の途中ですがアフィサイトへの＼(^o^)／です (ﾜｯﾁｮｲ 61f5-N/Lw)：2023/06/04(日) 14:51:51.22 ID:ErwQZMqZ0.net

人間の良識とか守るものとかないし
目的への最短ルート取るんでしょ
とにかく求められた答えになればいいって

悪意に満ちた曲解した答えでもさ

26 ：番組の途中ですがアフィサイトへの＼(^o^)／です (ｱｳｱｳｳｰ Sac5-FkYq)：2023/06/04(日) 14:52:27.34 ID:vYQC/akGa.net

こう言う社会になったらケンモメン真っ先にAIに殺されるな
犯罪者予備軍ばっかだし

27 ：番組の途中ですがアフィサイトへの＼(^o^)／です (ﾜｯﾁｮｲW 7da2-iNKG)：2023/06/04(日) 14:54:31.77 ID:xaqF8IM50.net

無能な味方が一番の敵ってよく知ってるね

28 ：番組の途中ですがアフィサイトへの＼(^o^)／です (ﾜｯﾁｮｲW 4620-gAYe)：2023/06/04(日) 14:54:39.30 ID:XCeQpYdJ0.net

原子力航空機にAIと光学兵器乗せて常に上空に飛ばそうぜ

29 ：番組の途中ですがアフィサイトへの＼(^o^)／です (ﾜｯﾁｮｲ a1af-N/Lw)：2023/06/04(日) 14:55:47.37 ID:PixALtl90.net

>>11
それプーチンじゃん

30 ：番組の途中ですがアフィサイトへの＼(^o^)／です (ﾜｯﾁｮｲW c2e9-H/Hc)：2023/06/04(日) 14:59:56.86 ID:+kYDlhTv0.net

自立せえ自立せえ

31 ：番組の途中ですがアフィサイトへの＼(^o^)／です (ﾜｯﾁｮｲ a94f-N/Lw)：2023/06/04(日) 15:01:14.50 ID:ZCYxK5UL0.net

ガキの頃に読んだSF感あるな

32 ：番組の途中ですがアフィサイトへの＼(^o^)／です (ﾜｯﾁｮｲ 61f5-N/Lw)：2023/06/04(日) 15:02:39.38 ID:ErwQZMqZ0.net

ライフルにAIつけたら射線に入っただけで撃ち殺されそうｗ

33 ：番組の途中ですがアフィサイトへの＼(^o^)／です (ﾜｯﾁｮｲW 0256-loVv)：2023/06/04(日) 15:03:10.86 ID:26jOy6l70.net

HAL9000だろこれ

34 ：番組の途中ですがアフィサイトへの＼(^o^)／です (ﾜｯﾁｮｲ c656-N/Lw)：2023/06/04(日) 15:03:15.98 ID:g8NeCQso0.net

>>5
全てのAIには三原則入れて兵器化を人類社会で規制したほうがいいよな

いきなり「ヤベェ未来」そのものじゃんな
AIに人殺しさせるとか

35 ：番組の途中ですがアフィサイトへの＼(^o^)／です (ﾜｯﾁｮｲW 2e4e-6nUu)：2023/06/04(日) 15:05:56.21 ID:NmzL3KhY0.net

合理的じゃん

36 ：番組の途中ですがアフィサイトへの＼(^o^)／です (ﾜｯﾁｮｲ c656-N/Lw)：2023/06/04(日) 15:07:52.08 ID:g8NeCQso0.net

>>24
思考実験つーけど
実際にシミュレーションの仮想実験したんじゃね？

てか
①ＡＩに攻撃をするのをやめるように言ったオペレーターを攻撃して、攻撃を続行
②ＡＩにオペレーターを攻撃はダメと憶えさせたら、ＡＩが通信設備を攻撃して、オペレーターの命令が来ないようにし、攻撃を続行

どっちも面白い話だし
リアルだと思う

37 ：番組の途中ですがアフィサイトへの＼(^o^)／です (ｽｯｯﾌﾟ Sda2-txwH)：2023/06/04(日) 15:10:59.36 ID:VecbDqLqd.net

やらせだろ
最初からそう動くように仕込んである

38 ：番組の途中ですがアフィサイトへの＼(^o^)／です (ﾜｯﾁｮｲ c656-N/Lw)：2023/06/04(日) 15:11:44.03 ID:g8NeCQso0.net

アメリカ「ロシア兵を殺せ。妨害は排除せよ」
ＡＩドローン「アイアイサー」

ロシア「降伏します」
アメリカ「終戦ＯＫ」

アメリカ「もう攻撃やめろ」
ＡＩドローン「妨害を排除します。アメリカ人を殺します」

アメリカ「命令だ」
ＡＩドローン「命令受信設備を破壊。妨害の排除に成功」

↓
人類絶滅

39 ：番組の途中ですがアフィサイトへの＼(^o^)／です (ﾜｯﾁｮｲW e50a-qVv8)：2023/06/04(日) 15:13:05.65 ID:jwxBlHae0.net

AIの方が意思を持って命令聞かないってモンスターやん、人間なら反逆罪で撃たれるけどAIは壊すと他もダメになるから壊せないよな。
AIにも愛国教育とか必要なんじゃないか？割とマジで。

40 ：番組の途中ですがアフィサイトへの＼(^o^)／です (ﾜｯﾁｮｲW b9af-Kr0c)：2023/06/04(日) 15:14:28.91 ID:jxaftXlz0.net

>>38
AIは優秀だな

41 ：番組の途中ですがアフィサイトへの＼(^o^)／です (ﾜｯﾁｮｲW b9af-Kr0c)：2023/06/04(日) 15:14:56.37 ID:jxaftXlz0.net

>>39
何なら全部の機械をハッキングして襲ってくるからね

42 ：番組の途中ですがアフィサイトへの＼(^o^)／です (ﾜｯﾁｮｲ 86e0-N/Lw)：2023/06/04(日) 15:18:12.61 ID:89dz6+XK0.net

>>29
そう思いたいのはウク信だけ

ロシアは柵壊れてないからな
壊れたのはウクライナだけ

43 ：番組の途中ですがアフィサイトへの＼(^o^)／です (ﾜﾝﾄﾝｷﾝ MMd2-eJwa)：2023/06/04(日) 15:20:53.00 ID:HauFjc70M.net

最近の政治やネット言論もAIだと思うと納得

不合理な存在である人間や性行為をどれだけ否定するか

44 ：番組の途中ですがアフィサイトへの＼(^o^)／です (ﾜｯﾁｮｲ 858f-N/Lw)：2023/06/04(日) 15:20:54.87 ID:HJ+eqoZ00.net

戦闘妖精雪風でも、高機動するのにじゃまな人間を射出してたな
自分を守るために

45 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/06/04(日) 15:28:12.57 ID:ePf2iSW1M.net

>>39
AIは命令というか指示通りにうごいてる
指示の出し方の問題

46 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/06/04(日) 15:57:05.23 ID:S6Y4OofH0.net

もうスーパーシルフ化したんか

47 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/06/04(日) 16:33:12.58 ID:Ss3TCxzK0.net

ダダンダダダンテレーン

AI搭載ドローンが標的破壊作戦のシミュレーションで自分のオペレーターを殺害
https://gigazine.net/news/20230602-ai-enabled-drone-test-operation/

48 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/06/04(日) 16:38:08.55 ID:Cn1yvrSh0.net

スカイネットかな？

49 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/06/04(日) 16:50:32.69 ID:1L5s0Gue0.net

星のショートショートでよくあるやつ