FNN「日本がスパコン富岳でAIを作ります！ChatGPTより優れた点は何ですか！」研究者「本家が相手にしてない日本語に強いことです」 [296617208]

1 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 11:54:16.36 ID:Sr6LC8VJd●.net ?2BP(2000)

https://img.5ch.net/ico/nida.gif
国産生成AIをスパコン「富岳」を活用し開発へ…
ChatGPTより優れた点は？国産のメリットを研究者に聞いた
https://www.fnn.jp/articles/-/534465?display=full

35 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:10:20.40 ID:TP5NOd4nM.net

ニューラルネットワーク学習モデルの萌芽期

米国勢はワークステーション（かつ分散コンピューティング）の
潤沢な計算リソースを使っていた

一方、日本ではワークステーション（及びスパコン）の計算リソースは
「確実に成果が出る」シミュレーション系が独占的に使っており
東工大を含む日本勢は最新のDOS-Vを使って研究していた

36 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:11:12.83 ID:GX/+FLD70.net

>>34
畜生！最新技術もジャップの手に渡れば中抜き道具にしかならないのか！

37 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:11:49.56 ID:I1+KQNMR0.net

今アプリで使えるChatGPTでも日本語に関して必要十分だと思うけどそんなところに特化させて何がしたいねん

38 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:11:50.90 ID:4zax6QtiM.net

ガラパゴジャップ

39 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:12:07.81 ID:vDaYC4YQ0.net

>>1
>――「ChatGPT」より優れている点はどんなところになりそう？
>
>日本語中心の大規模言語モデルができて、初めて「ChatGPT」との客観的な性能比較が可能になります。
>現時点では優れている点についてはっきりとしたことを述べることはできませんが、日本語中心のデータを
>用いることで、日本語に関して処理効率の良いモデルになることを期待しています。

優れているところは無さそうｗ

40 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:12:16.79 ID:ggXmDFh7M.net

AIはパターン学習なんだから何を読み込ませるかが重要で味付けにそんなマシンパワーが必要とは思えない、データ転送速度くらいじゃないかな気を付けることは

41 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:13:23.55 ID:GX/+FLD70.net

>>39
日本語でbingやbardに負けたら流石に愕然とするわｗ
ただエロ規制緩和してくれたら使います！

42 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:13:24.98 ID:jwYv12IN0.net

富岳ありきでやってる感出してねーか

43 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:13:33.40 ID:biPk7ZJ1r.net

世界一のくせに何でそんな補助的な機能なのｗ

44 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:13:45.89 ID:ab37IEu20.net

これもう半分エキサイト翻訳だろ

45 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:14:10.56 ID:MGb5LjSwH.net

この感じだとまず日本語という言語自体にアドバンテージが無いという事実を認識することから始めなきゃいけないのか…
尾張屋根

46 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:14:38.82 ID:Xg87U1Q70.net

むしろopenAI社は日本でやるとしきりに言ってたのでは
まあ日本がAIに対して少しでも規制掛けたら撤退するだろうが

47 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:16:58.60 ID:ZXv4MCX6M.net

aiは元データ量の勝負だもんなぁ、マイナー言語は不利だわな

48 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:18:14.23 ID:N/T7BlX+0.net

期待してる人いないだろ

49 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:20:42.20 ID:XGdC52Vva.net

すげー性格悪いの出来そう

50 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:21:08.98 ID:A3dTXytM0.net

Hentaiポルノでも学習させとけ
もうそれしかジャップが世界に誇るものないだろ

51 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:21:42.90 ID:js8bfV1C0.net

>>50
海外サーバーの方がデータが充実してる😭

52 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:26:19.03 ID:b0NVIJDw0.net

富岳を使うのはコスパ悪いみたいに聞いたぞ
でも日本語バリアーで利権を守りたいだけやからね
日本語ネイティブ用は多分日本人と発想が似てくるはずやからね

53 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:28:22.62 ID:zdN/2lJyM.net

あえて国産のメリットを言うならデータが国外に流出しないことだろ

54 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:29:39.46 ID:XbpoRU3oM.net

もちょっと進化したら言語自体学習するじゃねえの？
もうしてるのかもしれんけど

55 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:30:01.59 ID:0k2Uo5Rf0.net

AIの機械学習させる計算には
正確性は欠けるけど
小数点以下を無視する
整数演算のGPUスパコンが効率的
ただそれ以外に余り使い道がない
それに対して
富嶽のように浮動小数点演算する
スパコンは正確性が求められる
シミュレーションには向いてるけど
機械学習の演算作業では非効率で
演算速度で勝てない

因みに富嶽は研究者の見込みだと
世界最新最速のGPUスパコンに対して
1/5程度の性能になるらしい

まあこれでも遅くはないんだけど
あるもの使えば
一からGPUスパコン建設するより
時間もコストも節約出来るか言うほど悪い選択じゃない

56 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:32:19.56 ID:OiJ5GyVj0.net

AIが黒塗りを覚えるってことか

57 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:32:52.55 ID:MGb5LjSwH.net

>>46
規制方面での話で行けば
現状の著作権法のAI関連周りが整備された当時の議員先生方の議論を見ても
今ギャーギャー問題だ無断だ喚いてる奴らの言ってることはほぼ想定出来てたし
当時でも珍しく議論され尽くして立法したのが分かるんよね

今の国内での運用もあの議論内で出た結論をベースに推進をしてるのが
今出てる行政文書でも分かるしな

だからEUみたいな規制はほぼないと思うよ
あるとすればわーくにの飼い主様のアメリカの現地の議論と世論の結果が影響してくると思う

58 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:33:05.37 ID:LrNNihToM.net

Google翻訳をGPTに学習させて我々が作りました！ドヤァ、すればええんやない

59 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:33:53.07 ID:fQAj/23xr.net

でもそもそも参照できる日本語でネットにある情報すくなすぎるから意味ないのでは？

60 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:34:41.20 ID:PBPK1zDfd.net

AIは色んなとこが名乗り上げてるけど実際にマネタイズの絵を描けてるとこがMSくらいしか無いっていう
半年もしたらお手上げになるとこ多そう

61 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:35:15.07 ID:0k2Uo5Rf0.net

日本語はローカル言語の中ではダントツ多いよ

62 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:35:50.17 ID:5g7X6+tma.net

消費財下げろよ

63 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:36:22.02 ID:aml2afg20.net

自民党を潰す方法を教えて！🥺

64 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:36:34.22 ID:o8VkjZMFM.net

使い道がないから非効率なスパコンでなにかやってみたくなったのかな

65 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:38:15.63 ID:0k2Uo5Rf0.net

>>60
MSも全く出来てない
今のところAIは超高コスト運用だから
赤字無視でやるチキンレース

66 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:38:59.72 ID:ggXmDFh7M.net

>>63
私は大規模言語モデルとしてまだ学習中です。そちらについては、理解して対応できる機能がないため、すみませんがお手伝いできません。

67 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:39:52.51 ID:0k2Uo5Rf0.net

例えば
現在日本最高峰GPUスパコンは
去年NECが立ち上げた
NvidiaGPUを928個積んでるスパコン
これに対し
Metaが去年立ち上げたGPUスパコンは
NvidiaGPUを約16000個積んでて
比べくもなく今のままでは全く勝負にならない
それを考えれば演算効率悪くても
富嶽で学習演算させる方がマシなのは間違いない

68 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:40:54.11 ID:IvbNodsQ0.net

>>8
GPUより一台あたりや電気代あたりの性能低いけど金じゃぶじゃぶ注ぎ込んだ分台数はあるので良い勝負ができるって記事に書いてある

69 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:41:49.73 ID:MGb5LjSwH.net

>>60
まぁそもそもビッグデータを持ってるけど
ほとんどの企業がビッグデータを全く活用出来てないっていう事実が既にあるしな…

ビッグデータ持ってるくせに何も出来ないぐらいならAIに食わせて何か形になったほうがマシとか考えてるとこもあると思う
メタバースよりは何か資産にはなるだろうね…

70 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:42:09.44 ID:o8VkjZMFM.net

おそらく電気を馬鹿みたいに使うから、作り続けてるとそこが批判の対象になるだろ

71 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:43:45.04 ID:js8bfV1C0.net

https://news.yahoo.co.jp/articles/65531174ef300f425891198923dde08738fc34cc

ハゲバンクがAI用途なら富岳級のGPUスパコン何個か買うらしいよ

72 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:44:13.45 ID:0k2Uo5Rf0.net

日本語LLMを富嶽で作るのと
作った日本語LLMを運用するのは別の話だから
この辺混同してる奴がいるね

73 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:46:48.65 ID:WORV9Muz0.net

日本語に執着しなくてもジャップは学校で何年もやってるんだし英語使えるじゃん

74 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:47:33.17 ID:MGb5LjSwH.net

>>72
運用に足る日本語LLMが出てくるとは誰も思ってないでしょう

一連のレスは作ってノウハウ貯めるって言いたいのはみんなわかってると思うよ

75 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:47:53.87 ID:h9bOcYZBM.net

一般公開したら、野獣先輩とかタクヤさんの学習データで汚染されるところまでは予想できるな

76 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:48:46.89 ID:2VP7EyXb0.net

>>55
学習は浮動小数点じゃなかたっけ
推論は半精度とか整数だけど

77 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:49:00.33 ID:0k2Uo5Rf0.net

こう言う最新GPUスパコン性能って
技術革新真っ最中で今幾ら投資しても
数年すればゴミ当然になるから
今目的もなく巨額投資するのはリスクあるんだよね
だから取り敢えずあるもので賄うのは間違ってはない

78 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 12:56:17.86 ID:CTGbXAbh0.net

>>70
一応批判はされてるけど仮想通貨という聳え立つゴミが既にあるからなｗｗｗｗｗ

79 ：番組の途中ですがアフィサイトへの＼(^o^)／です (ﾜｯﾁｮｲW bb55-GGii)：2023/05/31(水) 13:15:59.49 ID:HBGPV8lG0.net

>>8
ニューラルネットワーク専用のボード積んでるんだぞ

GPUはニューラルネットワーク向けだとかなりのオーバースペックなんだよ
倍精度浮動小数点もでか過ぎるし
シェーダーの細かな演算も必要ない

かなり簡素化してもっとメモリも増やせるから
シリコンバレーのベンチャーがAI向けにGPUより何倍も効率良いのを開発してる
これから多分それが主流になってnVidia は価値が落ちるだろう😾

80 ：番組の途中ですがアフィサイトへの＼(^o^)／です (ｵｯﾍﾟｹ Srcf-IgMm)：2023/05/31(水) 13:18:11.24 ID:dWpXEUlhr.net

LLMを理解できてない奴多すぎ
GPTで言語処理の能力は完成してるから
お前らが求めるくだらない日本語情報なんて、ベクトル埋め込み済のデータベースから引っ張ってきて、それをGPTに言語処理させりゃいいだけだろ

あのね？言語処理自体はすでにOpenAIが完成させてんの

バカのために分かりやすく言うと「人間の言葉を自在に操れるロボットはOpenAIが完成させました。」以上。

日本が作った劣化版LLMとか誰が使うんだよ
世界はとっくに次のフェーズに進んでんだよマヌケども

81 ：番組の途中ですがアフィサイトへの＼(^o^)／です (ﾜｯﾁｮｲW bb55-GGii)：2023/05/31(水) 13:19:53.40 ID:HBGPV8lG0.net

>>60
一日一億円コスト垂れ流しだからな

LLMは効率悪すぎる
無駄パラメーターが多いんじゃないかな

だから効率良くする研究が盛んなようだ😾

82 ：番組の途中ですがアフィサイトへの＼(^o^)／です (ﾜｯﾁｮｲ 9fba-S+HU)：2023/05/31(水) 13:35:00.94 ID:rAvKAQTG0.net

>>1
つか日本って官民共同の社会主義国だよな

83 ：佐藤 ：2023/05/31(水) 16:53:57.94 ID:hIMCz9E+0.net

その昔、漢字ロム内蔵が売りのPC-9801ってパソコンがあったな

84 ：番組の途中ですがアフィサイトへの＼(^o^)／です ：2023/05/31(水) 17:38:22.74 ID:S76EpjPNa.net

>>81
一日1億ってどんな所にコストかかってんだろ？