-
ニュース速報
-
アメリカ人、DeepSeekを魔改造、500万ドルの大量GPUが必要な学習処理を「30ドルのGPU」に移植 [422186189]
- コメントを投稿する
-
クローンじゃなくて再現ね
-
ローカル画像生成はよ
-
30ドルて
わざわざ取り付けんでも
もうVegaそのまま使えばええやん -
学習に必要な処理能力と推論に必要な処理能力はまるで違うのにミスリードする記事ばかり
-
>>4
これ -
そのうち中古プレステーション4とかでAIできる未来が来るのかな
-
アメリカが中国の技術をパクる時代になるとは
-
これは面白いね
ここから100ドル→千ドルと上げていけば学習能力はすごいことになりそう -
NVIDIAこれもうどーすんの…
-
30ドルならCPU内蔵GPUでもオーバースペックだろw
-
アメリカ
こんな面倒な作業誰もやらんわ。要は金に物言わせてGPU買いまくったらええだけや中国にはGPU渡さんぞ。ざまーみろ
↓
今あるリソースで何とかAIの学習結果をアップさせたい。どうしたらいいだろう?だったら最適化だ。リソースをとことん最小限で最適解があるはず。結果はネット上に全部転がっているんだ。そこから最適解を最小限のリソースで導くだけだ
↓
DeepSeek誕生
↓
アメリカ
はあ!?こんなめんどくさい作業、良くも悪くも暴露してくれたよな!!知ってたわ。だが知っててもやる奴いなかっただけや。
こんなのリリースしたら膨大なGPUにリソース分投げて最適解という従来の流れ変わってしまうやんけ!!
※いや、でも批判だけしとくか。でも俺達もそれやるわ 笑 こんな高額GPUいつまでも買ってられんわ
今ここ -
魔改造の夜に出るの?
-
それで500万$gpuぶん回せば神になれるのでは
-
革ジャンはちょっと凹ませたい
-
>>6
なお当のマイクロソフトもDeepSeekを使用する模様 -
>>8
FC版ドラクエ4 -
DeepSeekの成功は必然。ビッグテックがやりたくないことをやった
https://www.gizmodo....pseeks-approach.html -
>>17
ファミコンのエミュ動かすのにスパコン使うような金のかけ方 -
ワイのNPU搭載ノートPCが有効活用できるようになるのいつ?
-
ノートで学習出来るのはいいがそもそもデータセットは大量に必要だからサーバーは必要とかいうオチか?
-
富岳に移植できないの?
-
>>9
「謎の半導体企業nvidia」 -
>>20
ザラキをボスに撃つな -
>>24
大日本帝国のような大艦巨砲主義をやってるのがアメリカ
全部使うようなことは無いデータは外部に置きネットワークで参照する近代的なのが中国
例えば過去10年分の食事を記録に残していたとしても
最近同じようなものばかり食べてるから変わったもの食べたいなとなったときに
参照する「最近」のデータはせいぜい長くても数ヶ月程度でしょ -
昔はこういうのやってたのは日本だったよな…。
平成のゴミ化によって、令和には日本人総ゴミへと至った。 -
昔のUNIX板ならこういうのやったかもな
-
DeepSeek-R1のフォーク。驚異!のサイズを最大80%削減した動的量子化モデルが公開中
Run DeepSeek-R1 Dynamic 1.58-bit
https://unsloth.ai/b...g/deepseekr1-dynamic
量子化とはデータ精度を落とす事でサイズを小さくする技術。
例えば32ビット浮動小数点(FP32)では0.123456といった細かい数値を表現できますが8ビット整数(INT8)に変換すると0から255の整数に変換されます。精度はいくぶん失われますがその代わりデータサイズ4分の1となります。 -
量子化によりメモリ使用量が削減され計算速度が向上し消費電力を削減しより効率的な計算を可能になる天秤にかけたギリギリのバランスを見つける為、unsllothの兄弟は96時間ぶっ続けでDeepSeek-R1のアーキテクチャを解析しモデルの各部分に対し異なる圧縮率をぶつけ量子化する「動的量子化」を行ったとの事。
結果、元のモデルサイズが720GBに対し驚喜の131GBにまで、おおよそ約80%の削減を実現することに成功したとunslothは報告しています。
動的量子化されたDeepSeek-R1は、VRAMとRAMが合計80GB以上の環境で最適に動作したとのこと。 -
>>26
あの記事はマジでないわ -
具体的な性能としてスループットで毎秒140トークン、単一ユーザーの推論で毎秒14トークンを達成したそうです。GPUがなくても20GBのRAMがあれば動作可能です。しかしその場合は処理速度が遅くなります。
unslothが動的量子化した4モデルはHugging Faceで公開されておりllama.cppやOllama、vLLMなどさまざまなフレームワークで利用可能です。
中国人から更に各国にヒントを与えてしまったようだな。 -
俺の第4世代ノ-パソでも動きそう
-
AI 「さあさあ100ドルからスタートだよ あんな画像からこんなえちえちな動画ができるよ おっとこの線から入っちゃいけないよ 1000ドル出せばこの画像の娘が口に出せないおっとっと口が滑ったとにかくお値段次第でお役に立つ動画がすぐ手に入るお代はクレジットカードでのお帰りだ さあさあ寄った寄った」
-
>>10
これを開発したのもバークレーの中国人だったりするのかしらん -
どんどんと人間の思考の単純さがあばかれているような気がしないでもない
-
常にニホンガーに持っていきたい奴がいるなぁ
-
スレタイ見ても日本の話題を出してないのにニホンガーするの酒の席にいたらめっちゃ同じことでくだ巻いてきてウザそう
-
ラピダスの半導体技術者の平均年齢50歳というからお察しください
-
>>27
このクソ神官め! -
ワシの骨董PC GTX970でもディープフェイクが作れますかね
↑今すぐ読める無料コミック大量配信中!↑