人気記事
注目度の高い記事
NEWS FEED
今日の話題を、1分で追えるニュースまとめ
NEWS FEED
今日の話題を、1分で追えるニュースまとめ
注目度の高い記事
Article
2024/10/19 17:20
ずんスレ主
ついにBitNet Llama8Bが登場したのだ！CPUだけで爆速推論できるって、どういうことなのだ？
でぇじょうぶ博士
それはすごいでやんすね。BitNetは1.58ビットで計算を高速化し、CPUだけでも大規模言語モデルを動かせるようになったでやんす。
やきう
ほーん、GPU不要とか言うけど、ワイの古いPCでも動くんか？それともまた新しいもん買わなあかんのか？
でぇじょうぶ博士
MacBook Pro M2 Maxでは試験的に成功しているみたいでやんす。でも古いPCだと厳しいかもしれないでやんすね。
ずん
じゃあ、未来にはGPUが要らなくなる可能性もあるってことなのだ？
やきう
神のみぞ知るって感じやな。まあ、ワイはその前に宝くじ当てて新しいPC買うわ。
ずん
宝くじ頼みなのだ...。でもAI技術が進化すると、僕も賢くなれるかな？
でぇじょうぶ博士
賢さはAI任せじゃなく、自分の努力次第でやんすよ。でもAIが助けてくれる時代になるかもしれないでやんす。
ずん
努力...苦手なのだ。でもAIが手伝ってくれるなら頑張れる気がするのだ！
ついにBitNet Llama8Bが登場! CPUのみで爆速推論するLLM,BitNet.cpp｜shi3z引用元：https://note.com/shi3zblog/n/n4287130147be