ついにBitNet Llama8Bが登場! CPUのみで爆速推論するLLM,BitNet.cpp|shi3z
2024/10/19 17:20
人気記事
クラスの3軍男子が「超イケメン」に大変身…“陰キャ卒業”に成功した33歳男性が気づいた見た目を整えることの大切さ「いい縁を引き寄せるための第一歩」――2024年9月の読まれた記事1位 | 文春オンライン
集中力を高める「音楽」の特徴調査 ADHD症状への効果も示唆【研究紹介】 | レバテックラボ(レバテックLAB)
漫画家はすみとしこ氏に対する損害賠償請求訴訟の勝訴のご報告 - 塩村あやか公式サイト
「あっという間に売れちゃう」早朝4時、若い女性が路上で買ったクスリの中身は…西成の“違法露店”で記者が目撃した“取引現場” | 文春オンライン
清純派の朝ドラ女優から悪女役の濡れ場を経て…事務所を独立した国仲涼子(45)が、「夫・向井理と一緒はイヤ!」と語るワケ | 文春オンライン
ずん
ついにBitNet Llama8Bが登場したのだ!CPUだけで爆速推論できるって、どういうことなのだ?
でぇじょうぶ博士
それはすごいでやんすね。BitNetは1.58ビットで計算を高速化し、CPUだけでも大規模言語モデルを動かせるようになったでやんす。
やきう
ほーん、GPU不要とか言うけど、ワイの古いPCでも動くんか?それともまた新しいもん買わなあかんのか?
でぇじょうぶ博士
MacBook Pro M2 Maxでは試験的に成功しているみたいでやんす。でも古いPCだと厳しいかもしれないでやんすね。
ずん
じゃあ、未来にはGPUが要らなくなる可能性もあるってことなのだ?
やきう
神のみぞ知るって感じやな。まあ、ワイはその前に宝くじ当てて新しいPC買うわ。
ずん
宝くじ頼みなのだ...。でもAI技術が進化すると、僕も賢くなれるかな?
でぇじょうぶ博士
賢さはAI任せじゃなく、自分の努力次第でやんすよ。でもAIが助けてくれる時代になるかもしれないでやんす。
ずん
努力...苦手なのだ。でもAIが手伝ってくれるなら頑張れる気がするのだ!
新着記事
Switch2 経済制裁下の露でも流通 - Yahoo!ニュース
ガザ住民をアフリカへ イスラエル、受け入れめぐり複数カ国と協議 - CNN.co.jp
ネタニヤフ氏、「大イスラエル」構想を支持 アラブ諸国猛反発 写真2枚 国際ニュース:AFPBB News
男性客が車内で下ネタ発言→「お姉さんはどう思う?」と“セクハラ”されて…現役グラドル兼タクシードライバー・中島由依子(38)が明かす、タクシー運転手のお仕事事情 | 文春オンライン
SNS中傷「犬笛」吹いた人の後悔 - Yahoo!ニュース
人気記事
クラスの3軍男子が「超イケメン」に大変身…“陰キャ卒業”に成功した33歳男性が気づいた見た目を整えることの大切さ「いい縁を引き寄せるための第一歩」――2024年9月の読まれた記事1位 | 文春オンライン
集中力を高める「音楽」の特徴調査 ADHD症状への効果も示唆【研究紹介】 | レバテックラボ(レバテックLAB)
漫画家はすみとしこ氏に対する損害賠償請求訴訟の勝訴のご報告 - 塩村あやか公式サイト
「あっという間に売れちゃう」早朝4時、若い女性が路上で買ったクスリの中身は…西成の“違法露店”で記者が目撃した“取引現場” | 文春オンライン
清純派の朝ドラ女優から悪女役の濡れ場を経て…事務所を独立した国仲涼子(45)が、「夫・向井理と一緒はイヤ!」と語るワケ | 文春オンライン