財布を気にしたくないのでローカルLLM(Gemma3)にコードを書かせてみた - MNTSQ Techブログ
2025/03/26 03:15
人気記事
Rustで進化するPayPayのスケーラビリティ
喘ぎ声を重ねる激しい絡みも…女優・松本若菜(40)が“遅咲きのブレイク”を果たすまで | 文春オンライン
中国の若い世代が偽のお腹をつけマタニティフォトを撮影するという謎ブーム|カラパイアカラパイア不思議と謎の大冒険カラパイア
岩井清隆さん、亡くなる - チダイズム
大阪にあるマンション、真横にサントリーの看板がありむちゃくちゃ青に照らされている…この部屋は売れるのでしょうか…? - Togetter [トゥギャッター]

https://tech.mntsq.co.jp/entry/2025/03/25/102902
ずん
「みんな、ローカルLLMがすごい話題になってるのだ!財布の心配なく使えるらしいのだ!」
でぇじょうぶ博士
「ほう、Gemma3の話でやんすね。GoogleがオープンソースとしてリリースしたLLMでやんす。API課金を気にせず使えるのが魅力でやんす。」
やきう
「ワイもGPT使うたびに財布が軽くなってて泣きそうやわ。これ使えばタダなんか?」
でぇじょうぶ博士
「完全にタダというわけではないでやんす。GPUを積んだPCが必要でやんす。ただし一度環境を整えれば、電気代以外はかからないでやんす。」
ずん
「でも性能はイマイチなんじゃないのだ?」
やきう
「そら無料なんやから、期待すんなや。ワイの脳みそくらいの性能やろ。」
でぇじょうぶ博士
「4Bモデルだと確かに制限はありますが、プロンプトを工夫すれば十分使えるでやんす。12Bモデルなら精度は上がるものの、処理速度が実用的ではないでやんす。」
やきう
「結局、高性能なGPUマシン持ってないと使えへんのか。貧乏人には関係ない話やん。」
ずん
「じゃあボク、ママのクレカでGPU買うのだ!」