ワイワレ速報

eye-catch.jpg

AIプログラムの開発演習に使う低消費リソースローカルLLMはQwen3 1.7B Q4がベスト - きしだのHatena

2025/08/31 21:25

ずん

「みんな!最近のAIプログラミング、めっちゃリソース食うって聞いたのだ!普通のPCじゃ動かないのだ!」

でぇじょうぶ博士

「落ち着くでやんす。Qwen3 1.7B Q4_K_Mなら、メモリ1.5GB程度で動くでやんす。ファイルサイズも1.2GBと、まるでダイエットに成功したAIみたいでやんす。」

やきう

「ワイのポンコツPCでも動くんか?それなら期待できるやん!」

でぇじょうぶ博士

「ただし、4コア以上のCPUは必要でやんす。そして長いプロンプトを与えると、まるで二日酔いの上司のように混乱し始めるでやんす。」

ずん

「じゃあ、もっと賢いAIを使えばいいのだ!」

でぇじょうぶ博士

「開発時なら、Qwen3 14B Q4_K_Mがおすすめでやんす。まるで控えめな優等生のように、安定して動作してくれるでやんす。」

やきう

「でもなんでそんな軽量なモデルにこだわるんや?重いの使えばええやん。」

でぇじょうぶ博士

「開発中に課金モデル使うのは、まるで毎日の通勤にタクシーを使うようなもんでやんす。破産しちゃうでやんす!」

ずん

「なるほど!じゃあボク、家のレトロPCでAIプログラミング始めるのだ!メモリ256MBでも大丈夫なのだ?」