最近ともだちからローカルLLMを試してみたというお話を聞いて、最近のローカルLLM事情が気になり、あれこれいじりながらの1週間を過ごしました。
去年の6月頃にChatGPTに触れてから「AI面白い!」といろいろいじるようになりました。
ローカルLLMでチャットボットを作って遊んでみたりしたんですが、私の環境で動かせるモデルでは限界がすぐ見えてしまい、以後ローカルで動かせるものに関しては、画像生成や3Dモデル生成等の方に興味が移ってしまったんですよね。
最近のモデルとして Qwen3.5:4B・9B、Gemma4:E4B 等を動かしてみて、性能向上は感じるけれど、まぁでも出来ることはやっぱし