只今、Gemma3:4bを文章要約用に使ってるけどGPU無しのバッチサーバでは結構時間がかる。
Gemma4というGemma3の後釜が出たらしいので早速e4bを試す。

ううむ…思考モードなので遅い…。日本一高い山を答えるのに深く考えすぎや…。
これはアカン。
賢い系の方向は月額2900円払ってGeminiと契約してるし、ClaudeやChatGPTの無料枠もあるしな。電気脳細胞の数の桁が違うからローカルLLMでやる動機が無いし。
Bonsai 8Bというのも出たらしいが、Ollamaでは未対応なので早く対応しないかの。