スポンサーリンク

M1 Mac mini(16GB)にBonsai 8BをインストールしてHermes Agentで使い始めてみた感想。

2026/05/05
東京 日の出時刻  4:45
東京 日の入り時刻 18:31

昨日の摂取カロリー:―kcal / 1,800kcal(目標)
今朝の体重:―kg

ここ数ヶ月で気になっていたのが
BonsaiというローカルLLMのモデルと、
Hermes Agentというツール。
Open Clawも気になっていたものの、
セキュリティ面のこともチラホラ目にしたので、
なかなか踏み切れず。
この大型連休は基本的に寝て曜日で過ごしてきてしまったので、
せっかくだから何かチャレンジということで、
M1 Mac miniにBonsai 8Bをインストールし、
Hermes Agentも導入してみるかとなった次第です。

Bonsai 8Bを導入するキッカケとあれこれ。

「メモリは8ギガで十分ですよ」時代の到来。1ビットLLM「Bonsai 8B」を8GBのMacBook Neoで動かしてみたら爆速だった。1.1GBに8Bパラメータが入る驚きをわかってくださいよ(CloseBox) | テクノエッジ TechnoEdge
「メモリは8ギガで十分ですよ」時代の到来。1ビットLLM「Bonsai 8B」を8GBのMacBook Neoで動かしてみたら爆速だった。1.1GBに8Bパラメータが入る驚きをわかってくださいよ(CloseBox) | テクノエッジ TechnoEdge
MacBook Neoの8GB RAMでAIをなんとかするシリーズ。前回の記事では、mazzaineoにWebターミナルとSwiftLM推論エンジンを追加して、8GBメモリの限界に挑んだ話を書きました。

コンパクトかつ、私のM1 Mac miniでもそこそこ動きそうな
ローカルLLMということで気になっていました。
ただ、Ollamaでは動かないという話で、
ちょっと設定が面倒そうだな……と敬遠しているうちに大型連休。
半分以上を寝て過ごしてしまい、
これではいけない! と一念発起したのでした。

最近の恒例として、Geminiとやりとりしながらインストール、
設定を進めたのですが、なかなか上手くいかず。
GeminiはOllamaでイケると主張してきて……
いや、だめなのよ……。
WebのGeminiではラチがあかなそうだったので、
Gemini CLIに参考になりそうなサイトを読んでもらい、
それをベースに進めたところ、なんとか導入成功。
動作も、これまでに入れたローカルLLMよりも反応良好。
これなら普段使いならいけるかな?
という手応えでした。
Claude、Geminiの代替としては難しいですが、
コストを気にして使えなかったところを試せるかな、と。

だったら、Hermes Agentもいきましょう!

Hermes Agent — 記憶を持つオープンソースAIエージェント
Hermes Agent — 記憶を持つオープンソースAIエージェント
プロジェクトを記憶し、スキルを自動構築。Telegram・Discord対応の自己ホスト型AIエージェント。MITライセンス、追跡なし。

Open Clawのような存在も気になりつつ、
Claude Code Channelsでお茶を濁してきた今日この頃。
週末、M1 Mac miniにClaude Code Channelsを導入してみた。 | 感想温泉 kansou-onsen
週末、M1 Mac miniにClaude Code Channelsを導入してみた。
2026/03/23東京 日の出時刻  5:41東京 日の入り時刻 17:55昨日の摂取カロリー:―kcal / 1,800kcal(目標)今朝の体重:82kg連休はできるだけ野菜中心を意識して、なんとか体重を維持。やったね!!そして今朝、...

それなりに便利ではあるのですが、
やっぱり、Open Clawも気になっていました。
ただ、セキュリティ面の心配もあるしなー、
と、なかなか手を出せずにいまして。
そんな中で、Open Claw対抗のようなものとして
Hermes Agentというものがあるぞ、と目にし、
じゃあこれを試すかーとなったのでありました。

こちらもGeminiに頼りつつ設定を進めてなんとか完了。
Bonsaiを使用するLLMとしても設定できました。
試行錯誤もそれなりにありましたが。

Bonsai 8B + Hermes Agentを使ってみてどう?

コレ一本な、と言われると相当に厳しいですね。
日本語についても微妙な場面がありますし、
これに信頼を置いて色々任せられるかというと、
現段階では私は無理。
でも、使い込むうちに変わることもありそうですし、
そういう作りになっていそうなのがHermes Agentの魅力でもあり。
なにしろ使い倒しても追加料金はないので、
色々試してみるかなー、といったところです。

コードを書く作業などはCursor CLIにまかせたりできれば、
とも一瞬思ったものの、司令塔がBonsaiな段階でちょっと厳しいかな……
まんま、私の指示をCursor CLIに投げて、
その返答だけを受け取るSkillsとかを作れたら事情も変わりそうですが。
はたして。

他アプリ経由で弄れるのは便利で、
Claude Code Channelsよりも助かるのは、
他アプリから新しいセッションを始められること。
Bonsaiだとコンテキストウィンドウが約64Kなので、
こまめに、やりたいことにあわせて立ち上げなおしたくて。
そのあたりのニーズを満たしてくれるのは嬉しいですね。

難点は、
セッション開始時の最初のやりとりに3分ほどかかること。
以降はあまり遅さは感じないのですけれども。
どうも、最初はHermes Agentのスキルなどの読み込みに
時間がかかるようで。
このあたりは仕方ないところなのでしょうね。
運用でカバー!

ともかく、新しいオモチャが増えたので、
ガシガシ遊んで参ります。

さて、明日こそはStackChanを触るぞ!

コメント

タイトルとURLをコピーしました