Claude Code Local — Apple Siliconで動くローカルAI実行環境
概要
claude-code-local は、Anthropic の「Claude Code」相当の大規模モデル(122Bパラメータ級)を、クラウドや有料APIを使わずにApple Silicon搭載のMac上で動かすためのプロジェクトです。Google TurboQuant による量子化と最適化を活用し、メモリや演算負荷を抑えつつローカルでの推論を実現。リポジトリには起動ランチャー(launchers)、ローカルプロキシ(proxy)、および利用手順をまとめた docs が含まれており、データを端末外に出さないプライベート環境でコード補完やコード生成タスクを実行できます。ベンチマークや利用上の注意点もREADMEにまとまっているため、実機での試行が比較的容易です。
リポジトリの統計情報
- スター数: 26
- フォーク数: 2
- ウォッチャー数: 26
- コミット数: 7
- ファイル数: 7
- メインの言語: Python
主な特徴
- 122B相当モデルをApple Silicon上でローカル実行(クラウド不要、課金なし)
- Google TurboQuant による量子化でメモリと速度を最適化(例:41 tok/s)
- ローカルプロキシを備え、既存のClaude向けクライアントと互換性を持たせられる
- ドキュメントと起動ランチャーで導入手順が整理されている
技術的なポイント
claude-code-local の核となる技術は「量子化」と「ローカル推論のためのパイプライン最適化」です。122Bクラスのモデルをそのまま浮動小数点で動かすことは、特にメモリが限られるノートPC環境では現実的でないため、TurboQuant のような量子化手法でパラメータを低ビット表現に変換し、モデルサイズとメモリ帯域を削減しています。これにより、Apple Silicon 上でもモデルをメモリに乗せつつ、推論中のデータ移動を減らすことが可能になります。
さらに、推論エンジン側ではTensor計算の最適化やバッチサイズ、トークン生成ループのチューニングが施され、41 tok/s のような実用的なスループットを達成しています(ハードウェアと量子化の設定に依存)。ローカルプロキシはClaude CodeのAPI互換レイヤーを提供することで、既存のクライアントやツールから透過的にローカルモデルを利用できる点が利点です。これにより、クラウドAPIを差し替えるだけでオンプレミス運用に移行できます。
注意点としては、量子化による精度劣化、モデルファイルや量子化済みウェイトの取得方法、そして実行時のメモリ/スワップ要件などが挙げられます。122B相当のワークロードはモデルのビット幅を下げても依然として大きく、十分なRAMやストレージ、適切な設定(スレッド数、スワップ設定など)が必要です。また、ライセンスやモデル配布の制約を確認することが重要です。本リポジトリはあくまでローカル実行環境の枠組みと起動支援を提供しており、モデル本体の入手は別途必要になる可能性があります。
プロジェクトの構成
主要なファイルとディレクトリ:
- .gitignore: file
- README.md: file
- docs: dir
- launchers: dir
- proxy: dir
…他 2 ファイル
各ディレクトリの役割(概要)
- docs: セットアップ手順、必要要件、ベンチマーク結果やよくある質問を記載。
- launchers: モデルの起動スクリプトや設定テンプレート。ハードウェア固有のチューニングを含む可能性あり。
- proxy: ローカルでClaude互換APIをエミュレートするプロキシ。外部クライアントからのリクエストをローカル推論エンジンに中継する役割を果たす。
READMEにはプロジェクトの目標(「No cloud. No fees. No data leaves your machine.」)やベンチマークのバッジも掲載されており、導入前に期待できる性能とトレードオフを把握しやすくなっています。
まとめ
Apple Silicon上で高性能モデルをオフラインで動かしたい開発者向けの実用的なスタートキットです(導入にはモデル入手とハードウェア要件確認が必要)。
リポジトリ情報:
- 名前: claude-code-local
- 説明: Run Claude Code with local AI on Apple Silicon. 122B model at 41 tok/s with Google TurboQuant. No cloud, no API fees.
- スター数: 26
- 言語: Python
- URL: https://github.com/nicedreamzapp/claude-code-local
- オーナー: nicedreamzapp
- アバター: https://avatars.githubusercontent.com/u/207429969?v=4
READMEの抜粋:
🧠 Claude Code Local
Run a 122 billion parameter AI on your MacBook.
No cloud. No fees. No data leaves your machine.