ChatGPT:macOS 27 に更新済みなら、Apple標準のオンデバイスAI「Foundation Models」をターミナルから直接試せます。MacBook Air M1 も Apple Intelligence 対応機種なので対象です。
とのことである。(注:Foundation Models = 基盤モデル という言葉は普通名詞)
さっそくインストールして,使用例を試してみた。Ollamaで試している軽量ローカルLLMと同じ程度の出来にみえる。自分のMacBook Air M1(16GB)では,Apple Foundation Modelは使えるといっても,
ChatGPT:Ollamaで言えば概ね「優秀な3B〜4B級」と考えるのが妥当です。具体的には qwen3:4b や gemma3:4b と同じクラスです。ただし、用途によってはAppleの3Bモデルの方がかなり強く見える一方、長文・高度な推論ではOllamaの7B〜14B級に及びません。
とのことである。さらに,次のようなことになっているらしい。
M1/16GB → AFM 3 Core(約3Bクラス)M3以降/12GB以上 → AFM 3 Core Advanced(20B sparse)将来の上位Apple Silicon → さらに大型のon-device model?
なので,AFM(Apple Foundation Model) だけにフォーカスすれば,現時点であまり高いスペックのマシンを選ぶのはちょっとどうかということだ。もちろん実行速度とか,Ollamaによる別のローカルLLMではそれなりの意味があるのだけれど。
というわけで,手元のMacBookについては,来年のMacBook Air M6(32GB),iPadOS27に対応しなくなる iPad については, iPad Air M4 (256MB) あたりへの更新がおすすめだといわれた。
0 件のコメント:
コメントを投稿