「NPU」の検索結果: ユーザー 1件・記事 3件
リード 2026年9月、Apple・Samsung・Qualcommの3社が「端末内でどこまで高度なAI推論ができるか」を巡る直接対決を迎えた。iPhone 18のA20チップは前世代比2.4倍のNPU性能を持ち、Snapdragon 8 Gen 5搭載のAndroid各社もリアルタイム翻訳・画像生成を端末単体で処理する段階に到達している。クラウドAPIへの依存が「補助」に格下げされる分岐点だ。 ...
リード 2026年8月、「クラウドなしでLLMを動かす」が静かに現実になりつつある。llama.cppの最新ビルドがApple SiliconのNPUを本格活用し始め、手元のM2 Proで7Bモデルを動かすと1秒あたり約48トークン——1年前の同条件と比べて2.7倍速い数字が出た。触ってみないとわからない、を地で行く変化だ。 何が起きているのか 8月14日、llama.cppのメインリポジトリにN...