27億パラメータを持つ大規模言語モデル「Bonsai 27B」が、iPhone上で動作できることが明らかになりました。ITmedia AI＋によると、このクラスのモデルがスマートフォンで稼働するのは非常に珍しい事例です。

従来、大規模言語モデルは高性能なサーバーやクラウド環境での運用が一般的でしたが、「Bonsai 27B」はモバイル端末の処理能力を活かし、端末内での推論を可能にしています。これにより、通信遅延の低減やプライバシー保護の面で利点が期待されます。

日本のFXや暗号資産、株式市場でも、モバイル端末で高度なAI処理が可能になることで、リアルタイムの情報分析や自動取引システムの進化が見込まれています。