On-Device AI

端末内LLMで、アプリのどの仕事を引き受けられるか

Apple Foundation ModelsとAndroid ML Kitを比較。要約・抽出・分類をネイティブ機能へつなぎ、構造化出力、日本語の品質、対応端末、処理時間、クラウドへのデータ経路から導入を考える。