AI猫育成アプリMeowsterがオフライン対応のオンデバイスモードを搭載

Meowster Innovations株式会社は、AI猫育成アプリ「Meowster」の最新バージョンにおいて、アプリに内蔵した小型言語モデルで動作するオンデバイスモードを新たに搭載したと発表しました。これにより、地下鉄や機内などの電波が不安定な環境やオフライン時でも、ユーザーは通常通り猫との会話を継続できるようになります。オンライン時はクラウド上の大規模モデルが担当し、オフライン時には小型モデルへ自動的に切り替わる仕組みです。

小型言語モデルとクラウドを連携させたハイブリッド構成

今回のアップデートでは、クラウド上の大規模モデルと端末内の小型言語モデルを組み合わせたハイブリッドアーキテクチャが導入されました。オンデバイスモデルにはパラメータ規模1.7B／4BのモバイルネイティブLLMアーキテクチャを採用しており、日常的なやり取りやチャット、感情への反応などに特化しています。

端末のメモリ容量や推論効率に合わせてAttentionやKVキャッシュの構成が最適化されており、フラッグシップ機種に限らず日本市場で広く使われているiOSおよびAndroid端末でスムーズに動作する設計となっています。ユーザーは自動切り替えに任せるだけでなく、会話中に返信の生成モードを手動で選ぶことも可能です。

会話のシームレスな切り替えと記憶の同期機能

ネットワーク状況に応じてモードが切り替わっても、独自の技術によって猫の口調や性格、話し方のクセは維持されます。返信処理が端末内で完結するため、環境によってはオンデバイスモードのほうが高速に応答する場合もあります。

また、アプリの中核機能であるディープメモリーエンジンにより、オフライン中に交わされた会話も端末内に保存されます。通信が復旧した段階で差分データがクラウドの記憶エンジンへと同期されるため、モード間を行き来しても記憶の連続性が途切れない仕様となっています。

オンデバイスモードでの会話ではチャットポイントが消費されず、オフライン中に獲得したスコアや報酬もそのまま維持されます。また、プライバシー面にも配慮されており、オフライン時の発言理解から返信生成までは端末内のみで完結し、サーバーへ内容が送信されることはありません。記憶の同期処理は、ネットワーク復旧後に会話の一貫性を保つ目的でのみ行われます。

Meowster CEOのAnn Yu氏は、電波の有無にかかわらずユーザーのそばにいられる体験の重要性を強調し、10億パラメータ級のモデルを一般的なスマートフォンで動かす技術や、オンライン・オフラインを問わず同一のキャラクター性と記憶を保つ開発に注力した旨を述べています。