On-Device-KI im Smartphone: Was Apple Intelligence, Galaxy AI und Gemini Nano wirklich lokal berechnen

Wenn ein Smartphone heute eine Nachricht zusammenfasst, ein Foto retuschiert oder eine Frage beantwortet, denkt man automatisch an einen fernen Rechenzentrum-Server, der im Hintergrund die eigentliche Arbeit erledigt. Tatsächlich läuft ein wachsender Teil dieser Funktionen inzwischen direkt auf dem Gerät selbst. On-Device-KI ist damit zu einem zentralen Verkaufsargument moderner Smartphones geworden — bei Apple, Samsung und Google, wenn auch mit unterschiedlichen technischen Ansätzen.

Warum lokale Verarbeitung überhaupt wichtig ist

Der Hauptgrund für on-device Berechnungen liegt in einer Kombination aus Geschwindigkeit, Datenschutz und Zuverlässigkeit. Wenn eine KI-Anfrage nicht erst über das Mobilfunknetz an einen Server geschickt, dort verarbeitet und die Antwort zurückgesendet werden muss, fällt die spürbare Verzögerung weg, die bei Cloud-basierten Diensten oft auftritt. Gleichzeitig bleiben sensible Daten wie private Nachrichten, Fotos oder Standortinformationen auf dem Gerät, statt an externe Server übertragen zu werden — ein Aspekt, der angesichts wachsender Bedenken rund um KI-Datenschutz für viele Nutzer zunehmend wichtig wird. Und schließlich funktionieren on-device Funktionen auch ohne Internetverbindung zuverlässig, etwa im Flugzeug oder in Funklöchern.

Apple Intelligence: Konsequent lokal, mit Cloud-Backup für komplexe Fälle

Apples Ansatz setzt konsequent auf lokale Verarbeitung als Standardfall. Die auf dem iPhone integrierten Modelle übernehmen Aufgaben wie Textzusammenfassungen, Benachrichtigungs-Priorisierung oder Bildbearbeitung direkt auf dem Gerät, ohne dass Daten das iPhone verlassen. Nur bei besonders komplexen Anfragen, die die Rechenleistung des Smartphone-Chips übersteigen, greift Apple auf eine Cloud-Infrastruktur zurück, die nach eigenen Angaben mit strengen Datenschutzvorgaben arbeitet und keine dauerhafte Speicherung der übertragenen Daten vorsieht.

Gemini Nano: Googles schlanke Modell-Variante

Google verfolgt mit Gemini Nano eine kompaktere, speziell für mobile Geräte optimierte Version seiner größeren Gemini-Modelle. Über die als AICore bezeichnete Systemkomponente steht Gemini Nano auf unterstützten Android-Geräten für Aufgaben wie Text-, Bild- und Sprachverarbeitung direkt auf dem Gerät zur Verfügung. Google kombiniert diesen lokalen Ansatz mit einer klaren Aufgabenteilung: Einfachere, alltägliche Anfragen werden bevorzugt lokal verarbeitet, während rechenintensive oder besonders komplexe Aufgaben an cloudbasierte Gemini-Modelle weitergeleitet werden. Besonders auf Pixel-Smartphones, wo Google sowohl Hardware als auch Software selbst entwickelt, lässt sich diese Kombination aus lokaler und Cloud-Verarbeitung besonders eng aufeinander abstimmen.

Galaxy AI: Wahlfreiheit zwischen lokal und Cloud

Samsung geht bei seiner Galaxy AI einen Mittelweg, der Nutzern mehr direkte Kontrolle einräumt. Auf aktuellen Galaxy-Topmodellen lässt sich gezielt einstellen, dass sämtliche KI-Verarbeitung ausschließlich lokal auf dem Gerät stattfindet — mit dem Kompromiss, dass dann einzelne, besonders rechenintensive Funktionen eingeschränkt oder gar nicht verfügbar sind. Wer diese Einschränkung in Kauf nimmt, bekommt dafür die Garantie, dass keine Daten das Gerät verlassen. Standardmäßig kombiniert Samsung lokale und Cloud-Verarbeitung ähnlich wie Google, um die volle Funktionsbreite anzubieten.

Die Rolle der NPU

Technisch möglich wird On-Device-KI erst durch spezialisierte Recheneinheiten, sogenannte Neural Processing Units, die inzwischen in praktisch jedem aktuellen High-End-Smartphone-Chip verbaut sind. Diese NPUs sind speziell für die Art von Matrizen-Berechnungen optimiert, die KI-Modelle benötigen, und arbeiten dabei deutlich energieeffizienter als ein klassischer Hauptprozessor. Ein ähnliches Prinzip kennt man bereits von NPUs in modernen Laptop-Chips, wo dieselbe Grundidee — spezialisierte Hardware für KI-Aufgaben statt allgemeiner Prozessorleistung — bereits seit einigen Generationen zum Einsatz kommt, ebenso wie bei Copilot+ PCs im Windows-Ökosystem.

Grenzen der lokalen Verarbeitung

Trotz aller Fortschritte bleiben lokale KI-Modelle in ihrer Größe und Komplexität durch die begrenzte Rechenleistung und den Arbeitsspeicher eines Smartphones eingeschränkt. Große, sehr leistungsfähige Sprachmodelle, wie sie etwa hinter den bekanntesten Chatbots stehen, lassen sich in vergleichbarer Qualität aktuell nicht vollständig auf einem Smartphone-Chip betreiben. Für komplexe Recherche-Anfragen, lange Textgenerierung oder sehr detaillierte Bildgenerierung greifen deshalb auch die konsequentesten On-Device-Ansätze im Hintergrund weiterhin auf Cloud-Ressourcen zurück, ähnlich wie es bei größeren lokalen KI-Modellen auf dem PC der Fall ist, wo die verfügbare Hardware ebenfalls über die praktikable Modellgröße entscheidet.

Wie viel Speicherplatz On-Device-Modelle wirklich brauchen

Ein praktischer Aspekt, der bei der Diskussion um lokale KI oft zu kurz kommt, ist der benötigte Speicherplatz. Komprimierte On-Device-Modelle wie Gemini Nano oder die kleineren Apple-Intelligence-Modelle belegen typischerweise einen Bereich von wenigen hundert Megabyte bis wenigen Gigabyte auf dem internen Speicher, deutlich weniger als die um Größenordnungen umfangreicheren Cloud-Modelle, die auf spezialisierten Servern mit erheblich mehr Arbeitsspeicher laufen. Für Smartphones mit knapp bemessenem Basisspeicher kann das dennoch spürbar ins Gewicht fallen, insbesondere wenn mehrere spezialisierte Modelle gleichzeitig für unterschiedliche Aufgaben — etwa Sprache, Bild und Text getrennt — vorgehalten werden müssen.

Auswirkungen auf Akkulaufzeit und Wärmeentwicklung

On-Device-KI-Berechnungen laufen über die spezialisierte NPU deutlich energieeffizienter ab als eine vergleichbare Berechnung über den allgemeinen Hauptprozessor, verbrauchen aber dennoch spürbar mehr Energie als etwa das reine Anzeigen eines Textes. Bei intensiver Nutzung von KI-Funktionen, etwa durchgehender Live-Übersetzung oder kontinuierlicher Bildanalyse, lässt sich ein gewisser zusätzlicher Akkuverbrauch kaum vermeiden. Hersteller optimieren ihre Chips deshalb kontinuierlich darauf, häufig genutzte KI-Funktionen mit möglichst geringem Energiebedarf auszuführen, ähnlich wie es sich bereits bei der allgemeinen Entwicklung von Akkutechnik und Energieeffizienz bei Smartphones über die letzten Jahre gezeigt hat.

Wie Nutzer die eigenen Einstellungen kontrollieren können

Alle drei großen Anbieter geben Nutzern inzwischen zumindest eingeschränkt die Möglichkeit, nachzuvollziehen, welche Daten für KI-Funktionen verarbeitet werden und wo diese Verarbeitung stattfindet. In den Systemeinstellungen aktueller Smartphones lässt sich häufig einsehen, welche Apps auf die On-Device-KI-Funktionen zugreifen, und in vielen Fällen auch gezielt deaktivieren, welche personalisierten Funktionen aktiv sein dürfen. Wer besonderen Wert auf Datensparsamkeit legt, sollte diese Einstellungen nach dem Ersteinrichten des Geräts gezielt durchgehen, statt sich auf die werkseitigen Standardeinstellungen zu verlassen, die in der Regel auf maximale Funktionsvielfalt statt auf maximale Datensparsamkeit ausgelegt sind.

Auch beim Gerätekauf selbst lohnt sich inzwischen ein Blick darauf, wie ein Hersteller mit On-Device-KI wirbt: Je konkreter angegeben wird, welche Funktionen tatsächlich lokal laufen und welche eine Internetverbindung voraussetzen, desto verlässlicher lässt sich einschätzen, wie datensparsam ein bestimmtes Smartphone im Alltag tatsächlich arbeitet und wie viel Vertrauen die Marketing-Aussagen eines Herstellers tatsächlich verdienen.

Fazit

On-Device-KI hat sich vom Nischenfeature zu einem zentralen Differenzierungsmerkmal zwischen den großen Smartphone-Herstellern entwickelt. Apple setzt auf maximale lokale Verarbeitung mit Cloud als Ausnahme, Google kombiniert Gemini Nano gezielt mit Cloud-Modellen, und Samsung gibt Nutzern die explizite Wahl zwischen beiden Ansätzen. Für Käufer lohnt sich vor allem ein Blick darauf, wie transparent ein Hersteller kommuniziert, welche Funktionen tatsächlich lokal bleiben und welche Daten das Gerät verlassen.