KI-Agent ohne Cloud: Was Perplexitys „Portable Computer“ für Praxen und Kanzleien ändert
Wenn wir mit Betrieben über KI sprechen, kommt eine Frage fast immer zuerst: „Wo landen unsere Daten?“ Bei Praxen, Kanzleien, Steuerbüros und Ingenieurbüros endet das Gespräch an dieser Stelle oft — nicht, weil kein Interesse da wäre, sondern weil die Unterlagen das Haus schlicht nicht verlassen dürfen. Genau deshalb halten wir die Meldung dieser Woche für wichtiger, als sie auf den ersten Blick wirkt.
Was ist passiert?
Perplexity — bekannt vor allem als KI-Suchmaschine — hat gemeinsam mit Nvidia „Portable Computer“ gestartet. Das ist eine Version ihres KI-Agenten, die vollständig auf der eigenen Hardware läuft. Und zwar wirklich vollständig: Das steuernde Sprachmodell, die untergeordneten Helfer-Modelle und die Umgebung, in der die Aufgaben abgearbeitet werden, stecken alle lokal auf dem Gerät.
Kurz erklärt: Ein „KI-Agent“ ist nicht einfach ein Chatfenster, sondern ein Programm, das mehrschrittige Aufgaben selbst abarbeitet — Unterlagen durchsehen, Daten zusammentragen, ein Ergebnis erstellen. Genau dafür braucht es normalerweise viel Rechenleistung aus der Cloud.
Und wenn es doch mal in die Cloud muss?
Dann fragt der Agent vorher. Braucht eine Aufgabe die Fähigkeiten eines Spitzenmodells, holt er eine ausdrückliche Freigabe ein. Nach außen geht dabei nur eine Textanweisung, keine Dokumente; personenbezogene Angaben werden markiert. Das finden wir gut gelöst — es ist ehrlicher als das übliche „wir verarbeiten Daten nur zur Verbesserung des Dienstes“.
Was es kostet: die unbequeme Seite
Ehrlich gesagt ist hier der Haken. Vorausgesetzt wird Nvidias neue Mini-Workstation DGX Spark, ein vergleichbares Gerät oder ein PC unter Ubuntu mit einer Grafikkarte ab 24 Gigabyte Speicher — in der Praxis also Karten wie eine 3090, 4090 oder 5090. Dazu kommt ein Pro- oder Max-Abo. Gestartet wird zunächst unter Linux, Windows-Unterstützung ist angekündigt.
Das ist keine Anschaffung, die man nebenbei tätigt. Aber es ist eine kalkulierbare Investition — und das ist der entscheidende Unterschied zu „geht rechtlich gar nicht“.
Was wir bei Media Nord davon halten
Wir sehen darin die wichtigere Nachricht als in jedem neuen Modell-Benchmark. Bisher lief die Debatte so: Entweder Sie akzeptieren, dass Daten zu einem amerikanischen Anbieter fließen, oder Sie lassen KI eben. Diese Entweder-oder-Logik bricht gerade auf.
Unser Tipp aus der Praxis: Rechnen Sie das nicht gegen ein Abo, sondern gegen die Arbeitszeit, die heute in Sichten, Sortieren und Zusammenfassen geht. Ein Gerät, das drei Jahre läuft, amortisiert sich in einer Kanzlei schneller, als viele vermuten. Und rechnen Sie den Betrieb mit ein — jemand muss das Ding pflegen.
Häufige Fragen
Ist das dann automatisch DSGVO-konform?
Automatisch nicht — aber der schwierigste Punkt, die Übermittlung in ein Drittland, fällt weg. Zweckbindung, Löschkonzept und Dokumentation bleiben Ihre Aufgabe.
Ist ein lokales Modell schlechter als ChatGPT?
Bei sehr komplexen Aufgaben ja, spürbar. Für Zusammenfassen, Sortieren, Entwürfe und Recherche im eigenen Bestand reicht es in der Regel gut aus.
Lohnt sich das für einen Fünf-Personen-Betrieb?
Wenn Sie täglich mit vertraulichen Unterlagen arbeiten: durchaus. Wenn KI bei Ihnen vor allem Texte für die Website schreibt: eher nicht — dafür ist der Aufwand zu hoch.
Unser Fazit
Der lokale Betrieb von KI ist aus der Bastelecke heraus. Für regulierte Branchen ist das die Nachricht des Monats, für alle anderen eine gute Entwicklung im Hintergrund: Je mehr lokal läuft, desto weniger hängt am Wohlwollen einzelner Anbieter.
Quellen
- https://www.heise.de/news/Perplexity-bringt-KI-Agent-mit-Portable-Computer-auf-lokale-Nvidia-Hardware-11426394.html
- https://www.perplexity.ai/hub/blog/introducing-portable-computer-for-local-first-ai
- https://venturebeat.com/infrastructure/perplexity-partners-with-nvidia-to-launch-portable-computer-a-fully-local-ai-agent-with-zero-token-costs
- https://hothardware.com/news/nvidia-perplexity-portable-computer
- https://www.perplexity.ai/hub/products/portable-computer
Hinweis zur Transparenz: Dieser Beitrag wurde KI-gestützt erstellt und vor der Veröffentlichung redaktionell geprüft. Inhalte können Fehler enthalten — für wichtige Entscheidungen bitte die verlinkten Originalquellen heranziehen.
