Perplexity bringt KI-Agent mit „Portable Computer“ auf lokale Nvidia-Hardware

2 hours ago 1

Perplexity bringt seinen KI-Agenten „Computer“ mit „Portable Computer“ in einer Local-first-Variante auf den Markt. Anders als bei den bisherigen Versionen sollen nicht nur Dateien und Anwendungen auf dem Rechner erreichbar sein: Auch das Sprachmodell, die Inferenz und die zentrale Agentensteuerung laufen lokal.

Perplexity verspricht damit, dass Daten auf dem Gerät bleiben, wenn kein Cloudzugriff gewünscht wird, und lokal ausgeführte Aufgaben keine Credits verbrauchen. Die lokale Ausführung senkt zwar die nutzungsabhängigen Modellkosten, macht das System aber nicht kostenlos: Nutzer benötigen nach Angaben von Perplexity mindestens ein Pro- oder Max-Abonnement. Zum Start richtet sich das Angebot an Nutzer von Nvidias KI-Workstation DGX Spark. Unterstützung für PCs mit leistungsfähiger RTX-GPU soll folgen, zunächst für Linux-, dann für Windows-Systeme.

Perplexity Computer ist ein Agentensystem für mehrstufige Arbeitsabläufe. Es soll Dateien und Anwendungen durchsuchen, Daten auswerten, Webrecherchen einbeziehen und Ergebnisse etwa an angebundene Dienste weitergeben. Damit unterscheidet sich das Produkt von einem Chatbot, der auf einzelne Prompts antwortet: Der Agent kann Aufgaben planen, Zwischenschritte ausführen und längere Jobs fortsetzen.

Als Modelle nennt Perplexity Qwen 3.8 27B und PPLX 27B, eine auf den eigenen Agenten-Stack nachtrainierte Qwen-Variante. Später soll Nvidias Nemotron 3.5 Lightning folgen.

Die bisherigen Varianten von Perplexity Personal Computer für macOS und Windows verbanden lokale Dateien, Anwendungen und externe Dienste mit Cloud-Modellen. Der Agent konnte somit auf dem Desktop arbeiten, komplexere Aufgaben dürften aber in vielen Fällen Rechenleistung aus der Cloud benötigt haben. Die Windows-Fassung setzte laut Perplexity zudem auf ein lokales Modell, das Teilaufgaben zwischen Gerät und Cloud verteilt.

Portable Computer soll diesen Schwerpunkt verschieben. Perplexity installiert laut Ankündigung den kompletten Agenten-Stack auf dem eigenen Rechner. Dazu gehören neben einem lokalen Sprachmodell ein Planer, eine Werkzeugsteuerung, eine Aufgabenwarteschlange und ein lokaler Suchindex für Dateien und Code. Der Agent kann damit beispielsweise einen Projektordner analysieren, Dokumente zusammenfassen oder einen lokalen Datenbestand auswerten, ohne die Inhalte standardmäßig an einen Server zu übertragen.

Ganz ohne Cloud kommt Portable Computer nicht aus. Für aktuelle Webinformationen, Browser-Aufgaben oder besonders anspruchsvolle Schlussfolgerungen kann der lokale Agent einen Cloud-Dienst hinzuziehen. Perplexity zufolge fragt das System vorher um Erlaubnis. Lokale Daten sollen dabei grundsätzlich auf dem Gerät bleiben.

Laut einem Bericht von VentureBeat soll Portable Computer vor einem Cloud-Aufruf den zu übertragenden Kontext auf personenbezogene oder sensible Daten prüfen. Die Oberfläche zeige dann, welche Inhalte das Gerät verlassen würden. Das entfernte Modell erhalte demnach nur eine textliche Anfrage und könne weder auf lokale Dateien noch auf Werkzeuge zugreifen. Perplexity will die Werkzeugausführung zudem in einer Sandbox abschotten.

Perplexity verweist zum Start auf eigene Benchmark-Ergebnisse. Auf einem unternehmenseigenen Test mit 53 Aufgaben aus Recherche, Finanzanalyse und Dokumentenerstellung soll Computer mit Qwen 3.8 27B auf einer DGX Spark 82,6 Prozent erreicht haben. Mit PPLX 27B nennt Perplexity 85,4 Prozent. Vergleichswerte für die Open-Source-Agenten Pi und Hermes lagen laut Unternehmen darunter.

Die Angaben sind jedoch mit Vorsicht zu bewerten: Perplexity hat die Benchmarks selbst entwickelt und durchgeführt. Das Unternehmen will sie nach eigenen Angaben als Open Source veröffentlichen. Erst dann könnten Dritte die Ergebnisse mit identischer Hardware und Konfiguration überprüfen.

Bei anspruchsvollen Coding-Aufgaben sieht Perplexity die lokale Ausführung nicht als vollständigen Ersatz für Frontier-Modelle. Im eigenen Test sei ein rein lokal laufendes Qwen-Modell deutlich hinter einem Cloud-Modell geblieben. Die optionale Eskalation an einen Cloud-„Advisor“ habe den Abstand verringert, aber nicht geschlossen. Der Ansatz zielt somit eher darauf, häufige und datensensible Aufgaben lokal auszuführen und Cloud-Rechenleistung gezielt für schwierigere Teilschritte einzusetzen.

Portable Computer setzt als Referenzplattform zunächst auf Nvidias DGX Spark. Die unverbindliche Preisempfehlung von Nvidia für die KI-Workstation mit Grace-Blackwell-GB10-Chip und 128 GByte Unified Memory lag zuletzt bei 4700 US-Dollar, Preise im Handel dürften aktuell deutlich darüber liegen.

VentureBeat zufolge setzt Portable Computer beim angekündigten Support für PCs mit RTX-GPUs mindestens 24 GByte Grafikspeicher voraus. Das ist etwa die Klasse einer GeForce RTX 3090 oder leistungsfähigerer Karten mit entsprechendem Ausbau. Die Hardware-Vorgaben begrenzen den Nutzerkreis deutlich. „Portable“ meint daher vorerst eher einen lokal betreibbaren Agenten-Stack auf geeigneter Nvidia-Hardware, nicht eine breit verfügbare Offline-Anwendung für beliebige Endnutzer-PCs.

(axk)

Read Entire Article