Perplexity hat einen Orchestrator angekündigt, der KI-Modelle auf dem eigenen Rechner mit leistungsstarken Cloud-Modellen kombiniert und automatisch entscheidet, welche Aufgabe wo verarbeitet wird. Ziel sei es, Genauigkeit, Datenschutz und Energieeffizienz gleichzeitig zu optimieren. Die hybride Inferenz soll ab Juli in das im März vorgestellte Always-on-Agenten-Produkt Personal Computer integriert werden.
Sensible Daten wie Finanzunterlagen oder Gesundheitsinformationen sollen lokal bleiben, während rechenintensive Aufgaben an Cloud-Modelle weitergeleitet werden. Perplexity hat das System zusammen mit Intel vorgestellt. Das modellagnostische Framework läuft aber auch auf anderer Hardware, etwa Nvidias RTX Spark. "Das Rennen um lokale Rechenleistung hat begonnen", heißt es in der Ankündigung.
Laut Perplexity könnte die Verlagerung von Routineaufgaben auf lokale Geräte den Bedarf an zentraler Recheninfrastruktur senken und Fragen der Datensouveränität vereinfachen. Das Unternehmen betont, sein Geschäftsmodell belohne korrekte Antworten statt hohen Rechenverbrauch – das mache die Optimierung auf Effizienz zum natürlichen Anreiz.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
