Microsofts KI „Mu“: Lokale Intelligenz für Copilot+ PCs

6 months ago 7

Microsoft rüstet seine neuen Copilot+ PCs mit einer neuen KI namens „Mu“ aus. Statt auf die Cloud zu setzen, verlagert Microsoft die Intelligenz direkt auf den Computer des Nutzers. Das kleine Sprachmodell agiert dort demnach als stiller, aber fähiger Helfer direkt im Betriebssystem.

Mit seinen 330 Millionen Parametern gehört Mu zur Klasse der „Small Language Models“ (SLMs). Diese schlanke Basis ist die Voraussetzung dafür, dass die KI vollständig auf der lokalen NPU der Copilot+ PCs laufen kann. Der direkte Draht zur Hardware erlaubt eine Verarbeitung ohne Umwege über das Internet. Microsoft spricht von über 100 generierten Tokens pro Sekunde. Für den Nutzer bedeutet das eine quasi verzögerungsfreie Interaktion.

Ihren ersten Auftritt hat die KI im Einstellungsmenü von Windows, das für Insider bereits testbar ist. Eine Anweisung wie „Stell den Nachtmodus ein“ wird nicht an einen Server gesendet, sondern direkt auf dem Gerät verstanden und umgesetzt.

Microsoft setzt bei Mu auf eine Encoder-Decoder-Architektur. Die Arbeitsteilung der Prozesse ist für spezifische Aufgaben wie die Steuerung von Systemeinstellungen deutlich effizienter als die bei großen Chat-Modellen üblichen Decoder-only-Strukturen. Zusätzlich wurde das Modell in Zusammenarbeit mit den Chip-Herstellern AMD, Intel und Qualcomm optimiert. Durch spezielle Anpassungen, sogenannte Quantisierungstechniken, wird die Software demnach perfekt auf die Silizium-Architektur der NPUs abgestimmt.

Wann genau die Funktion über den Kreis der Windows Insider hinaus für alle Besitzer von Copilot+ PCs verfügbar sein wird, hat Microsoft noch nicht kommuniziert.

Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf ge­lan­gt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir ei­ne kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.

Read Entire Article