AMD übernimmt das kanadische KI-Startup Taalas, das spezialisierte Inferenz-Chips baut. Taalas wurde 2023 in Toronto gegründet und war im Februar aus dem Stealth-Modus getreten. Das Chip-Startup baut die Struktur und die gelernten Parameter eines KI-Modells direkt in den Chip ein. Das macht Inferenz extrem schnell, aber der Chip kann nur ein einziges Modell ausführen. Ein Demo-Chip erreichte mehr als 16.000 Tokens pro Sekunde pro Nutzer mit Llama3.1-8B, ein Vielfaches aktueller Konkurrenzchips. Auch Google soll an einem solchen Chip für Gemini-Modelle arbeiten.
Der Chip mit eingebranntem Llama-Modell ist viel schneller als alle anderen Inferenz-Chips, aber nur für dieses eine Modell. | Bild: TaalasAMD will die Technologie in seine Beschleuniger-Roadmap integrieren und zusammen mit Instinct-GPUs als Systemlösung anbieten. Laut Vamsi Boppana, Senior Vice President der KI-Sparte bei AMD, stärke die Übernahme das KI-Portfolio. Taalas-Mitgründer Ljubisa Bajic sagte, AMD biete die nötige Skalierung und Reichweite. Die Übernahme steht unter dem Vorbehalt üblicher Genehmigungen.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
