1 hour ago
2
Seit einiger Zeit gibt es im Firefox für iOS die Funktion Shake to Summarize. Wer das Smartphone schüttelt, erhält eine kurze Zusammenfassung der aktuell geöffneten Webseite. Die Funktion kam bei Nutzern angeblich gut an und Mozilla hat nun einen Blick unter die Haube gewährt, wie die Auswahl des passenden KI-Modells ablief. Technisch gesehen wird der Webseiteninhalt abgegriffen, an ein LLM gesendet und das Ergebnis zurückgespielt. Da der Markt an Modellen riesig ist und sich fast wöchentlich ändert, musste Mozilla abwägen, welche Lösung für den Endanwender tatsächlich nützlich ist. Reine Benchmark-Zahlen reichten da wohl nicht aus.
Entscheidend waren Qualität, Geschwindigkeit, Kosten und der Open-Source-Faktor. Da das Feature für Nutzer kostenlos ist, trägt Mozilla die Kosten für die Rechenleistung. In der engeren Auswahl standen Mistral Nemo, Mistral Small, Jamba 1.5 mini, Gemini Flash 2.0 und Llama 4 Maverick. Zur Bewertung der Qualität wurde GPT-4o als Juror eingesetzt, um Kohärenz, Konsistenz und Relevanz der Zusammenfassungen zu prüfen. Hierbei zeigten Gemini 2.0 Flash, Llama 4 Maverick und Mistral Small die besten Ergebnisse. Da die Qualität bei Texten mit mehr als 5000 Token spürbar nachließ, werden längere Seiten generell nicht zusammengefasst.
Bei der Geschwindigkeit lagen Mistral Small und Gemini vorn. Ein wichtiger Punkt waren die Betriebskosten auf der Vertex-AI-Plattform. Mistral Small schlägt mit 0,10 Dollar (ca. 0,09 Euro) pro Million Input-Token zu Buche. Im Vergleich dazu liegen Llama 4 Maverick bei 0,35 Dollar (ca. 0,31 Euro) und Gemini 2.5 Flash bei 0,30 Dollar (ca. 0,27 Euro). Da Mistral Small hier deutlich günstiger ist und zudem über offene Gewichtungen verfügt, fiel die Wahl am Ende auf dieses Modell. Es bietet eine gute Balance aus Leistung, Preis und dem bei Mozilla wichtigen Open-Source-Ansatz. Die gemachten Erfahrungen sollen auch in künftige Projekte wie das kommende Smart Window einfließen.
Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir eine kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.
