Peter Gentsch:
Der neue Game Changer für Unternehmen ist die generative KI

Wie man die am besten geeignete generative KI auswählt:
LLMs wie GPT-4, Llama und Falcon – auf der Suche nach dem Heiligen Gral

Eine der wichtigsten Fragen in der Diskussion um generative KI ist die Suche nach dem „richtigen“ Large Language Model (LLM). Die Komplexität dieser Aufgabe wird durch die unterschiedlichen Kriterien und Dimensionen schnell deutlich: Open Source vs. proprietär, öffentliches LLM vs. eigenes LLM, on-prem vs. SaaS. Darüber hinaus sind Stabilität, Schulungs- und Nutzungskosten, Herstelleranmeldung, Kontrollierbarkeit und Datenschutz weitere wichtige Entscheidungsparameter.

Der Stiftungskreis diskutierte diese Frage intensiv mit Experten und Unternehmen, die LLM entwickeln und anwenden. Natürlich gibt es nicht nur eine Antwort. Je nach Zielsetzung, Budget und Rahmenbedingungen muss das geeignete LLM ausgewählt werden.

Die Illustration „Auf dem Weg zum richtigen LLM“ versucht, eine Orientierungshilfe für den Auswahlprozess zu geben (nach Ran Ding, 2023):

Die beiden Extreme eröffnen den Lösungsraum: Von der ungefilterten Nutzung der bekannten Frontier-Modelle wie ChatGPT bis hin zur Entwicklung eines eigenen Sprachmodells von Grund auf. Das Kostengefälle unterstreicht die Extreme – während bestehende Modelle wie GPT kostenlos oder zu vergleichsweise geringen Kosten genutzt werden können, erfordert die Entwicklung eigener Sprachmodelle in der Regel einen Betrag im zweistelligen Millionenbereich. Dazwischen gibt es ein Kontinuum von Lösungen. Erfolgreiche Projekte zeigen, dass bestehende Open-Source-Modelle wie Llama, BERT oder Falcon über verschiedene Optimierungsphasen (Prompting, Embeddings, Fine-Tuning) an spezifische Unternehmen und Domänen angepasst werden können, um einen hohen Qualitäts- und Reifegrad zu erreichen. Diese angepassten Modelle decken nicht die Breite des allgemeinen Weltwissens und der Aufgaben ab wie das „Swiss Army Knife GPT-4“, aber sie sind viel fokussierter und maßgeschneiderter, stabiler und kontrollierbarer (in Bezug auf Qualität und Kosten) für spezifische Aufgaben („Umstellung vom Schweizer Taschenmesser auf ein Skalpell“).

Der gelbe Lösungspunkt stellt einen guten Kompromiss für die unternehmerische Praxis dar. Durch Prompting und zusätzliches vektorisiertes Wissen werden kleinere Open-Source-Modelle (geringe/mittlere Anzahl von Parametern) mit Fokus auf spezifische Aufgaben und Domänen durch Transferlernen entwickelt. Der große Vorteil dieser Modelle sind die vergleichsweise geringen Kosten für die Ausbildung und den Einsatz bei akzeptabler Qualität. Außerdem können diese Open-Source-Modelle von Unternehmen sicher betrieben werden und ihnen gehören.

Dies vorausgeschickt, wird es in der nächsten Zeit verschiedene LLMs geben. Das große Grenzmodell für die breite und öffentliche Nutzung, angepasste Modelle für den gezielten und effizienten Einsatz in Unternehmen – ob gespeist aus innovativen Open-Source-Modellen oder OpenAI-Modellen. Angesichts der dramatisch schnellen Entwicklungs- und Innovationszyklen sind die Unternehmen gut beraten, weitgehend modellunabhängig vorzugehen. Stabile Leitungen mit klar definierten Aufgaben, die flexibel auf dem jeweiligen LLM aufbauen, werden zunehmend zu einem Erfolgsfaktor.