The New Kid on the Block - Kurze Einführung in Foundation-Modelle

Foundation-Modelle stehen im Zentrum der dritten Welle der Künstlichen Intelligenz (KI).

Dabei handelt es sich um eine neue Generation von neuronalen KI-Modellen, die auf gigantischen Mengen von Daten trainiert wurden. Die Besonderheit dieser Modelle ist, dass sich das im sogenannten Vortraining (pre-training) erworbene Wissen der KI als Grundlage für verschiedene Anwendungen eignet und die KI daher vielseitig einsetz-bar ist. Dadurch ist es möglich eine KI erfolgreich problemübergreifend zu verwenden und einzusetzen.

Sie erlauben die Generierung beliebiger multimedialer Inhalte auf Basis von natür-lichsprachlichen Texteingaben von Nutzern (sogenannten Prompts). Die Qualität der generierten Ergebnisse stellen einen Quantensprung in der Evolution der KI dar, so-dass diese Modelle auch Foundation-Modelle (Basismodelle) genannt werden. Der Hauptunterschied zu bestehenden Verfahren der KI liegt vor allem in drei Punkten:

Der Fokus der Foundation-Modelle liegt auf der Generierung neuer Inhalte in Form von Texten, Bildern oder Videos. Damit ermöglichen sie eine Vielzahl an neuen Anwendungsfällen (Use Cases), die über die bislang vor allem analyti-sche Anwendung (wie z.B. die Erkennung von Mustern, die Klassifikation von Datenpunkten oder die Prognose von Werten) hinausgehen. Foundation-Modelle erlauben nun kreative Aufgaben wie die Generierung von beliebigen Textinhalten, themenspezifischen Illustrationen oder sogar Programmiercode in hoher Qualität zu automatisieren.
Der große Durchbruch der Foundation-Modelle kam durch das Sprachmodell GPT-3, das 2020 vom Unternehmen OpenAI auf den Markt gebracht wurde.
Die Schnittstelle zur Nutzung dieser Modelle hat sich speziell für nicht-technische Nutzer radikal vereinfacht: Die Steuerung basiert nicht auf Code, sondern auf einem Prompt – einer natürlichsprachlichen Umschreibung des gewünschten Ergebnisses – der von den Modellen als Input zur Generierung der Inhalte genutzt wird. Viele Anwendungen sind als Pay-per-use-Modelle mit einfachen API- oder Web-basierten Schnittstellen nutzbar, die keine eigene IT-Infrastruktur voraussetzen.
Der Aufwand zur Einführung und Nutzung dieser Modelle hat sich drastisch verringert. Im Gegensatz zur klassischen KI, bei der i.d.R. ein umfangreiches Pre-Processing von Daten und Trainieren der Modelle notwendig ist, sind diese Sprachmodelle “vortrainiert” und viele sind als Open Source frei verfügbar. Dadurch sind sie schnell nutzbar – auch für Unternehmen, die über nicht ausrei-chende Datenmengen verfügen – und die oft sehr rechen- und damit kostenin-tensiven Trainingskosten entfallen.

The New Kid on the Block – Kurze Einführung in Foundation-Modelle