Jedes KI-System, mit dem interagiert wird, Empfehlungsalgorithmen, virtuelle Assistenten, Diagnosewerkzeuge, Content-Moderation, wurde durch eine Reihe von Design-Entscheidungen geprägt, die vor seiner Bereitstellung getroffen wurden. Diese Entscheidungen bestimmen nicht nur, was das System tut, sondern auch, wie es sich in Grenzfällen verhält, wem es gut und wem es schlecht dient, und wie sehr seinen Ergebnissen vertraut werden kann.

KI-Design zu verstehen, ist daher nicht nur ein technisches Interesse. Es ist ein praktisches für alle, die KI-Systeme in Auftrag geben, bewerten oder in ihrer Arbeit auf sie angewiesen sind.

Die Grundlagen von KI-Design

Im Kern geht es bei KI-Design darum, Systeme zu schaffen, die Muster aus Daten lernen und diese Muster nutzen können, um Vorhersagen oder Entscheidungen zu treffen. Maschinelles Lernen ist der primäre Mechanismus: Das System wird großen Datenmengen ausgesetzt, passt seine internen Parameter an, um diese Daten besser vorherzusagen oder zu klassifizieren, und verallgemeinert diese Anpassungen auf neue, noch nicht gesehene Situationen.

Das bedeutet in der Praxis, dass das Verhalten eines KI-Systems eine Widerspiegelung seiner Trainingsdaten ist. Ein System, das auf historischen Einstellungsentscheidungen trainiert wurde, kodiert alle Verzerrungen, die in diesen Entscheidungen vorhanden waren. Ein Diagnosesystem, das primär mit Daten einer demografischen Gruppe trainiert wurde, wird bei anderen weniger verlässlich funktionieren. Das ist kein Fehler, der sich nachträglich beheben lässt, es ist eine strukturelle Konsequenz davon, wie die Technologie funktioniert, weshalb die vor Trainingsbeginn getroffenen Design-Entscheidungen so wichtig sind.

Vier Schlüsselprinzipien im KI-Design

Erklärbarkeit. Lassen sich die Entscheidungen des Systems verstehen und überprüfen? Für viele KI-Anwendungen, besonders im Gesundheitswesen, im Finanzwesen und im rechtlichen Kontext, ist Erklärbarkeit nicht optional. Ein System, das korrekte Antworten liefert, seine Argumentation aber nicht erklären kann, hat begrenzten Nutzen in Kontexten, die Rechenschaftspflicht erfordern.

Fairness. Funktioniert das System über verschiedene Nutzergruppen hinweg konsistent? Fairness im KI-Design ist technisch komplex, es gibt mehrere, teils sich gegenseitig ausschließende Definitionen statistischer Fairness, und es ist ein aktives Forschungsfeld. Klar ist, dass Fairness gestaltet werden muss, nicht vorausgesetzt werden kann.

Robustheit. Verhält sich das System unter Bedingungen zuverlässig, für die es nicht spezifisch trainiert wurde? KI-Systeme können auf unerwartete Weise versagen, wenn ihnen Eingaben präsentiert werden, die leicht außerhalb ihrer Trainingsverteilung liegen. Für Robustheit zu gestalten, bedeutet, systematisch auf diese Fehlermodi zu testen, statt anzunehmen, dass gute Leistung unter Standardbedingungen allgemein gute Leistung impliziert.

Skalierbarkeit. Lässt sich das System im operativen Maßstab bereitstellen und warten, ohne an Qualität zu verlieren? Systeme, die in einer Forschungsumgebung gut funktionieren, brechen manchmal unter realer Last, Datenverschiebung und laufenden Wartungsanforderungen zusammen. Von Anfang an für Produktionsbedingungen zu gestalten, spart später erheblichen Aufwand.

KI-Design in alltäglichen und fortgeschrittenen Anwendungen

In Verbraucheranwendungen prägt KI-Design, wie Empfehlungssysteme entscheiden, welche Inhalte angezeigt werden, wie virtuelle Assistenten mehrdeutige Anfragen interpretieren, und wie Personalisierungssysteme Relevanz gegen das Risiko abwägen, Filterblasen zu schaffen.

In folgenreicheren Anwendungen, medizinische Bildgebung, Kreditbewertung, prädiktive Polizeiarbeit, Einstellungstools, tragen die Design-Entscheidungen proportional größeres Gewicht. Systeme, die bei aggregierten Kennzahlen gut abzuschneiden scheinen, können erhebliche Unterschiede in der Leistung über Untergruppen hinweg verbergen. Die Verantwortung, diese Unterschiede zu verstehen und zu adressieren, liegt bei den Gestaltenden und Auftraggebenden der Systeme, nicht bei den Nutzenden.

Warum das für Organisationen wichtig ist

Organisationen, die KI-Tools einführen, treffen Design-Entscheidungen, ob sie sich dessen bewusst sind oder nicht. Die Wahl eines Anbieters, die Auswahl von Trainingsdaten, das Setzen von Leistungsschwellen, die Entscheidung, welche Anwendungsfälle automatisiert werden, all das sind Design-Entscheidungen mit Konsequenzen. Die fähigsten Organisationen bei der KI-Einführung behandeln sie ebenso als Design-Problem wie als Technologie-Problem: Sie fragen, welche Werte das System verkörpern soll, welche Fehlermodi inakzeptabel sind, und woran erkannt wird, wenn das System nicht wie beabsichtigt funktioniert.

Dieser Ansatz braucht mehr Zeit im Vorfeld. Er erzeugt tendenziell bessere Ergebnisse, weniger Überraschungen und mehr Vertrauen, von Nutzenden, von Stakeholdern, und von den Menschen, deren Arbeit die Systeme betreffen.