Künstliche Intelligenz (KI) ist derzeit das beherrschende Thema der IT. Kaum ein Tag vergeht ohne neue Modelle, neue Rekorde oder neue Versprechen. Ich beschäftige mich inzwischen seit rund zwei Jahren intensiv und seit etwa einem Jahr sehr intensiv mit dem praktischen Einsatz von KI. Auf dem bekannten Dunning-Kruger-Graphen würde ich mich heute ziemlich weit unten einordnen – mit einer leichten Tendenz nach oben. Anders ausgedrückt: Je mehr ich lerne, desto klarer wird mir, wie viel ich noch nicht weiß. Genau deshalb fällt es mir schwer, einen Blog-Artikel über KI zu schreiben. Vielleicht ist genau das aber die richtige Ausgangslage.

Was wir heute sicher wissen: Ein Large Language Model (LLM) versteht nichts. Es besteht letztlich aus Statistik. Das klingt zunächst ernüchternd, führt in der Praxis aber zu erstaunlichen Ergebnissen. Vor allem in der Softwareentwicklung hat mich die Leistungsfähigkeit beeindruckt: Von der ersten Projektidee über Pflichtenheft, Architektur, Zerlegung in Teilaufgaben und eigentliche Programmierung bis hin zu automatisierten Tests, Git-Versionierung, Deployment und Dokumentation kann eine KI heute nahezu den gesamten Entwicklungsprozess begleiten. Die Geschwindigkeit, mit der dabei Ergebnisse entstehen, ist atemberaubend.

Was die KI heute kann…

Das bedeutet allerdings nicht, dass man die KI einfach arbeiten lässt. Im Gegenteil: Ein solcher Prozess muss überwacht werden. Die KI liefert Vorschläge, erzeugt Code und entwickelt Lösungen. Aber sie entscheidet nicht, ob diese Lösungen auch die richtigen sind. Genau diese Verantwortung bleibt beim Menschen. Der große Vorteil in der Softwareentwicklung ist dabei, dass sich Ergebnisse vergleichsweise gut überprüfen lassen. Ein Programm funktioniert oder funktioniert eben nicht. Tests können automatisiert werden, Fehler lassen sich reproduzieren und korrigieren. Das macht den KI-Einsatz in diesem Bereich besonders attraktiv.

Ähnlich hilfreich ist KI bei der Verarbeitung von Texten. Lange Dokumente zusammenzufassen, Kernaussagen herauszuarbeiten oder Entwürfe für Antworten zu formulieren funktioniert inzwischen erstaunlich gut. Gleichzeitig liegen hier aber auch die größten Risiken. Je umfangreicher oder komplexer ein Text wird, desto größer wird die Wahrscheinlichkeit, dass die KI Inhalte falsch interpretiert oder sogar Fakten ergänzt, die im Ursprungstext nie vorhanden waren. Genau deshalb sollte niemand die Ergebnisse ungeprüft übernehmen.

Nach meiner Erfahrung profitieren vor allem Menschen mit fundiertem Fachwissen vom Einsatz einer KI. Denn wer sein eigenes Fachgebiet beherrscht, kann die Antworten einordnen, Fehler erkennen und der KI widersprechen. Wer das Fachwissen nicht besitzt, läuft dagegen Gefahr, jede Antwort für richtig zu halten. KI ersetzt deshalb keine Expertise – sie verstärkt sie.

… und was die KI heute nicht kann

Hinzu kommt ein weiterer Punkt: Jede KI lernt aus den Daten, mit denen sie trainiert wurde. Dazu gehören öffentlich verfügbare Informationen wie Wikipedia, aber ebenso Bücher, Internetseiten, Foren (u.a. Reddit) oder Soziale Medien. Die Qualität dieser Quellen ist jedoch sehr unterschiedlich und wird oftmals nur unzureichend geprüft. Genau das führt zu einem schwerwiegenden Problem: Würden ausreichend viele Quellen behaupten, die Erde sei eine Scheibe, dann bestünde durchaus die Gefahr, dass ein Sprachmodell genau diese Aussage mit großer Überzeugung vertritt. KI kennt keine Wahrheit. Sie kennt Wahrscheinlichkeiten.

Deshalb kommt es auch immer wieder zu sogenannten Halluzinationen. Fehlen Informationen, versucht das Modell, aus ähnlichen Mustern eine plausible Antwort zu erzeugen. So kann es passieren, dass eine Firmenanschrift plötzlich in einer völlig anderen Stadt liegt oder Personen Eigenschaften zugeschrieben werden, die nie existiert haben. Das ist kein vorsätzliches Lügen, sondern eine Folge der statistischen Arbeitsweise dieser Modelle. Trotzdem muss man sich dieser Schwäche jederzeit bewusst sein.

Welche Rolle KI bei NETHINKS heute spielt

Auch bei NETHINKS setzen wir KI inzwischen an vielen Stellen ein. Natürlich nutzen wir sie, um unsere Softwareentwicklung effizienter zu gestalten. Darüber hinaus unterstützt sie uns aber auch bei Aufgaben, die wenig kreativ, dafür aber sehr zeitaufwendig sind. Im Rahmen unseres Informationssicherheits-Managementsystems nach ISO 27001 müssen regelmäßig Gesetzesänderungen ausgewertet, neue BSI-Gefährdungen geprüft und zahlreiche Nachweise erstellt werden. Genau hier hilft uns KI dabei, große Informationsmengen vorzubereiten und zusammenzufassen. Die eigentliche Entscheidung trifft jedoch immer ein Mensch. Unsere Kolleginnen und Kollegen bleiben bewusst „in the loop“. KI bereitet Informationen auf, die Verantwortung übernimmt weiterhin der Mensch. Dieses Prinzip wird uns auch in Zukunft begleiten. Wir werden weitere Einsatzmöglichkeiten erschließen, aber nicht jede Aufgabe zwanghaft mit KI lösen. Für uns gilt ein einfacher Grundsatz: So viel KI wie nötig und so wenig wie möglich.

Fazit

Bei meiner eigenen Arbeit habe ich interessanterweise festgestellt, dass sich der Einsatz von KI in vielen Fällen sogar wieder vermeiden lässt. Die KI hilft mir dabei, klassische Algorithmen sehr schnell zu entwickeln. Anschließend übernimmt oft ganz normale Software diese Aufgabe – nachvollziehbar, deterministisch und jederzeit überprüfbar. So entsteht für mich die ideale Kombination: Die Kreativität und Geschwindigkeit der KI helfen bei der Entwicklung neuer Lösungen. Im produktiven Betrieb verlassen wir uns dann möglichst auf klassische Software, die nicht nachdenkt, sondern einfach zuverlässig ihre Arbeit erledigt.