Künstliche Intelligenz-Spezialistin Kenza Ait Si Abbou über ihre Arbeitsweise: »Ich zerlege jedes Problem in kleine Stücke«

Bei der Telekom bringt sie Künstliche Intelligenz (KI) in die Organisation, in ihrem Buch »Keine Panik, ist nur Technik« wirbt Kenza Ait Si Abbou dafür, digitale Werkzeuge immer wieder auszuprobieren, weil nur so die Scheu vor ihnen schwindet. Ein Gespräch über die Arbeitsweise von Programmierer:innen und warum bei der KI-Entwicklung dringend auch technikfremde Menschen mitsprechen müssen. Fotos: Gerald von Foris

Frau Ait Si Abbou, wie beschreiben Sie anderen Menschen Künstliche Intelligenz?
Künstliche Intelligenz besteht aus mathematischen Methoden, mit denen wir Probleme lösen: Wir analysieren Daten und treffen aufgrund der Ergebnisse Entscheidungen oder formulieren Vorhersagen.

Nennen Sie mir ein Beispiel?
Sie kennen vermutlich Google Maps: Sie geben einen Zielort ein und die Anwendung sucht Ihnen unter allen möglichen Pfaden automatisch den schnellsten Weg von A nach B – ganz gleich ob sie mit dem Rad oder mit dem Auto fahren oder zu Fuß gehen. Dahinter steckt Künstliche Intelligenz, die zum Beispiel mithilfe von Datenanalyse aufzeigt, welcher Weg wie lange dauert und ob sich bei einem Stau der Umweg lohnt. 

Sie haben früher programmiert und arbeiten heute als Managerin bei der Telekom an Künstlicher Intelligenz. Was genau machen Sie?
Ich berate die Geschäftsbereiche in Sachen Automatisierung und Künstliche Intelligenz: Gemeinsam versuchen wir die geschäftlichen Herausforderungen zu lösen. Wenn die KI uns dabei helfen kann, kommt mein Team ins Spiel und entwickelt weiter. Wenn die KI nicht hilft, suchen wir die Lösung woanders. Wir setzen KI nicht um jeden Preis ein, sondern nur dort, wo sie Sinn ergibt. 

Mit Ihrem Buch tragen Sie Ihr Wissen nun in eine breitere Öffentlichkeit und werden zur KI-Erklärerin. Gefällt Ihnen diese neue Aufgabe?
Sie war mein Ziel und ich finde sie gut. Ich werde jetzt mit mehr gesellschaftlichen Fragen konfrontiert, mit Fragen zur Ethik von KI, weil Künstliche Intelligenz in Ihrem Entstehen die Gesellschaft spiegelt und deshalb immer wieder diskriminierend wirkt. 

Nach meinem Vortrag suchten plötzlich Menschen
aus anderen Feldern den Kontakt zu mir und sagten
»Wahnsinn, das müssen viel mehr Menschen erfahren«.

Sie beschreiben unter anderem, wo Ihnen diskriminierende KI selbst begegnete. Die Rechtschreibkorrektur Ihres Smartphones arbeitet auch mit KI und schlägt bei jedem eingegebenen Buchstaben ein Wort vor, das Sie vermutlich schreiben wollen. Als Sie Ihren Namen Kenza schreiben wollten, stellte Ihnen das Programm immer wieder nur »Kenya« zur Wahl. Sehr wahrscheinlich verwendeten die Entwickler beim Trainieren des Programms keinen Datensatz mit arabischen Vornamen. Was sagt Ihnen das Erlebnis?
In dem Fall entscheidet sich natürlich nicht die KI dazu, mich zu diskriminieren: Die Anwendung wurde von Menschen aus einem bestimmten Kulturkreis entwickelt und der Fehler hätte vermieden werden können. Allerdings ist das Beispiel harmlos. Viel relevanter wird es, wenn eine Software zur Gesichtserkennung Menschen dunkler Hautfarbe nicht gut auseinanderhalten kann, und das System dann zur Überwachung eingesetzt wird. Menschen können in der Folge zu Unrecht überwacht, durchsucht oder festgehalten werden. 

Um diese Form der Diskriminierung zu verstehen, braucht es ein tieferes Verständnis der Technik. An welchem Punkt wurde Ihnen klar, dass die meisten Menschen kaum etwas über die Herkunft und die Entwicklung von KI wissen?
Das wurde mir nach einem Talk auf der TEDx-Konferenz in Hamburg bewusst, in dem ich über die Diskriminierung durch KI sprach. Der Kreis der Entwickler von Künstlicher Intelligenz ist sehr homogen, die meisten sind Männer weißer Hautfarbe. Es gibt eine Reihe von Beispielen, bei denen Anwendungen zur Gesichtserkennung dann auch vor allem mit Bildern von weißhäutigen Menschen trainiert wurden. Nach meinem Vortrag suchten plötzlich Menschen aus anderen Feldern den Kontakt zu mir und sagten »Wahnsinn, das müssen viel mehr Menschen erfahren«. Mir wurde klar, in welcher Blase aus Ingenieur:innen und Computerexpert:innen ich lebe. Die Reaktionen gaben mir den Mut, über die Technik und ihre Gefahren zu schreiben.

Kenza Ait Si Abbou, fotografiert von Gerald von Foris
Die KI-Expertin und Autorin Kenza Ait Si Abbou, fotografiert von Gerald von Foris

So einfach Künstliche Intelligenz zu erklären ist, die Details sind dann doch nicht ohne. Vor kurzem begann ich einen Onlinekurs zu »Neuronalen Netzen und Deep Learning«. Zwar steckt noch etwas Mathe-Schulwissen in meinem Hinterkopf, trotzdem erwies sich die zugehörige Theorie als harter Brocken. Abgebrochen habe ich, als die Aufgaben in der Programmiersprache Python begannen.
Keine Sorge, aus dem Programmieren halte selbst ich mich heute im Wesentlichen raus.

Wie meinen Sie das?
Dass ich zwar Programmieren gelernt habe, dass es aber keinen Sinn mehr ergibt, mich wieder einzuarbeiten. Meine Aufgabe ist inzwischen eine andere: Ich manage Entwickler:innen und vermittle zwischen meinem Team und anderen Abteilungen, die unser Wissen benötigen. 

Was raten Sie mir: Python lernen oder es bei der Lektüre Ihres Buches belassen?
Sie sind ein erfahrener Journalist und haben Wissen im Erstellen von Medien. Aus meiner Sicht ist es sinnvoller, wenn Sie bei berufsbezogenen Programmier- oder KI-Projekten mit erfahrenen Entwickler:innen zusammenarbeiten. Sie könnten gemeinsam eine Lösung finden, wie wir zum Beispiel »Fake News« von richtigen News unterscheiden. In einem Team für ein solches Projekt wären Sie bei uns im Unternehmen der »Subject Matter Expert«, kurz SME. 

Das heißt?
Wir würden Sie in die Modellentwicklung einbeziehen und auf unseren Weg zur Lösungsfindung mitnehmen. All diese Vorarbeiten geschehen Schritt für Schritt, im Gespräch, ohne Code. An diesem Prozess können Sie super teilhaben. Die Umsetzung, also das Übersetzen des Modells in Code, ist nicht ihr Job. Das macht ein Data Scientist, der wiederum auch nur wenig programmiert: Data Scientists nutzen die von Ihnen erwähnte Programmiersprache Python nur, um Modelle zu testen. Die Software selbst wird von Programmierern geschrieben.

Ich verstehe.
Ich will Ihnen das Interesse nicht ausreden. Es könnte natürlich auch sein, dass ein Superprogrammierer in Ihnen steckt. Die Wahrscheinlichkeit ist aber gering, denn vermutlich hätten Sie Ihr Talent dann früher entdeckt und auch früher mit dem Programmieren begonnen. Konzentrieren Sie sich ruhig auf Ihre Stärken, Sie können dennoch gemeinsam mit anderen KI entwickeln. 

»Die Maschine macht nur, was ich ihr sage. Wenn wir alle
das verstehen, erlangen wir Macht zurück.«

In Ihrem Buch schreiben Sie von einer befreundeten Lehrerin, die gerade Python lernt. Wie geht es ihr mit der Materie?
(Lacht) Sie belegte, wie Sie, einen relativ schwierigen Kurs in Data Science und stieg nach zwei Wochen aus. 

Das beruhigt mich …
Es war zuviel für sie. Ich sagte auch ihr, dass es gut sei, die Grundlagen zu verstehen, dass aus ihr aber keine Programmiererin mehr werden würde. Sie arbeitet sich inzwischen gemeinsam mit ihrer achtjährigen Tochter in »Scratch« ein, einer Programmiersprache für Kinder. Beide bauen lustige Sachen, die ihnen Erfolgserlebnisse bringen und Emotionen auslösen. 

Mit der Emotion war es in meinem Onlinekurs tatsächlich nicht weit her.
Schauen Sie sich mal die kleinen Roboter von »Lego Mindstorms« an: Sie können die Figuren so programmieren, dass sie sich zum Beispiel zwei Einheiten nach vorne bewegen, dass sie sich um 90 Grad drehen, dann drei Einheiten nach hinten bewegen, dann drehen und bücken. Wenn Sie diese Schritte selbst programmieren, lernen Sie, wie eine Maschine gebaut und angelegt ist. Komplexe Aussagen versteht sie gar nicht, sie müssen ihr Schritt um Schritt Anweisungen geben, die aufeinander aufbauen – und am Ende geschieht dennoch ein Bewegungsablauf, der durchaus komplex wirkt. 

Okay.
Wenn Sie das verstehen, dann verstehen sie auch, wie eine KI diskriminieren kann: Sie macht es, weil es ihr ein Mensch beigebracht hat, oder weil sie es aus den Daten herausgelesen hat. 

Mit der Aneignung technischer Grundkenntnisse erleben wir eine Form von Ermächtigung: Die Technik verliert ihre Rätselhaftigkeit.
Allerdings. Ohne Kenntnisse über Programmierung denken wir oft »Uh, ich verstehe nichts davon, die Maschine hat die Macht und ich keine Kontrolle.« Das ändert sich schon während der ersten Übungen. Am Ende lernen wir: »Die Maschine macht nur, was ich ihr sage!« Wenn wir alle das verstehen, erlangen wir Macht zurück. Wir sind die Meister. Wir sagen der Maschine, was sie tun soll. 

»Ich sehe mir ein Problem aus mehreren Perspektiven an, analysiere es, zerlege es in kleine Teile und löse einen Teil nach dem anderen.«

Insofern richtet sich ihr Engagement doch gegen den Kontrollverlust: Wer sich ins Unbekannte hineinexperimentiert, gewinnt Kontrolle.
Darum geht es: Wir müssen Kontrolle zurückgewinnen. Das geht mit Lego, das geht in kleinen Schritten. 

Weshalb ist die Angst vor Kontrollverlust gerade bei KI so groß?
Es gibt einen Unterschied zwischen traditionellen Systemen und KI-basierten Systemen. Für traditionelle Systeme verringern wir die Komplexität einer Aufgabe, damit eine Maschine diese übernehmen kann. Die KI kommt zum Einsatz, wenn wir Menschen die Komplexität nicht vereinfachen können: Aufgrund ihrer Rechenpower kann KI Komplexität besser verarbeiten und zerlegen. 

Und hier entsteht der Kontrollverlust, weil wir nicht mehr wissen, was die KI da ohne uns macht. Welchen Umgang gibt es demnach mit dieser Technik?
Das ist kulturabhängig. Ich wuchs in Marokko auf, wo man Kontrolle über gar nix hat. Auch in den USA oder in China ist die Probierfreudigkeit größer. In Deutschland aber fließen 95 Prozent der Energie in die Perfektion eines Planes. Wenn der dann nicht funktioniert, fallen alle in Schockstarre. Das ist der Grund, warum wir uns in Deutschland so schwer tun, KI-Lösungen zu bauen und sie live zu schalten. 

Hm.
Ich sehe es auch bei mir zuhause. Ich selbst schreibe Mails und Nachrichten sehr schnell – Hauptsache, die Empfängerin oder der Empfänger versteht, was ich sagen will. Mein Mann hingegen wuchs in Deutschland auf. Wenn er schreibt, dauert es mindestens zehnmal so lange, weil er den Text so oft liest, bis kein Fehler mehr drin ist. 

Weshalb ist das so?
Weil es ihm wichtig ist, weil er so geprägt wurde. Mir ist es wichtiger, dass es schnell geht, dass ich gleich danach was anderes machen kann. Manchmal schreibe ich zehn SMS, während er eine schreibt. 

Haben Sie versucht ihm Ihre Geschwindigkeit beizubringen?
Ich kann ihm nicht sagen »Komm, hau’s raus!« Das geht nicht, weil er mit anderen Werten aufgewachsen ist. 

»Künstliche Intelligenz verändert viele Bereiche des Lebens. Jeder sollte zusehen, dass er in seinem Feld mehr mitgestaltet und weniger konsumiert.«

Sie sagen, ich brauche kein Programmierer werden, um die KI-Entwicklung mit Verstand verfolgen zu können. Das ist als Ermutigung gemeint, weil Sie sich mehr Menschen wünschen, die an der Entwicklung von KI teilhaben. Wie kann das praktisch aussehen?
Künstliche Intelligenz verändert viele Bereiche des Lebens. Der Journalismus, die Medizin, das Recht oder die Landwirtschaft sind nur Beispiele. Jeder sollte zusehen, dass er in seinem Feld mehr mitgestaltet und weniger konsumiert. 

Wie könnte dieses Mitgestalten aussehen?
Wir hatten eine Kollegin in der Slowakei, die sich mithilfe von Office-Anwendungen um das Management unserer Projekte kümmerte. Irgendwann begannen wir mit ihrer Hilfe, ihre Reportings zu automatisieren. Am Ende hatten wir sie um mehr als 50 Prozent entlastet und sie machte immer weitere Vorschläge, welche ihrer Arbeiten wir noch automatisieren könnten. Schließlich stieg sie in die Agile Entwicklung ein, wurde Scrum Master und arbeitete mit Entwicklern daran, andere Bereiche zu automatisieren.

Wenn Sie zurückblicken: Welche Fähigkeit ist Ihnen mit dem Programmieren zugewachsen?
Problemlösungsfähigkeit. Ich sehe mir ein Problem aus mehreren Perspektiven an, analysiere es, zerlege es in kleine Teile und löse einen Teil nach dem anderen. Diese Vereinfachung der Komplexität, dieses analytische Denken und auch Beobachten gefiel mir im Studium am meisten. Es ist ein Mindset, das sich auf beliebige Momente im Leben anwenden lässt. Ich fühle mich seither selten hilflos, wenn ein Problem egal welcher Art auftaucht. 

Weil?
Weil ich mich hinsetze, durchatme, beobachte, überlege, das Problem zerlege und damit lösbar mache. Wenn ich versuche, ein Problem in all seiner Komplexität zu lösen, funktioniert das meistens nicht.

Sie programmieren heute so gut wie gar nicht mehr. Haben Sie in Ihrer Management-Arbeit eine neue Leidenschaft gefunden oder hat sich ihr Interesse im Grunde nur verlagert?
Das Problemlösen reizt mich noch immer, diese Herausforderung brauche ich, damit ich glücklich bin. Nur wende ich mein Wissen eben nicht mehr beim Programmieren an: Ich bespreche mit Fachbereichen, wie ihre Businessprobleme aussehen. Dann schneide ich diese Probleme so lange klein, bis ich sie mit meinen Werkzeugen lösen kann. Es ist wie Programmieren, nur mit mehr Menschen.

Fotos: Gerald von Foris 

Und hier die persönliche Website von Kenza Ait Si Abbou Lyadini.