Mehr Vertrauen in Künstliche Intelligenz

Text: Laura Weißert

Während Dr. Aishwarya Venkataramanan an der Université de Lorraine in Frankreich ihre Masterarbeit schrieb, entdeckte sie ihre Leidenschaft für das Maschinelle Lernen – und für die Forschung. Zuvor hatte sie in ihrer Heimat Indien Elektrotechnik studiert. „Ich liebe es, logisches Denken mit Kreativität und Problemlösung zu verbinden“, sagt sie über sich. In ihrer Doktorarbeit untersuchte sie zwischen 2020 und 2023, wie Mikroalgen in Wasser mithilfe von Deep-Learning-Modellen automatisch identifiziert werden können.

Schon während dieser Zeit hat sie die Forschung an der Uni Jena, in der Computer-Vision-Gruppe um Prof. Joachim Denzler, aufmerksam verfolgt. „Ich hatte das Gefühl, dass ich hier mit meiner Expertise viel beitragen könnte“, erinnert sich die 29-Jährige. Seit Juni 2024 forscht sie nun selbst als Postdoktorandin hier und beschäftigt sich mit Methoden zur Quantifizierung von Unsicherheiten in Deep-Learning-Modellen. 

Mehr als 2,5 Milliarden Anfragen von Nutzenden weltweit bearbeitet ChatGPT inzwischen jeden Tag – Tendenz steigend. Immer wieder kommt es jedoch vor, dass Large Language Models wie ChatGPT es mit den Fakten nicht so genau nehmen und falsche Informationen produzieren. Dieses Phänomen wird Halluzinieren
genannt. Ob eine Antwort korrekt ist oder nicht, ist für die Nutzenden oftmals gar nicht so leicht einzuschätzen. Genau hier setzt die Forschung von Dr. Aishwarya Venkataramanan an. Ihr Ziel ist es, dass diese Modelle ihre eigene Verlässlichkeit besser einschätzen können und diese auch kommunizieren.

Was „Uncertainty Quantification“ leisten soll

„Solche Modelle werden mit einer bestimmten Art von Datensatz trainiert und lernen, für eine bestimmte Eingabe eine Vorhersage zu treffen“, erklärt Venkataramanan. „Diese Vorhersagen klingen meist sehr überzeugend, auch wenn sie falsch sind.“ Im schlimmsten Fall kann dieses übermäßige „Selbstbewusstsein“ der KI schwerwiegende Folgen haben – etwa, wenn KI in der Medizin oder beim autonomen Fahren eingesetzt wird. Venkataramanan erforscht Methoden zur Quantifizierung der Unsicherheit in KI-Vorhersagen: Ein Modell soll nicht nur eine Lösung liefern, sondern auch anzeigen, wie verlässlich diese ist.

Ein Schwerpunkt ihrer Arbeit ist Unsicherheit in sogenannten Vision-Language-Modellen. Diese KI-Systeme verknüpfen Bilder und Text. Doch Sprache kann mehrdeutig sein. Venkataramanan nennt als Beispiel das englische Wort „bat“, das entweder „Fledermaus“ oder „Schläger“ bedeuten kann. „Wenn ein Modell mit Daten konfrontiert wird, die mehrdeutig sind oder die es so noch nicht gesehen hat, sollte es die Nutzenden warnen, der Vorhersage nicht zu vertrauen“, so Venkataramanan.

In ihrer aktuellen Forschung entwickelt sie Methoden zur Quantifizierung von Unsicherheiten in Bild-Sprach-Modellen, die für detaillierte Klassifizierungsaufgaben eingesetzt werden. Diese Aufgaben erfordern es, zwischen fast identisch aussehenden Kategorien zu unterscheiden – etwa zwischen ähnlichen Vogelarten, Pflanzenarten oder visuell ähnlichen Objekten. Solche feinen Unterscheidungen sind oft selbst für Fachleute schwierig und treten häufig in Anwendungen wie dem automatischen Biomonitoring auf, bei denen eine große Anzahl von Bildern von Tieren und Pflanzen analysiert werden muss. Indem sie unsicherheitsbewusste Lernmethoden für diese Systeme entwickelt, ermöglicht Venkataramanan ihnen, zu erkennen, wann ihre Vorhersagen möglicherweise unzuverlässig sind.

Künstliche Intelligenz ist ein sich rasant entwickelnder Bereich. Wir brauchen neue Perspektiven von verschiedenen Menschen, auch von Frauen.

Aishwarya Venkataramanan

Obwohl sie ihre Familie und Freunde in Indien vermisst – ebenso wie das Essen und die Kultur –, fühlt sich Venkataramanan in Jena wohl: „Die Stadt bietet eine tolle Mischung aus einer lebendigen akademischen Gemeinschaft und einer entspannten Umgebung, die man gut zu Fuß erkunden kann. Dank ihrer überschaubaren Größe fühlt man sich hier gut vernetzt und aufgehoben, aber sie hat dennoch viel Energie und kulturelle Aktivitäten zu bieten.“

Abseits der Forschung bleibt Venkataramanan gerne aktiv und verbringt Zeit in der Natur. „Wandern und Spazierengehen sind meine Lieblingsbeschäftigungen, und da ich in Jena lebe, kann ich ganz einfach wunderschöne Landschaften erkunden.“ Wenn sie eine Pause vom Problemlösen braucht, widmet sich die Forscherin dem Lesen, was ihr oft neue Ideen für ihre Arbeit liefert, wenn sie wieder an den Schreibtisch zurückkehrt.

Mehr Frauen in die KI-Forschung bringen

Dass Informatik und KI vielerorts noch immer männlich geprägt sind, erlebt Aishwarya Venkataramanan als Herausforderung – sowohl in Indien als auch in Europa. „In der künstlichen Intelligenz gibt es viel Potenzial für Frauen – es geht um Programmieren, Kreativität und logisches Denken“, sagt sie. Es brauche aber gezielte Ermutigung und Sichtbarkeit. Internationale Konferenzen setzten dafür zunehmend auf Workshops, die
Forscherinnen vernetzen und den Einstieg erleichtern sollen. Entscheidend sei aber, dass das schon in der Schule beginnt. In Formaten wie dem MINT-Festival der Universität Jena oder der Langen Nacht der Wissenschaften sieht Venkataramanan dafür gute Ansätze.