Künstliche Intelligenz wird in der naturwissenschaftlichen Forschung eingesetzt: Sie analysiert große Datenmengen, erkennt Muster und schlägt auf dieser Grundlage neue Hypothesen vor – etwa in der Chemie, Biologie oder Medizin. Eine aktuelle Studie der Universität Bonn warnt nun davor, die Ergebnisse solcher Modelle vorschnell als belastbar zu interpretieren.
Ein Beispiel: Wird ein KI-Modell mit tausenden Bildern von Autos trainiert, erkennt es auf einem neuen Bild möglicherweise zuverlässig einen Pkw. Die entscheidende Frage ist jedoch, woran das Modell seine Entscheidung festmacht – an den typischen Merkmalen wie Rädern oder Karosserie? Oder an Nebensächlichkeiten wie einer Antenne? Falls Letzteres zutrifft, könnte das Modell auch ein Radio für ein Auto halten. In der Forschung wäre das vergleichbar mit einem Molekülvorschlag, der formal korrekt erscheint, aber auf irrelevanten Strukturmerkmalen beruht.
Prof. Dr. Jürgen Bajorath vom Lamarr-Institut für maschinelles Lernen und künstliche Intelligenz an der Universität Bonn weist darauf hin, dass KI-Modelle eine Black Box darstellen. Ihre inneren Entscheidungsmechanismen sind häufig nicht transparent. In seiner Publikation betont er die Bedeutung erklärbarer KI: Nur wenn nachvollziehbar ist, auf welche Kriterien sich ein Modell stützt, kann dessen Ergebnis wissenschaftlich eingeordnet werden.
Besonders in der chemischen Wirkstoffforschung kommen sogenannte Sprachmodelle zum Einsatz. Sie schlagen neue Moleküle mit gewünschter biologischer Aktivität vor. Doch auch hier gilt: Das Modell kann meist nicht begründen, warum es gerade diese Struktur auswählt. Deshalb sind experimentelle Überprüfungen notwendig – ebenso wie eine Plausibilitätsprüfung der vom Modell hervorgehobenen Merkmale.
Bajorath fordert, das Potenzial lernender Systeme differenziert zu betrachten. Sie können Forschungsprozesse beschleunigen und neue Perspektiven eröffnen – sofern ihre Grenzen erkannt und ihre Ergebnisse kritisch bewertet werden.
