News
Wenn KI-Agenten im Labor eingesetzt werden: Erkenntnisse vom ODSL Agentic AI Day
News |
Zwei Data Stewards des TUM Research Data Hub (einer am MDSI, einer an der Universitätsbibliothek) sind Teil von ODSL und arbeiten genau an der Schnittstelle von datenintensiver Forschung und wissenschaftlicher Praxis. Auf dem ODSL Agentic AI Day wurde deutlich, wie unmittelbar technische Fragestellungen zu Fragen des Forschungsdatenmanagements werden:
Dokumentation wird handlungsrelevant
Ein Agent entscheidet anhand von Beschreibungen, was er tun soll: anhand von Docstrings der Funktionen, die er aufrufen kann, anhand von Konventionen in einer AGENTS.md-Datei oder durch Klartextanweisungen, die festlegen, wie Aufgaben vor Ort ausgeführt werden. Dokumentation wurde früher für andere Menschen geschrieben, etwa für die nächste Doktorandin oder den nächsten Doktoranden, die eine Pipeline übernehmen. Heute dient sie auch als Schnittstelle für Maschinen. Metadaten und Dokumentation machen Forschung nicht mehr nur auffindbar, sondern beeinflussen zunehmend, was mit ihr geschieht.
Weniger Kontext, bessere Ergebnisse
Die naheliegende Annahme lautet oft: Je mehr Informationen ein Modell erhält, desto besser. Die am Veranstaltungstag vorgestellten Benchmarks zeigten jedoch das Gegenteil. Über mehrere aktuelle Modelle hinweg nahm die Genauigkeit mit wachsender Eingabelänge kontinuierlich ab. Gut strukturierte, klar beschriebene und angemessen granulare Daten sind daher nicht nur gute wissenschaftliche Praxis, sondern auch eine Voraussetzung für leistungsfähige KI-Anwendungen.
Provenienz und Audit Trails
Ein Agent, der mit den Zugriffsrechten einer Forscherin oder eines Forschers arbeitet, kann Dateien lesen, Analysen durchführen und Ergebnisse bearbeiten. Welche Werkzeuge verwendet wurden, auf welchen Daten sie arbeiteten und welche Ergebnisse daraus entstanden sind, sind dieselben Fragen, die Research Data Stewards seit jeher stellen. Sie werden zunehmend zur einzigen Möglichkeit, Prozesse nachvollziehbar zu rekonstruieren und sensible Daten angemessen zu schützen.
Zuverlässigkeit, Reproduzierbarkeit, Provenienz und der Schutz sensibler Daten sind keine Hindernisse für den Einsatz agentischer KI in der Wissenschaft. Sie bilden vielmehr die Grundlage für deren Vertrauenswürdigkeit. Die technischen Fähigkeiten entwickeln sich derzeit schneller als die entsprechenden Leitplanken. Genau diese Lücke zu schließen ist eine Aufgabe, auf die wir durch Beratung, Schulungen sowie unsere Arbeit rund um Dokumentation und Metadaten an der TUM bereits vorbereitet sind.
Vielen Dank an das ODSL-Team für einen äußerst wertvollen und praxisnahen Nachmittag. Mit Kolleginnen und Kollegen, die in beiden Welten tätig sind, sind dies genau die Diskussionen, an denen wir teilnehmen und die wir aktiv mitgestalten möchten.
Der TUM Research Data Hub unterstützt Forschende bei diesen Fragestellungen.
Kontakt: researchdata@tum.de
Detailliertes Programm: https://indico.ph.tum.de/event/8034/
Weitere Informationen zu ODSL: ODSL / ODC | ORIGINS Cluster