Für den verantwortungsvollen Umgang mit KI in der Forschung
Die rasante Entwicklung der Künstlichen Intelligenz (KI) ermöglicht in der Forschung und ihrer Förderung neben Effizienzgewinn auch völlig neue Wege zu wissenschaftlichen Erkenntnissen. Aber auch die Risiken im Umgang mit KI sind zu berücksichtigen.
Die Entwicklung und der Einsatz von Werkzeugen, die auf KI basieren, schreiten rasant voran. Auch in der Forschung und Forschungsförderung finden diese Technologien Anwendung. Einerseits für die Verarbeitung und Analyse von Daten (z.B. Erschliessung von Datenmengen, die mit anderen Methoden nicht verarbeitet werden können, oder die Suche nach neuen, nicht offensichtlichen Zusammenhängen), andererseits in Form von generativen KI-Anwendungen, die zum Beispiel für Recherchen, redaktionelle Arbeiten und Übersetzungen verwendet werden können. Der transformative Charakter von KI kann in der Wissenschaft zahlreiche Disziplinen betreffen.
Der SNF ist sich nicht nur des Potenzials von KI-Systemen bewusst, sondern auch noch ungeklärten Fragen und Risiken ihrer Nutzung in der Wissenschaft. Dazu gehören beispielsweise die Wahrung der guten wissenschaftlichen Integrität und die Nachvollziehbarkeit und Reproduzierbarkeit der mit KI erzielten Resultate. Das Beantworten dieser Fragen ist selbst Gegenstand auch durch den SNF geförderter Forschung.
KI als Überbegriff
Künstliche Intelligenz beschreibt ein breites Spektrum an Technologien und Methoden. Darunter fallen Ansätze und Verfahren, die seit Jahrzehnten intensiv erforscht werden, wie beispielsweise das maschinelle Lernen (statistische Methoden, die Zusammenhänge in Datensätzen erkennen, um darauf aufbauend Vorhersagen zu treffen), neuronale Netze (Ansätze, die die Funktionsweise des menschlichen Gehirns nachahmen) oder das Natural Language Processing (Verarbeitung und Verständnis menschlicher Sprache). Die Simulation menschlicher Intelligenz ist dabei nur eines von vielen möglichen Zielen bzw. nur ein Anwendungszweck.
Aktuell stehen besonders sogenannt generative KI-Technologien im Fokus der öffentlichen Debatte. Dabei werden Inhalte wie Texte, Bilder oder Videos mittels Textbefehlen (sogenannte Prompts) erstellt. Auch Forschende setzen die genannten Methoden in unterschiedlichen Disziplinen für die Datenanalyse und -verarbeitung, die Identifikation von Mustern und Zusammenhängen in Datensätzen, sowie für viele weitere Aufgaben ein.
Eigenverantwortung der Forschenden ist gefragt
Der SNF begrüsst es, wenn Forschende das Potenzial von KI für ihre Arbeit erschliessen. Bei der Erstellung von Fördergesuchen gilt jedoch der Grundsatz, dass Forschende, die KI für ihre Arbeit einsetzen, vollumfänglich für die erzielten Resultate verantwortlich sind. Die Grundprinzipien der wissenschaftlichen Integrität gelten auch bei der Nutzung von KI. Um die Vertraulichkeit der dem SNF eingereichten Gesuche zu wahren, wurden die Richtlinien für Gutachtende sowie Referentinnen und Referenten angepasst. Die Zusammenfassung oder Übersetzung von ganzen Gesuchen oder neuen Ideen mittels generativen KI-Werkzeugen kann diese Vertraulichkeit verletzen. Diese Daten dürfen nicht an unberechtigte Dritte weitergegeben werden, wozu auch die Anbieter von KI-Anwendungen zählen.
KI im SNF
Der SNF nutzt bereits heute zwei Schlüsseltechnologien der KI für die Bearbeitung von Fördergesuchen: Natural Language Processing und Machine-Learning-Verfahren. Das Data-Team des SNF hat einen Ansatz entwickelt, um Mitarbeitende dabei zu unterstützen, Fördergesuche an Gutachterinnen und Gutachter zuzuweisen, die über die notwendige Expertise verfügen. Die Anwendung, die wir zurzeit testweise im Tagesgeschäft einsetzen, analysiert die Textähnlichkeit zwischen Ausschnitten der Gesuche und den Publikationen der Expertinnen und Experten. Auf dieser Basis schlägt das System dann Gutachterinnen und Gutachter vor. Die Vorschläge werden anschliessend von Mitarbeitenden des SNF überprüft und gegebenenfalls angepasst.
Der SNF tauscht sich ausserdem mit internationalen Forschungsförderungsorganisationen über Möglichkeiten aus, wie die Verarbeitung von Gesuchen künftig mithilfe von KI-Anwendungen verbessert werden könnte. Unter anderem im Projekt GRAIL («Getting Responsible about AI and machine learning in research funding and evaluation») des Research on Research Institute (RoRI). Das Mitte 2023 gestartete Projekt läuft bis 2025.
Regulierung von KI
Als Technologie mit grossem Potenzial stellt sich generell die Frage nach dem gesellschaftlichen Umgang mit Künstlicher Intelligenz. Zahlreiche ethische und rechtliche Aspekte werden öffentlich diskutiert.
Mit dem «Artificial Intelligence Act» (AI Act; EU-Gesetz zur Künstlichen Intelligenz) hat die Europäische Union ein detailliertes Regelwerk vorgelegt, das auch Auswirkungen auf die Schweiz haben kann. Das Gesetz untersagt spezifische Anwendungen von KI, die zum Beispiel die Bürgerrechte bedrohen könnten. Für KI-Systeme, von denen ein Risiko einer Verletzung von Grundrechten ausgeht, zum Beispiel im Gesundheitsbereich, gelten strikte regulatorische Anforderungen. Die Implikationen des «AI Act» und anderer Regulierungsbemühungen könnten auch für die Wissenschaft weitreichend sein.
Besonders konkret ist die Debatte rund um die Nutzung urheberrechtlich geschützten Materials zum Training von generativen KI-Modellen. Für wissenschaftliche Artikel, die aus SNF-geförderter Forschung hervorgehen, verlangt der SNF die Veröffentlichung unter einer sogenannten CC-BY-Lizenz (für Creative Commons Attribution). Die Artikel dürfen frei verbreitet und auch kommerziell weitergenutzt werden, sofern die Urheberinnen und Urheber korrekt genannt und allfällige Änderungen deutlich gemacht werden. Diese Publikationen dürfen für das Training von KI-Modellen benutzt werden. Allerdings müssen auch die Resultate bzw. Antworten der KI-Werkzeuge die Forschenden korrekt zitieren, wenn Inhalte aus deren Publikationen reproduziert werden.
News