Fünf KI-bezogene Themen, über die Informationsprofis im Jahr 2024 nachdenken sollten

This post has been translated from CCC’s Velocity of Content Blog.

Tools wie ChatGPT haben unsere Erwartungen an die Funktionsweise der Informationssuche verändert. Unabhängig von den aktuellen Risiken und dem Stand der Technologie sowie der dazugehörigen Fragen nach Rechten, erwarten immer mehr Benutzer:innen, dass sie eine Frage in natürlicher Sprache stellen können, und KI-gestützte Maschinen in kürzester Zeit eine gründliche und korrekte Antwort verfassen. Wenn sich die Erwartungen bei Erwachsenen heute schnell ändern, stellen Sie sich junge Forscher:innen in 10 oder 15 Jahren vor, deren größter Teil des Lebens von dieser Realität geprägt ist.

Wie können Informationsexpert:innen also mit dem sich verändernden Umfeld umgehen, das durch die rasanten Fortschritte in der KI-Technologie verursacht wird, um das Profil ihres Informationszentrums zu schärfen und Mehrwerte zu schaffen? Die folgenden fünf Themen können dabei eine Rolle spielen:

1. Urheberrechtsfragen zur Verwendung von KI in Inhalten

Informationsmanager:innen werden oft als Urheberrechtsexpert:innen angesehen. Obwohl Sie wahrscheinlich keine Urheberrechtsanwältin und kein Urheberrechtsanwalt sind, verfügen Sie über umfassende Kenntnisse im Bereich Urheberrecht, mit denen Sie Ihrem Unternehmen dabei helfen können, Risiken zu reduzieren. Ich glaube, dass das so bleiben wird, da wir immer mehr KI-Anwendungsfälle sehen.

Bedenken Sie das Risiko, wenn Abteilungen innerhalb der Organisation mit der Entwicklung eigener KI-Projekte beginnen oder Tools lizenzieren, die KI nutzen, und sie nicht wissen, dass sie zentrale Fragen stellen müssen, wie beispielsweise „Welche Rechte habe ich in Bezug auf die Verwendung urheberrechtlich geschützter Inhalte zum Trainieren dieses Algorithmus?“, „Wie können wir OA-Inhalte, die zum Trainieren eines Algorithmus und für den Output verwendet werden, genau zuordnen?“ Oder: „Wie wird mein eigenes geistiges Eigentum in diesem Tool geschützt?“ Bevor diese Projekte verwirklicht werden, ist es wichtig, dass Sie in Ihrer Organisation als Führungskraft und Quelle für genaue Urheberrechtsinformationen bekannt sind, damit Sie Teil des Entwicklungsprozesses sind und dazu beitragen können, das Risiko zu verringern, das für Ihr Unternehmen entstehen könnte.

Erste Schritte: Die CCC-Seite „Intersection of AI and Copyright“ dient als Informationsquelle für die verantwortungsvolle Entwicklung und Nutzung von KI-Technologien mit urheberrechtlich geschützten Inhalten.

2. Lizenzierung von Inhalten für KI

Informationsmanager:innen sind häufig bereits für die Lizenzierung von Abonnements für wissenschaftliche Literatur und Datenbanken zur unternehmensweiten Nutzung zuständig. Sie sind daher in der einzigartigen Position, auch zu bestimmen, wie extern erstellte urheberrechtlich geschützte Materialien von Verlagen am besten für die Verwendung in KI-Projekten lizenziert werden können. Wenn Sie ein zentraler Knotenpunkt für die Lizenzierung von Inhalten sind, können Informationsmanager:innen die Anforderungen im gesamten Unternehmen bewerten und effizient lizenzieren. Dadurch entfällt die Lizenzbelastung durch isolierte Gruppen im Unternehmen, die nur an ihr individuelles KI-Projekt denken.

3. Unternehmensrichtlinien und strategische Richtlinien rund um Technologien, die KI nutzen

Immer häufiger hören wir von Informationsmanager:innen, dass Führungskräfte in Organisationen das Ziel und die Erwartung formulieren, dass von der Organisation eingesetzte Technologien KI nutzen, um die Effizienz und Ergebnisse zu verbessern. Dies ist absolut vernünftig in einer Situation, in der jede und jeder mit ChatGPT experimentiert und die meisten Technologien – im Guten wie im Schlechten – eine Art LLM (Large Language Model) oder generative KI in ihre Tools integrieren, um Arbeitsabläufe zu verbessern. Diese Richtlinien berücksichtigen jedoch möglicherweise weder die technologische Realität und deren Grenzen noch die Risiken beim Einsatz von KI.

Während KI bei verantwortungsvollem Einsatz vielversprechend für Forschung und Entwicklung ist, haben KI-Systeme auch das Potenzial, schlechte wissenschaftliche Erkenntnisse hervorzubringen, falsche oder irreführende Schlussfolgerungen zu ziehen, Fehlinformationen zu fördern und zu schädlichen Ergebnissen zu führen. Und inzwischen haben wir alle Geschichten über Halluzinationen von Large Language Models gehört (Halluzinationen sind ein schickes Wort für den Fall, dass die KI Fakten erfindet). Viele dieser Probleme hängen mit der grundlegenden Natur der generativen KI als Werkzeug zur Textvorhersage zusammen und nicht als System mit echtem Wissen. Die Qualität, Genauigkeit oder Verzerrung der Trainingsdaten kann sich auf die Ausgabe auswirken (oder einfacher gesagt: Müll rein, Müll raus). Ebenso kann die Anwendung eines LLM auf einen Bereich, für den es an Schulung mangelt, zu Halluzinationen führen. Techniken wie Retrieval Augmented Generation (RAG) werden untersucht, um diese Probleme anzugehen. Dies bedeutet auch, dass für den Einsatz von KI in den Biowissenschaften ein hohes Maß an menschlicher Validierung der Ergebnisse erforderlich ist, was die von KI versprochene Effizienz verringert. Wir sehen also eine gesunde Skepsis und Vorsicht neben dem Optimismus für eine KI-gestützte Zukunft.

Darüber hinaus gehen wir davon aus, dass immer mehr Unternehmen Unternehmensrichtlinien für den Einsatz von KI übernehmen werden, einschließlich der Frage, welche Daten sie in Projekten verwenden können – und was noch wichtiger ist : was sie mit der Ausgabe tun und welche Arten von Tools sie verwenden können. Viele Organisationen beginnen mit der Bildung funktionsübergreifender KI-Gruppen, in denen Rechts-, IT- und andere Interessengruppen vorgeschlagene Anwendungsfälle bewerten, bevor sie intern grünes Licht für deren Verwendung geben.

Glücklicherweise sind Informationsmanager:innen Expert:innen für Informationen, insbesondere im Hinblick auf Lizenzierung und Management, aber auch im Hinblick auf die Suche, Synthese und Validierung von Ergebnissen, und ich habe mit mehreren Informationsmanager:innen gesprochen, die einen Platz am Tisch, an dem diese Themen besprochen und entschieden werden, verlangten. Wir sind in einer Schlüsselposition, um die Ergebnisse dieser Tools zu bewerten und sicherzustellen, dass sie das Versprechen der KI einhalten. Dies ist eine Gelegenheit, das Profil des Informationszentrums zu schärfen, indem verschiedene Funktionsbereiche dabei unterstützt werden, ihre Anforderungen an ein Tool zu beurteilen und zu bestimmen, wie Daten und Inhalte urheberrechtskonform und im Einklang mit unternehmensinternen Richtlinien genutzt werden können. Und, was am wichtigsten ist, Sie helfen bei der Validierung der Ausgabe.

4. Unklarheiten bei Budgetfragen

Wir erwarten einige Budgetprobleme im Zusammenhang mit der Verwendung von Inhalten in der KI. Wir sehen, dass direkte Lizenzen von Einzelpersonen ausgehandelt werden, die an einzelnen Projekten oder Gruppen mit einem gezielten Bedarf arbeiten, ohne das Informationszentrum zu konsultieren. Das bedeutet, dass möglicherweise mehrere Gruppen mit denselben Herausgebern verhandeln, ohne es zu wissen und ohne dass andere Gruppen davon profitieren können. Teilweise kommt es darauf an, wer über das Budget verfügt. Wie bereits erwähnt: Wenn das Informationszentrum über das Budget verfügt, kann es die gesamte Organisation durchsuchen, um den gesamten Bedarf für einen bestimmten Herausgeber zu ermitteln und entsprechend zu verhandeln. Um dies zu ermöglichen, müssten jedoch die Budgets für Informationszentren erhöht werden.

Ich denke, hier kommt eine enge Partnerschaft mit der Datenwissenschaft und ein gewisses Sponsoring durch Führungskräfte ins Spiel. Vereinfacht ausgedrückt funktioniert dies am besten, wenn das Informationszentrum die Befugnis hat, die lizenzierten Inhalte und das Lizenzbudget für KI zu verwalten. Alternativ können KI-Projektverhandlungen erfolgreich sein, wenn enge Partnerschaften mit der Datenwissenschaft und anderen Funktionsbereichen bestehen, insbesondere solche, in denen sie das Informationszentrum in Verhandlungsprozesse einbinden und auch alle notwendigen Geldinvestitionen durch Abrechnungsprozesse unterstützen.

Mary Ellen Bates, eine hoch angesehene Vordenkerin und Beraterin in der Informationsmanagementbranche, führte kürzlich ein Forschungsprojekt für CCC durch und analysierte, wie Informationsexpert:innen mit Datenexpert:innen zusammenarbeiten können, um ihren Kund:innen in einer immer komplexeren und vernetzten Informationsumgebung Informationen bereitzustellen. Wir glauben, dass die Zusammenarbeit mit Data Science, bei der beide Teams ihre einzigartigen Stärken nutzen, ein strategischer und wertvoller Weg nach vorne ist.

Lesen Sie hier unsere dreiteilige Serie mit Mary Ellen Bates an:

5. Bleiben Sie auf dem Laufenden

In dieser sich schnell verändernden KI-Landschaft gibt es für Informationsmanager:innen viele Aufgaben: Seien Sie Expert:innen für KI-Urheberrecht, lizenzieren Sie Inhalte auf neue und sich schnell verändernde Weise, treten Sie funktionsübergreifenden Teams bei und setzen Sie sich durch die Zusammenarbeit mit Interessengruppen für ein angemessenes Budget ein. Sie müssen über die sich schnell ändernden Fortschritte bei KI-Technologien auf dem Laufenden bleiben, damit Sie Anbieter:innen, die Art der verwendeten KI, die Anwendungsfälle und die potenziellen Risiken effektiv bewerten können. Man muss im Grunde eine völlig neue Denk- und Arbeitsweise erlernen, die enorme Möglichkeiten bietet. Auf einer Konferenz der Pistoia Alliance in Boston hörten wir kürzlich mehrmals den Spruch von führenden Vertreter:innen der Biowissenschaften: „Ihr Job wird nicht durch KI ersetzt, aber Sie werden durch jemanden ersetzt, der bereit ist, KI zu nutzen.“ Auch wenn Angst ein Motivator sein kann, habe ich mit vielen Informationsexpert:innen gesprochen, die diese Aufgaben übernehmen, weil sie wissen, dass sie dadurch relevant bleiben und ihrem Unternehmen zu mehr Effizienz verhelfen können.

Aber bei all dem haben Sie immer noch ihre alltäglichen Aufgaben im Job! Eines der wichtigsten Dinge, die es zu erkennen und zu befürworten gilt, ist, dass Sie die Unterstützung und Kapazität benötigen, um sich darauf zu konzentrieren, wie das Informationszentrum das Unternehmen bei seinen strategischen KI-Zielen unterstützen kann. Dies ist wahrscheinlich eine große Herausforderung, insbesondere für Einzelbibliothekar:innen und Informationszentren, die bereits voll ausgelastet sind. Für die neue und zukunftsweisende Weiterentwicklung der Bibliotheksdienste müssen die potenziellen Vorteile intern an wichtige Interessengruppen und Führungskräfte verkauft werden.