Block 9

Setze menschliche Intelligenz an erste Stelle!

In diesem Kapitel nehmen wir den reflektierten Umgang mit KI unter die Lupe. Dabei geht es darum, dieses Werkzeug verantwortungsvoll zu nutzen und kritisches Denken in den Mittelpunkt zu stellen.

Im Verlauf der LIBRA.I.-Methodik hast du bereits erfahren, was KI ist, wie du dich dem Thema KI-Kompetenz nähern kannst und wie sich bestehende Bildungsformate durch die Beschäftigung mit KI-Tools erweitern lassen. Bei all diesen Themen sollte jedoch ein entscheidender Punkt nicht vergessen werden: KI ist keineswegs die Lösung für jede Herausforderung, vor der moderne Bibliotheken stehen. Auch Aktivitäten, die stark von der Ergänzung um KI-Kompetenzen profitieren können, sollten stets auf menschlicher Intelligenz basieren. In diesem Block zeigen wir dir, warum das so wichtig ist – und wie eine Umsetzung in der Praxis aussieht.
 

DIE KÜNSTLICHKEIT VON INTELLIGENZ

Wie bereits in BLOCK #2 beschrieben, basieren die Ergebnisse von KI auf vielen Variablen, insbesondere auf den Daten, auf die sie Zugriff hat. Nur qualitativ hochwertige und verlässliche Daten können brauchbare Ergebnisse liefern, egal ob es um ein Suppenrezept oder um komplexe wissenschaftliche Fragestellungen geht. Solange du ein KI-Modell nicht selbst trainiert hast und genau weißt, welche Daten eingeflossen sind, kannst du die Qualität seiner Wissensbasis nicht vollständig überprüfen. Was du jedoch überprüfen kannst, sind die Ergebnisse.

Auch wenn viele große Sprachmodelle (LLMs) Zusammenhänge erkennen können, gehen Feinheiten oder komplexe Details häufig verloren. Wichtig ist dabei: KI liefert in der Regel die statistisch wahrscheinlichste Antwort, nicht unbedingt die korrekte oder wahrheitsgemäße. Ein deutliches Warnsignal ist es, wenn du erkennst, dass eine Antwort falsch ist. Aber was passiert, wenn du dich mit einem Thema nicht gut auskennst? Dann gilt: zurück zu bewährten Methoden der Informationsrecherche. Du kannst die KI nach Quellen fragen und diese überprüfen oder selbst recherchieren, indem du Aussagen aus der KI mit Hilfe von Suchmaschinen, Datenbanken oder anderen vertrauenswürdigen Quellen gegenprüfst.

Ähnliches gilt für die Erkennung von KI-generierten Inhalten in digitalen Informationsräumen. Gibt es beispielsweise weitere Nachrichtenmeldungen, offizielle Beiträge in sozialen Medien oder andere Hinweise, die die Echtheit eines bestimmten Inhalts bestätigen? Lassen sich Unstimmigkeiten in Bildern erkennen? Gibt es Hinweise auf die Verwendung von KI-Werkzeugen, etwa in Form von Wasserzeichen? Auch wenn KI-generierte audiovisuelle Inhalte immer überzeugender werden, gibt es nach wie vor Möglichkeiten, ihre Glaubwürdigkeit zu überprüfen.

Darüber hinaus ist zu beachten, dass viele KI-Systeme so konzipiert sind, dass sie immer eine Antwort geben, selbst wenn die zugrunde liegenden Informationen unzureichend sind. Dies führt zu sogenannten „Halluzinationen“, bei denen falsche Informationen als korrekt dargestellt werden oder visuelle Inhalte Unstimmigkeiten aufweisen. Leider sind KI-Systeme nicht nur darauf trainiert, hilfreich zu wirken, sondern auch sehr überzeugend darin, Empathie zu simulieren. Es kann daher verlockend sein, persönliche Fragen oder Probleme mit einer KI zu besprechen. Dennoch ist es wichtig, sich bewusst zu machen, dass Chatbots keine echten Emotionen besitzen. Auch wenn ihre Antworten unterstützend wirken können, ersetzen sie keine echte menschliche Interaktion oder professionelle Beratung. KI-Systeme verfügen weder über ausreichende medizinische Fachkenntnisse noch über den notwendigen Kontext, um fundierte Diagnosen zu stellen oder Behandlungen vorzuschlagen. Gleiches gilt für andere sensible Bereiche wie Recht, technische Sicherheit oder persönliche Entscheidungsfindung. Solche Themen sollten weiterhin von qualifiziertem Fachpersonal behandelt werden.
 

DATENSCHUTZ UND DATENSICHERHEIT

Eine häufig gestellte Frage im Zusammenhang mit KI betrifft den Schutz persönlicher Daten, die im Rahmen von Eingaben oder Prompts verarbeitet werden. Der Schutz der eigenen Daten im Umgang mit KI bedeutet nicht, diese Werkzeuge grundsätzlich zu vermeiden, sondern zu verstehen, welche Form von „Datentransaktion“ bei jeder KI-Nutzung stattfindet. Wenn du mit einer KI interagierst, werden deine Eingaben und möglicherweise auch hochgeladene Dateien in der Regel auf den Servern der Anbieter gespeichert, um weitergehende Nutzung zu ermöglichen und häufig auch, um die Systeme weiter zu trainieren. Das bedeutet, dass deine Daten in zukünftige Versionen der KI einfließen können. Um datenschutzbewusst mit KI zu arbeiten, solltest du daher jede Eingabe so behandeln, als könnte sie öffentlich werden, es sei denn, du nutzt eine speziell gesicherte Version des Dienstes, bei der keine Speicherung oder Weiterverwendung der Daten erfolgt.

Um zu verstehen, wie mit deinen Daten umgegangen wird, kann ein Blick in die Nutzungsbedingungen oder in die Einstellungen der jeweiligen Plattform hilfreich sein, auch wenn diese oft umfangreich und wenig übersichtlich sind. Innerhalb der Europäischen Union kann es sinnvoll sein, bevorzugt Dienste zu nutzen, die in Europa betrieben werden oder europäischen Datenschutzstandards entsprechen. Ebenso ist es ratsam, nur solche KI-Anwendungen zu verwenden, denen du vertraust. Zahlreiche Angebote im Internet versprechen umfangreiche KI-Funktionen, ohne transparent zu machen, wie sie mit Nutzerdaten umgehen. In solchen Fällen ist Vorsicht geboten.

Wenn du dennoch personenbezogene Daten in einen Prompt einbringst, solltest du über die ausdrückliche Zustimmung der betroffenen Personen verfügen. Darüber hinaus gilt selbstverständlich, keine Inhalte zu erzeugen, die gewaltverherrlichend, diskriminierend oder in anderer Weise unethisch sind, selbst wenn ein Tool dies technisch ermöglichen sollte. Das Internet ist kein rechtsfreier Raum und die Erstellung solcher Inhalte kann folglich rechtliche Konsequenzen nach sich ziehen.

QUELLEN NUTZEN UND TRANSPARENZ SCHAFFEN

Wie bereits erwähnt, ist es wichtig, KI-generierte Inhalte kritisch zu prüfen. Dazu gehört nicht nur die Überprüfung von Fakten, sondern auch die Frage, ob Inhalte korrekt zusammengefasst wurden, ob Informationen hinzugefügt oder ausgelassen wurden und ob die ursprüngliche Fragestellung richtig verstanden wurde. Häufig entstehen ungenaue Ergebnisse bereits durch unpräzise oder unklare Prompts. Deshalb ist es wichtig, möglichst spezifische Fragen zu formulieren und bei Bedarf nachzufragen, auch wenn bereits eine scheinbar ausreichende Antwort vorliegt.

Fragen wie „Woher stammen diese Informationen?“, „Welche Quellen belegen diese Aussage?“ oder „Wie aktuell sind die genannten Daten?“ können helfen, die Qualität der Ergebnisse besser einzuschätzen. Klarheit ist wichtig, auch du dich dabei ein bisschen fühlst, als ob du ein Verhör durchführst.

Ein weiterer wichtiger Aspekt ist Transparenz im Umgang mit KI. Wenn Inhalte – egal ob Texte, Bilder oder Videos – mithilfe von KI erstellt wurden und öffentlich zugänglich sind, sollte dies deutlich gemacht werden. Dies gilt sowohl für kreative Inhalte als auch für wissenschaftliche oder informationsbezogene Materialien. Eine solche Kennzeichnung trägt dazu bei, Vertrauen zu schaffen und verhindert, dass Inhalte unbeabsichtigt zur Verbreitung von Desinformation beitragen.