Die zunehmende Entwicklung von Künstlicher Intelligenz (KI), insbesondere generativer KI, hat einen bahnbrechenden Einfluss auf den Medienbereich und verändert die Art und Weise, wie Nachrichten konsumiert und produziert werden. Vor diesem Hintergrund hat die Gremienvorsitzendenkonferenz (GVK) der Landesmedienanstalten ein Gutachten zum Thema „Demokratiekompetenz stärken: Herausforderung Künstliche Intelligenz und die Vermittlung von Medienkompetenz“ bei der acatech, Deutsche Akademie der Technikwissenschaft, beauftragt. Die jetzt vorliegende Untersuchung beschäftig sich mit den Auswirkungen von KI auf den Medienbereich und schlägt Maßnahmen zur Stärkung der Medienkompetenz vor.
Kernaussagen und Zielsetzung
Die fortschreitende Entwicklung von Künstlicher Intelligenz (KI) und insbesondere generativer KI hat einen tiefgreifenden Einfluss auf den Medienbereich und verändert die Art und Weise, wie Nachrichten konsumiert und produziert werden. KI ist hierbei von ambivalenter Natur. Sie bietet einerseits Chancen, beispielsweise durch Personalisierung und Automatisierung, mehr Menschen mit relevanten Informationen zu erreichen und zu einer besser informierten Gesellschaft beizutragen. Andererseits bringt der Einsatz von KI auch Risiken mit sich, die sich beispielsweise in Form von Desinformation oder Filterblasen manifestieren können. Um die Veränderungen des Medienbereichs erfolgreich zu gestalten, müssen die Chancen, die KI für die Gesellschaft bietet, genutzt und zugleich die Risiken minimiert werden. Ein essenzieller Bestandteil ist dabei eine Stärkung der Medienkompetenz der Bürger.
In modernen Gesellschaften fungieren – insbesondere digitale – Medien als zentrale Informationsquellen. Das Internet und soziale Medien werden bei einem stetig wachsenden Anteil der Bevölkerung, insbesondere bei jungen Menschen, zur Hauptnachrichtenquelle und auch die gesellschaftliche Meinungsbildung verlagert sich vermehrt auf digitale Plattformen. Informations- und Meinungsbildungskompetenz ist daher eine unverzichtbare Voraussetzung, um aktiv an der gesellschaftlichen Meinungsbildung und damit am demokratischen Prozess teilzunehmen, informierte Entscheidungen zu treffen und sich in einem pluralistischen Umfeld zu orientieren. Es ist daher essenziell, dass die Bürger eine Medienkompetenz erlangen, die dem veränderten Medienbereich gerecht wird. Nur so können sie mündig politisch partizipieren, was wiederum notwendig für eine funktionierende Demokratie ist. In diesem Gutachten werden die Auswirkungen von KI auf den Medienbereich untersucht und Maßnahmen zur Stärkung der Medienkompetenz vorgeschlagen. Dazu werden zunächst die Veränderungen betrachtet, die durch KI im Medienbereich bereits stattgefunden haben und noch erwartet werden. Hierbei werden einerseits konkrete Anwendungen diskutiert, die auf maschinellem Lernen (Machine Learning) und generativer KI basieren sowie andererseits das systemische Risiko von Desinformation betrachtet, das insbesondere durch generative KI an Relevanz und Gefahrenpotenzial zugenommen hat.
KI-Anwendungen im Medienbereich
KI-basierte Anwendungen können im Medienbereich zu signifikanten Veränderungen führen. Ein zentraler Einsatzbereich sind algorithmische Empfehlungssysteme, die die Grundlage für die Inhaltsverteilung auf sozialen Medien und anderen Online-Plattformen bilden. Diese Systeme personalisieren die präsentierten Inhalte, oft mit dem Ziel, die Nutzer länger auf der jeweiligen Plattform zu halten. Für eine individualisierte Benutzererfahrung können Inhalte an die persönlichen Vorlieben und Interessen angepasst werden. Ein weiterer Einsatzbereich von KI ist das automatisierte Content-Management. Hierbei kann KI beispielsweise genutzt werden, um Plattforminhalte automatisch nach unerwünschten oder illegalen Inhalten zu filtern. Dies kann zur Schaffung sichererer und qualitativ hochwertigerer Onlineumgebungen beitragen, indem potenziell schädliche oder unangemessene Inhalte effektiv identifiziert und entfernt werden. KI-Werkzeuge haben die Möglichkeiten für Journalisten bei der Datenanalyse und Recherche fundamental verändert. Sie werden dazu verwendet, Informationen zu sammeln, große Mengen an Daten zu analysieren und den Verifikations- oder Falsifikationsprozess von Inhalten zu unterstützen. Dies ermöglicht eine effizientere und präzisere Informationsbeschaffung. Des Weiteren gewinnt die synthetische Medienproduktion an Bedeutung, bei der mittels generativer KI-Technologien synthetische Inhalte wie Bilder, Videos oder Texte erstellt werden. Die Ambivalenz der Technologie zeigt sich deutlich in all diesen Anwendungen. KI kann als äußerst nützliches Werkzeug dienen, um den Zugang zu Informationen zu erleichtern, Inhalte präzise auf die individuellen Bedürfnisse der Konsumenten zuzuschneiden und in kürzester Zeit relevante Inhalte zu erstellen. Diese Effizienzgewinne können dazu beitragen, die Informationsflut zu bewältigen und personalisierte Erlebnisse für Nutzer zu schaffen. Gleichzeitig birgt KI in diesen Anwendungen auch erhebliche Herausforderungen und Risiken. Die Personalisierung von Inhalten kann zu einer Einschränkung der dargestellten Meinungsvielfalt oder sogar zur Darstellung falscher Informationen führen. So entstehen Filterblasen, die eine gesellschaftliche Polarisierung begünstigen. Bias in KI-Anwendungen sowie noch ungeklärte Fragen des Urheberrechts bei generativer KI sind weitere Herausforderungen.
Desinformation
Die potenziellen negativen Effekte von KI im Medienbereich werden insbesondere beim systemischen Risiko der Desinformation sichtbar, das auf mehreren der oben genannten Entwicklungen basiert. Desinformation ist zwar kein neues Phänomen, KI hat die Erstellung und Verbreitung von irreführenden Informationen jedoch signifikant vereinfacht. Es besteht die Befürchtung, dass das Internet zukünftig von Misinformation und Desinformation verschiedener Akteure mit vielfältigen Zielsetzungen überschwemmt wird. Dies könnte eine ernsthafte Bedrohung für die Informationsfreiheit darstellen. Rezipienten stünden vor der Herausforderung, die Faktizität von Inhalten zu beurteilen, können auf Social-Media-Plattformen aber nicht auf seriöse Medienintermediäre vertrauen. Vorschlagsalgorithmen von digitalen Plattformen können ausgenutzt werden, um Inhalte relevanter erscheinen zu lassen und ein breites Publikum zu erreichen. Die schiere und möglicherweise omnipräsente Menge an überzeugender Desinformation erschwert eine Bewertung durch die Nutzer erheblich und könnte das Vertrauen in Online-Inhalte untergraben. Insbesondere im Kontext von Wahlen kann dies auch zur Bedrohung für Demokratien werden.
Handlungsfelder
In diesem Gutachten werden drei zentrale Handlungsfelder identifiziert, um die Chancen von KI zu nutzen und gleichzeitig die durch KI entstehenden Risiken zu minimieren: Regulierung, technologische Maßnahmen und Stärkung der Medienkompetenz. Die ersten beiden Handlungsfelder verfolgen das Ziel, schädliche Inhalte aus den Medien zu verbannen bzw. synthetisch generierte Inhalte zu kennzeichnen, um eine Überforderung der Bürger zu verhindern.
Handlungsfeld Medienkompetenz
Das dritte Handlungsfeld ist daher die Stärkung der Medienkompetenz. Dies betrifft sowohl die Medienschaffenden wie auch die Rezipienten. Das vorliegende Gutachten argumentiert, dass hierfür im Kontext von KI insbesondere eine Stärkung der Technologiekompetenz notwendig ist. Ein grundlegendes Verständnis von KI ist notwendig, um Kompetenzen wie Medienanalyse oder Medienkritik zu entwickeln. Technologiekompetenz meint in diesem Zusammenhang nicht nur das Verständnis technologischer Mechanismen, sondern beinhaltet auch die aktive Handhabung von Technologie. Im Zusammenhang mit KI bedeutet dies, Medieninhalte nicht nur passiv zu konsumieren, sondern die Algorithmen und Mechanismen hinter diesen Inhalten zu verstehen und die kreativen Potenziale der Technologie zu entdecken.
Medienkompetenz lässt sich durch verschiedene Maßnahmen fördern, die teilweise bereits erfolgreich umgesetzt werden und in Zukunft an die veränderte Medienlandschaft angepasst werden müssen. Eine effektive Strategie zeigt sich in praxisorientierten Angeboten, die einen interaktiven Austausch mit Fachexperten ermöglichen. Dieser Ansatz findet bereits Anwendung, sei es in schulischen Projekten, Konferenzen oder durch Medienunternehmen, die Einblicke in ihre Produktionsprozesse gewähren. Publikationen und Handbücher spielen eine maßgebliche Rolle bei der Vermittlung von Medienkompetenz, indem sie nicht nur Wissen vermitteln, sondern auch Leitfäden und praxisnahe Anleitungen bieten. Online-Beratungen und -Seminare sind ebenfalls zentral, da sie einen barrierefreien Zugang zu Bildungsinhalten ermöglichen, unabhängig vom geografischen Standort. Kampagnen zur Stärkung der Medienkompetenz können ein kritisches Verständnis für Medieninhalte fördern, indem sie gezielt zu Themen wie Faktenprüfung, sicherem Online-Verhalten und Gefahren von Desinformation aufklären. Diese Sensibilisierung ermöglicht eine sicherere Teilnahme der Bürger im digitalen Raum.
KI kann für die Entwicklung neuer und innovativer Maßnahmen zur Vermittlung von Medienkompetenz sehr hilfreich sein. So ermöglichen KI-basierte Lernplattformen personalisierte Schulungen. Individuelle Lernpfade fördern eine differenzierte Medienkompetenzentwicklung, während die kritische Auseinandersetzung mit KI ein reflektiertes Verständnis der Technologie fördert. KI-gestützte Chatbots oder virtuelle Assistenten bieten die Möglichkeit, Fragen zur Medienkompetenz zu beantworten, Ratschläge zu geben und zielgerichtet Informationen bereitzustellen. Diese interaktiven Anwendungen fördern selbstgesteuertes Lernen und bieten einen unkomplizierten Zugang zu relevanten Quellen. Mithilfe von KI können personalisierte Nachrichtenaggregatoren erstellt werden. Gut umgesetzt können sie eine ausgewogene Informationsaufnahme fördern und die Nutzer dabei unterstützen, verschiedene Perspektiven und Quellen zu berücksichtigen. Damit die Maßnahmen zur Vermittlung von Medienkompetenz den gewünschten systemischen Effekt erzielen, ist es entscheidend, dass große Teile der Bevölkerung erreicht werden. Daher sollten die verschiedenen Ansätze möglichst vielen Menschen, mit vielfältigen Hintergründen und Lebenssituationen, möglichst leicht zugänglich gemacht werden. Für Medienschaffende bieten KI-Anwendungen zahlreiche Potenziale. Diese zu nutzen, erfordert ein umfangreiches Verständnis im Umgang mit den neuen Technologien. Der Umgang mit KI-Anwendungen sollte daher fester Bestandteil der journalistischen Ausbildung sein, etwa in Journalismus-Schulen und Universitäten. Medienhäuser müssen sich auch intern digitalisieren, um ihre Daten für den digitalen Markt nutzbar zu machen.
Handlungsfeld Regulierung
Die Politik muss Rahmenbedingungen setzen, um Rechtssicherheit bezüglich der Anwendung von KI zu schaffen und um insbesondere auf Social-Media-Plattformen die Verantwortlichkeiten zu klären. Hierfür hat die EU mit der Datenschutzgrundverordnung und dem Digital Services Act bereits zentrale Verordnungen verabschiedet und auch der geplante AI Act wird einen wichtigen Beitrag leisten, um Risiken durch KI zu minimieren und die Sicherung der Grundrechte zu stärken. In der Umsetzung der jeweiligen Verordnungen ist noch einiger Aufwand nötig, um ihre Durchsetzung in den Mitgliedsstaaten zu ermöglichen. Langfristige oder implizite Risiken für die Gesellschaft sind in den Verordnungen bisher kaum adressiert und müssen weiter Thema der politischen Diskussion bleiben. Öffentliche wie auch private Medienanbieter sollten sich über die Regulierung hinaus im Rahmen von Normungs- und Standardisierungsprozessen oder durch Selbstverpflichtungen damit beschäftigen, wie sie mit KI umgehen möchten. Dies ist notwendig, um den hohen journalistischen Standard und das daraus resultierende weiterhin hohe Vertrauen in etablierte Medien zu erhalten. Viele Medienhäuser haben bereits entsprechende Selbstverpflichtungen veröffentlicht.
Handlungsfeld Technologie
Technische Maßnahmen zur Detektion und Kennzeichnung von KI-Inhalten sowie zur Authentifikation von menschengemachten Inhalten sind ein weiterer Baustein. Kennzeichnung von KI-generierten Inhalten oder Entscheidungen, die von bzw. mithilfe von KI getroffen werden, führen zu mehr Transparenz in der Kommunikation und gleichzeitig zu einem besseren Wissen bei den Nutzern darüber, wo KI überall involviert ist. Neben Kennzeichnungen und Authentifizierungsmethoden sind insbesondere Werkzeuge hilfreich, die die Detektion von KI-erzeugten Inhalten ermöglichen und den Nutzern selbst die Möglichkeit geben, Inhalte zu prüfen. Diese sind aktuell jedoch vor allem für Textinhalte noch nicht sehr verlässlich. Eine Authentifikation von Gesprächspartnern, Artikeln, Bildern, Videos etc. kann beispielsweise über Wasserzeichen oder andere Arten von Kennzeichnungen erfolgen, die direkt bei der Erstellung des Mediums vergeben werden und technisch so gestaltet sind, dass sie nur schwer gefälscht werden können. Dies kann zu mehr Vertrauen in die jeweiligen Inhalte führen und so sowohl für die Erstellenden einen Vorteil erzeugen als auch für die Nutzer eine gute Orientierungshilfe bieten. Plattformbetreiber erhalten dadurch zusätzliche Möglichkeiten zur Filterung und Strukturierung von Inhalten. Der Umgang mit solchen Kennzeichnungen und Detektionswerkzeugen erfordert jedoch Technologie- und Medienkompetenz bei den Nutzern. Die Technikgestaltung muss die Nutzer aktiv mitdenken und es müssen Angebote geschaffen werden, die die Kennzeichnungen und Werkzeuge adressatengerecht erklären, um Akzeptanz und Vertrauen zu erzeugen. Technologische Ansätze können, ebenso wie regulatorische Maßnahmen, jedoch immer nur unterstützend wirken.
Forschung zu Medienkompetenz ist entscheidend, um den technologischen Veränderungen in der Medienwelt gerecht zu werden. Basierend auf Forschungsergebnissen können Bildungsstrategien entwickelt, angepasst und evaluiert werden, die sicherstellen, dass die Bürger die für den Umgang mit Medien notwendigen Fähigkeiten erwerben und somit souverän in der digitalen Welt agieren können. Auch bei den technischen Ansätzen zur Detektion und Authentifizierung von Medieninhalten ist weitere Forschung notwendig, um verlässliche und leicht verständliche Werkzeuge und Kennzeichnungen zu entwickeln. Neben den klassischen Bildungseinrichtungen wie Schulen und Universitäten spielen für die Umsetzung der Maßnahmen zur Stärkung der Medienkompetenz private und öffentliche Initiativen und insbesondere auch die Medienanstalten eine zentrale Rolle. Letztere können als Förderer, Initiatoren, Kooperationspartner und Multiplikatoren tätig werden. Die Medienanstalten verbreiten relevante Informationen, Standards und bewährte Praktiken. Als Multiplikatoren tragen sie dazu bei, ein einheitliches Verständnis für regulatorische Anforderungen zu schaffen und für Transparenz in Bezug auf rechtliche Rahmenbedingungen zu sorgen. Lokal fördern sie praxisorientierte Medienkompetenzaktivitäten, veröffentlichen Publikationen und unterstützen Online-Beratungsplattformen. Als Förderer unterstützen Medienanstalten durch finanzielle Mittel für Projekte, die die Medienkompetenz in der Bevölkerung stärken. Dies umfasst Kampagnen, Prüf- und Aufsichtspraxis sowie die Unterstützung von Bildungseinrichtungen. Schließlich agieren die Medienanstalten als Kooperationspartner für verschiedene Institutionen und Organisationen, um gemeinsame Ziele in der Medienbildung zu erreichen. Dies schließt Forschungsprojekte zur Medienkompetenz und die Förderung von KI in der Medienkompetenzvermittlung ein.
https://www.die-medienanstalten.de/publikationen/weitere-veroeffentlichungen/artikel/gutachten-kuenstliche-intelligenz