Hoffnung, Hype oder Risiko?

← Zurück zum Wissenspool / Themenübersicht 

Künstliche Intelligenz wird oft als Effizienzversprechen diskutiert: schneller schreiben, einfacher planen, automatisiert auswerten, Bilder und Videos generieren. Im vierten Community Lab von Praxis-KICK stand eine andere Frage im Mittelpunkt: Was löst KI gesellschaftlich aus – an Hoffnungen, Ängsten, Machtverschiebungen und neuen Abhängigkeiten?

Ausgangspunkt war der Comic-Essay „Schokoroboter und Deepfakes“, der Perspektiven junger Menschen auf Künstliche Intelligenz aufgreift. Als Community Lab war die Einheit stärker als gemeinsamer Reflexionsraum angelegt und weniger als technische Schulung.

Für Kulturarbeiter*innen in gemeinnützigen Kulturorganisationen ist diese Perspektive wichtig: KI betrifft nicht nur interne Abläufe, sondern auch Öffentlichkeit, Vertrauen, Demokratie, Zugänglichkeit, Ressourcen und den Wert gemeinsamer kultureller Räume.

Warum das Thema für Kulturorganisationen relevant ist

KI ist kein neutrales Werkzeug. Systeme werden von Unternehmen, Forschungseinrichtungen und Plattformen entwickelt, mit großen Datenmengen trainiert und in Geschäftsmodelle eingebunden. Deshalb stellt sich nicht nur die Frage, ob ein Tool funktioniert. Wichtig ist auch, welche Daten verarbeitet werden, welche Anbieter gestärkt werden, welche Abhängigkeiten entstehen und welche Entscheidungen besser nicht automatisiert werden.

Ein hilfreicher Begriff dafür ist Dual Use: Technologien können unterstützen, etwa bei Barrierefreiheit, Übersetzung, Recherche oder administrativer Entlastung. Dieselben Technologien können aber auch manipulieren, überwachen, ausschließen oder täuschen. Entscheidend sind der konkrete Einsatz, der organisatorische Rahmen und die Verantwortung für Folgen.

↑ Zurück zum Überblick 

Zentrale Risiken und Grundfragen

Bias und Diskriminierung

KI-Systeme lernen aus Daten. Wenn diese Daten gesellschaftliche Vorurteile enthalten, können KI-Ergebnisse diese Muster übernehmen oder verstärken. Das betrifft etwa Sprache, Bilder, Suchergebnisse, Zielgruppenmodelle oder automatisierte Empfehlungen.

Für Kulturorganisationen heißt das: KI-Ergebnisse sollten nicht als neutral gelten. Sie brauchen Prüfung, Kontextwissen und die Frage, welche Perspektiven fehlen.

Deepfakes und Vertrauensverlust

KI kann Bilder, Stimmen und Videos so verändern oder erzeugen, dass sie täuschend echt wirken. Damit entstehen Risiken für Persönlichkeitsrechte, politische Öffentlichkeit und Vertrauen in digitale Kommunikation.

In der Praxis bedeutet das: Quellen prüfen, Bild- und Videomaterial sorgfältig verwenden und bei Stimmen, Gesichtern oder personenbezogenem Material Rechte, Einwilligungen und Kontext besonders genau klären. Eine transparente Kennzeichnung sollte vor allem dann geprüft werden, wenn Publikum, Teilnehmende oder Kooperationspartner*innen über Entstehung, Authentizität oder Bearbeitung eines Inhalts getäuscht werden könnten.

Ökologischer Fußabdruck

KI-Anwendungen benötigen Rechenleistung, Speicher und Energie. Besonders ressourcenintensiv sind große Modelle sowie Bild- und Videogenerierung. Daraus folgt keine einfache Regel gegen KI. Sinnvoll ist eine bewusste Abwägung: Welche Nutzung spart tatsächlich Zeit oder schafft Zugang? Welche Nutzung ist nur Spielerei? Wo steht der Aufwand in keinem Verhältnis zum Nutzen?

KI und gemeinsame Erfahrung

Im Lab wurde betont, dass Kulturarbeit nicht nur aus Produkten besteht. Ihr Wert liegt auch in Beziehungen, Kontext, Aushandlung und gemeinsamer Erfahrung. KI kann Inhalte erzeugen, Varianten vorschlagen oder administrative Aufgaben erleichtern. Sie ersetzt aber nicht die soziale, politische und kulturelle Arbeit, die in Begegnung, Verantwortung und gemeinsamer Auseinandersetzung entsteht.
 

↑ Zurück zum Überblick 

Unsere ersten KI-Leitplanken:

1. Wir nutzen KI für:
[Aufgaben einfügen]

2. Wir nutzen KI nicht für:
[No-Gos einfügen]

3. Diese Daten bleiben ausgeschlossen:
[Datenarten einfügen]

4. Vor Veröffentlichung prüfen wir:
[Fakten, Rechte, Kennzeichnung, Tonalität, Bias]

5. Zuständig für Rückfragen ist:
[Person oder Rolle einfügen]

↑ Zurück zum Überblick 

Tool:
[Name]

Unterstützende Nutzung:
[Wie kann das Tool helfen?]

Problematische Nutzung:
[Welche Risiken, Fehlanwendungen oder Nebenfolgen sind denkbar?]

Betroffene Daten:
[Welche Daten werden eingegeben oder erzeugt?]

Mögliche Betroffene:
[Publikum, Team, Künstler*innen, Mitglieder, Kooperationspartner*innen]

Grenzen der Nutzung:
[Wofür nutzen wir das Tool nicht?]

Prüfung vor Veröffentlichung:
[Wer prüft Fakten, Rechte, Kennzeichnung, Bias und Tonalität?]

Entscheidung:
[freigegeben / nur testweise / nicht für sensible Daten / nicht nutzen]

↑ Zurück zum Überblick 

↑ Zurück zum Überblick 

Praxisbeispiele aus dem Lab

Digitale Souveränität durch bewusste Tool-Wahl

Im Lab wurde Mistral bzw. Le Chat als europäische Alternative zu dominanten US-Anbietern genannt. Der Punkt ist nicht, ein einzelnes Tool pauschal zu empfehlen. Entscheidend ist die Frage, wie Kulturorganisationen Abhängigkeiten reflektieren: Welche Anbieter werden genutzt? Wo liegen Daten? Welche Kosten, Nutzungsbedingungen und Datenschutzfragen sind relevant?

Administrative Entlastung im Kulturbüro

Ein Beispiel aus dem Austausch war die Nutzung von KI-Sprachmodellen für Newsletter-Entwürfe. Solche Anwendungen können helfen, erste Fassungen, Varianten oder Strukturvorschläge zu erstellen. Verantwortung, Tonalität, politische Einordnung und finale Freigabe bleiben bei Menschen.

KI als Thema kultureller Auseinandersetzung

KI kann nicht nur als Werkzeug genutzt, sondern auch selbst zum Thema werden: in Ausstellungen, Vermittlungsformaten, Workshops, Diskussionsveranstaltungen oder künstlerischen Projekten. Kulturorganisationen können Räume schaffen, in denen technologische Entwicklungen kritisch verhandelt werden.

Companion-Apps als Reflexionsgegenstand

Im Lab wurden KI-basierte Apps für virtuelle Freundschaften oder Beziehungen als gesellschaftliches Beispiel genannt. Relevant ist daran weniger die Anwendung selbst, sondern die Frage, wie KI Nähe, Einsamkeit, Zustimmung, Widerspruch und Echokammern verändert.

↑ Zurück zum Überblick 

FAQ
 

↑ Zurück zum Überblick 

Genannte Tools und Ressourcen aus der Einheit

Die folgende Liste dokumentiert Ressourcen und Beispiele, die im Zusammenhang mit dem Community Lab genannt wurden. Sie ist keine allgemeine Empfehlungsliste. Vor einer Nutzung sollten Zweck, Datenschutz, Kostenmodell, Rechtefragen, Barrierefreiheit, Aktualität und organisatorische Verantwortung geprüft werden.
 

↑ Zurück zum Überblick