Verlegerverband initiiert KI-Kodex

Der Verlegerverband Schweizer Medien (VSM) hat gemeinsam mit Partnerverbänden und Medienunternehmen einen branchenweiten KI-Kodex erarbeitet. Dieser wurde im Hinblick auf das SwissMediaForum, das am Donnerstag und Freitag in Luzern stattfindet, den Medien vorgestellt. Rund ein halbes Dutzend Medienschaffende nahmen am Mittwoch an einem virtuellen Hintergrundgespräch des VSM teil.

Hinter dem Kodex stehen der VSM, Médias Suisses, Media Svizzeri, SRG, Keystone-SDA, der Verband Schweizer Privatradios (VSP), der Verband Schweizer Privatfernsehen (VSPF) sowie der Verband der Schweizer Regionalfernsehen Telesuisse. Das MAZ – Institut für Journalismus und Kommunikation begrüsst das Vorhaben, wie es in einer Mitteilung heisst.

VSM-Präsident Andrea Masüger betont darin die Bedeutung des Vertrauens als Fundament der Medienarbeit: «Vertrauen ist das höchste Gut der Medien. Die rasante Entwicklung von KI stellt die Medienbranche vor grosse Herausforderungen und eröffnet zugleich Chancen. Um das Vertrauen zu sichern und zu stärken, haben die Schweizer Medienunternehmen gemeinsam einen branchenweiten KI-Kodex erarbeitet.»

VSM-Direktorin Pia Guggenbühl hebt die Dynamik hinter dem Prozess hervor: «Die Energie und Bereitschaft der Branche für eine gemeinsame Lösung illustriert: Das Thema beschäftigt sehr. Dass der nun vorliegende KI-Kodex so breit abgestützt ist, zeigt, dass wir auf dem richtigen Weg sind.»

Selbstregulierung im Rahmen der Europarat-Konvention

Der Kodex ist als Instrument der Selbstregulierung konzipiert und orientiert sich an der Konvention des Europarats zur künstlichen Intelligenz, die der Bundesrat ratifizieren will. Ein zentraler Grundsatz: Medienunternehmen und ihre Mitarbeitenden bleiben stets verantwortlich für veröffentlichte redaktionelle Inhalte – unabhängig davon, ob diese von Menschen erstellt oder mit Hilfe von KI-Systemen generiert, bearbeitet oder distribuiert wurden.

SRG-Generaldirektorin Susanne Wille unterstreicht laut Mitteilung die gesellschaftliche Dimension: «Es ist entscheidend, dass sich die Menschen in der Schweiz auf die Schweizer Medien verlassen können. Mit dem KI-Kodex schaffen wir die gemeinsame Basis, damit der Einsatz von künstlicher Intelligenz transparent und nachvollziehbar bleibt.»

«Mit dem KI-Kodex schaffen wir die gemeinsame Basis für mehr Vertrauen im Kommunikationsmarkt», wird Hanspeter Kellermüller, CEO von Keystone-SDA, zitiert. Er nennt die vier Pfeiler: Anwenderkenntnisse, Schutz demokratischer Prozesse, Datenschutz und Transparenz.

Im Detail verpflichtet der Kodex Medienunternehmen dazu, sicherzustellen, dass Mitarbeitende, die KI-Systeme anwenden oder deren Resultate verarbeiten, entsprechend geschult sind. Zum Schutz demokratischer Prozesse sind angemessene Massnahmen gegen die Verbreitung von KI-generierten Falsch- oder Desinformationen zu treffen – mit besonderem Augenmerk auf den Zeitraum vor Abstimmungen und Wahlen. Personenbezogene Daten und vertrauliche Informationen sind kontrolliert und nach gesetzlichen Vorgaben zu verarbeiten. Zudem müssen Medienunternehmen die Öffentlichkeit allgemein darüber informieren, wie sie KI-Systeme einsetzen, etwa auf einer Informationsseite ihres Webauftritts.

Verbindlich sind auch Kennzeichnungspflichten: Deepfakes sind grundsätzlich zu kennzeichnen und dürfen nicht verwendet werden, wenn sie gesetzeswidrig sind. Vollständig automatisiert KI-generierte und ungeprüft veröffentlichte Inhalte müssen ebenfalls deklariert werden. KI-Systeme, die mit Nutzenden interagieren und von diesen mit Menschen verwechselt werden könnten – etwa Chatbots –, sind zu kennzeichnen. Bei weiteren KI-gestützten Inhalten richtet sich die Kennzeichnungspflicht nach Umfang, Art und Weise des KI-Einsatzes.

Zweistufiges Betriebsmodell ohne formelle Sanktionen

Das Betriebsmodell sieht einen zweistufigen Melde- und Prüfmechanismus vor. Auf der ersten Stufe betreiben Medienunternehmen eigene KI-Meldestellen. Diese sollen niederschwellig zugänglich sein, Eingaben innert angemessener Frist beantworten und Fälle transparent dokumentieren. Kleinere Verlage können gemeinsam sogenannte KI-Sammelmeldestellen einrichten. Bezeichnet ein Medienunternehmen keine eigene Meldestelle, können Meldungen direkt an die zweite Instanz weitergeleitet werden.

Diese zweite Instanz bildet eine unabhängige KI-Ombudsstelle. Sie behandelt schwerwiegende oder nicht einvernehmlich gelöste Fälle sowie Meldungen, die von den unternehmensinternen Stellen nicht innert angemessener Frist beantwortet wurden. Die Ombudsstelle prüft Beschwerden unabhängig, formuliert Empfehlungen und fördert Best Practices. Jährlich veröffentlicht sie einen Transparenz- und Umsetzungsbericht, der eingegangene Beschwerden, deren Behandlung sowie identifizierte Risiken und Verbesserungsprozesse dokumentiert.

Formelle Sanktionen sieht der Kodex nicht vor. Gegenüber persoenlich.com erklärte Guggenbühl, der Kodex setze auf Verantwortung und nicht auf Strafe. Verstösse, die an die Ombudsstelle gelangen, würden jedoch veröffentlicht. Die konkrete Ausgestaltung der Ombudsstelle – einschliesslich Finanzierung, Ernennung der Mitglieder und Sicherstellung der Unabhängigkeit – ist noch offen. Im Hintergrundgespräch wurde deutlich, dass die Ausarbeitung dieser Details noch einige Monate in Anspruch nehmen werde; bis Ende Jahr sollen die Massnahmen aber umgesetzt sein.

Der Kodex ist explizit als «lebendiges Dokument» konzipiert. Er soll periodisch überprüft und bei veränderten rechtlichen, technologischen oder gesellschaftlichen Rahmenbedingungen angepasst werden. Allen Akteuren der Medienbranche steht eine Teilnahme offen; die verschiedenen Mediengattungen und Formate sollen bei der weiteren Konkretisierung spezifisch berücksichtigt werden.

AI-Audit und Qualitätslabel der Wemf

Parallel zum KI-Kodex hat die unabhängige Audit- und Forschungsorganisation Wemf ein «Responsible AI-Audit» entwickelt – eine neue Zertifizierung mit Qualitätslabel, die allen Medien in der Schweiz offensteht, wie es weiter heisst. Medienhäuser können ihren verantwortungsvollen Umgang mit KI durch eine jährliche Auditierung kontinuierlich verbessern und gegenüber Publikum und Marktpartnern mit Zertifikat und Label belegen. Details zur neuen Branchenlösung will die Wemf in den kommenden Wochen kommunizieren. (cbe)