Mit dem Experiment «Fake or Not» machen wir deutlich, was heute mit künstlicher Intelligenz oder Machine Learning möglich ist: Innert Sekunden sind täuschend echte Bilder generiert – etwa von bekannten Schweizer Politikerinnen und Politikern.
Für unser KI-Experiment arbeiten wir mit dem Text-zu-Bild-Generator Stable Diffusion. Zunächst lädt ein Script die ersten 100 Fotos aller 46 Ständerätinnen und Ständeräte aus der Google-Bildersuche herunter. Danach wird der Generator automatisiert mit den Fotos trainiert, um schliesslich neue Bilder der Ständerätinnen und Ständeräte auszuspucken. Wir haben dem Generator mal den Auftrag gegeben, Porträtbilder mit zufälligem Hintergrund zu erstellen.
Was denkst du? Welches der Bilder unten ist wohl echt?
Wir betonen: Alles läuft vollautomatisiert! Mit minimalen menschlichen Eingriffen wären die Ergebnisse noch frappanter.
Unser Gedanke hinter dem Experiment
Doch wieso machen wir uns die Mühe, Fake-Bilder von Schweizer Politikerinnen und Politikern zu generieren? Wir wollen aufklären! Darüber, dass sich heute fotorealistische Bilder in rasantem Tempo, in grosser Menge und in hoher Qualität erstellen lassen. Und darüber, dass dies jede und jeder mit einem Internetzugang kann. Neu muss man sich weder mit Bildbearbeitungsprogrammen auskennen, noch viel Zeit investieren.
Wir wollen die positiven Seiten von KI nicht wegdiskutieren. Die Technologie bringt ganz fantastische Chancen mit sich, von denen wir begeistert sind! Aber wir sehen auch, dass sie Gefahren birgt – gerade wenn sie für politisches Negative Campaigning eingesetzt wird. Im SRF Kulturplatz haben wir demonstriert, wie mit Machine Learning zum Beispiel ein Parteipräsident beim Randalieren gezeigt werden kann.
Verfängliche Fake-Bilder von Politikerinnen und Politikern sind also schnell produziert, KI-generierte Texte rasch geschrieben. Wenn diese im Wahlkampf strategisch verbreitet werden, um Menschen zu schaden, kann dies die öffentliche Debatte und Meinungsbildung beeinträchtigen. Das wäre Gift für das politische System der Schweiz, denn unsere direkte Demokratie baut auf einer seriösen Meinungsbildung auf.
Deshalb fordern wir die Schweizer Parteien auf, im Wahlkampf diesen Herbst Transparenz zu schaffen und insbesondere keine künstliche Intelligenz für Negativ-Kampagnen einzusetzen!