Fake or Not: So sensibilisieren wir die Politik für den Umgang mit KI
Von Stephanie Auderset | Politik | 25.05.2023
Mit Fotos aus der Google-Suche lassen sich heute in Sekundenschnelle automatisiert neue Fake-Bilder generieren. Mit unserem KI-Experiment wollen wir über Möglichkeiten und Risiken im politischen Campaigning aufklären.
Künstliche Intelligenz (KI) oder Machine Learning (ML) macht gerade rasante Fortschritte: Mittlerweile lassen sich innert Sekunden fotorealistische Bilder generieren – etwa von bekannten Schweizer Politikerinnen und Politikern. Um deutlich zu machen, wie täuschend echt diese Bilder sind, haben wir das KI-Experiment «Fake or Not» ins Leben gerufen.
In unserem Experiment geben wir einem KI-Generator den Auftrag, Porträtbilder der 46 Ständerätinnen und Ständeräte zu erstellen. Grundlage dafür sind Fotos der Politikerinnen und Politikern aus der Google-Suche, die der Generator absaugt. Alles läuft komplett automatisiert ab. Hier ein paar Ergebnisse:
Keines dieser Bilder ist echt. Hättest du das gemerkt? Den Direktvergleich von echten und generierten Bildern kannst du auf der «Fake or Not»-Seite machen. Und so viel ist klar: Mit minimalen menschlichen Eingriffen wären die Ergebnisse noch frappanter.
Unser Gedanke hinter dem Experiment
Doch wieso machen wir uns die Mühe, Fake-Bilder von Schweizer Politikerinnen und Politikern zu generieren? Wir wollen aufklären! Darüber, dass sich heute fotorealistische Bilder in rasantem Tempo, in grosser Menge und in hoher Qualität erstellen lassen. Und darüber, dass dies jede und jeder mit einem Internetzugang kann. Neu muss man sich weder mit Bildbearbeitungsprogrammen auskennen, noch viel Zeit investieren.
Wir wollen die positiven Seiten von KI nicht wegdiskutieren. Die Technologie bringt ganz fantastische Chancen mit sich, von denen wir begeistert sind! Aber wir sehen auch, dass sie Gefahren birgt – gerade wenn sie für politisches Negative Campaigning eingesetzt wird. Im SRF Kulturplatz haben wir demonstriert, wie mit Machine Learning zum Beispiel ein Parteipräsident beim Randalieren gezeigt werden kann.
Was wir erreichen wollen
Verfängliche Fake-Bilder von Politikerinnen und Politikern sind also schnell produziert, KI-generierte Texte rasch geschrieben. Wenn diese im Wahlkampf strategisch verbreitet werden, um Menschen zu schaden, kann dies die öffentliche Debatte und Meinungsbildung beeinträchtigen. Das wäre Gift für das politische System der Schweiz, denn unsere direkte Demokratie baut auf einer seriösen Meinungsbildung auf.
Deshalb fordern wir die Schweizer Parteien auf, im Wahlkampf diesen Herbst Transparenz zu schaffen und insbesondere keine künstliche Intelligenz für Negativ-Kampagnen einzusetzen!
Damit sind wir nicht alleine. AlgorithmWatch CH schliesst sich uns an:
«KI-Systeme bringen eine Reihe von Herausforderungen mit sich – für die Rechte von Menschen, aber auch für die öffentliche Debatte, für die Meinungsbildung, für uns als demokratische Gesellschaft. Es geht nicht darum, KI zu verbieten. Aber wir brauchen klare gesetzliche Spielregeln, unter welchen Bedingungen KI-Systeme entwickelt und eingesetzt werden dürfen. Doch der Wahlkampf 2023 steht vor der Tür – und bis zu seinem Beginn wird es noch keine solchen gesetzlichen Spielregeln geben. Deswegen müssen jetzt die Parteien Verantwortung übernehmen. Es darf nicht sein, dass KI-generierte Inhalte im Wahlkampf oder bei Abstimmungen strategisch für negatives Campaigning eingesetzt werden, um Menschen zu schaden und Meinungen zu beeinflussen. Die Demokratie braucht Grundrechte, einen gesunden öffentlichen Diskurs und die Möglichkeit, dass wir uns faktenbasiert eine Meinung bilden können. Dazu müssen die Parteien Farbe bekennen – jetzt!»