Gefahren durch KI und Deepfakes - Was Verifikation leisten kann und wie Nutzende damit umgehen

Die Stimme des tagesschau-Sprechers entschuldigt sich auf einer Demo für dreiste Lügen. Das Audio klingt authentisch, die Stimme ist vertraut, doch echt ist die Aufnahme nicht. Sie wurde mithilfe von Künstlicher Intelligenz erstellt. Mediennutzer:innen und insbesondere auch Medienschaffende stehen angesichts der großen Fortschritte bei der Entwicklung von KI-Anwendungen vor massiven Herausforderungen: Ob imitierte Stimmen, Videos oder Fotos – die Anwendungsmöglichkeiten von KI bei der Erstellung von künstlich generiertem Content sind noch lange nicht ausgereizt. Und deren Erstellung wird immer einfacher. Parallel entwickeln Universitäten, Geheimdienste und Privatfirmen Tools, die bei der Verifizierung helfen sollen. Frida Kammerer und Wolfgang Wichmann arbeiten in der tagesschau-Redaktion und zeigen die neuen Herausforderungen und mögliche Lösungen.

Und auch die Nutzenden stehen vor der Frage: Was ist echt und was kann ich glauben? Immer wieder erreichen die tagesschau gefälschte Seiten und zerschnittene Beiträge mit künstlich generierten Stimmen. Manchmal geht es "nur" darum, unseriöse Investments zu verkaufen. Doch manchmal soll auch politisch Stimmung gemacht werden, indem Ereignisse gezeigt werden, die so nie passiert sind. Die Gefahren spiegeln sich in den Kommentaren und direkten Nachrichten wider, die die Social-Media-Redaktion der tagesschau täglich erreichen.

In dieser Session zeigen wir Beispiele aus dem Alltag von Medienschaffenden gezeigt, wo KI-generierte Inhalte aufgetaucht sind und wie diese aussehen oder sich anhören können. Es werden Möglichkeiten und Grenzen aufgezeigt, wie diese auf ihre Echtheit überprüft werden können. Gezeigt wird, was möglich ist – und warum. Was gibt es für Tools, wie funktionieren sie und für wen sind sie verfügbar?