Können wir Künstlicher Intelligenz vertrauen? Von sicheren Anwendungen und vertrauenswürdiger KI

Künstliche Intelligenz gehört zu den Schlüsseltechnologien der digitalen Transformation von Gesellschaft und Industrie. Sie ist omnipräsent und gehört längst in unseren Alltag: Navigationssysteme, Bild- und Spracherkennung in Smartphones und autonomen Fahrzeugen, Monitoring kritischer Infrastrukturen, Fehlererkennung in der Produktion und die Vorhersage von Maschinenausfällen, Suchmaschinenalgorithmen und Empfehlungsmarketing, Digital Personal Assistants und mehr. KI hat die Welt verändert und wird es weiter tun. Über 50 Nationen haben KI-Strategien verabschiedet. KI-basierte Innovationen werden in den nächsten Jahren noch wichtiger und spannender, denn zahlreiche »emerging technologies« wie Quantentechnologien, das Internet der Zukunft und das Metaverse haben KI in ihrem Kern verankert.

Der Fraunhofer Verbund IUK-Technologie forscht seit vielen Jahren an Künstlicher Intelligenz und bringt sie in die Anwendung. Themenschwerpunkte sind unter anderem »Verkörperte KI« (z. B. Roboter und autonome Systeme), KI-Algorithmen (z. B. Deep Learning), »KI und der Mensch« (z. B. Dialogsysteme) sowie die Erklärbarkeit und die Zertifizierung von KI.

Bei dieser Paneldiskussion schauen wir aus verschiedenen Blickwinkeln auf den wohl wichtigsten »social skill« von KI: die Vertrauenswürdigkeit. Was bedeutet vertrauenswürdige KI? Welche Anforderungen haben wir an KI im Vergleich zum Menschen? Wer trägt die Verantwortung dafür, dass KI-Systeme wie gewünscht funktionieren?   Die Perspektive der Bundesregierung wird dabei ebenso beleuchtet, wie die von industriellen KI-Anwendern, von Verbrauchern und Forschern. Vertrauenswürdige KI wird anhand von Anwendungen erläutert, z. B. Krebserkennung und KI-basierte synthetische Medien wie maschinell erzeugte News-, Sport- und Finanzberichte. Diskutiert werden in dem Panel über Status quo und Zukunft von KI auch Fragen rund um Verbraucherschutz, Moral und Haftung sowie Anforderungen an eine diskriminierungsfreie, transparente und faire KI, die in der Gesellschaft breit akzeptiert ist.