Warum künstliche Intelligenz vertrauenswürdig sein muss
Die sogenannte vertrauenswürdige KI (auf Englisch: „trustworthy AI“) wird dabei durch Innovationszentren wie dem Know Center in Graz ermöglicht. Seine Experten und Expertinnen definieren die verschiedenen Ansprüche und Potenziale der Technologie und rücken dabei den Faktor Mensch in den Vordergrund.
Mit dem einsetzenden Wirbel um „ChatGPT“ wurde es deutlich: Eine neue Zeitrechnung in unserer ohnehin schon weitgehend digitalisierten Gesellschaft ist angebrochen. Während sich die einen fragen, ob man Kinder Hausübungen mit ChatGPT machen lassen darf, vernetzen die anderen schon Geschäftsprozesse mit künstlicher Intelligenz, oder bauen Anwendungen, um die zukünftige Kreislaufwirtschaft effektiv steuern zu können.
Wie bei jeder technologischen Disruption werden auch beim Einzug der KI in den Alltag die wirtschaftlichen und gesellschaftlichen Chancen und Risiken leidenschaftlich diskutiert.
Klar ist: KI hat das Potenzial, durch die Auswertung enormer Datensätze, in sensitiven Bereichen wie der Medizin, ganz neue Möglichkeiten zu eröffnen. Schon heute „hören“ KI-Anwendungen mögliche Herzfehler viel genauer als so manche Ärzte und Ärztinnen. Die Ursachen genetischer Defekte oder die gesundheitlichen Auswirkungen von Umweltgiften können datenbasiert ermittelt werden. Dabei soll KI Ärzte und Ärztinnen nicht ersetzen – KI wird helfen, in Diagnostik und Therapievorschlag mehr zu berücksichtigen, als bisher möglich war. Sie wird auch eine zentrale Rolle in der Lenkung dezentraler Energiegemeinschaften spielen. In Zeiten der Klimaerwärmung kann sie auch dazu beitragen, akkurate Prognosemodelle für Trockenzeiten zu erstellen und so Landwirten dabei helfen, zeitgerecht zu reagieren.
Dennoch gibt es auch Risiken, wenn die Technologie in falsche Hände gerät oder Fehler der KI nicht reflektiert und überwunden werden. Denken wir nur an Wahlmanipulationen durch „Troll-Armeen“ oder ungerechte Auswahl von Kandidatinnen und Kandidaten in automatisierten Bewerbungsverfahren.
Die Begrenzung der potenziellen Gefahren durch den Einsatz der KI ist aus mehreren Gründen wichtig: erstens, um Menschen vor Diskriminierung durch Algorithmen und intransparente Entscheidungen zu schützen; zweitens, um geschäftskritische Unternehmensdaten zu schützen, und drittens, um die demokratische Ordnung zu sichern.
Das Schlüsselwort dabei heißt Vertrauen. Dafür sind unbedingt erforderlich: technische Stabilität, Datenschutz, Privacy, Transparenz und diskriminierungsfreie Algorithmen. Viele der derzeit boomenden KI-Anwendungen können all das nicht garantieren. Sie mögen im Alltag nützlich sein, bei der Anwendung durch Unternehmen oder öffentliche Institutionen sind aber noch viele Fragen offen. Die zukünftigen Regelungen zum vertrauenswürdigen Einsatz von KI sind auf EU-Ebene gerade in Ausarbeitung. Von zentraler Bedeutung ist es dabei, die Balance zu halten zwischen den Anforderungen an eine vertrauenswürdige KI und einer Offenheit für den Austausch von Daten für diese innovative Technologie, um die unternehmerische Dynamik nicht einzubremsen.
„Wir stehen an der Schwelle, an der wir entscheiden, ob Unternehmen und Gesellschaft der KI langfristig vertrauen können oder nicht. Wenn es uns in Europa gelingt, das entsprechende Wissen und die Technologien aufzubauen, werden wir die treibende Kraft im Bereich Innovation, Kompetenzentwicklung und gesellschaftlich-naturwissenschaftliche Problemlösung sein. Die jüngsten Auszeichnungen, welche unsere führenden WissenschaftlerInnen am Know Center im Bereich Kryptografie-Algorithmus erworben haben, sind beispiellos und wurden zu globalen Standards definiert.“
In Österreich gibt es mit dem Know Center ein Innovations- und Forschungszentrum von internationaler Geltung, dass die Entwicklung von Lösungen der vertrauenswürdigen KI vorantreibt, sowie zu marktfähigen Lösungen weiterentwickelt. Die Expertinnen und Experten des Know Center sind zudem in EU-Gremien vertreten, in denen der zukünftige europäische Rahmen entsteht.
