„Ohne Vertrauen keine Akzeptanz“: Warum vertrauenswürdige KI für Unternehmen unverzichtbar ist

Was sind die wichtigsten Faktoren, die Business Leader bei der Einführung von KI berücksichtigen sollten? 

Gotthardt: Der Schlüssel liegt in einem Governance-Ansatz, der strategische und technologische Aspekte vereint. Technologisch gesehen sind Vertrauensmanagement-Tools unverzichtbar. Moderne Plattform-Lösungen setzen auf automatisierte Tests, um die Qualität von KI-Systemen sicherzustellen. Dabei machen sie Schwachstellen sichtbar – etwa in Bezug auf Fairness oder Diskriminierung – und erleichtern zugleich die Einhaltung gesetzlicher Vorgaben und interner Compliance-Richtlinien. Das entlastet nicht nur KI-Teams von Routineaufgaben, sondern verschafft auch Compliance- und Rechtsexperten einen klaren Überblick. Und auch das Management profitiert: Es erhält fundierte Entscheidungsgrundlagen, ohne sich mit komplexen technischen Details beschäftigen zu müssen. Es überrascht mich daher nicht, dass Gartner KI-Governance-Plattformen – wie schon 2024 – zu einem der zentralen Themen des kommenden Jahres erklärt hat.

Musil: Absolut, und das bringt uns direkt zum nächsten Punkt: Technologie entfaltet ihre volle Wirkung nur dann, wenn sie strategisch klug eingebettet wird. Ein smarter Change-Management-Ansatz ist unverzichtbar. Der Erfolg der KI-Transformation hängt davon ab, klare Ziele zu definieren, darauf aufbauend Verantwortlichkeiten zu klären und passende Strukturen zu schaffen. Ein KI-Beauftragter oder sogar ein CAIO (Chief Artificial Intelligence Officer) kann hierbei eine Schlüsselrolle spielen. Ebenso essenziell ist eine bereichsübergreifende Zusammenarbeit, um technologische, rechtliche und wirtschaftliche Anforderungen effizient aufeinander abzustimmen. Gleichzeitig ist die Einbindung der Management-Ebene unerlässlich – hier besteht der aktuellen BearingPoint-Studie zufolge Nachholbedarf: Nur 16 Prozent der deutschen C-Level-Führungskräfte sind aktiv in Entscheidungsprozesse rund um KI-Initiativen involviert. Ein wesentlicher Erfolgsfaktor ist auch die Befähigung der Mitarbeitenden. Insbesondere Schulungen sind wichtig, um Wissen aufzubauen und den verantwortungsvollen Umgang mit KI zu fördern. Letztlich muss das gesamte Unternehmen an einem Strang ziehen, um den Erfolg der KI-Initiativen zu sichern. 

Wenn in Deutschland und Europa über KI diskutiert wird, stehen noch immer häufig die Risiken im Mittelpunkt. Kann vertrauenswürdige KI zum Gamechanger werden? 

Juliane Musil: Der Fokus liegt hier bei uns stark auf den Risiken von KI, während in den USA vor allem der Return on Investment (ROI) im Vordergrund steht. Vertrauenswürdige KI ist für uns der Schlüssel, um in Europa von einem risikobasierten zu einem chancenorientierten Ansatz zu gelangen. Wenn es gelingt, KI zu entwickeln, die vertrauenswürdig, sicher und transparent ist, werden Themen wie Bias, Datenmissbrauch oder IT-Angriffe schon bald nicht mehr den Diskurs beherrschen. Stattdessen können wir uns endlich auf die enormen Potenziale konzentrieren, die KI mit sich bringt. Dieser Perspektivwechsel ist entscheidend, um auf den dynamischen und innovationsgetriebenen Weltmärkten wettbewerbsfähig zu bleiben – und das, ohne unsere hohen ethischen Standards aufzugeben. 

Dorothea Gotthardt: Korrekt und was mir noch sehr wichtig ist: Vertrauenswürdige und transparente KI ist nicht nur ein Mittel zur Risikominimierung, sondern ein zentraler Treiber für Performance und langfristige Wettbewerbsfähigkeit. Der ROI lässt sich nur dann valide bewerten, wenn Unternehmen ihre KI-Modelle verstehen und deren Leistung nachvollziehen. Verlässliche Tests und eine tragfähige KI-Governance-Strategie spielen eine geschäftskritische Rolle, um die Qualität und Performance von KI-Systemen sicherzustellen. Ich sehe Europa auf lange Sicht daher nicht im Hintertreffen – im Gegenteil: EU-Unternehmen haben die Möglichkeit, mit ethisch verantwortungsvollen KI-Lösungen zu punkten, auch in rechtlicher und ethischer Hinsicht und besonders bei Qualität und Geschäftserfolg. Doch es ist höchste Zeit, aufs Gaspedal zu treten und KI aktiv ins Geschäft zu bringen – raus aus den Innovationslaboren und hinein in die Praxis, wie es unsere US-Konkurrenten vormachen.