NEU im #ConfareBlog
Isabella Mader (CEO, Excellence Research): Nicht die KI bringt die Demokratie in Gefahr – wir selbst sind es, wenn wir Institutionen nicht schützen.
Im Gespräch mit Isabella Mader, CEO von Excellence Research und ausgewiesene Expertin für IT-Strategie, Wissensmanagement und Leadership, wird deutlich: Wer heute als Führungskraft erfolgreich sein will, braucht mehr als technisches Know-how – gefragt sind ethische Orientierung, strategischer Weitblick und die Fähigkeit, Organisationen in der Transformation mitzunehmen.
Gemeinsam mit Martina Gaisch hat sie das Buch „AI Ethics & Human Factors in AI“ verfasst – ein Plädoyer für verantwortungsvolle KI-Nutzung im Dienste von Gesellschaft und Wirtschaft.
Im Confare Blog spricht sie darüber, wie Führung, Technologieeinsatz und Demokratie zusammenhängen – und wo Europa jetzt handeln muss.
Mit welchen Themen sollte man sich denn heute als Führungskraft im Alltag beschäftigen, um KI-ready zu sein? Was wären Deine Empfehlungen?
Bei KI reicht es nicht, sich alle paar Wochen oder sporadisch mit dem Thema auseinanderzusetzen. Gute Quellen laufend mitzuverfolgen, auf eine Art, wie man die Nachrichten liest, halte ich für empfehlenswert. Der Austausch mit Spezialisten, einschlägige Veranstaltungen und Diskussionen bringen zusätzlich praktische Einblicke. Dazu gehören auch Best Practice Cases, die bei Events oder in Podcasts, Blogs und Magazin-Artikeln präsentiert werden.
Der oder die hauseigene CIO und deren oder dessen Community sind ideale Sparringpartner, um ein Verständnis dafür zu entwickeln, was passende Einsatz-Szenarien für das eigene Unternehmen sein können. Strategie ist hier besonders gefragt: “Irgendein Projekt mit KI” verschlingt nur viel Zeit, bringt aber meist wenig. Konsequent die wiederkehrenden oder dauernden Herausforderungen des Unternehmens daraufhin zu prüfen, ob der Einsatz von Technologie (nicht nur KI) sinnvoll ist, lässt meist sehr nützliche Implementierungen und Effekte entstehen.
Wo gibt es denn gesellschaftlichen Handlungsbedarf, damit Europa bei KI morgen noch mitreden und eine Rolle spielen kann?
Für die meisten Einsatz-Szenarien muss keine eigene KI entwickelt werden, man kann sehr gut mit sicheren Anbietern am Markt arbeiten – etwa in der Cybersecurity, die mit KI unter anderem die Anomalie-Erkennung macht, oder um Produktivität mithilfe generativer KI-Tools zu steigern usw. Während in Europa vielfach der AI Act als Innovations-Hemmschuh genannt wird, zeigt sich, dass die meisten Unternehmen vor ganz anderen Herausforderungen stehen.
Nach wie vor fehlt eine “echte” europäische Cloud, es fehlen im großen Stil Investitionen und Förderungen, die auch nur annähernd an das Investitionsniveau der USA heranreihen; das Skalieren von Startups ist in Österreich bzw. in den meisten EU Ländern zu teuer (lohnabhängige Steuern und Abgaben), und: Es gibt viel weniger Venture Capital in Europa im Vergleich zu den USA. Wenn wir nach China schauen, dann wird dort einerseits digitale Bildung breit ermöglicht und proaktiv mit staatlichen XL-Budgets in KI Entwicklung investiert. Die USA investieren ebenfalls intensiv und eine aktive Venture Capital Szene trägt das Ihre bei. Das sehen wir in Europa so nicht, weder auf EU-Ebene, noch auf nationaler Ebene.
Treffen Sie Powerfrauen wie Isabella Mader beim Female IT-Mentoring am Confare CIOSUMMIT Salzburg 2025. Alle Infos zum Mentoring finden Sie HIER.
Wer sind dabei die wichtigsten Akteure und wie wichtig ist das Thema Regulierung? Bremse, Enabler, Treiber?
USA und China investieren proaktiv in KI-Entwicklung, weil sie den Marktvorteil der first-mover kennen und an Wachstum interessiert sind. Europa besteht überwiegend aus sogenannten “alten Ökonomien”, deren Merkmal eher ein zurückhaltendes Investitionsverhalten ist.
Gleichzeitig stehen Unternehmen vor einer ganzen Batterie neuer Regularien und müssen viel Personal-Zeit und Beratungskosten in Berichtswesen investieren, das nicht wertschöpfend ist und Time-to-Market verlangsamt. Während die einzelnen Regularien durchaus sinnvoll sein können, so sind sie gleichzeitig zu wenig aufeinander abgestimmt und in ihrer Gesamtheit ganz klar ein Overkill, der Budgets in nicht-produktive Bereiche umlenkt. Hier ist klar die EU in der Pflicht, rasch Vereinfachung zu schaffen. Neue Regularien im IT-Umfeld wurden zuerst ausgerollt und dann revidiert (Stichwort “Omnibus”), wodurch vieles an Vorbereitung in Unternehmen hinfällig war und nun neu aufgesetzt werden muss.
Einige Beispiele, bewusst nur mit Abkürzungen: DSA, NIS2, DORA, CRA, DA, DGA, PLD, CS3D, CSRD, ESG, AI Act, etc. Regularien allein sind noch keine Strategie. Es ist dringend an der Zeit, auf EU-Ebene zu einer konkreten Strategie zu kommen, die jenseits von Ankündigungen konkret mit großzügigen Investitionen glänzt.
Wie verändert die Digitalisierung die Grundlagen unserer Demokratie, und welche Chancen siehst Du, um diesen Wandel positiv zu gestalten?
Ich denke, dass wir als Gesellschaft immer gerne einen Sündenbock suchen – während wir eigentlich bei uns selbst anfangen müssen. Der Mensch hat sich immer schon selbst Werkzeuge geschaffen, um sich Arbeit und Mühsal zu erleichtern. Das ist ja an sich rühmlich.
Inzwischen sind wir dabei auf einem Level angelangt, bei dem wir alles im Sitzen machen können, selbst das Abendessen soll demnächst ein Roboter kochen. Unsere Demokratie und der soziale Zusammenhalt werden nicht von Technologien gefährdet. Wir selbst sind die Gefahr: Wir sind bequem geworden und geben unseren Tools die Schuld für unsere eigenen Schwächen: Wenn die Aufmerksamkeitsspanne sinkt, dann kann man sich natürlich auf das Smartphone ausreden.
Das bringt aber nichts. Unsere mangelnde Disziplin ist das Problem, sie generiert die Konzentrationsschwäche und die Abhängigkeit, nicht das Smartphone. Wenn unsere Demokratien gefährdet sind, dann ist das nicht die Schuld der Wahlcomputer (die übrigens niemals sicher sein können), sondern unsere eigene. Demokratien nehmen Schaden, wenn wir als Gesellschaft zulassen, dass die Institutionen, die für Rechtsstaatlichkeit, Sicherheit und sozialen Frieden sorgen, beschädigt werden: Legislative, Judikative, Exekutive in all ihren Erscheinungsformen.
Die aktuellen Nobelpreisträger Acemoglu und Robinson haben in ihrem Buch “Why Nations Fail” analysiert, dass in der gesamten Geschichte jene Nationen zu Wohlstand und Blüte kamen, die starke Institutionen hatten. Je instabiler staatliche Institutionen waren, desto geringer der Wohlstand eines Landes. Aktuell können wir dieses Phänomen im Zeitraffer auf der Weltbühne beobachten.
Wir sind es – nicht unsere Tools. WIR müssen unsere Institutionen bewahren. Aktuell bietet sich uns diese Gelegenheit gerade sehr klar.
Welche Verantwortung tragen IT- und Digitalisierungsprofis, wenn es darum geht, demokratische Werte und Prinzipien in einer zunehmend technologisierten Welt zu schützen?
Das ist eine sehr gute Frage. Bias und Ethik sind in jedem IT-System, weil sie von Menschen gemacht werden und jeder Mensch Biases und eine eigene Ethik hat. System-Entwicklung braucht deshalb von Beginn an – schon bei der Datenauswahl und beim Systemdesign – einen möglichst breit aufgestellten Zugang, um in allen Phasen auf mögliche Schwachstellen kommen zu können.
Das klingt allerdings komplizierter als es ist. Es gibt passende Prozesse und Checklisten für Ethik, Bias, etc., die in den jeweiligen Phasen der Entwicklung verwendet werden. Eine fancy Checkliste ist mit den Regulatory Sandboxes zu erwarten, die im Zuge der Umsetzung des AI-Acts bis nächstes Jahr von allen Mitgliedsstaaten entwickelt werden sollen.
Mit dieser Art Sorgfalt entstehen auch Systeme, die uns im Echtbetrieb dann vor bösen Überraschungen schützen. Der sicher spektakulärste Fall unter dem Titel “böse Überraschung” war der sogenannte Kindergeld-Skandal in den Niederlanden. Dort forderte ein gebiaster Algorithmus zu Unrecht in tausenden Fällen Kindergeld zurück, bis Familien in die Armut gestürzt wurden (Kinderbetreuung kostet in den Niederlanden ca. € 3.000 pro Monat), ihnen die Kinder abgenommen und in Heime gesteckt wurden. Auf die Beschwerden, Einsprüche und Eingaben reagierte niemand, so lange, bis schließlich die Regierung zurücktreten musste.
Für eine erste Welle an Reparationszahlungen liegen die Schätzungen bei über € 14 Milliarden. Wir wollen uns nicht vorstellen, wie das ausgeht, wenn so etwas im eigenen Unternehmen passiert. Ethik im Systemdesign wirkt also am ehesten wie eine Risiko-Absicherung.
Es freut uns, jedes Jahr einen immer höheren Frauenanteil beim Confare CIOSUMMIT Frankfurt zu verbuchen. Mehr Infos zum IT-Management-Kongress finden Sie HIER.
Wie können Unternehmen, Bildungsinstitutionen und Politik gemeinsam dazu beitragen, dass unsere Gesellschaft mit der rasanten technologischen Entwicklung Schritt hält?
Zeitenwenden zeichnen sich dadurch aus, dass gesamtgesellschaftlich ein großer Schub an Upskilling gebraucht wird – und zwar nicht wie zu “normalen” Zeiten über die Bildungsinstitutionen – sondern für alle, auch für die Erwachsenen.
Wir können aktuell nicht warten, bis genügend Absolventinnen und Absolventen da sind. Wir müssen alle mitnehmen, insbesondere alle, die aktuell bereits im Arbeitsleben stehen. Hier müssen auch Arbeitgeber investieren, und vor allem jene befähigen, die sie schon haben: Es gibt keine anderen.
Credo: Im Idealfall delegieren wir an Systeme, was Systeme besser können: Massenbearbeitung, und spielen Menschen dafür frei, was Menschen besser können: wieder einmal mit einem Kunden einen Kaffee trinken und fragen, wie’s den Kindern geht, sich für ein heikles Gespräch Zeit nehmen, ein kniffliges Problem im Team lösen.
Wenn wir die passende “Arbeitsaufteilung” zwischen digitalen Tools und Menschen finden, dann macht das letztlich den Erfolg unserer Organisationen aus.