fbpx

Schutz vor KI-Missbrauch – Was auf gesellschaftlicher Ebene passieren muss

by Bianca Bogad-Frey

Chrisitane Ott-Lorenz - Schutz vor KI-Missbrauch – Was auf gesellschaftlicher Ebene passieren muss

Christiane Ott-Lorenz (Digitalization Evangelist) – Schutz vor KI-Missbrauch – Was auf gesellschaftlicher Ebene passieren muss

Eine Gruppe von IT-Professionals und CIOs rund um Dr. Anke Sax und Prof. Dr. Katja Nettesheim ist überzeugt, dass KI-Know-how nicht nur in IT-Abteilungen verankert sein muss, sondern ebenso Awareness in Boards, bei Anwendern, Schulen und Behörden braucht. Alle Infos zur Initiative, Teilnehmer*innen und Ziele finden Sie unter www.ki-k.org.

Um genau dieses Thema geht es auch bei unserem Interview mit Christiane Ott-Lorenz – Digitalization Evangelist. Mit ihr unterhalten wir uns darüber, was auf gesellschaftlicher und persönlicher Ebene geschehen muss, um KI-Missbrauch im Keim zu ersticken und wie man AI möglichst effizient nutzt.

Was bedeutet KI-Kompetenz für Dich persönlich?

Für mich bedeutet das zu wissen, für welche Anwendungen KI ganz grundsätzlich geeignet ist, welche Chancen, aber auch welche Risiken mit dem Einsatz verbunden sind und wie ich die Risiken managen kann. Für in meinem Alltag relevante Anwendungen bedeutet das auch, dass ich diese Tools regelmäßig nutze und so praktische Erfahrung in der Nutzung von KI-Anwendungen sammle.

Darüber hinaus beschäftige ich mich damit, in welchen Bereichen des gesellschaftlichen Lebens KI eingesetzt wird und wo ich somit mit KI in Berührung komme, ohne dass ich das vielleicht merke.

Mit welchen Themen sollten man sich denn heute im Alltag beschäftigen um KI-ready zu sein? Was wären Deine Empfehlungen?

Das hängt ganz von der individuellen Situation ab. Das grundsätzliche Verständnis dafür, wie KI funktioniert und wo es eingesetzt wird, ist für alle relevant. Das kann z.B. heißen, dass ältere Menschen verstehen, dass KI-Tools mittlerweile die Stimmen der Enkel täuschend echt nachmachen können. Oder es kann heißen, dass Schüler wissen, wie sie sich Rat bei der KI holen für das Verfassen des ersten Lebenslaufes für ein Schülerpraktikum.

Ich sehe aber über die KI hinaus in Deutschland die Notwendigkeit, dass wir in der breiten Bevölkerung ein tiefergehendes Verständnis dafür schaffen, wie Technologie generell funktioniert und wie wir sie nutzen können. Viele überlassen in Deutschland das Thema Digitalisierung gerne den ‚Experten‘, und die Risiken z.B. im Hinblick auf Datenschutz und Sicherheitslücken sind in der gesellschaftlichen Diskussion sehr prominent. Dabei verpassen wir es, die Chancen zu nutzen, die sich aus der Digitalisierung ergeben.

Ignoranz ist eine Strategie mit Veränderung umzugehen. Wie wirkt es sich aus, wenn man sich dem Thema KI-Kompetenz nicht stellen will?

Ich bin immer wieder überrascht, wenn ich im Gespräch feststelle, wie viele Menschen auch in meinem Umfeld keine Erfahrung im Umgang mit KI haben. Vielfach wurde einmal ChatGPT ausprobiert, dabei festgestellt, dass die Ergebnisse doch nicht perfekt sind, und im Folgenden wird das Thema einfach ignoriert.

Das macht mir Sorgen, da sich die KI unglaublich schnell entwickelt. Wir brauchen als Gesellschaft Kompetenz im Umgang mit dieser neuen Technologie – um uns bspw. gegen Missbrauch zu schützen, aber auch um die Vorteile der Technologie für uns zu nutzen. Ein sinnvoller Diskurs über das Thema Regulierung oder den Einsatz von KI durch staatliche Stellen setzt aber voraus, dass wir in der Bevölkerung ein gutes, ausbalanciertes Verständnis für Chancen und Risiken von KI haben, und da sind wir heute noch nicht.

Bezogen auf den Einzelnen gilt sicher heute noch der Satz, dass Menschen nicht durch die KI ersetzt werden, sondern durch Menschen, die die KI besser nutzen können. Das gilt für ein breites Feld an Berufen, angefangen vom Anwalt bis zum Servicecenter-Mitarbeiter, und führt dazu, dass sich dann natürlich die Berufsbilder ändern, andererseits aber auch viel weniger Menschen gebraucht werden.

Confare CIO Executive Arena Wien 2025

Sie wollen die KI-Revolution mit KI-K-Initiatorin Anke Sax persönlich vorantreiben? Dann melden Sie sich zu unserer CIO Executive Arena am 26.03.2025 beim Confare #CIOSUMMIT Wien an, solange es noch Plätze gibt! Für Austausch mit Profis im kleinen Kreis.

Wo gibt es denn gesellschaftlichen Handlungsbedarf, damit Europa bei KI morgen noch mitreden und eine Rolle spielen kann?

Ich sehe als erste Aufgabe, dass wir alle KI-ready werden müssen. Dafür braucht es eine gemeinsame Anstrengung von Politik und Wirtschaft, aber wir brauchen auch die Eigeninitiative der Einzelnen. Es gibt heute schon unglaublich viele Informationsangebote zum Thema KI, die für alle zugänglich sind. Ich habe angefangen, einzelne dieser Angebote zu testen und auf LinkedIn vorzustellen, und da sind wirklich spannende Sachen dabei. Also liegt es an jedem Einzelnen, sich hier proaktiv Wissen anzueignen. Im Bildungsbereich heißt das, dass KI-Kompetenz in den Lehrplänen der Bildungseinrichtungen verortet werden muss.

Darüber hinaus sehe ich die Rolle der Politik darin, einen sicheren, rechtlichen Rahmen zu schaffen. Da sind wir mit dem KI-Act schon einen großen Schritt weiter als bspw. die USA. Allerdings fehlt es in Europa an Investitionen in die Technologie und an Fachkräften. Hier halte ich, neben einer Reform der schulischen Ausbildung, die gezielte Förderung von Zuwanderung für dringend erforderlich.

Wer sind dabei die wichtigsten Akteure?

Da sind natürlich, wenig überraschend, die verantwortlichen Personen in Politik und Verwaltung zu nennen. Ich befürworte die Einrichtung eines Digitalministeriums, um den Digitalisierungsstau konzentriert anzugehen, aber das wird nicht reichen. Auch die Unternehmen haben eine Verantwortung, ebenso wie die Universitäten, und, wie oben schon erwähnt, jeder einzelne von uns. Wir brauchen also eine richtige Digitalisierungs-Bewegung…

Wie wichtig ist das Thema Regulierung? Bremse, Enabler, Treiber?

Regulierung ist wichtig, denn KI kann wie jede neue Technologie auch zum Nachteil der Bevölkerung eingesetzt werden, und wir brauchen einen sicheren Rahmen für Investitionen. Insofern kann Regulierung auch zum Enabler werden, wenn sie gut gemacht ist.

Warum ist Dir das Thema KI persönlich so wichtig? Warum engagierst Du Dich in der Initiative KI-K?

Ich bin überzeugte Europäerin und möchte, dass auch meine zwei Kinder einmal die Möglichkeit haben, in Europa einen spannenden Job zu finden und ein gutes Leben zu leben. Aktuell sehe ich das bedroht durch die schwindende Bedeutung von Europa in der Welt – bedingt durch die nachlassende wirtschaftliche Bedeutung und das Zurückfallen im Bereich Technologie. Hier müssen wir ansetzen, um diesen Trend umzudrehen!

Weitere Blog-Empfehlungen des Hauses zum Thema KI-Kompetenz:

Für Sie ausgewählt

Leave a Comment