Mit dem Eintritt in das Zeitalter der Künstlichen Intelligenz (KI) ist klar, dass KI nicht mehr nur ein futuristisches Konzept ist. Von unseren täglichen Routinen bis hin zu Bereichen wie Bildung, Unterhaltung und Gesundheitswesen wird die KI-Technologie zunehmend in unser Leben integriert und verändert die Art und Weise, wie wir leben, lernen, arbeiten und interagieren. Sie beeinflusst bereits jetzt die Entscheidungen von Branchen, formt Produkte und Dienstleistungen und wirkt sich auf die Art und Weise aus, wie wir Entscheidungen treffen – im Grossen wie im Kleinen.

Am 2. Februar 2024 unternahm der Rat der Europäischen Union (EU) einen historischen Schritt, indem er einstimmig die Verordnung über künstliche Intelligenz (KI) verabschiedete, ein wegweisender Rechtsakt, der die verantwortungsvolle Entwicklung und Nutzung von KI in ganz Europa leiten wird. Der Rechtsakt ist offiziell am 1. August 2024 in Kraft getreten, aber die Anwendung seiner verschiedenen Teile erfolgt schrittweise. Am 2. Februar 2025, also in nur wenigen Monaten, werden die ersten beiden Kapitel (Artikel 4 und 5) in Kraft treten!

In diesem Artikel befassen wir uns mit der KI-Verordnung, gehen die ersten beiden Kapitel durch und erläutern, wie sich Ihr Unternehmen auf die kommende Gesetzgebung vorbereiten kann.

Was ist die KI-verordnung der EU?

KI bietet enorme Chancen für Innovationen und treibt die Entwicklung von Mensch und Industrie voran. Sie wirft aber auch komplexe Fragen und Herausforderungen in Bezug auf Datenschutz, Transparenz und Verantwortlichkeit auf. Wenn KI in falschen Händen ist, kann sie potenziell zu einer „Cyberwaffe“ werden, wie das Weltwirtschaftsforum beschreibt.

Als Reaktion auf diese Herausforderungen hat die EU beschlossen, klare Regeln für KI-Anwendungen aufzustellen, die einen robusten und zukunftssicheren Rechtsrahmen bieten. Von der Entwicklung der KI-Technologie bis zu ihren Anwendungen in den EU-Mitgliedstaaten. Die KI-Verordnung verfolgt einen risikobasierten Ansatz, d. h., es stuft KI-Anwendungen in vier Risikokategorien ein. Für jede Risikokategorie gibt es eigene Regeln und Verpflichtungen:

• Inakzeptables Risiko: KI-Anwendungen, die als schädlich für die Gesellschaft gelten, wie z. B. soziale Bewertungssysteme, sind streng verboten.

• Hohes Risiko: Dazu gehören KI-Systeme, die in Bereichen wie dem Gesundheitswesen, dem Verkehrswesen und der Strafverfolgung eingesetzt werden und die Menschenrechte oder die Sicherheit erheblich beeinträchtigen könnten. Diese Systeme sind erlaubt, unterliegen aber strengen Vorschriften und Compliance-Anforderungen.

• Begrenztes Risiko: Anwendungen in dieser Kategorie erfordern ein gewisses Mass an Transparenz, unterliegen aber weniger strengen Vorschriften.

• Minimales Risiko: Die am wenigsten eingeschränkte Kategorie, zu der die meisten KI-Anwendungen wie Chatbots und Empfehlungsalgorithmen gehören, ist nicht durch die KI-Verordnung geregelt.

Die ersten beiden Kapitel der KI-Verordnung: Artikel 4 und 5

Wie bereits erwähnt, werden die ersten beiden Kapitel in drei Monaten in Kraft treten. Im Wesentlichen enthalten Artikel 4 und Artikel 5 wichtige Vorschriften, die sich direkt mit ethischen Bedenken bei der Nutzung von KI befassen und bestimmte KI-Anwendungen verbieten.

Artikel 4: KI-Kompetenz

Dieser Artikel unterstreicht die Notwendigkeit von KI-Kenntnissen und -Ausbildung bei Entwicklern, Benutzern und Betreibern. Unternehmen müssen sicherstellen, dass Mitarbeiter und Nutzer, die KI-Systeme bedienen oder mit ihnen interagieren, über ausreichende Kenntnisse und Schulungen verfügen, um diese Systeme verantwortungsvoll und sicher zu nutzen. Dieses Mandat soll sicherstellen, dass KI verstanden und effektiv gehandhabt wird, um Missbrauch zu reduzieren und die Transparenz bei der Nutzung von KI-Tools zu fördern.

Artikel 5: Verbotene KI-Praktiken

In Artikel 5 werden mehrere risikoreiche AI-Praktiken genannt, die zum Schutz der Grundrechte und zur Verhinderung von Schäden streng verboten sind. Zu diesen verbotenen Anwendungen gehören:

• Unterschwellige Manipulation: KI-Systeme, die unterschwellige Techniken einsetzen, um das Verhalten von Personen zu beeinflussen, ohne dass diese sich dessen bewusst sind, und die dadurch möglicherweise Schaden anrichten.

• Ausnutzung von Schwachstellen: Systeme, die die Schwachstellen von Personen aufgrund von Merkmalen wie Alter oder Behinderung ausnutzen, um Verhaltensweisen zu manipulieren.

• Soziales Scoring: Den Behörden ist es untersagt, mit Hilfe von KI soziale Bewertungssysteme zu erstellen, die Personen aufgrund ihres Verhaltens oder ihrer persönlichen Eigenschaften bewerten, da diese Praxis zu einer ungerechten Diskriminierung führen könnte.

• Prädiktive Polizeiarbeit: KI-Systeme, die das Risiko von Personen, Straftaten zu begehen, allein auf der Grundlage persönlicher Merkmale einschätzen, sind verboten, auch wenn sie Folgendes unterstützen können

Wie kann sich Ihr Unternehmen vorbereiten?

Da die ersten Phasen der KI-Verordnung unmittelbar bevorstehen, könnten sich Unternehmen – insbesondere kleine und mittlere Unternehmen – unter Druck gesetzt fühlen, die Vorschriften einzuhalten. Diese Verordnung bietet jedoch auch eine Chance, sich als Vorreiter in Sachen ethischer KI zu profilieren.

Zur Vorbereitung:

• Aufbau von KI-Kompetenz: Stellen Sie sicher, dass Ihr Team KI-Systeme versteht und verantwortungsvoll damit umgeht (Artikel 4).

• Audit-Praktiken: Überprüfen Sie Ihre KI-Anwendungen, um sicherzustellen, dass sie nicht in verbotene Kategorien fallen (Artikel 5).

• Entwickeln Sie eine Dokumentation zur Einhaltung der Vorschriften: Erstellen Sie Aufzeichnungen und Überwachungspraktiken, die Ihr Engagement für die Einhaltung der AI-Vorschriften belegen.

Erschliessen Sie KI-Exzellenz mit dem Swiss Cyber Institute

Am Swiss Cyber Institute haben wir eine umfassende Reihe von KI-Kursen lanciert, die Ihnen helfen sollen, Fachwissen zu entwickeln und in diesem dynamischen Bereich erfolgreich zu sein.

Unser Programm entspricht den Bedürfnissen früherer Studenten, die einen strukturierten Weg suchten, um ihr Verständnis von KI zu vertiefen und gleichzeitig mit der aktuellen Landschaft Schritt zu halten. In unseren Kursen erwerben Sie praktische Fähigkeiten und Einblicke in die neuesten Entwicklungen, die Sie befähigen, das volle Potenzial der KI in Ihrer Branche zu nutzen.

AI Literacy

Unser Kurs „AI Literacy“ bietet eine umfassende Einführung in grundlegende Konzepte, wichtige Technologien, praktische AI-Tools und ethische Überlegungen zum Thema AI. Er erfordert keine Vorkenntnisse oder Erfahrungen und ist somit für alle Lernenden zugänglich.

Um dem Artikel 4 der KI-Verordnung gerecht zu werden, ist diese Schulung eine perfekte Gelegenheit für die Mitarbeiter, mit ausreichendem Wissen und praktischem Training in der Nutzung der KI-Technologie ausgestattet zu werden.

AI Prompt Engineering

Das Ziel unseres Kurses AI Prompt Engineering ist es, AI Prompt Engineering zu beherrschen und sich im Bereich AI auszuzeichnen. Diese Schulung konzentriert sich auf spezifische praktische Fähigkeiten für mehrere Branchen, einschließlich Gesundheitswesen, Finanzen und Technologie, die KI und NLP nutzen. Diese Schulung legt den Schwerpunkt auf praktische Anwendungen und stattet die Teilnehmer mit dem Fachwissen aus, das sie benötigen, um sich bei der Erstellung effektiver KI-Prompts hervorzuheben und die Grundsätze der KI-Verordnung in Bezug auf Transparenz und Verantwortlichkeit zu erfüllen.

Wenn Sie bereits über grundlegende Kenntnisse im Bereich der KI verfügen und bereit sind, Ihre Fähigkeiten weiter auszubauen, bietet diese Schulung eine hervorragende Gelegenheit, sich in diesem Bereich weiterzuentwickeln und die Einhaltung der KI-Verordnung für Ihr Unternehmen zu gewährleisten.

Bereiten Sie sich jetzt mit unserer KI-Schulungsreihe vor, um sicherzustellen, dass Ihr Team für einen verantwortungsvollen Umgang mit KI gerüstet ist. Sind Sie bereit, in einer KI-gesteuerten Zukunft konform zu bleiben und zu gedeihen? Kontaktieren Sie das Swiss Cyber Institute noch heute.