Twitter
Facebook
Linkedin
MySpace
Die Verordnung legt bestimmte Verpflichtungen für KI-Systeme fest, abhängig von den möglichen Risiken und Auswirkungen. So wird es verbotene Anwendungen geben. Dazu zählen jene, die Rechte der Bürgerinnen und Bürger bedrohen, z. B. biometrische Kategorisierung auf der Grundlage sensibler Merkmale und das ungezielte Auslesen von Gesichtsbildern aus dem Internet. Ebenfalls verboten sind künftig Emotionserkennungssysteme u. a. am Arbeitsplatz. Auch für andere Hochrisiko-KI-Systeme sind bestimmte Verpflichtungen vorgesehen. Als hochriskant werden u. a. KI-Systeme eingestuft, die in den Bereichen kritische Infrastruktur, Bildung oder Beschäftigung eingesetzt werden. Auch KI-Systeme für Dienstleistungen – etwa im Gesundheits- oder Bankwesen – gelten als hochriskant. Solche Systeme müssen Risiken bewerten und verringern, Nutzungsprotokolle führen, transparent und genau sein und von Menschen beaufsichtigt werden. KI-Systeme mit allgemeinem Verwendungszweck und die Modelle, auf denen sie beruhen, müssen bestimmte Transparenzanforderungen erfüllen, darunter die Einhaltung des EU-Urheberrechts und die Veröffentlichung detaillierter Zusammenfassungen der für das Training verwendeten Inhalte. Die neuen Reglungen sehen auch vor, Innovationen sowie gezielt kleine und mittlere Unternehmen zu fördern. So müssen in den Mitgliedsstaaten Reallabore eingerichtet und Tests unter realen Bedingungen durchgeführt werden. Diese müssen für kleine und mittlere Unternehmen sowie für Start-ups zugänglich sein, damit sie innovative KI-Systeme entwickeln und trainieren können, bevor sie auf den Markt kommen. Nach der förmlichen Annahme durch den Rat tritt die Verordnung 20 Tage nach ihrer Veröffentlichung im Amtsblatt der EU in Kraft.
Weiterentwicklung und Präzisierung des AI Acts
Erste Reaktionen auf die Verordnung kommen u. a. von der Schweizer Spitch AG, einem Anbieter von Conversational AI mit Geschäftskunden innerhalb der EU. Spitch schätzt, dass sich der AI Act überwiegend positiv auf den Einsatz von KI-Systemen auswirken wird und empfiehlt Unternehmen und Behörden, die eigenen KI-Anwendungen unter den neuen Risikoaspekten der EU-Regulierung unter die Lupe zu nehmen und gegebenenfalls Anpassungen vorzunehmen. Spitch geht weiterhin davon aus, dass die KI-Anwendungen künftig ‚von Zeit zu Zeit' erneut auf ihre Übereinstimmung mit den gesetzlichen Anforderungen hin zu überprüfen sind, denn der AI Act wird voraussichtlich von den europäischen Standardisierungsgremien weiterentwickelt und präzisiert. Das Unternehmen meint, dass keines der heutigen typischen Einsatzgebiete für Sprach- und Textdialogsysteme auf KI-Basis (Conversational AI) im Kundenservice per se unter die aufgestellten Risikokategorien zählt. Allerdings könnten Chatbots, Sprachanalysen oder Wissensdatenbanken in die Kategorien ‚begrenztes Risiko' oder ‚minimales Risiko' fallen.
Für die meisten Einsatzgebiete von Conversational AI müssen die zusätzlichen Anforderungen nach Inkrafttreten des AI Act voraussichtlich im Mai 2024 innerhalb von 12 bis 36 Monaten erfüllt werden. Anbieter von KI-System müssen nun dafür Sorge zu tragen, dass diese Frist eingehalten wird.
