Einen Missbrauch von KI-Werkzeugen soll dieses Gesetz verhindern. Unter anderem reglementiert es den Einsatz von Emotionserkennungssystemen und Systemen zur biometrischen Kategorisierung.
Am Mittwoch hat das Europäische Parlament den ersten Entwurf des KI-Gesetzes verabschiedet. Die sichere Entwicklung und Anwendung von künstlich intelligenten Systemen ist das, worauf der Vorschlag sich konzentriert. Dass KI-Werkzeuge die internationalen Menschenrechtsgesetze einhalten, wollen die Abgeordneten mit dem Gesetzesentwurf sicherstellen. Unter anderem die schränkt das Gesetz die Verwendung von Technologien wie Gesichtserkennungssoftware ein. Zudem verlangt es von KI-Entwicklern Transparenz in Bezug auf die Daten, die zur Entwicklung von Systemen wie ChatGPT oder Bing Chat verwendet werden.
Das Gesetz soll noch in diesem Jahr verabschiedet werden
Noch in diesem Jahr könnte die endgültige Version des Gesetzes verabschiedet werden. Der Europäischen Kommission und dem Rat der EU wird der Entwurf zuvor noch zur Zustimmung vorgelegt – beide Gremien können eigene Änderungen vorschlagen.Der Entwurf enthält bisher Bestimmungen für generative KI-Systeme wie ChatGPT, Bing Chat oder Google Bard, um zu verhindern, dass sie rassistische oder voreingenommene, bzw. illegale Inhalte erzeugen. Systeme sollen auch zur biometrischen Kategorisierung anhand sensibler Merkmale wie Geschlecht, Rasse oder Religion verboten werden.
Politische Entscheidungsträger weltweit bemühen sich um eine starke staatliche Regulierung der KI-Entwicklung und -Nutzung. Die EU übernimmt mit dem jetzt vorgelegten Gesetzesentwurf eine Vorreiterrolle. Aber auch in den USA wurden Parteiübergreifende Gesetzesentwürfe angekündigt.