Warum sollte man dem EU AI Scientific Panel beitreten?

Die Europäische Kommission hat einen Aufruf zur Einreichung von Bewerbungen für ein wissenschaftliches Gremium unabhängiger Experten veröffentlicht. Das Gremium befasst sich mit allgemeinen KI-Modellen und -Systemen. Zu seinen Aufgaben gehört die Beratung des EU-KI-Büros und der nationalen Behörden zu systemischen Risiken, Modellklassifizierung, Bewertungsmethoden und grenzüberschreitender Marktüberwachung. Darüber hinaus ist das Gremium befugt, das KI-Büro vor neu auftretenden Risiken zu warnen.

Bewerbungen sind bis zum 14. September möglich.

Warum dem wissenschaftlichen Gremium unabhängiger Experten beitreten?

Das wissenschaftliche Gremium spielt eine wichtige Rolle bei der Durchsetzung des EU-KI-Gesetzes , dem weltweit umfassendsten KI-Governance-Rahmenwerk.

Die unabhängigen Experten des Gremiums erlangen professionelle Anerkennung und Sichtbarkeit als vertrauenswürdige Berater und beeinflussen gleichzeitig die Entwicklung, den Einsatz und die Wirkung fortschrittlicher GPAI in Europa. Darüber hinaus bietet das Gremium die Möglichkeit, in einem hochrangigen, multidisziplinären Umfeld mit führenden Experten aus der gesamten EU und darüber hinaus zusammenzuarbeiten. Besonders wichtig ist dabei, dass sich die Experten auftragsorientiert und im öffentlichen Interesse engagieren und so die verantwortungsvolle und sichere Entwicklung und den Einsatz von KI-Technologien in Europa fördern.

Aufgaben, Befugnisse und Zuständigkeiten des wissenschaftlichen Gremiums im Einzelnen

Übersicht 

Das wissenschaftliche Gremium, das durch das EU-KI-Gesetz(Artikel 68 Punkt 1) eingerichtet wurde, berät das KI-Büro und die nationalen Behörden bei der Durchsetzung der Anforderungen des KI-Gesetzes an KI-Modelle und -Systeme für allgemeine Zwecke. Zu den wichtigsten Aufgaben gehören:

• Entwicklung von Bewertungsinstrumenten und -methoden,
• Beratung bei der Modellklassifizierung einschließlich der Bestimmung des systemischen Risikos,
• Erstellung von Werkzeugen und Vorlagen und
• Unterstützung der Marktüberwachungsaktivitäten.

Das Gremium kann über die Kommission Informationen von Anbietern von KI-Modellen anfordern, wobei Geschäftsgeheimnisse geschützt werden, und Sachverständige der Kommission können für das KI-Büro Modellbewertungen durchführen.

Qualifizierte Ausschreibungen 

Das Gremium kann Warnungen ausgeben(Artikel 90), die Anbieter dazu verpflichten, Sicherheitsbewertungen durchzuführen und Schutzmaßnahmen zu ergreifen, wenn Modelle Risiken auf EU-Ebene verursachen, mehrere Mitgliedstaaten betreffen oder Kriterien für systemische Risiken erfüllen (die in Artikel 51 detailliert aufgeführt sind: Erfordernis von 10^25+ FLOPS zum Trainieren, Nachweis von Fähigkeiten mit hoher Auswirkung oder gleichwertige Fähigkeiten auf der Grundlage von Parametern, Größe des Datensatzes, Marktreichweite von mehr als 10.000 gewerblichen Nutzern in der EU usw.).

Warnungen bedürfen einer einfachen Mehrheitsentscheidung und müssen Kontaktinformationen des Anbieters, eine Begründung und relevante Fakten enthalten. Das AI-Büro hat zwei Wochen Zeit, um die Warnungen zu bearbeiten und kann Modelle als systemisch riskant einstufen, wodurch die Anbieter zusätzlichen Anforderungen unterliegen(Artikel 55), einschließlich Risikobewertungen, Meldung von Vorfällen und Cybersicherheitsverpflichtungen.

Struktur und Zusammensetzung 

Das Gremium setzt sich aus bis zu 60 unabhängigen Experten zusammen, deren Amtszeit zwei Jahre beträgt und verlängert werden kann. Die Ausgewogenheit zwischen den Geschlechtern und die geografische Vertretung wird dadurch gewährleistet, dass mindestens ein Experte pro EU-Mitgliedstaat und EFTA/EWR-Land (maximal drei pro Land) vertreten ist. Mindestens 80 % der Experten werden aus EU-/EFTA-/EWR-Ländern stammen.

Die Struktur umfasst ein Sekretariat zur administrativen Unterstützung, einen Vorsitzenden und einen stellvertretenden Vorsitzenden für die gesamte Amtszeit sowie bezahlte Berichterstatter und Mitarbeiter für spezifische Aufgaben. Das Gremium arbeitet transparent, indem es Fachinformationen, Stellungnahmen, Empfehlungen und Anhörungsprotokolle von Interessengruppen öffentlich zugänglich macht und gleichzeitig vertrauliche Geschäftsinformationen schützt.

Kriterien für die Auswahl

Gemäß dem AI-Gesetz müssen Experten nachweisen:

• Multidisziplinäres Fachwissen - Aktuelles wissenschaftliches, technisches oder sozio-technisches Wissen über KI-Systeme, allgemeine KI-Modelle oder KI-Auswirkungen, die für die Durchsetzung des KI-Gesetzes relevant sind;
• Unabhängigkeit - Keine Interessenkonflikte mit KI-Systemen oder Anbietern von KI-Modellen für allgemeine Zwecke;
• Unparteilichkeit und Objektivität - Fähigkeit, unvoreingenommen zu arbeiten, wie im AI-Gesetz gefordert;
• Fachliche Eignung - Fähigkeit zur sorgfältigen, genauen und objektiven Ausführung der Arbeit.

Erforderliche Fachkenntnisse

Der Ausschreibung zufolge müssen die Bewerber über fundierte Fachkenntnisse in mindestens einem Bereich verfügen:

• Modellevaluierung - Benchmarking, Red Teaming, Studien zu den Auswirkungen auf den Menschen, Einführungsevaluierungen, Bewertungen der Grundrechte, Analyse der wirtschaftlichen Auswirkungen, Vorhersage der KI-Fähigkeiten;
• Risikobewertung - Risikoidentifizierung, -analyse, -modellierung, -bewertung, Sicherheitsfälle, Risikotaxonomien für KI- und GPAI-Modelle;
• Technische Abhilfemaßnahmen - Feinabstimmung der Sicherheit, Filter, Leitplanken, Wasserzeichen, Datenverarbeitung, Risikomanagementstrategien, Skalierungsstrategien, Reaktion auf Vorfälle;
• Missbrauch und systemische Risiken - CBRN-Risiken, Manipulation der Bevölkerung, Kontrollverlust, Diskriminierung, Risiken für die öffentliche Gesundheit/Sicherheit, Grundrechtsrisiken;
• Risiken von Cyberangriffen - Ausnutzung von Schwachstellen, Zero-Day-Generierung, Social Engineering, autonome Cyberoperationen, Angriffe auf Infrastrukturen;
• Cybersicherheit - Verhinderung von Diebstahl von Modellgewichten, unbefugten Freigaben, Umgehung von Sicherheitsmaßnahmen;
• Auftauchende Risiken - Fehlausrichtung, betrügerische Verhaltensweisen, Kontrollverlust, auftauchende Fähigkeiten wie Selbstreplikation;
• Compute-Messung - Methoden zur Messung von Trainingscompute, Berichtsrahmen, Überprüfungsprotokolle.

Anforderungen an die Förderfähigkeit

• Promotion in einem einschlägigen Fachgebiet ODER gleichwertige Erfahrung;
• Nachgewiesene Berufserfahrung und wissenschaftlicher Einfluss in der KI/GPAI-Forschung oder in KI-Auswirkungsstudien;
• Nachgewiesene Unabhängigkeit von Anbietern von KI-Systemen oder GPAI-Modellen.

Dienstbezüge

Experten werden vergütet, wenn sie zum Berichterstatter oder Mitwirkenden für die Durchführung von Aufgaben ernannt werden, die vom AI-Büro angefordert wurden. Die Kommission kann den Sachverständigen im Rahmen der verfügbaren Haushaltsmittel die Reisekosten und erforderlichenfalls die Aufenthaltskosten im Zusammenhang mit den Aufgaben des Gremiums erstatten.