Die Kommission für die Entwicklung und Sicherheit künstlicher Intelligenz beim Ministerium für Digitalisierung – Einsparungen auf Kosten der Unabhängigkeit der Aufsicht?

Die Mitgliedstaaten waren verpflichtet, bis zum 2. August 2025 nationale Aufsichtsbehörden für den KI-Markt zu bestellen. Die entsprechenden polnischen Vorschriften wurden jedoch noch nicht verabschiedet. Es ist geplant, dass die Rolle dieser Behörde in Polen von der neu geschaffenen Kommission für die Entwicklung und Sicherheit Künstlicher Intelligenz (KRiBSI) übernommen wird. Gemäß der aktuellen Fassung des Gesetzentwurfs über Systeme der künstlichen Intelligenz soll die administrative Betreuung der KRiBSI wiederum von der Behörde des Ministers für Digitalisierung übernommen werden. Diese Lösung wirft jedoch Zweifel an der Unabhängigkeit der KRiBSI als Aufsichtsbehörde auf.

Das Hauptargument der Befürworter der verabschiedeten Lösung ist die Senkung der Betriebskosten der KRiBSI – von ursprünglich geschätzten 31 Millionen Zloty pro Jahr auf etwa 23 Millionen Zloty jährlich in den ersten Jahren der Tätigkeit der Behörde. Trotz der genannten finanziellen Vorteile wirft die geplante Lösung Bedenken hinsichtlich der Gewährleistung der Unabhängigkeit der KRiBSI und der Mitarbeiter des Ministeriums für Digitalisierung auf, die befugt werden, Aufgaben in ihrem Namen wahrzunehmen.

Die Bestimmungen des AI Act sehen nämlich vor, dass die nationalen Aufsichtsbehörden für KI unabhängig, unparteiisch und vorurteilsfrei handeln sollten. Die Personen, die Aufgaben im Namen der KRiBSI wahrnehmen sollen, bleiben jedoch formal weiterhin Mitarbeiter des Ministeriums für Digitalisierung. Obwohl die geplante Regelung die Einrichtung einer neuen, für die Betreuung der KRiBSI zuständigen Stelle innerhalb des Ministeriums vorsieht, könnte die Unabhängigkeit der dort tätigen Personen als lediglich scheinbar wahrgenommen werden.

Die Gewährleistung der Betreuung der KRiBSI durch Mitarbeiter des Ministeriums für Digitalisierung kann sogar zu Interessenkonflikten führen. Auch das Risiko dienstlicher oder gar politischer Druckausübung, das durch eine übermäßige Verflechtung der Exekutive mit der Aufsichtsbehörde, die die KRiBSI darstellen soll, entsteht, kann nicht ausgeschlossen werden.

Die im Gesetzentwurf über Systeme künstlicher Intelligenz (SSI) vorgeschlagene Art der Verwaltung durch die KRiBSI stellt zweifellos eine unkonventionelle Lösung dar. In Zeiten der zunehmenden Nutzung von Lösungen auf Basis künstlicher Intelligenz wird es notwendig sein, das Vertrauen der Marktteilnehmer und der Bürger in die neue Aufsichtsbehörde aufzubauen, insbesondere indem sichergestellt wird, dass die KRiBSI transparent und frei von Druck agieren kann.