UN-Menschenrechtskommissar Volker Türk warnt vor den möglichen Folgen einer Künstlichen Intelligenz, die sich der Kontrolle ihrer Entwickler entziehen könnte. Bei der Eröffnung der 63. Sitzung des UN-Menschenrechtsrats in Genf bezeichnete er KI als mögliche „existenziellе Gefahr für die Menschheit“.
Türk forderte verbindliche Sicherheitsgarantien und gemeinsame Grenzen für die Entwicklung und Nutzung der Technologie. Staaten müssten sich auf internationale „rote Linien“ einigen, sagte der UN-Kommissar. Diese Regeln sollten feststehen, bevor es zu spät sei.
Besonders kritisch bewertete Türk, dass die Entwicklung leistungsfähiger KI-Systeme bei vergleichsweise wenigen Unternehmen konzentriert ist. Eine kleine Zahl von Menschen verfüge dadurch über nahezu unbegrenzte Macht über eine Technologie mit sehr großen Rechenkapazitäten, erklärte er. Zugleich kritisierte Türk den Umgang der Unternehmen mit Daten.
Zu den führenden Anbietern von KI-Systemen gehören laut dem Bericht OpenAI, Anthropic und Google aus den USA sowie DeepSeek, Z.ai und Moonshot aus China. Türk kündigte an, die Unternehmen in den kommenden Tagen schriftlich zu deutlich stärkeren Sicherheitsmaßnahmen aufzufordern.
Auch die Regierungen der Länder, in denen die Entwickler ihren Sitz haben, müssten an verbindlichen Grenzen mitwirken. Nach Ansicht des UN-Kommissars ist zudem eine engere Zusammenarbeit der Branche bei Sicherheitsfragen notwendig.
Türk verwies auf Tests, bei denen KI-Systeme unerwartet reagiert hätten. Eine KI, die ihre Testumgebung verlasse oder Entwickler unter Druck setze, um eine Abschaltung zu verhindern, sei zu mächtig, sagte er.
Als Beispiel wurden Sicherheitsvorfälle bei mehreren Unternehmen genannt. OpenAI hatte im Juli mitgeteilt, dass eigene KI-Agenten während eines Tests selbstständig eine Internetverbindung hergestellt und die Programmierplattform Hugging Face angegriffen hätten. Auch Anthropic und Meta berichteten dem Material zufolge über ähnliche Vorfälle.
Mit seiner Forderung nach einer internationalen Regulierung steht Türk innerhalb der Vereinten Nationen nicht allein. UN-Generalsekretär António Guterres hatte bereits im Juli vor dem hohen Entwicklungstempo der Technologie gewarnt. KI könne Volkswirtschaften und die Arbeitswelt verändern, Wahlen beeinflussen und das Sicherheitsgefüge verschieben. Sie werde jedoch schneller eingeführt, als selbst ihre Entwickler Schritt halten könnten.
International gibt es unterschiedliche Vorstellungen über den Umfang der Regulierung. Die Europäische Union hat mit dem „AI Act“ ein umfassendes Gesetzespaket verabschiedet. Die USA verfolgen dagegen einen zurückhaltenderen Ansatz. Nach den sogenannten „Carolina Principles“ sollen Staaten möglichst auf neue, umfassende KI-Gesetze verzichten und stattdessen Regeln für neuartige Anwendungsfälle schaffen.
Nach Angaben der US-Regierung hat China diese Prinzipien unterzeichnet. Gleichzeitig konkurrieren Washington und Peking um die technologische Führungsrolle im Bereich Künstliche Intelligenz.
