Zukunft des künstlichen Intelligenz und der globale UN-Diskurs über die Governance von KI: Wendepunkt in der Geschichte der Menschheit

Am 6. Juli 2026 begann in Genf, der erste globale UN-Diskurs über die Governance von künstlicher Intelligenz (Global Dialogue on AI Governance) seine Arbeit. Dieses Ereignis, das durch eine Resolution der Generalversammlung der UNO ins Leben gerufen wurde, versammelte Vertreter von Regierungen, technologischen Unternehmen, der wissenschaftlichen Gemeinschaft, der Zivilgesellschaft und internationaler Organisationen, um konsensfähige Ansätze zur Regulierung einer der einflussreichsten Technologien des 21. Jahrhunderts zu entwickeln. Das Ereignis, das vom 6. bis 7. Juli stattfand, zog mehr als 4.000 Delegierte aus 170 Ländern an und erhielt über 1.500 schriftliche Anträge. Dies wurde nicht nur eine weitere internationale Konferenz, sondern ein Wendepunkt, an dem entschieden wurde, ob die Menschheit die Transformation, die der KI bringt, steuern wird oder ihr erlaubt, sich selbst zu steuern.

Warnsignal: Warnungen der unabhängigen internationalen wissenschaftlichen Gruppe zu KI

Die Eröffnung des Dialogs erfolgte mit der Präsentation des ersten Berichts der unabhängigen internationalen wissenschaftlichen Gruppe zu KI, deren Ko-Vorsitzende der bekannte Wissenschaftler Yoshua Bengio und der Friedensnobelpreisträgerin Maria Resse sind. Der Dokument enthielt drei Hauptwarnungen, die die Grundlage für alle folgenden Diskussionen bildeten.

Das erste Warnsignal – über die Geschwindigkeit. Das Internet brauchte 15 Jahre, um eine Milliarde Nutzer zu erreichen. KI erreichte dies in zwei Jahren. UN-Generalsekretär António Guterres erklärte bei der Eröffnung des Dialogs: «KI entwickelt sich mit einer runaway Speed – schneller als die Menschheit sie verfolgen kann. Ein Experiment wird an unseren Gesellschaften durchgeführt – ohne Plan und ohne Einwilligung». Systeme sind nicht mehr nur Instrumente, die auf Anweisungen warten – sie schreiben Code, handeln im Netzwerk und treffen Entscheidungen mit immer weniger Kontrolle durch den Menschen. Unsere Institutionen, die für die Steuerung von Maschinen gebaut wurden, die Befehle befolgen, sind nicht bereit für Maschinen, die Entscheidungen treffen.

Das zweite Warnsignal – über die Konzentration von Macht. Rechenleistung, Daten und Talent hinter den fortschrittlichsten Systemen konzentrieren sich in den Händen weniger Unternehmen und weniger Länder. Die meisten Staaten, einschließlich vieler Entwicklungsländer, hatten in den Entscheidungen, die ihre Zukunft prägen werden, kein Mitspracherecht. «Wenn das Ungleichgewicht der Macht in die Technologie eingebettet ist, wird Ungleichheit Teil des Codes», warnte Guterres.

Das dritte Warnsignal – über die Wahrheit. Maschinelle Lügen können so effektiv überzeugen wie Wahrheit, und wahre Beweise können als Fälschung abgelehnt werden. Dies untergräbt die Integrität unserer Informationsökosystem und das Vertrauen in sie. Wie Maria Resse sagte: «Wenn du nicht zwischen Fakt und Fiktion unterscheiden kannst, kannst du keine Demokratie haben».

Vier Prioritäten Guterres: Sicherheit, Menschenrechte, Potenzial und Transparenz

In seiner Rede bezeichnete Guterres vier Schlüsselprioritäten der Governance von KI: Sicherheit, Menschenrechte, Potenzial und Transparenz. Diese Prinzipien sollen das breite globale Engagement in konkrete Maßnahmen umsetzen und KI «sicherer, gerechter, zugänglicher und ethischer» machen.

Der Generalsekretär betonte: «Die Frage ist nicht mehr, ob KI unsere Welt verändert – sie tut es bereits. Die Frage ist, werden wir diese Transformation gemeinsam steuern oder werden wir ihr erlauben, uns zu steuern». Er erklärte auch: «Wir sind die letzte Generation, die Regeln für das Zusammenleben von Mensch und Maschine setzen kann». Der Dialog sollte nicht darauf abzielen, einen formellen Vertrag abzuschließen, sondern sollte den Grundstein für zukünftige Verhandlungen legen und ein gemeinsames Verständnis dafür schaffen, wie eine Technologie geregelt werden kann, die schneller entwickelt wird als die Regeln, die sie bremsen sollen.

Schlüsselthemen des Dialogs: Trennung, Sicherheit und menschliche Kontrolle

Während der zweitägigen Arbeit wurden eine Vielzahl von Fragen diskutiert, die sich auf die sieben thematischen Cluster beziehen, die durch die Resolution der Generalversammlung definiert wurden. Das zentrale Thema war die Überwindung des «digitalen Abstands». Wie der estnische Botschafter Rein Tammsaar bemerkte, «sind die Entwickler fortschrittlicher Systeme in zwei Ländern [USA und China] konzentriert», was andere Staaten mit vielen Fragen zurücklässt. Entwicklungsländer befürchten insbesondere, dass ein Abstand im Bereich der KI sie für immer zurücklassen könnte.

Die Sicherheit der KI wurde ebenfalls eine weitere zentrale Thema. Bengio warnte davor, dass die Wissenschaft derzeit nicht garantieren kann, dass der KI mit zunehmenden Möglichkeiten nicht «katastrophalen Schaden verursacht». Die Teilnehmer betonten, dass Schutzmechanismen während des gesamten Lebenszyklus der Systeme erforderlich sind, und nicht nur im Training der Modelle. Besondere Aufmerksamkeit wurde auf den Schutz der Kinder vor Risiken im Zusammenhang mit KI gelegt.

Menschliche Kontrolle und Haftung standen ebenfalls im Mittelpunkt der Diskussionen. Wie die Präsidentin der Generalversammlung Annalena Baerbock betonte, «war der Tempo und die Ausmaß der Veränderungen nie so blinding» und «war es nie so schwer, diese Veränderungen zu verstehen und sich daran anzupassen». Sie betonte, dass «etwas mit so großer Kraft, mit so tiefem Einfluss auf unsere Wirtschaft, unsere sozialen Systeme, unsere Verteidigung und daher auf unseren Welt und unsere Sicherheit, aber besonders in unseren Häusern, unserer Nahrung und unseren Kinderzimmern – kann nur gemeinsam sinnvoll und sicher gesteuert werden».

Zukunft der KI: von der «Generation» zum «Planen» und autonomen Agenten

Während Diplomaten über Regeln diskutierten, veränderte sich der technologische Landschaft rasant. 2026 wurde ein Wendepunkt in der Entwicklung der KI. Der Haupttrend war der Übergang von einfachen generativen Modellen zu «agentenbasiertem KI» – autonomen Systemen, die ohne ständige menschliche Beteiligung mehrstufige Aufgaben erledigen können: von personalisiertem Planen bis hin zur Cybersicherheit und Bewertung des Gesundheitszustands. Mehr und mehr führende KI-Unternehmen konzentrieren sich auf die Erhöhung der Fähigkeit der Modelle zur Abstraktion und zur Erfüllung von Aufgaben, bewegen KI von der «Fähigkeit zu generieren» zur «Fähigkeit zu planen» voran.

Laut Prognosen von IDC werden bis 2026 70% der Organisationen «komponentenbasierte KI» verwenden, die generative, prozessbasierte, prädiktive und agentenbasierte Technologien kombiniert. Bis 2027 wird die Nutzung von KI-Agenten in globalen Unternehmen um das Zehnfache zunehmen, und die Anzahl der Anfragen um das Tausendfache. Die globalen Ausgaben für KI werden 2026 2,59 Billionen Dollar erreichen und bis 2029 nur im Bereich IT auf 700 Milliarden Dollar steigen.

Herausforderungen der Zukunft: Energie, Beschäftigung und Souveränität

Allerdings kommen mit den Möglichkeiten auch neue Herausforderungen. Der Energieverbrauch der KI wird zu einer kritischen Problematik. Wie Sally Radwan, die Hauptdigitale Direktorin des UN-Umweltprogramms, bemerkte, «ist die Zukunft der KI untrennbar mit der Zukunft des Planeten verbunden». Das großflächige Einführen der KI erfordert «das Eindämmen des mit KI verbundenen Energieverbrauchs, der Emissionen von Treibhausgasen sowie des Verbrauchs von Wasser und Materialien».

Die Auswirkungen auf den Arbeitsmarkt geben ebenfalls Anlass zu Besorgnis. Studien zeigen, dass 48% der Unternehmen ihre Belegschaft aufgrund der KI verringert haben. Gleichzeitig entstehen neue Berufe und Anforderungen an Fähigkeiten: bis 2027 werden 75% der Einstellungsprozesse die Tests der Fähigkeiten zur Nutzung von KI umfassen. Generative KI und KI-Agenten werden den ersten ernsthaften Herausforderung für die Massenleistungsinstrumente seit 30 Jahren darstellen, was zu Marktveränderungen in Höhe von 58 Milliarden Dollar führen wird.

Ein weiterer wichtiger Trend ist der «souveräne KI». Bis 2027 werden 35% der Länder regionale KI-Plattformen auf Basis eigener proprietärer Daten nutzen. Dies spiegelt das Bestreben der Staaten, ihre Daten und technologische Infrastruktur im Rahmen wachsender geopolitischer Konkurrenz zu kontrollieren.

Schlussfolgerung: Der Wahlmoment, der die Zukunft der Menschheit bestimmen wird

Der globale UN-Diskurs über die Governance von KI ist eine Antwort auf die Herausforderung, die Guterres mit höchster Klarheit formuliert hat: «Die Wahl vor uns ist zwischen Projektsteuerung und Default-Drift». Die Präsidentin der Generalversammlung Annalena Baerbock erinnerte daran, dass die Charta der Vereinten Nationen, die vor 81 Jahren angenommen wurde, uns verpflichtet, «internationale Zusammenarbeit bei der Lösung internationaler Probleme wirtschaftlicher, sozialer, kultureller oder humanitärer Natur zu erreichen». KI ist genau solche Herausforderung.

«Etwas mit so großer Kraft braucht eine globale Plattform. Sie braucht die Vereinten Nationen», sagte Baerbock. Und das ist wahr. Eine Technologie, die die Wirtschaft umkrempeln, die Welt des Arbeitens verändern, Wahlen beeinflussen und das Machtgefüge verändern kann, darf nicht allein den einigen Ländern oder Unternehmen überlassen werden.

Der globale Dialog ist der Beginn eines langen Weges. Er hat keine fertigen Lösungen geliefert, aber ein Raum für ihre Entwicklung geschaffen. Er bestätigte, dass die Zukunft der KI nicht nur durch technologische Möglichkeiten, sondern auch durch politische Willenskraft, internationales Engagement und den Verpflichtung zu grundlegenden Werten – Menschenrechten, Gerechtigkeit und demokratischer Kontrolle – bestimmt werden wird. Wie Joshua Bengio sagte: «Wir brauchen einen koordinierten internationalen und demokratischen Ansatz, bei dem Wissenschaft und Mitgefühl unser Kompass in der Navigation durch die KI bleiben».

Die Frage ist nicht mehr, ob KI unsere Welt verändern wird. Sie tut es bereits. Die Frage ist, werden wir diese Transformation gemeinsam steuern oder werden wir ihr erlauben, uns zu steuern. Und die Antwort auf diese Frage wird nicht nur die Zukunft der Technologie, sondern auch die Zukunft selbst der Menschheit bestimmen.

Постоянный адрес данной публикации: