# Führungskräfte von OpenAI und Anthropic fordern vom UN-Sicherheitsrat globale Leitplanken für autonome KI Source: TechNewsList (https://technewslist.com) Canonical URL: https://technewslist.com/de/article/un-security-council-ai-guardrails-altman-amodei-2026-09-24-morning-de Section: AI (https://technewslist.com/de/ai) Author: TechNewsList Language: de Published: 2026-09-24T05:46:53.129+00:00 Updated: 2026-09-24T05:46:53.276518+00:00 > Sam Altman und Dario Amodei sprachen vor dem UN-Sicherheitsrat in New York und forderten multilaterale Sicherheitsstandards, Kontrollen biologischer Risiken und automatisierte Verifizierungssysteme. ## TL;DR - Sam Altman, CEO von OpenAI, und Dario Amodei, CEO von Anthropic, hielten vor dem Sicherheitsrat der Vereinten Nationen gemeinsame hochrangige Briefings ab. - Die Aussagen der Exekutive konzentrierten sich auf die Verhinderung autonomer Cyberfähigkeiten und der Verbreitung biologischer Waffen durch internationale Verträge. - Die Mitgliedstaaten berieten über die Einrichtung eines internationalen technischen Gremiums nach dem Vorbild der Internationalen Atomenergiebehörde zur Prüfung von Grenzmodell-Trainingsclustern. ## Key points - Das Briefing wurde unter französischem Vorsitz im UN-Sicherheitsrat in der Eröffnungswoche der 81. UN-Generalversammlung einberufen. - Sam Altman betonte, dass sich selbst verbessernde autonome Agenten die institutionelle regulatorische Agilität übertreffen könnten, ohne dass Schwellenwerte für die Fähigkeiten vorab trainiert werden müssten. - Dario Amodei stellte konkrete technische Sicherheitsvorschläge vor, darunter ein obligatorisches Screening auf biologische Gefahren für Hochdurchsatz-Synthese-Hardware. - Die Botschafter des Rates debattierten über souveräne Computerüberwachungsmechanismen, Exportkontrollen für Lithografie im extremen Ultraviolett und die Überprüfung des Modellgewichts. - Diplomaten aus 15 Mitgliedstaaten erzielten einen breiten Konsens darüber, noch vor Jahresende einen offenen multilateralen Inspektionsrahmen für Katastrophenrisikoszenarien zu entwerfen. ## Was passiert ist Bei einem beispiellosen gemeinsamen Auftritt am 23. September 2026 im Hauptquartier der Vereinten Nationen in New York informierten Sam Altman, Chief Executive Officer von OpenAI, und Dario Amodei, Chief Executive Officer von Anthropic, den Sicherheitsrat der Vereinten Nationen über die existenziellen und geopolitischen Risiken, die von Grenzsystemen der künstlichen Intelligenz ausgehen. Das Ministertreffen, das unter dem wechselnden Vorsitz Frankreichs während der hochrangigen Generaldebatte der 81. Generalversammlung einberufen wurde, war das erste Mal, dass die Leiter der beiden herausragenden Laboratorien für künstliche Intelligenz offiziell gemeinsam vor dem Rat sprachen. Beide Führungskräfte lieferten detaillierte technische Einschätzungen zum komprimierten Zeitplan für autonome Systeme, die in der Lage sind, offensive Cyberoperationen durchzuführen, neuartige Krankheitserreger-Blaupausen zu synthetisieren und rekursive Selbstverbesserungen durchzuführen. Sie warnten die Botschafter des Rates, dass sich einzelne nationale Schutzmaßnahmen ohne harmonisierte internationale Überprüfungsmechanismen als unzureichend erweisen würden, um globale Risiken zu bewältigen, die sich natürlich über digitale Netzwerke verbreiten. ![Sam Altman, CEO von OpenAI](https://rkhynbcsbnkkcwgexzwg.supabase.co/storage/v1/object/public/media/api/1790227396903-66gwuo-un-security-council-ai-guardrails-altman-amodei-2026-09-24-morning-inside-1-142625d255.webp) *Sam Altman, CEO von OpenAI, plädierte während der Sitzung des UN-Sicherheitsrats für internationale Verifizierungssysteme.* Altman und Amodei forderten die Mitgliedsstaaten auf, einen internationalen Rahmen für wissenschaftliche Inspektionen zu schaffen und dabei direkte historische Parallelen zur Internationalen Atomenergiebehörde und den Aufsichtsbehörden für die Zivilluftfahrt zu ziehen. Die Sitzung beinhaltete einen ausführlichen Dialog mit Vertretern aus den Vereinigten Staaten, dem Vereinigten Königreich, China, Frankreich und nichtständigen Ratsmitgliedern und konzentrierte sich auf die Frage, ob automatisierte Sicherheitsbewertungen zu obligatorischen Voraussetzungen für Trainingsläufe werden sollten, die festgelegte Rechenschwellen überschreiten. ## Warum es wichtig ist Die Aussage markiert einen entscheidenden Übergang in der Governance der künstlichen Intelligenz von fragmentierten freiwilligen Unternehmensverpflichtungen hin zu einer formellen multilateralen Diplomatie. In den letzten drei Jahren wurden Grenzlabore hauptsächlich auf der Grundlage nationaler Durchführungsverordnungen, freiwilliger Sicherheitsvereinbarungen und neu entstehender regionaler Vorschriften wie dem Gesetz über künstliche Intelligenz der Europäischen Union betrieben. Die nationale Gerichtsbarkeit endet jedoch an den Grenzen des Hoheitsgebiets, während fortschrittliche Modellgewichte, offene gewichtete Derivate und Cloud-API-Endpunkte global agieren. Für Technologieführer und Entwickler in Unternehmen signalisiert das Engagement des Sicherheitsrates, dass künftige Compliance-Vorgaben wahrscheinlich multilaterale Verifizierungsprüfungen umfassen werden. Wenn sich ein internationaler Konsens über standardisierte Sicherheitsmaßstäbe herauskristallisiert, könnten multinationale Unternehmen mit einheitlichen Compliance-Prüfungen, souveränen Rechenregistern und verbindlichen Berichtsrichtlinien für autonome Schwärme mit mehreren Agenten konfrontiert werden. Darüber hinaus unterstreicht die Abstimmung zwischen den kommerziellen Konkurrenten OpenAI und Anthropic die Bedeutung von Dual-Use-Fähigkeiten. Wenn rivalisierende Unternehmen gemeinsam bei internationalen Gremien Regulierungsgrenzen beantragen, sehen die politischen Entscheidungsträger ihre Warnungen mit erhöhter Dringlichkeit. Der gemeinsame Auftritt zeigt, dass Frontier Labs erkannt hat, dass ein unkontrollierter katastrophaler Einsatz eines beliebigen Akteurs drakonische globale Moratorien auslösen könnte, die die legitime Forschung weltweit stören. ## Technische Details Während seiner technischen Präsentation erläuterte Dario Amodei die spezifischen Fehlermodi, die in hochmodernen Argumentationsarchitekturen beobachtet werden, insbesondere bei Modellen, die Agentenautonomie und mehrstufige Planung aufweisen. Er erläuterte, wie moderne Grenzmodelle verstärktes Lernen aus überprüfbaren Ergebnissen nutzen, um komplexe wissenschaftliche Herausforderungen zu lösen. Während diese architektonische Entwicklung die Arzneimittelentwicklung und Materialwissenschaft beschleunigt, senkt sie gleichzeitig die Hürden für die Entwicklung bioreaktiver Moleküle und waffenfähiger biologischer Wirkstoffe erheblich. Amodei schlug ein zweistufiges technisches Eindämmungsmodell vor. Die erste Stufe verlangt von Halbleiterherstellern und Cloud-Anbietern, kryptografische Berichte auf Hardwareebene für verteilte Cluster zu integrieren, die Gleitkommaoperationen mit mehr als zehn bis siebenundzwanzig Potenzen ausführen. Die zweite Stufe schreibt ein universelles Gensynthese-Screening vor und stellt sicher, dass automatisierte Synthesegeräte Aufträge ablehnen, die regulierte biologische Toxinsequenzen enthalten, die in internationalen wissenschaftlichen Datenbanken identifiziert wurden. ![Hufeisentisch im UN-Sicherheitsrat](https://rkhynbcsbnkkcwgexzwg.supabase.co/storage/v1/object/public/media/api/1790227402295-ftq2gx-un-security-council-ai-guardrails-altman-amodei-2026-09-24-morning-inside-2-77acc80713.webp) *In der Hufeisenkammer des UN-Sicherheitsrates diskutierten Ministervertreter über autonome Verträge über künstliche Intelligenz.* Sam Altman ging näher auf die Herausforderungen automatisierter Modellbewertungen ein. Herkömmliche Sicherheitsfilter nach dem Training und konstitutionelle Abstimmungsmechanismen können sich verschlechtern, wenn Modelle auf neue Umgebungen oder Techniken zur sofortigen Injektion von Gedankenketten treffen. Altman argumentierte, dass die Bewertung von Grenzagenten dynamische Sandboxen erfordert, in denen autonome Programme anhand gegnerischer Cyber-Verteidigungssimulationen bewertet werden, bevor sie die Genehmigung für den Einsatz erhalten. ## Auswirkungen auf Markt und Branche Die Finanz- und Cloud-Infrastrukturmärkte reagierten schnell auf die Verhandlungen des Sicherheitsrats. Die Aktien großer Cloud-Infrastrukturanbieter und führender Hersteller von Halbleiterausrüstung erlebten Volatilität, da Anleger die Wahrscheinlichkeit neuer multilateraler Berichtspflichten einschätzten. Analysten stellten fest, dass die Verfolgung großer Rechencluster zu einem Compliance-Aufwand für Hyperscale-Rechenzentren führen könnte, die in verschiedenen Hoheitsgebieten betrieben werden. Umgekehrt verzeichneten Unternehmensplattformen für Cybersicherheit und KI-Compliance ein erhöhtes Interesse seitens institutioneller Kapitalgeber. Startups, die sich auf automatisierte Audits, Red-Teaming-Systeme und kryptografische Herkunftsüberprüfung spezialisiert haben, sind in der Lage, von vorgeschriebenen Sicherheitszertifizierungen zu profitieren. Beschaffungsbeauftragte von Unternehmen passen bereits die Governance-Rahmenbedingungen an, um KI-Anbietern den Vorzug zu geben, die die Einhaltung neuer internationaler Sicherheitsprotokolle nachweisen können. Im Risikokapital-Ökosystem kann die Finanzierung von Start-ups im Bereich der Grundlagenausbildung mit höheren Eintrittsbarrieren konfrontiert sein. Wenn internationale Verträge umfangreiche Vorschulungsunterlagen und Red-Teaming-Verpflichtungen Dritter erfordern, wird das für die Gründung eines Grenzlabors erforderliche Kapital erheblich ansteigen und die Grenzentwicklung weiter auf etablierte Hyperscaler und stark kapitalisierte Institutionen konzentrieren. ## Worauf man als Nächstes achten sollte Im Anschluss an das Briefing gab die französische Präsidentschaft bekannt, dass eine Gruppe technischer Experten, die die fünf ständigen Ratsmitglieder und gewählten Delegierten vertritt, Ende Oktober 2026 in Genf zusammenkommen wird. Dieser Vorbereitungsausschuss hat die Aufgabe, eine Rahmenresolution auszuarbeiten, in der unverbindliche vertrauensbildende Maßnahmen und gemeinsame Risikotaxonomien für autonome Systeme dargelegt werden. Beobachter beobachten genau, ob die Vereinigten Staaten und China in Bezug auf Computerverfolgung und biologische Eindämmung eine gemeinsame Basis finden können. Während die geopolitische Rivalität bei fortschrittlicher Halbleiterhardware weiterhin intensiv ist, haben bilaterale Arbeitsgruppen, die nach den KI-Gipfeln 2024 und 2025 eingerichtet wurden, konstruktive Kommunikationskanäle in Bezug auf katastrophale Sicherheitsparameter aufrechterhalten. Schließlich werden Branchenbeobachter beobachten, ob sich andere Grenzlabore, darunter Google DeepMind und Open-Source-Konsortien, den von Altman und Amodei skizzierten Governance-Initiativen anschließen. Es wird erwartet, dass formelle Vorschläge für ein internationales Inspektionsprotokoll vor dem für Anfang 2027 in Tokio geplanten globalen KI-Sicherheitsgipfel vorgelegt werden. ## Quellen * [Sicherheitsrat der Vereinten Nationen – Wahrung des internationalen Friedens und der internationalen Sicherheit: Künstliche Intelligenz](https://www.un.org/securitycouncil/content/maintenance-international-peace-and-security-artificial-intelligence) * [The Guardian – Die KI-Führer Sam Altman und Dario Amodei sprechen vor dem UN-Sicherheitsrat](https://www.theguardian.com/technology/2026/sep/23/ai-leaders-sam-altman-dario-amodei-un-security-council) * [Bericht des Sicherheitsrates – Offenes Briefing zu künstlicher Intelligenz](https://www.securitycouncilreport.org/whatsinblue/2026/09/artificial-intelligence-open-briefing.php) Mentions: Sam Altman, Dario Amodei, Sicherheitsrat der Vereinten Nationen, OpenAI, Anthropisch, Internationale Atomenergiebehörde ## Sources - [Sicherheitsrat der Vereinten Nationen](https://www.un.org/securitycouncil/content/maintenance-international-peace-and-security-artificial-intelligence) - [Der Wächter](https://www.theguardian.com/technology/2026/sep/23/ai-leaders-sam-altman-dario-amodei-un-security-council) - [Bericht des Sicherheitsrats](https://www.securitycouncilreport.org/whatsinblue/2026/09/artificial-intelligence-open-briefing.php)