Beispiellose Risiken und Chancen
Beispiellose Risiken und Chancen
Die Vereinten Nationen wollen globale Regeln für Künstliche Intelligenz
Künstliche Intelligenz (KI) ist längst Alltag in unserem Leben. Doch die Entwicklung von generativer KI hat eine neue Phase eingeläutet. Die weltweiten Ungleichheiten in der Programmierung und Nutzung von KI sind derzeit eklatant. Ebenso konzentrieren sich die Gewinne der Branche in wenigen Staaten. Angesichts dessen braucht es Regeln – bestenfalls weltweit, welche die KI-Anwendungen steuern und begrenzen. Die UN hat dafür neue Institutionen gegründet.
„KI hat immenses Potenzial, die menschliche Lebensqualität zu steigern. Doch ihre aktuelle Entwicklung offenbart beispiellose Risiken. KI könnte bald menschliche Fähigkeiten übersteigen und Risiken wie menschengemachte Pandemien, weitverbreitete Desinformationen, groß angelegte Manipulation von Individuen, darunter Kinder, nationale und internationale Sicherheitsbedenken, Massenarbeitslosigkeit und systematische Menschenrechtsverletzungen ausweiten. […] Regierungen müssen entschlossen handeln, bevor sich das Fenster für wirksame Intervention schließt.“[i]
So heißt es in der Kampagne von über 200 Politiker:innen und Wissenschaftler:innen, die beim Auftakt der 80. Sitzung der UN-Generalversammlung durch Friedensnobelpreisträgerin Maria Ressa vorgestellt wurde. Gemeinsam mit den „KI-Paten“ Geoffrey Hinton and Yoshua Bengio, zahlreichen Nobelpreisträgern der Ökonomie, Physik und Chemie und einigen zentralen Köpfen der KI-Entwicklungsszene wie Wojciech Zaremba, dem Co-Gründer von OpenAI, fordert Ressa eine weltweite Regulierung von KI und klare Grenzen dafür, was KI niemals zu tun erlaubt sein dürfe.
Die Datengrundlage ist zu einseitig
So wie KI derzeit entwickelt wird, ist ein „Bias“ Teil des ganzen Systems. Das heißt eine Voreingenommenheit oder Einseitigkeit, die sich aus der Qualität der Daten speist. Denn generative KI-Modelle erlernen Muster und Strukturen aus Trainingsdaten und erstellen daraus neue Daten mit ähnlichen Eigenschaften. Kommen die Daten aus einer bestimmten Sprache oder Kultur, so übernimmt die KI die darin zugrundeliegenden Annahmen.
Dies liegt an der Diskriminierung von nicht englischsprachigen Nutzer:innen. Aufgrund der US-Zentrierung und der hohen Investitionskosten bilden englische Sprachdaten die wichtigste Datengrundlage. Igbo, Spanisch, Arabisch, Hindi, Bengalisch, zusammen von über einer Milliarde Menschen gesprochen, spielen bei der KI-Entwicklung kaum eine Rolle. Kleinere Sprachgruppen, die von Menschen vor allem zuhause verwendet werden, sind nur in Nischenanwendungen zu finden. Dabei sind Länder des Globalen Südens die wichtigsten Märkte für Large Language Models, das heißt Sprachmodelle, die Texte generieren können. Während kurz nach seiner Einführung rund 90 % des OpenAIs ChatGPT-Traffics aus Industriestaaten stammten, kam schon wenige Monate später der Großteil aus Ländern mit mittlerem Einkommen.
Durch die primäre Einspeisung amerikanischer, englischsprachiger Daten können Stereotype verfestigt und kulturelle, sprachliche sowie politische Besonderheiten verdrängt werden. Der zweitwichtigste Markt für OpenAI ist beispielsweise Indien. Doch dessen Sprachmodell ChatGPT reproduziert problematische Stereotype über Menschen verschiedener Kasten, insbesondere über die kastenlosen und in Indien stark diskriminierten Dalit.[ii]
USA dominiert in der KI-Entwicklung
Länder des Globalen Südens haben deutlich weniger Möglichkeiten am Wettbewerb der KI-Modelle teilzunehmen. Die wichtigsten KI-Firmen kommen aus Industrienationen, vor allem aus den USA. Die großen amerikanischen Tech-Firmen Google, Apple, Facebook und Microsoft investieren massiv in den Ausbau von KI, unter anderem in Partnerschaft mit OpenAI. Die wichtigsten Chip-Hersteller, Nvidia und dessen derzeit relevantester Konkurrent Broadcom, sind US-Unternehmen. Der wichtigste Halbleiterhersteller, TSMC, sitzt und produziert in Taiwan.
Ernstzunehmende Konkurrenz in der KI-Branche kommt lediglich aus China. Anfang 2025 sorgte das chinesische KI-Modell DeepSeek für Aufruhr. Mit geringeren Investitionskosten trat es in direkte Konkurrenz zu ChatGPT. Es folgte ein Kurssturz der Aktien vieler westlicher Technologieunternehmen um bis zu 30 %. Die chinesische KI-Branche ist vielfältig und dynamisch, aber auch hier investieren vor allem die großen Firmen wie Alibaba oder Baidu.
Wenige andere KI-Firmen können derzeit mitspielen. Die französische Firma Anthropic arbeitet unter anderem mit Amazon zusammen. Mistral, ebenfalls aus Frankreich, ist das derzeit am schnellsten wachsende europäische KI-Start-up. Erfolgreich sind zudem noch Cohere aus Kanada, AI21 Labs aus Israel und Moreh aus Südkorea. Das bekannteste deutsche KI-Unternehmen, Aleph Alpha, dessen Modell sich an Unternehmen und Verwaltungen richtet, ist durch die Investitionen deutscher Konzerne wie der Schwarz-Gruppe, Bosch und SAP interessant.
Konkurrenzfähige KI-Modelle außerhalb der wichtigsten sieben Länder gibt es derzeit praktisch nicht. Dabei ist das Vertrauen in und Interesse an KI im Globalen Süden hoch. Laut dem Human Development Report des Entwicklungsprogramms der Vereinten Nationen (United Nations Development Programme/UNDP) gehen bis zu 60 % der Bevölkerung von Ländern mit niedrigem und mittlerem Einkommen davon aus, dass sie innerhalb eines Jahres in Bildung, Gesundheit und Arbeit KI nutzen. In sehr hoch entwickelten Ländern sind es im Vergleich nur gut 45 %.[iii]
KI kann Ungleichheiten verschärfen
Zugang, Nutzung und Produktionshoheit von Informationstechnologien können Ungleichheiten zwischen Staaten verschärfen. Während der Corona-Pandemie hatten in den OECD-Ländern beispielsweise nur 10-20 % der Kinder aufgrund von mangelndem Zugang zu Technologien Schwierigkeiten in der Heim-Schularbeit (sogenannter Homework Divide). In Ländern des Globalen Südens waren es bis zu 90 %.[iv]
Die ökonomische Macht der Länder des Globalen Südens könnte durch KI weiter abgewertet werden. Schon jetzt wird die Arbeitskraft der Menschen in diesen Ländern, beispielsweise Online-Telemarketing oder Servicearbeiten, durch KI abgewertet. Für die sozialen Medien entstandene Jobs wie Content Moderatoren, welche Hass- und Gewalt aus den Medien vorfiltern, dienen derzeit zum Trainieren der KI. Doch sobald soziale Medien das Training für erfolgreich erklärt haben werden, sind diese, in ihrer derzeitigen Form bereits nicht tragbaren Jobs gefährdet. Das heißt: Erneut wird die Produktionskraft der Menschen im Globalen Süden ausgenutzt, die Vorteile davon kommen jedoch nur bei einem sehr kleinen Anteil von ihnen an.
Dabei sollten Menschen über die Entwicklung und Nutzung von KI mitbestimmen dürfen. Vor allem, da KI das Potenzial hat, autoritäre Regime zu stärken und repressiver werden zu lassen. Tracking, Überwachung, Propaganda und Informationsbeschränkungen aber auch Betrug, Dauerwerbung und gesellschaftliche Spaltung sind durch KI-Einsatz bereits jetzt weltweit ausgeweitet beziehungsweise angestiegen.
UN will Regeln für verantwortungsvolle KI
Die Entwicklung von Richtlinien und Gesetzen für verantwortungsvolle KI ist überfällig. Denn Menschenrechte, Demokratie oder Nachhaltigkeit sind nicht Teil der KI-Modelle. Weniger als 1 % KI-Unternehmen haben laut dem World Economic Forum entsprechende Richtlinien geschrieben oder umgesetzt.[v] Die meisten Länder weltweit haben keine KI-Gesetze, eine nennenswerte transnationale Vernetzung zur Regulierung der global genutzten KI-Anwendungen gibt es bisher nur innerhalb der EU mit dem seit 2024 existierenden EU AI Act.
Die UN hat nun zwei wichtige neue KI-Institutionen geschaffen: Den Global Dialogue on AI Governance und das Independent International Scientific Panel on AI (ISP-AI). Der Global Dialogue soll 2026 das erste Mal tagen, für das ISP-AI werden derzeit Kandidat:innen gesucht. Ziel ist die Schaffung von KI-Governance und vertrauenswürdigen KI-Ökosystemen, die die Nutzung und Skalierung von KI sicher und nachhaltig machen.
Die neuen UN-Institutionen werden sich mit all diesen Dingen in einem sich schnell verändernden Umfeld befassen müssen. Ziel sollte sein, eine KI-Governance zu entwickeln, welche eine Dokumentation und Überprüfung der KI-Modelle zulässt, insbesondere um nachverfolgen zu können, wie die KI trainiert wird und sich während ihres gesamten Nutzungszyklus verhält.
Für die UN-Arbeit stimmt einerseits optimistisch, dass sich einflussreiche Menschen der KI-Entwicklungsszene hinter die oben genannte Kampagne gestellt haben. Gleichzeitig lässt die Tatsache, dass fast alle amerikanischen KI- und Tech-Unternehmen mittlerweile US-Präsident Trump gehuldigt haben, der weniger Regulierung, weniger UN und mehr Überwachung will, an der Ernsthaftigkeit ihrer Worte zweifeln. Umso wichtiger wäre es, die Macht in der KI-Entwicklung weltweit deutlich zu diversifizieren.
Marie-Luise Abshagen ist stellvertretende Leiterin des Forum Umwelt und Entwicklung.
[ii] https://www.technologyreview.com/2025/10/01/1124621/openai-india-caste-bias/
[iii] https://hdr.undp.org/content/human-development-report-2025
[iv] https://www.norrageducation.org/ai-and-unequal-knowledge-in-the-global-south/
[v] https://reports.weforum.org/docs/WEF_Advancing_Responsible_AI_Innovation_A_Playbook_2025.pdf
