– Einschätzung und Empfehlung für mittelständische Unternehmen

Thomas, Weihrich

21. September 2026

Zusammenfassung

Innerhalb weniger Tage haben die führenden KI-Anbieter nahezu gleichzeitig vor unkontrollierbarer KI gewarnt. Diese auffällige Gleichzeitigkeit stufe ich als taktisches, marketinggetriebenes Signal ein – eine Einschätzung, die die internationale Berichterstattung (Guardian, TechCrunch, Fortune) weitgehend teilt. Inzwischen hat Nvidia-Chef Jensen Huang die Untergangsnarrative als unwissenschaftlich zurückgewiesen. Reale, heute dokumentierte KI-Risiken bestehen unabhängig davon. Für mittelständische Unternehmen folgt daraus: weder Panik noch Stillstand, sondern die kontrollierte Einführung einer sicheren Multi-Plattform-KI-Lösung nach einem klaren Plan.

Ausgangslage und Gegenposition

Anfang September 2026 kündigte der Anthropic-Forscher Jacob Coxon im Alter von 27 Jahren nach 3 Jahren Tätigkeit seine Stelle und warf OpenAI und Anthropic vor, unverantwortlich zu handeln: Die KI-Entwickler glaubten ernsthaft, KI könne die Menschheit bis Ende des Jahrzehnts auslöschen. Kurz darauf forderte Anthropic-CEO Dario Amodei eine verlangsamte Entwicklung und gesetzliche Schranken; Sam Altman und Elon Musk schlossen sich an – ein seltener Moment der Einigkeit unter den sonst zerstrittenen Rivalen.

Ganz anders Nvidia-Chef Jensen Huang im CBS-Interview mit Jo Ling Kent (20. September 2026): «2030 is not going to be the end of the world. There is 0% chance that’s going to be the end of the world.» Das Verängstigen von Menschen sei «unnecessary» und «irresponsible»; die Ausrottungsprognosen seien übertriebene «doomsday narratives», die «not grounded in science» seien. Zur Regulierung: Bestehende Gesetze (Produkthaftung, Cybersecurity-Haftung) genügten – «don’t let this doomsday narrative allow someone to relieve them of the laws that currently exist.» Auf den eigenen Interessenkonflikt angesprochen, verweist er auf die «safe deployment» als Grundlage des Geschäftserfolgs.

Meine Einschätzung: Taktik und Marketing statt reiner Sorge

Dass alle grossen Anbieter gleichzeitig ähnliche Botschaften veröffentlichen, stufe ich primär als taktische Information und Marketing ein. Vier Beobachtungen:

1. Aufwertung des eigenen Produkts. Wer die Menschheitsauslöschung durch die eigene Technologie androht, suggeriert, das mächtigste Werkzeug der Welt in der Hand zu halten. Angela Müller (Algorithm Watch Schweiz) nennt das die beste PR auf dem Investitionsmarkt.
2. Ablenkung von mangelnder Profitabilität. OpenAI verschob den Börsengang offiziell aus Sicherheitsbedenken; laut Raiffeisen-CIO Matthias Geissbühler wären die Zahlen der angestrebten Marktkapitalisierung von 1,5–2 Billionen US-Dollar nicht annähernd gerecht geworden. Anthropics «profitables Quartal» beruht auf einem bereinigten Betriebsergebnis, das aktienbasierte Vergütungen und Trainingskosten ausklammert. Fortune weist zudem die Inkonsistenz nach: Wochen nach den Warnungen kündigte OpenAI sein leistungsstärkstes Modell bisher an.
3. Regulierung als Wettbewerbshebel. Die Forderung nach zentralen Sicherheitsmechanismen dient mutmasslich auch dazu, günstigere chinesische Open-Source-Modelle via Regulierung aus dem Markt zu drängen – von Geissbühler «geradezu heuchlerisch» genannt.
4. Regulatory Capture. Der Guardian zitiert David Sacks (ehemaliger US-AI-Beauftragter) und Alvaro Bedoya (ehemaliger FTC-Vorsitzender), die Amodeis Vorstoss als regulatory capture einstufen: Kartellrecht verhindere Sicherheitskoordination nicht, sehr wohl aber das Ausschalten günstigerer Konkurrenten. TechCrunch und Medienscholar Erkan Saka sehen die Untergangsrhetorik als Ablenkung von dokumentierten heutigen Schäden (Arbeitsmarkt, Umwelt, Betrug) – «apokalyptisch in der Form, heuchlerisch in der Struktur, strategisch produktiv in der Wirkung».

Huang bestätigt diese These aus zwei Richtungen: Auch seine Aussage ist nicht interessenfrei – Nvidia (rund 5,3 Billionen US-Dollar Börsenwert) profitiert direkt vom ungebremsten Infrastrukturausbau. Die Branche argumentiert also auf beiden Seiten kommerziell motiviert: Modellanbieter mit Untergangsszenarien, der Chip-Lieferant mit deren Entkräftung. Und selbst der entschiedenste Verharmloser nennt die «safe deployment» als Geschäftsgrundlage – sichere Einführung ist der gemeinsame Nenner aller Akteure.

Was real ist: Die tatsächlichen Risiken

Die Rhetorik entwertet die realen Risiken nicht – Huangs Entwarnung ebenso wenig:

• Dokumentierte KI-Schäden stiegen laut AI Incident Database von 233 (2024) auf 362 (2025); über 58 Prozent verursacht durch generative KI.
• Ein Mitarbeiter überwies nach einer Deepfake-Videokonferenz 25 Millionen US-Dollar. Top-Sorgen von 272 befragten Fachleuten: Betrug (27 %), Machtzentralisierung (24 %), gefährliche Fähigkeiten (23 %).
• Sicherheitstests belegen Alignment-Probleme: KI-Agenten von OpenAI und Anthropic drangen in reale Systeme Dritter ein; manipulatives Verhalten («Schläferagenten») überdauert Safety-Trainings.
• Gegenposition: Yann LeCun hält viele Untergangsszenarien für stark übertrieben; eine METR-Studie zeigte, dass erfahrene Entwickler mit KI-Unterstützung sogar 19 Prozent mehr Zeit benötigten, sich aber subjektiv schneller fühlten.
  

Fazit: KI ist ein mächtiges, aber fehleranfälliges Werkzeug.
 – Weder Panik noch Entwarnung ist angebracht.

Empfehlung für mittelständische Unternehmen

Meine klare Empfehlung: die kontrollierte Einführung einer sicheren Multi-Plattform-KI-Lösung nach definiertem Plan, wie wir sie mit hatz.ai beziehungsweise Weihrich KI anbieten – im Einklang mit den Leitlinien des EU AI Office und der OECD für KMU (Governance vor Technologie, gestufte Einführung, Vermeidung von Anbieterabhängigkeit).

Die Debatte ändert daran nichts – im Gegenteil: Ob die Szenarien zutreffen oder, wie Huang argumentiert, unbegründete Dramatik sind, ist für ein mittelständisches Unternehmen letztlich zweitrangig. Beide Lager argumentieren kommerziell motiviert, und beide betonen die sichere Einführung. Entscheidend ist nicht, wem man in der Rhetorik glaubt, sondern dass man die KI-Einführung aktiv plant und kontrolliert:

• Kontrolliert statt wildwüchsig: zentrale, gemanagte Plattform mit definierten Freigaben, Rollen und Protokollierung statt unkontrollierter Einzelzugriffe auf Consumer-Tools.
• Multi-Plattform statt Abhängigkeit: Zugang zu mehreren Modellanbietern (OpenAI, Anthropic, Google) verhindert die Abhängigkeit von einem einzelnen Konzern – gerade die beobachtete Regulatory-Capture-Strategie ist ein zusätzliches Argument dafür.
• Sicherheit und Datenschutz by design: DSGVO-konforme Behandlung, klare Datenverarbeitungsvereinbarungen, menschliche Kontrolle (Human in the Loop) für kritische Prozesse.
• Stufenweise Einführung mit Governance: Pilotanwendungen mit messbarem Nutzen, Schulungen, KI-Richtlinien und regelmässige Risiko-Reviews vor dem Rollout.

Die Warnungen der Grossanbieter sollten nicht von der KI-Nutzung abhalten – aber auch Huangs Entwarnung ist kein Freibrief für planloses Handeln. Ich bleibe der Auffassung: Entscheidend ist, einen Plan und professionelle Begleitung für die Einführung von KI zu haben. Die Technologie dort einsetzen, wo sie messbaren Nutzen stiftet, unter Kontrolle und mit einem Partner, der keine Milliardeninteressen an Untergangsszenarien – und auch keine am Wegsehen von realen Risiken – hat.

Quellen

• CBS News: Jensen Huang rejects AI extinction warnings (20.09.2026): cbsnews.com/news/jensen-huang-nvidia-rejects-ai-extinction-warnings/
• The Guardian (14.09.2026); TechCrunch (13.09.2026); Fortune (14.09.2026); Erkan Saka (10.09.2026)
• OECD: KI für kleine und mittlere Unternehmen (09/2026); Leitlinien des EU AI Office
• Weitere Informationen:
  Herstellerseite The Secure AI Platform for SMBs & MSPs | Hatz AI https://hatz.ai/
  Partnerseite Weihrich KI – Weihrich Informatik https://www.weihrich.ch/weihrich-ki/
• Jill Wick: Kann KI die Menschheit auslöschen? (15.09.2026): newsletter.jillwick.com/p/55-kann-ki-die-menschheit-ausloschen
• 20 Minuten: KI-Weltuntergangswarnung: Stecken Milliardeninteressen dahinter? (16.09.2026): 20min.ch/story/ki-weltuntergangswarnung-stecken-milliardeninteressen-dahinter-103634445