KI-Risiken, Elektromobilität und digitale Transformation 2024: Was Führungskräfte jetzt wissen müssen

13. August 2024

Elon Musks KI-Warnung: 20 Prozent Chance auf eine Bedrohung der Menschheit

Elon Musk beziffert die Wahrscheinlichkeit, dass künstliche Intelligenz die Menschheit gefährdet, auf 20 Prozent. Für Bernd Schmellenkamp und Chris Jon Graf ist das kein Randthema: 20 Prozent Risiko sind bei einer Technologie von dieser Tragweite eine Zahl, die ernst genommen werden muss – unabhängig davon, wie die zugrunde liegende Berechnung methodisch einzuordnen ist.

Die zentrale Botschaft der Episode: KI-Risiken dürfen nicht verdrängt werden. Wer in Unternehmen oder im Verwaltungsrat Verantwortung trägt, muss diese Unsicherheiten in die strategische Planung einbeziehen. Gleichzeitig warnen die Gesprächspartner davor, Statistiken unkritisch zu übernehmen – sie können je nach Fragestellung so formuliert werden, dass sie ein gewünschtes Bild erzeugen.

Elektrosmog in Elektroautos: Ein unterschätztes Risiko?

Ein für viele Zuhörer neues Thema bringt Bernd Schmellenkamp in die Diskussion: die elektromagnetische Belastung in Elektrofahrzeugen. Wer auf einer grossen Hochvoltbatterie sitzt, befindet sich im Innern eines elektromagnetischen Feldes – verstärkt durch den metallischen Faradayschen Käfig der Fahrzeugkarosserie.

Was die Forschung bisher zeigt

Studien zur Elektrosmog-Belastung durch Mobiltelefone sind mittlerweile breit akzeptiert. Die Übertragung dieses Wissens auf Elektrofahrzeuge steht dagegen noch am Anfang. Zusätzlich überträgt Tesla kontinuierlich Kameradaten an zentrale Cloud-Server – ein eigens entwickelter Chip verarbeitet diese riesigen Videodatenmengen und füttert damit die KI-Systeme des Unternehmens. Die damit verbundene permanente Daten- und Funkaktivität im Fahrzeuginneren ist ein Faktor, der bisher kaum öffentlich diskutiert wird.

Sicherheitsvorteile von Tesla im Gesamtbild

Chris Jon Graf kontextualisiert: Tesla-Fahrzeuge profitieren von denselben Hochleistungslegierungen, die auch bei SpaceX-Raketen eingesetzt werden. Crash-Tests zeigen, dass Tesla-Karosserien eine eigene Kategorie in puncto Deformationsresistenz bilden. Der tiefe Schwerpunkt durch die unterflur verbaute Batterie erhöht zudem die Fahrstabilität erheblich. Dennoch bleibt das Brandrisiko bei Lithium-Ionen-Batterien ein realer Faktor – wie Ereignisse wie der Brand eines Autofrachters in der Nordsee verdeutlicht haben.

Batterietechnologie als Schlüsselthema der Zukunft

Sowohl Schmellenkamp als auch Graf sind sich einig: Energiespeicherung wird eine der zentralen Technologien der kommenden Jahrzehnte sein. Die aktuelle Transitionsphase – mit all ihren Problemen rund um Rohstoffe, Abbaubedingungen und Umweltauswirkungen – ist vergleichbar mit früheren industriellen Übergängen wie dem Ausstieg aus der Kohle.

Seltene Erden und geopolitische Abhängigkeiten

Ein kritischer Engpassfaktor ist die Versorgung mit Lithium und anderen seltenen Erden. Deutschland, die Schweiz und Europa insgesamt stehen in direktem Wettbewerb mit China und anderen Akteuren um Lieferverträge mit Förderländern in Südamerika und Afrika. Das deutsche Wirtschaftsministerium beschäftigt bereits eigene Mitarbeitende, die weltweit Lieferbeziehungen aufbauen. Die Frage, ob Europa in diesem Wettlauf mithalten kann, ist offen.

Die Rolle der Schweiz

Die Schweiz verfolgt traditionell einen anderen Ansatz als Deutschland: nicht das gesamte Produkt, sondern hochwertige Teilkomponenten und Nischentechnologien. Chris Jon Graf sieht darin eine realistische Stärke – wer ein wichtiges Schlüsselteil liefert, sichert sich Verhandlungsmacht und Zugang zum Endprodukt. Staatliche Fördergelder spielen in der Schweiz eine deutlich geringere Rolle als in der EU; Innovation entsteht häufiger über Universitäts-Spinoffs und privat finanzierte Startups.

Künstliche Intelligenz im Alltag: Die nächste Entwicklungsstufe

Chris Jon Graf identifiziert den nächsten grossen Sprung in der KI-Entwicklung: die Fähigkeit, nicht nur Informationen zu verarbeiten, sondern eigenständig Aktionen auszuführen. Heute liefern grosse Sprachmodelle auf Anfrage Texte und Analysen. Morgen sollen sie E-Mails versenden, Kalendereinträge anlegen, Teilnehmende einladen und Konferenzlinks erstellen – auf einfache Sprachbefehle hin.

Apple, Siri und die On-Device-KI-Strategie

Apple hat laut Graf einen strategischen Vorteil, der häufig unterschätzt wird: Die eigens entwickelten Chips für iPhone und Mac wurden so konzipiert, dass KI- und Machine-Learning-Prozesse direkt auf dem Gerät laufen können – ohne Datentransfer in die Cloud. Das entspricht Apples langjähriger Datenschutzphilosophie und könnte zum entscheidenden Differenzierungsmerkmal werden, sobald leistungsfähige Sprachmodelle in Siri integriert werden.

Haftungsfragen bei autonomen KI-Aktionen

Ein ungeklärtes Problem bleibt: Wer haftet, wenn ein KI-Assistent eine falsche E-Mail an alle Empfänger statt an eine einzelne Person sendet, oder eine Transaktion auslöst, die nicht autorisiert war? Die Gesprächspartner sind sich einig, dass die grossen Technologiekonzerne die Haftung vertraglich auf die Nutzer übertragen werden. Dieser Aspekt muss in unternehmensweiten KI-Governance-Richtlinien berücksichtigt werden.

Der KI-Wettbewerb: Von ChatGPT zur pluralen Modelllandschaft

Vor rund einem Jahr dominierte OpenAI mit ChatGPT den Markt nahezu unangefochten. Inzwischen hat sich die Landschaft grundlegend verändert:

Claude 3 (Anthropic): Gilt laut verschiedenen Benchmarks als ebenbürtig oder überlegen gegenüber GPT-4.
Gemini (Google): Auf vergleichbarem Niveau wie GPT-4.
Open-Source-Modelle: Mehrere frei verfügbare Modelle haben das Niveau von GPT-3.5 erreicht und eignen sich für Unternehmensanpassungen.
Grok (xAI, Elon Musk): Kürzlich als Open Source veröffentlicht, bewegt sich im Bereich GPT-3.5 bis GPT-4.

Dieser Wettbewerb beschleunigt die Qualitätsentwicklung und senkt gleichzeitig die Einstiegshürden für Unternehmen, die eigene KI-Lösungen aufbauen möchten.

Der Konflikt zwischen Musk und OpenAI

Elon Musk war Mitgründer von OpenAI und einer der grössten Frühfinanziers. Sein Ausscheiden folgte dem Dissens über die ursprüngliche Open-Source-Philosophie, die mit der engen Partnerschaft zu Microsoft und der Kommerzialisierung des Unternehmens aufgegeben wurde. Als Reaktion machte Musk sein eigenes Modell Grok Open Source – eine direkte Provokation gegenüber dem, was er als Verrat an den Gründungsprinzipien betrachtet.

Executive Takeaways: Was Führungskräfte jetzt ableiten sollten

KI-Risikobewertung institutionalisieren: Ein 20-prozentiges existenzielles Risiko – wie von Musk genannt – erfordert, dass Verwaltungsräte und Geschäftsleitungen KI-Governance-Strukturen aufbauen, bevor regulatorischer Druck entsteht.
Technologische Abhängigkeiten kartieren: Wer Elektromobilität oder KI-Infrastruktur plant, muss Lieferketten für kritische Rohstoffe und Halbleiter strategisch absichern.
On-Device-KI als Datenschutzstrategie: Die Apple-Strategie zeigt, dass Datenschutz und KI-Leistungsfähigkeit kein Widerspruch sein müssen – ein Argument für regulierte Branchen.
Haftungsrahmen für KI-Aktionen definieren: Bevor autonome KI-Assistenten in Geschäftsprozesse integriert werden, braucht es klare interne Regelungen zur Verantwortlichkeit.
Schweizer Nischenstärke nutzen: Statt auf staatliche Subventionsprogramme zu warten, sollten Unternehmen in der Schweiz ihre spezifischen Fertigungs- und Forschungskompetenzen gezielt in die entstehenden Wertschöpfungsketten der Batterietechnologie einbringen.

Häufige Fragen

Wie realistisch ist Elon Musks Einschätzung, dass KI mit 20-prozentiger Wahrscheinlichkeit die Menschheit bedroht?

Elon Musk hat öffentlich eine 20-prozentige Wahrscheinlichkeit für eine existenzielle KI-Bedrohung der Menschheit genannt. Chris Jon Graf und Bernd Schmellenkamp bewerten diese Zahl als ernst zu nehmendes Signal, betonen aber, dass statistische Risikoaussagen stets methodisch hinterfragt werden sollten. Für Unternehmensentscheider bedeutet das: KI-Risiken gehören auf die Governance-Agenda, unabhängig davon, wie genau die Wahrscheinlichkeit beziffert wird.

Welche konkreten Sicherheitsrisiken bestehen bei Elektroautos, die Führungskräfte kennen sollten?

Neben dem bekannten Brandrisiko bei Lithium-Ionen-Batterien diskutiert die Episode die elektromagnetische Belastung durch Hochvoltbatterien und permanente Datenfunkverbindungen im Fahrzeuginnenraum. Tesla-Fahrzeuge verfügen über Hochleistungslegierungen aus dem SpaceX-Programm, die überdurchschnittliche Crashsicherheit bieten. Das Elektrosmog-Thema ist wissenschaftlich noch nicht abschliessend untersucht, gewinnt aber an öffentlicher Aufmerksamkeit.

Wie positioniert sich die Schweiz im globalen Wettbewerb um Batterietechnologie und seltene Erden?

Die Schweiz verfolgt traditionell eine Nischenstrategie: hochwertige Teilkomponenten und Spezialtechnologien statt vollständige Produktionsketten. Dieser Ansatz sichert Verhandlungsmacht als Schlüsselzulieferant. Staatliche Subventionsprogramme spielen eine geringere Rolle als in der EU; Innovation erfolgt häufiger über Universitäts-Spinoffs und privat finanzierte Startups, was tendenziell zu effizientererem Kapitaleinsatz führt.

Was bedeutet die nächste Entwicklungsstufe der KI – autonome Aktionen – für Unternehmen?

Der Übergang von KI als Informationslieferant zu KI als autonomem Akteur, der E-Mails versendet, Kalender verwaltet und Transaktionen auslöst, stellt Unternehmen vor neue Governance-Fragen. Ungeklärt sind Haftungsfragen bei Fehlfunktionen sowie die Absicherung gegen unbeabsichtigte Aktionen. Führungskräfte sollten interne Richtlinien und Verifizierungsprozesse definieren, bevor solche Systeme in kritische Geschäftsprozesse integriert werden.

Wie hat sich die KI-Modelllandschaft seit dem Start von ChatGPT verändert?

Innerhalb von etwa einem Jahr hat sich der Markt von der nahezu monopolartigen Dominanz von ChatGPT zu einer pluralen Landschaft entwickelt. Claude 3, Googles Gemini, mehrere Open-Source-Modelle sowie Elon Musks Grok haben das Qualitätsniveau von GPT-3.5 bis GPT-4 erreicht oder übertroffen. Für Unternehmen bedeutet das sinkende Einstiegskosten, mehr Wahlmöglichkeiten und die Option, Open-Source-Modelle ohne Lizenzgebühren für eigene Anwendungen anzupassen.

Warum hat Elon Musk OpenAI verlassen und was sind die Konsequenzen für die KI-Branche?

Musk schied aus OpenAI aus, weil das Unternehmen von seiner ursprünglichen Open-Source-Philosophie abgerückt war und eine enge Partnerschaft mit Microsoft einging. Als Reaktion entwickelte er mit xAI das Sprachmodell Grok und veröffentlichte es als Open Source – eine direkte Herausforderung an OpenAI. Der Konflikt hat die Debatte über Transparenz, Zugänglichkeit und Kontrolle grosser KI-Modelle neu entfacht und andere Akteure zur Öffnung ihrer Modelle motiviert.

Welchen strategischen Vorteil hat Apple bei der Integration von KI in seine Produkte?

Apple hat seit Jahren in Chips investiert, die KI- und Machine-Learning-Prozesse direkt auf dem Gerät – ohne Cloud-Umweg – verarbeiten können. Diese On-Device-Strategie schützt Nutzerdaten, reduziert Latenz und macht Apple unabhängig von externen Serverkapazitäten. Sobald leistungsfähige Sprachmodelle in Siri integriert werden, könnte Apple diesen technologischen Vorsprung gegenüber cloudbasierten Konkurrenten ausspielen.

Wie sollten Unternehmen mit geopolitischen Abhängigkeiten bei kritischen Rohstoffen für Batterietechnologie umgehen?

Lithium und andere seltene Erden für Batterien werden überwiegend in Ländern gefördert, zu denen Europa komplexe geopolitische Beziehungen unterhält. Unternehmen sollten ihre Lieferketten für kritische Materialien strategisch diversifizieren und Alternativen wie neue Batteriechemien ohne Kobalt oder Lithium im Blick behalten. Die Schweiz kann durch technologische Nischenkompetenz als wertvoller Zulieferant Zugang zu Endprodukten und Lieferketten sichern, ohne vollständige Produktionslinien aufbauen zu müssen.