Big Tech fordert Cyber-Abwehr vor drohendem Anstieg von KI-Angriffen

Mehr als 120 Organisationen aus den Bereichen Technologie, Cybersicherheit, Finanzen und Infrastruktur fordern Unternehmen und Regierungen auf, ihre digitalen Abwehrmechanismen zu stärken, bevor immer leistungsfähigere KI-Systeme hochentwickelte Cyberangriffe schneller, kostengünstiger und weitverbreiteter machen.

Ein Bündnis aus Technologieunternehmen, Cybersicherheitsanbietern, Banken und anderen Organisationen ruft zu einer dringenden weltweiten Anstrengung zur Stärkung der Cyberabwehr auf, da künstliche Intelligenz die Bedrohungslage grundlegend verändert.

Der von OpenAI veröffentlichte offene Brief warnt davor, dass Organisationen nur ein „begrenztes Zeitfenster“ haben, um langjährige Sicherheitsschwachstellen zu beheben, bevor fortgeschrittene KI-Fähigkeiten Angreifern in größerem Umfang zur Verfügung stehen.

Zu den Unterzeichnern gehören Amazon Web Services, Anthropic, Cloudflare, Google, Microsoft, Mastercard, Visa und Cisco sowie wichtige Akteure der Cybersicherheitsbranche.

Doch die Einbindung so vieler einflussreicher Unternehmen in eine gemeinsame Abwehrstrategie wirft auch Fragen zu Vertrauen, Transparenz und Verantwortlichkeit auf. Verbraucher sind stark von großen Technologiekonzernen abhängig, stehen jedoch vielen der Unternehmen, die die leistungsstärksten KI-Systeme entwickeln und einsetzen, weiterhin skeptisch gegenüber.

Wichtige Erkenntnisse

• Mehr als 120 Organisationen haben einen offenen Brief unterzeichnet, der eine weltweite Verstärkung der Cyberabwehr fordert.
• Das Bündnis warnt, dass KI-gestützte Cyberangriffe in den kommenden Monaten deutlich häufiger und raffinierter auftreten könnten.
• Krankenhäuser, Wasserversorger, Kommunalverwaltungen und die Internetinfrastruktur werden als besonders kritische Bereiche hervorgehoben.
• Regierungen und Unternehmen werden aufgefordert, in KI-gestützte Abwehrtools, den Austausch von Informationen über Bedrohungen (Threat Intelligence) und die Beseitigung von Schwachstellen zu investieren.
• Untersuchungen von Bitdefender zeigen, dass das öffentliche Vertrauen in die Technologieunternehmen, die den KI-Wandel vorantreiben, stark gespalten ist.
• Strenge Aufsicht, Transparenz und menschliche Verantwortlichkeit sind unerlässlich, wenn KI eine größere Rolle in der Cyberabwehr spielen soll.

Ein Wettlauf zur Behebung alter Sicherheitsschwachstellen

Der Brief beschreibt KI als Kraftmultiplikator sowohl für Angreifer als auch für Verteidiger.

Fortschrittlichere Modelle können Angreifern helfen, Schwachstellen zu entdecken, komplexe Systeme zu analysieren, Schadcode zu schreiben und Teile eines Angriffs zu automatisieren. Dies könnte es kleineren oder weniger qualifizierten Gruppen ermöglichen, Operationen durchzuführen, die zuvor erheblichen Zeit-, Fachwissens- und Kostenaufwand erforderten.

Viele der Schwachstellen, die mithilfe von KI ausgenutzt werden könnten, sind jedoch nicht neu. Dazu gehören ungepatchte Software, unsichere Konfigurationen, übermäßige Benutzerrechte, schwache Authentifizierung und technische Altlasten in veralteten Systemen (Legacy-Systemen).

Das Bündnis argumentiert, dass der bisherige Sicherheitsansatz nicht mehr ausreichen wird, sobald Angreifer diese Lücken in Maschinengeschwindigkeit finden und ausnutzen können. Besonders kritisch ist die Lage im Bereich der kritischen Infrastruktur, wo veraltete Technologie und begrenzte Sicherheitsbudgets den Austausch anfälliger Systeme oder das Einspielen von Patches erschweren können, ohne dabei wesentliche Dienste zu beeinträchtigen.

Zu den als gefährdet eingestuften Bereichen zählen unter anderem Krankenhäuser, Wasseraufbereitungsanlagen, Kommunalverwaltungen sowie die Systeme, auf denen das Internet basiert.

Dieselbe Technologie kann auch Verteidigern einen Vorteil verschaffen

KI kann Sicherheitsteams zudem dabei unterstützen, Code zu überprüfen, Schwachstellen aufzuspüren, Warnmeldungen zu untersuchen und die Behebung von Problemen schneller zu priorisieren.

Dadurch entsteht das, was OpenAI als „Fenster für Verteidiger“ (Defender’s Window) bezeichnet hat: ein Zeitraum, in dem Unternehmen fortschrittliche Modelle nutzen können, um Schwachstellen zu finden und zu beheben, bevor sich offensive KI-Fähigkeiten weiter verbreiten.

Als Beispiel nannte OpenAI-Präsident Greg Brockman einen KI-Agenten, der auf seiner persönlichen Website innerhalb von etwa 15 Minuten 13 potenzielle Sicherheitsprobleme aufdeckte. Das System half anschließend bei der Lösung von Problemen im Zusammenhang mit Schutzmaßnahmen gegen E-Mail-Spoofing, einer veralteten Softwarekomponente und einer unverschlüsselten Verbindung zwischen zwei Hosting-Diensten.

Solche Tools könnten besonders für kleinere Unternehmen wertvoll sein, die nicht über große Sicherheitsteams verfügen. Der offene Brief betont jedoch, dass KI kein Ersatz für grundlegende Cyber-Hygiene ist. Strenge Zugriffskontrollen, eine sichere Architektur, zeitnahes Einspielen von Sicherheits-Patches, Netzwerkisolierung und mehrschichtige Verteidigungsstrategien (Defense-in-Depth) bleiben unerlässlich.

Vier Gruppen sind zum Handeln aufgerufen

Die Initiative verteilt die Verantwortung auf Unternehmen, Anbieter von Cybersicherheitslösungen, Regierungen und Unternehmen, die Spitzen-KI (Frontier AI) entwickeln.

Unternehmen und Entscheidungsträger im öffentlichen Sektor werden dazu angehalten, Cybersicherheit zur unmittelbaren Priorität zu machen, die gefährlichsten Schwachstellen zu beheben und strengere Sicherheitsstandards für die von ihnen beschaffte, entwickelte und eingesetzte Technologie – einschließlich KI-generiertem Code – anzuwenden.

Anbieter von Cybersicherheitslösungen und Technologiepartner sind aufgefordert, ihre Verteidigungsmechanismen kontinuierlich auf neue KI-Fähigkeiten hin zu testen, KI in bestehende Sicherheitstools zu integrieren sowie Informationen zu Bedrohungen (Threat Intelligence) und bewährte Reaktionspläne (Playbooks) auszutauschen.

Regierungen werden dazu aufgerufen, die grenzüberschreitende Koordinierung zu verbessern, die Cyberabwehr zu finanzieren und den Zugang zu fortschrittlichen Verteidigungstechnologien zu erweitern. Der Brief legt besonderes Augenmerk auf Krankenhäuser, Wasserversorger und Kommunalbehörden, denen es möglicherweise an Personal oder Ressourcen für eine eigenständige Vorbereitung mangelt.

KI-Entwickler wiederum werden gebeten, einen verantwortungsvollen Zugang zu leistungsfähigen Modellen zu ermöglichen sowie Finanzierung, Schulung und praktische Unterstützung bereitzustellen. Die Initiative fordert zudem nachvollziehbare Identitäten für KI-Agenten, kontinuierliche Überwachung, autorisierte Sicherheitstests und die verantwortungsvolle Offenlegung von Schwachstellen.

Wie steht es um das Vertrauen der Öffentlichkeit?

Die Koalition vereint einige der weltweit mächtigsten und am weitesten verbreiteten Technologieunternehmen. Ihre Beteiligung verleiht der Initiative eine beachtliche technische Reichweite, doch die Akzeptanz in der Öffentlichkeit ist nicht selbstverständlich.

Eine Umfrage von Bitdefender unter mehr als 7.000 Internetnutzern in sieben Ländern ergab, dass das Vertrauen je nach Technologieunternehmen stark variiert. Fast neun von zehn Befragten gaben an, Google bis zu einem gewissen Grad zu vertrauen, während dies bei Microsoft 85 % taten. Beide Unternehmen unterzeichneten die Erklärung zur Cyber-Abwehr.

Ironischerweise stößt OpenAI – das Unternehmen, das die Initiative veröffentlicht hat – auf größere Skepsis: 45 % der Befragten äußerten sich misstrauisch gegenüber der Firma.

Die Ergebnisse offenbaren einen zentralen Konflikt: Verbraucher erwarten von Technologieunternehmen, dass diese die Dienste und Informationen schützen, auf die sie angewiesen sind. Gleichzeitig wollen sie jedoch wissen, wie diese Unternehmen ihre Daten verwenden, wie automatisierte Systeme Entscheidungen treffen und wer im Falle von Problemen zur Rechenschaft gezogen wird.

Dies ist besonders wichtig, wenn KI-Tools Zugriff auf sensiblen Programmcode, Infrastrukturkonfigurationen, Sicherheitswarnungen oder operative Systeme erhalten. Autonome Schutzsysteme benötigen klar definierte Berechtigungen, eine robuste Überwachung und menschliche Kontrolle – insbesondere dann, wenn ihre Aktionen Auswirkungen auf kritische Dienste haben könnten.

Eine kollektive Cyber-Abwehr hängt daher von mehr ab als nur vom Zugang zu leistungsstarker Technologie. Sie erfordert zudem Transparenz, Schutzmaßnahmen und den Nachweis, dass die Tools wie vorgesehen funktionieren, ohne neue Risiken für den Datenschutz oder die Sicherheit zu schaffen.

Was dies für Verbraucher bedeutet

Ein erfolgreicher Angriff auf ein Krankenhaus, eine Bank, einen Versorgungsbetrieb oder eine Kommunalverwaltung kann persönliche Daten offenlegen, wichtige Dienste unterbrechen und die Grundlage für nachfolgende Phishing-Versuche, Identitätsdiebstahl und Finanzbetrug bilden. Zudem kann KI Kriminellen dabei helfen, Betrugsnachrichten zu personalisieren, sich als vertrauenswürdige Organisationen auszugeben und betrügerische Kampagnen in weitaus größerem Umfang durchzuführen.

Verbraucher können Sicherheitslücken in den von ihnen genutzten Diensten zwar nicht eigenständig beheben, aber sie können ihr persönliches Risiko verringern: durch die zeitnahe Installation von Updates, die Verwendung einzigartiger Passwörter oder Passkeys, die Aktivierung der Multi-Faktor-Authentifizierung, die Überprüfung von App-Berechtigungen sowie einen vorsichtigen Umgang mit unerwarteten Aufforderungen zur Geldüberweisung oder zur Preisgabe von Zugangsdaten.

Die größere Verantwortung liegt jedoch bei den Organisationen. Da KI die Hürden für hochentwickelte Cyber-Angriffe senkt, ist es zunehmend riskant, bekannte Sicherheitslücken ungepatcht zu lassen oder Konten mit übermäßigen Berechtigungen auszustatten.

Die Botschaft der Koalition unterstreicht letztlich die Dringlichkeit des Handelns, nicht die Unausweichlichkeit einer Entwicklung: KI kann (und wird wahrscheinlich) die Reichweite von Cyber-Angriffen vergrößern, doch sie kann Verteidigern auch dabei helfen, Schwachstellen schneller zu erkennen und zu beheben.