KI und Cybersicherheit – Risiko und Schutzfaktor für Unternehmen
Künstliche Intelligenz (KI) entwickelt sich in rasantem Tempo – und mit ihr verändern sich die Chancen und Risiken in der Cybersicherheit. Für Unternehmen in Deutschland, vom Mittelstand bis zum Großkonzern, stellt sich die Frage: Ist KI vor allem ein neues Einfallstor für Angreifer oder ein mächtiges Werkzeug zur Verteidigung? Eine aktuelle Umfrage des Digitalverbands Bitkom zeigt die Ambivalenz: 57 % der Unternehmen befürchten, dass die Verbreitung generativer KI wie ChatGPT die IT-Sicherheit gefährdet, weil Cyberkriminelle sie für Angriffe nutzen könnten. Gleichzeitig sind aber 35 % überzeugt, dass KI die Cybersicherheit verbessern kann, wenn sie zur Abwehr von Attacken eingesetzt wird. Diese doppelten Facetten von KI – als Risiko und als Schutzfaktor – stehen im Mittelpunkt dieses Beitrags.
KI als Risikofaktor bei Cyberangriffen
Angreifer machen sich KI-Tools zunutze, um Cyberattacken effizienter, schneller und überzeugender zu gestalten. Laut Bundesamt für Sicherheit in der Informationstechnik (BSI) senken generative KI-Modelle die Einstiegshürden für Cyberangriffe deutlich und erhöhen Reichweite sowie Schlagkraft digitaler Attacken. So können selbst weniger versierte Kriminelle mit Hilfe von KI nahezu perfekte Phishing-Mails in jeder Sprache erstellen. Herkömmliche Warnsignale wie holprige Sprache oder Tippfehler greifen nicht mehr, da KI gestützte Betrugsnachrichten qualitativ hochwertig formuliert sind. Sozial manipulierte Angriffe (Social Engineering) gewinnen dadurch an Erfolgswahrscheinlichkeit – Mitarbeiter erhalten z.B. täuschend echt klingende E-Mails im Namen der Firma oder Geschäftsführung, die schwer von legitimen Nachrichten zu unterscheiden sind.
Ein weiteres Bespiel sind Deepfakes, also KI-generierte Audio- und Video-Inhalte, die Personen verblüffend realistisch imitieren. Kriminelle nutzen KI, um z.B. aus kurzen Audiomitschnitten eine Stimme künstlich nachzuahmen. Mit solchen Audio-Deepfakes wurden bereits klassische Betrugsmaschen verfeinert: Anrufer geben sich als bekannter Vorgesetzter oder Verwandter aus, schildern eine dringende Notlage und bringen Mitarbeiter oder Privatpersonen dazu, Geld zu überweisen – der berühmte „Enkeltrick“ in neuer Form. Auch Unternehmen sind alarmiert: In einer aktuellen Erhebung gaben 61 % der befragten Firmen an, 2023 eine Zunahme von Deepfake-Vorfällen erlebt zu haben. In drei Viertel dieser Fälle versuchten die Angreifer, sich als CEO oder anderes Führungspersonal auszugeben. Deepfakes gelten damit als größte Sorge im KI-Kontext – ein Drittel der Unternehmen stuft solche Angriffe als erhebliche oder kritische Bedrohung ein. Das Gefährliche daran ist neben finanziellen Schäden auch der potenzielle Imageschaden, wenn etwa gefälschte Videos gezielt Falschinformationen über ein Unternehmen verbreiten.
Darüber hinaus ermöglicht KI eine Teil-Automatisierung von Angriffen. Große Sprachmodelle sind heute bereits fähig, schadhaften Programmcode zu schreiben. Erste Machbarkeitsstudien zeigen, dass KI auch zur automatischen Generierung und Variation von Malware eingesetzt werden kann. Vollständig autonome Cyberangriffe – also KI-Agenten, die ohne menschliches Zutun ein ganzes Unternehmensnetzwerk kompromittieren – gibt es zwar (noch) nicht und sind in naher Zukunft unwahrscheinlich. Aber Teile des Angriffsprozesses lassen sich schon heute durch KI erledigen: Beispielsweise könnten Eindringlinge KI nutzen, um Sicherheitslücken in Software schneller aufzuspüren, maßgeschneiderte Exploits zu entwickeln oder Antivirenscanner durch polymorphe Malware zu täuschen. Das BSI beobachtet bereits einen Anstieg an KI-gestützten Angriffsmethoden, etwa im Bereich spear-phishing (persönlich zugeschnittene Phishing-Mails) und automatisierter Angriffstools. Mit KI lassen sich Kampagnen in größerem Umfang und Tempo durchführen als je zuvor. Sicherheitsexperten sprechen daher von einem Wettrüsten: Auf jeder neuen KI-Anwendung, die erscheint, finden Angreifer schnell Wege, sie für ihre Zwecke einzusetzen. Für Unternehmen bedeutet das ein höheres Grundrisiko im digitalen Raum – vom Diebstahl vertraulicher Daten bis zu komplexen Betrugsangriffen, die ohne KI-Hilfe so nicht möglich gewesen wären.
KI-Kompetenz als Schutzfaktor in Zeiten von Deepfakes
Angesichts der zunehmenden Gefahr durch Deepfakes und KI-gestützte Social-Engineering-Angriffe rückt ein Aspekt besonders in den Fokus: Die Kompetenzen der Mitarbeitenden im Umgang mit KI und digitalen Bedrohungen. Was früher eine simple Phishing-Mail mit Tippfehlern war, ist heute eine professionell wirkende Nachricht mit realistisch klingender Sprachnachricht im Anhang oder sogar ein täuschend echt wirkender Videocall mit einer gefälschten Führungskraft. Solche Angriffe zielen nicht mehr auf technische Schwachstellen – sie zielen auf Menschen. Deshalb wird digitale Medienkompetenz zur Sicherheitsressource. Mitarbeitende müssen verstehen, was KI heute leisten kann, wie sie zur Täuschung eingesetzt wird und wie sie solche Inhalte erkennen können. Studien zeigen: Je besser geschult die Beschäftigten im Umgang mit KI sind, desto höher ist ihre Fähigkeit, Deepfakes zu erkennen und sich gegen psychologisch raffinierte Angriffe zur Wehr zu setzen .
Unternehmen sollten deshalb nicht nur ihre IT-Sicherheitsmaßnahmen aufrüsten, sondern gezielt in KI-Literacy-Programme investieren – idealerweise als Bestandteil der allgemeinen Sicherheitskultur. Dies umfasst Schulungen zu:
typischen Mustern von KI-Phishing und Deepfakes,
der Erkennung manipulierter Medieninhalte,
dem kritischen Hinterfragen ungewöhnlicher Kommunikationssituationen (z. B. Transferforderungen unter Zeitdruck),
und den sicheren Umgang mit KI-Tools im Arbeitsalltag.
Nicht zuletzt verlangt auch der kommende EU AI Act ausdrücklich, dass Anwender von KI-Systemen über entsprechende Kompetenzen verfügen. Frühzeitig in diese Qualifizierung zu investieren, zahlt sich doppelt aus: als Schutzschild gegen Täuschung – und als Wettbewerbsvorteil durch aufgeklärte Nutzung von KI im Unternehmen.
KI als Schutzfaktor in der Cybersicherheit
Doch KI ist nicht nur Bedrohung, sondern zugleich ein mächtiges Schutzwerkzeug. Gerade weil Cyberangriffe immer schneller und ausgefeilter werden, setzen Sicherheitsabteilungen vermehrt auf KI-Systeme, um dagegenzuhalten. Anomalieerkennung ist ein zentrales Anwendungsfeld: KI kann im Unternehmen ein normales Verhaltensmuster von Systemen und Nutzern erlernen und in Echtzeit Abweichungen erkennen, die auf einen Angriff hindeuten. So lassen sich verdächtige Aktivitäten – etwa plötzlich massenhafte Datenabflüsse oder unübliche Logins – automatisch flaggen, noch bevor Schaden entsteht. Laut einer Forrester-Studie konnte durch KI-gestützte Anomalieerkennung die mittlere Erkennungszeit (Mean Time to Detect, MTTD) von potenziellen Incidents drastisch reduziert werden: von vormals sechs Stunden auf unter fünf Minuten. Das bedeutet, dass Sicherheitsvorfälle wesentlich schneller bemerkt und eingegrenzt werden, was gerade bei Angriffen wie Ransomware oder Datendiebstahl kritisch ist. KI-basierte Überwachungstools durchforsten dabei große Log-Datenmengen oder Netzwerkverkehr unermüdlich und wesentlich effizienter als menschliche Analysten – rund um die Uhr.
Auch bei der Reaktion auf Angriffe (Incident Response) hilft KI, schneller und zielgerichteter zu handeln. Moderne Sicherheitssysteme nutzen Künstliche Intelligenz, um nach der Erkennung eines Vorfalls automatisch Gegenmaßnahmen einzuleiten. Beispiele sind das isolieren eines kompromittierten Rechners vom Netzwerk, das automatische Blockieren verdächtigen Datenverkehrs durch Firewalls oder das Schließen einer entdeckten Sicherheitslücke, noch während der Angriff läuft. Dieses automatisierte Incident Management kann die Reaktionszeit drastisch verkürzen. In manchen Fällen ließ sich die durchschnittliche Dauer bis zur Wiederherstellung (Mean Time to Recover/Respond, MTTR) durch KI-Unterstützung um bis zu 60 % senken. Zudem skaliert KI-gestützte Abwehr ohne linearen Personalausbau – ein Vorteil in Zeiten knapper Security-Fachkräfte. Selbst wenn mitten in der Nacht oder am Wochenende ein Alarm eingeht, kann ein KI-basiertes System sofort handeln und die wichtigsten Schritte ausführen, bis menschliche Experten eingreifen.
Des Weiteren steigert KI die Effektivität im alltäglichen Sicherheitsbetrieb. KI kann beispielsweise den Quellcode von Software automatisiert auf bekannte Schwachstellen prüfen oder Millionen neuer Malware-Dateien analysieren und mit bekannten Mustern abgleichen. Im Bereich Threat Intelligence helfen Machine-Learning-Modelle dabei, aus der Flut an globalen Cyberangriffsdaten und Hinweisen auf neue Taktiken schneller die relevanten Risiken für das eigene Unternehmen herauszufiltern. Wie BSI-Präsidentin Claudia Plattner betont, profitieren auch Cyber-Verteidiger von den Produktivitätsgewinnen der KI – etwa durch automatisierte Code-Analyse, Malware-Erkennung oder das Erstellen aktueller Lagebilder zur Bedrohungslage. In der Summe kann KI so die Rund-um-Abwehr stärken: Von frühzeitiger Erkennung über schnelle Reaktion bis hin zu strategischem Risikomanagement (z.B. Priorisierung von Schwachstellen nach KI-gestützter Risikoabschätzung). Wichtig ist jedoch, dass Unternehmen KI nicht als Autopilot missverstehen, sondern als hilfreiche Assistenz: Die finale Bewertung und Kontrolle sollte stets bei geschulten IT-Sicherheitsfachleuten liegen.
KI-gestützte Sicherheit verantwortungsvoll integrieren
Angesichts der zweischneidigen Natur der KI brauchen Unternehmen eine klare Strategie, wie sie KI-Technologien sicher und verantwortungsvoll einsetzen. Ein zentrales Element dabei ist die Schulung und Sensibilisierung der Mitarbeiter. Die besten KI-Sicherheitssysteme nützen wenig, wenn Angestellte nicht um die neuen Gefahren wissen – oder unbewusst selbst zum Einfallstor werden. Daher setzen viele Firmen auf regelmäßige Awareness-Trainings, um ihr Personal über KI-basierte Bedrohungen aufzuklären. Themen sind hier z.B. das Erkennen von Deepfake-Stimmen am Telefon oder von ungewöhnlich perfekten Phishing-Mails. Tatsächlich geben 73 % der Unternehmen an, aufgrund der KI-Gefahren ihre Sicherheitsstrategie von rein reaktiv auf präventiv umzustellen – und fast die Hälfte nennt gezielte Mitarbeiterschulungen als wichtigste Maßnahme dabei. Indem Mitarbeiter lernen, KI-generierte Betrugsversuche zu durchschauen und sicher mit neuen Tools umzugehen, wird die menschliche Firewall gestärkt. Zugleich sollten interne Richtlinien festlegen, wie eigene Mitarbeiter KI-Werkzeuge nutzen dürfen (Stichwort: keine sensiblen Daten in öffentliche Chatbot-Eingabefelder eingeben, etc.), um Datenabflüsse oder Compliance-Verstöße zu verhindern.
Neben der Humanfaktor-Schiene ist eine solide KI-Governance unerlässlich. Wer KI im Unternehmen einführt, muss sie regelkonform, sicher und verantwortungsvoll nutzen – und dies auch laufend überprüfen. Praktisch heißt das: Es braucht klare Regeln, Zuständigkeiten und Kontrollen rund um KI. Viele Organisationen richten bereichsübergreifende KI-Steuerungsgruppen oder sogar die Rolle eines KI-Beauftragten ein, um den Einsatz von KI-Systemen zu koordinieren. So eine Governance-Struktur definiert z.B. Verantwortliche für die Überwachung der KI-Anwendungen und ein Gremium, das die Einhaltung von Richtlinien regelmäßig prüft. Auch sollten vor Einführung einer KI-Lösung Risikoanalysen stattfinden: Welche neuen Risiken bringt das Modell mit sich (Bias, Fehlentscheidungen, Angreifbarkeit durch adversarial attacks)? Wie kritisch sind die Daten, die dafür genutzt werden? – Passend dazu fordern Regulierungen wie der kommende EU AI Act eine Einstufung von KI-Systemen nach Risiko und entsprechende Vorkehrungen. Unternehmen sollten frühzeitig sicherstellen, dass ihre KI-Anwendungen transparent und nachvollziehbar funktionieren, die Trainingsdaten qualitätsgesichert und frei von unvertretbaren Verzerrungen sind, und dass es Mechanismen zur kontinuierlichen Überwachung gibt, um Fehlentwicklungen oder Halluzinationen der KI zu erkennen. Kurz: "Vertrauenswürdige KI" sollte das Leitprinzip sein – nur dann lassen sich die Vorteile nutzen, ohne unkalkulierbare Risiken einzugehen.
Schließlich kann es für Mittelständler sinnvoll sein, bei der Implementierung KI-gestützter Sicherheitslösungen externe Unterstützung in Anspruch zu nehmen. Nicht jede Firma hat die Ressourcen, eigene KI-Modelle zu entwickeln oder riesige Datenbestände vorzuhalten. Hier kommen spezialisierte Sicherheitsanbieter ins Spiel: Viele Cybersecurity-Dienstleister bieten inzwischen KI-basierte Lösungen – von Managed Detection & Response mit KI-Unterstützung bis hin zu Beratungsleistungen, um KI sicher in bestehende Prozesse zu integrieren. Die Zusammenarbeit mit vertrauenswürdigen Dienstleistern oder Startups kann den Einstieg erleichtern, sollte aber ebenfalls gut gesteuert werden (etwa durch vertragliche Regelungen zum Datenschutz und zur Verantwortlichkeit der KI-Ergebnisse). Wichtig ist, dass Know-how-Transfer stattfindet: interne Teams sollten verstehen, wie die KI im Hintergrund arbeitet, um im Ernstfall eingreifen zu können. Insgesamt empfiehlt es sich, einen gestuften Ansatz zu wählen – zunächst Pilotprojekte unter Aufsicht, Erfolgskontrolle, dann schrittweiser Roll-out – statt blindlings auf jeden neuen KI-Trend aufzuspringen. So bleibt die Kontrolle erhalten, und die Organisation kann aus frühen Erfahrungen lernen.
Orientierung durch deutsche Institutionen und Netzwerke
Unternehmen stehen beim Thema KI und Cybersicherheit nicht alleine da. In Deutschland gibt es zahlreiche Institutionen, Verbände und Netzwerke, die Orientierung und Unterstützung bieten:
BSI und Allianz für Cyber-Sicherheit (ACS): Das Bundesamt für Sicherheit in der Informationstechnik (BSI) ist die zentrale Anlaufstelle der Bundesregierung für Cybersecurity. Es warnt vor aktuellen KI-bezogenen Bedrohungen und gibt praxisnahe Hinweise, wie man sich schützen kann – etwa in Form von Lageberichten, Handlungsempfehlungen oder einem kürzlich veröffentlichten Deepfake-Leitfaden. Über die Allianz für Cyber-Sicherheit, einem vom BSI initiierten Netzwerk, können sich Unternehmen zudem vernetzen und kostenlos Informationen abrufen. In speziellen ACS-Expertenkreisen tauschen sich Fachleute z.B. zum Thema „KI-Sicherheit“ aus, um Best Practices zu entwickeln. BSI-Präsidentin Claudia Plattner rät Unternehmen ausdrücklich, KI-Möglichkeiten proaktiv zu nutzen, bevor Angreifer es tun, und Cybersicherheit zur Chefsache zu machen. Dazu gehört auch, Sicherheitsupdates schneller einzuspielen (Patch-Management) und IT-Systeme zu härten – denn KI-gestützte Angriffe erfordern ein höheres Tempo in der Verteidigung. Die Botschaft: Bleiben Sie am Ball der KI-Entwicklung, nutzen Sie verfügbare Sicherheits-KI-Tools und verfolgen Sie die Hinweise von Institutionen wie dem BSI, um stets einen Schritt voraus zu sein.
Bitkom und Brancheninitiativen: Als Deutschlands Digitalverband hat Bitkom ebenfalls ein Auge auf KI und Security. Bitkom veröffentlicht Studien, Umfragen und Leitfäden zu diesem Thema – zuletzt etwa den Leitfaden „KI & Informationssicherheit“, der einen strukturierten Überblick gibt, wie Unternehmen KI sicher nutzen und zugleich zur Stärkung der eigenen IT-Sicherheit einsetzen können. Der Verband betont, dass KI eine Basistechnologie ist, die großen Nutzen stiften kann, während Cyberkriminelle sich von Verboten kaum abhalten lassen. Daher plädiert Bitkom dafür, die Chancen von KI proaktiv in der Cyberabwehr zu nutzen. Allerdings zeigt die Bitkom-Befragung auch, dass bisher erst 14 % der Unternehmen KI-Anwendungen gezielt zur Verbesserung ihrer Cybersecurity einsetzen – hier gibt es Nachholbedarf. Bitkom bietet Info-Veranstaltungen, Webinare (z.B. über die Bitkom-Akademie) und Arbeitskreise, in denen sich Entscheider aus Unternehmen austauschen können. Auch regionale Industrie- und Handelskammern (IHKs) greifen das Thema vermehrt auf und vermitteln Förderprogramme sowie Beratungsangebote, speziell für den Mittelstand.
DsiN – Deutschland sicher im Netz: Der Verein „Deutschland sicher im Netz e.V.“ richtet sich sowohl an Verbraucher als auch an Unternehmen und will die digitale Sicherheitskompetenz breit stärken. DsiN steht unter Schirmherrschaft des Bundesinnenministeriums und fungiert als Ansprechpartner für Fragen der IT-Sicherheit, insbesondere für kleine und mittlere Unternehmen. Konkret stellt DsiN Hilfestellungen für den sicheren Umgang mit neuen Technologien bereit – von Aufklärungsprojekten über Leitfäden bis hin zu kostenlosen Tools. Zum Thema KI bietet DsiN etwa die Plattform KInsights.de an, die einen einfachen Einstieg in Künstliche Intelligenz ermöglicht. Zudem gibt es das Projekt „IT-Sicherheit@Mittelstand“, in dessen Rahmen Workshops und Materialien für kleinere Betriebe entwickelt werden. Unternehmen können diese Ressourcen nutzen, um sich und ihre Belegschaft auf dem Laufenden zu halten. Nicht zuletzt arbeitet DsiN eng mit Partnern wie dem BSI, der Allianz für Cyber-Sicherheit und auch Branchenunternehmen zusammen – hier fließt also Wissen aus verschiedenen Ecken zusammen. Für Entscheider bedeutet das: Sie können sich an DsiN wenden, um praxisnahe Empfehlungen zu erhalten, wie man z.B. Mitarbeiter für KI-Gefahren sensibilisiert oder erste Schritte für eine sichere KI-Nutzung im Betrieb plant.
Zusätzlich lohnt ein Blick auf europäische Stellen: Die EU-Agentur für Cybersicherheit ENISA analysiert regelmäßig neue Trends – ihr Lagebericht 2024 hebt etwa hervor, dass generative KI vermehrt in Phishing und Social-Engineering-Angriffen eingesetzt wird und dadurch die Erkennung erschwert. Solche Publikationen geben Hinweise, wohin die Reise geht, und enthalten oft Empfehlungen, die auch für deutsche Unternehmen relevant sind.
Fazit: KI ist für die Cybersicherheit von Unternehmen in Deutschland Fluch und Segen zugleich. Einerseits entstehen neuartige Bedrohungen wie täuschend echte Deepfake-Betrügereien oder automatisierte Hackertools, die ernste Risiken für Geschäftsbetrieb und Reputation mit sich bringen. Andererseits bietet KI enorme Chancen, diese Gefahren mit gleicher Münze zu schlagen – durch schnellere Erkennung, intelligente Abwehr und effizientere Security-Prozesse. Für Entscheider kommt es darauf an, strategisch abzuwägen und zu handeln: die eigenen Schutzmaßnahmen auf den neuesten Stand bringen, KI-gestützte Lösungen verantwortungsvoll einführen und die Belegschaft fit machen für das KI-Zeitalter. Dabei helfen Netzwerke und Institutionen wie BSI, Bitkom, ACS oder DsiN mit Wissenstransfer und Orientierung. So kann KI vom Risikofaktor zum wichtigen Schutzfaktor werden – und Unternehmen letztlich resilienter und zukunftsfähiger machen, anstatt sie verwundbarer zu machen. Denn die Technologie ist gekommen, um zu bleiben – es liegt an uns, sie sicher zu nutzen.