KI und Cybersicherheit: Wirtschaft fordert Sicherheitsarchitektur für agentische KI

Künstliche Intelligenz entwickelt sich rasant weiter. Mit sogenannten agentischen KI-Systemen geht sie zunehmend über die Automatisierung einzelner Aufgaben hinaus: KI kann ganze Prozessketten eigenständig planen, ausführen und koordinieren. Das schafft erhebliche Chancen für Produktivität und Wertschöpfung – zugleich aber neue Risiken für Cybersicherheit und digitale Souveränität. Leistungsfähige KI kann dabei nicht nur Cyberangriffe abwehren, sondern auch Schwachstellen identifizieren und Angriffe automatisieren. Mit zunehmender Autonomie verschiebt sich die Sicherheitsfrage daher vom einzelnen Modell hin zum gesamten KI-Ökosystem aus Modellen, Daten, Schnittstellen und Berechtigungen. Aus Sicht des Wirtschaftsrates muss Deutschland deshalb KI-Innovationen ermöglichen und zugleich eine leistungsfähige Sicherheitsarchitektur schaffen. Cybersicherheit darf dabei nicht zur Bremse, sondern muss zur Voraussetzung für den sicheren Einsatz von KI werden.

 

Agentische KI verändert die Sicherheitslage

Mit zunehmender Autonomie von KI entstehen neue Cyberrisiken. Wenn KI-Agenten eigenständig auf Daten, Systeme und digitale Werkzeuge zugreifen können, können Fehler oder Manipulationen unmittelbar reale Auswirkungen haben. Aus Sicht der Wirtschaft müssen daher insbesondere Zugriffsrechte, Monitoring und menschliche Kontrolle an die wachsende Autonomie von KI angepasst werden. Gleichzeitig nutzen Angreifer KI zunehmend, um Cyberangriffe effizienter und skalierbarer zu machen. KI wird damit zugleich Angriffsrisiko und Verteidigungsinstrument. Für Unternehmen kommt es deshalb darauf an, KI nicht nur sicher einzusetzen, sondern auch konsequent für die eigene Cyberabwehr zu nutzen.

 

Europa schafft neuen Rahmen für KI-Sicherheit

Mit dem AI Act verfügt die Europäische Union über einen risikobasierten Rechtsrahmen für KI. Für besonders leistungsfähige General-Purpose-AI-Modelle mit systemischem Risiko gelten zusätzliche Anforderungen an Risikobewertung, Evaluierung und Cybersicherheit. Ergänzt wird der AI Act durch NIS2, den Cyber Resilience Act, DORA und den Cyber Solidarity Act. Mit dem im Juli 2026 vorgestellten EU Action Plan on Cybersecurity and Artificial Intelligence soll zudem die europäische Fähigkeit zur Evaluierung fortschrittlicher KI gestärkt werden. Der Wirtschaftsrat begrüßt den risikobasierten Ansatz, fordert aber eine praxistaugliche und innovationsfreundliche Umsetzung. Neue Vorgaben müssen klar, verhältnismäßig und möglichst einheitlich ausgestaltet sein. Insbesondere für Mittelstand und Start-ups darf zusätzliche Regulierung nicht zum Wettbewerbsnachteil werden.

 

Deutschland schafft mit dem AISI neue Sicherheitskompetenz

Mit der Gründung des AISI Deutschland setzt die Bundesregierung auf eigene technische Kompetenz für KI-Sicherheit. Das von Bundesdigitalminister Dr. Karsten Wildberger und Bundesinnenminister Alexander Dobrindt vorangetriebene Institut wurde am 31. August 2026 gegründet. In einer ersten Phase bilden BSI und Bundesnetzagentur den Nukleus. Das AISI soll ausdrücklich keine zusätzliche Regulierungsbehörde sein, sondern als Kompetenz- und Evaluierungsinstitut fortschrittliche KI-Systeme technisch bewerten und Risiken frühzeitig erkennen. Gerade bei Frontier-Modellen ist eine unabhängige Bewertung wichtig, um nicht allein auf die Sicherheitsangaben der Anbieter angewiesen zu sein.

 

Für eine innovationsfreundliche und zugleich resiliente KI-Sicherheitsarchitektur fordert der Wirtschaftsrat:

 

•       Unabhängige Evaluierung und klare Sicherheitsstandards: Hochleistungsfähige und agentische KI-Systeme müssen unabhängig auf Risiken und Fähigkeiten getestet werden. Dabei braucht es klare, risikobasierte Anforderungen an Berechtigungen, Monitoring, Auditierbarkeit und menschliche Kontrolle.
  
  
•       Verzahnung von KI-, Cyber- und Wirtschaftspolitik: Deutschland und Europa müssen ihre Initiativen stärker zusammenführen und Doppelstrukturen vermeiden. Sicherheitsanforderungen sollten möglichst einheitlich und praxistauglich gestaltet werden, damit insbesondere Mittelstand und Start-ups nicht durch zusätzliche Bürokratie belastet werden.
  
  
•       AISI als schlagkräftiges Kompetenzzentrum: Das AISI sollte schnell handlungsfähig werden und als technisch unabhängige Schnittstelle zwischen Staat, Wirtschaft und Forschung agieren. Eine enge internationale Vernetzung und gemeinsame Evaluierungsstandards sind dabei entscheidend.

 

Fazit: Agentische KI verändert auch die Cybersicherheit. Deutschland und Europa müssen deshalb die Fähigkeit stärken, Risiken fortschrittlicher KI technisch und unabhängig zu bewerten. Mit dem AI Act, dem europäischen Aktionsplan und dem AISI entstehen dafür wichtige Strukturen. Sicherheit und Innovation sind keine Gegensätze, sondern Voraussetzung dafür, die Potenziale agentischer KI wirtschaftlich zu nutzen und die digitale Souveränität zu stärken.