Tech Transformation - vom Code zur Kognition

Parent Page Home
Parent Page News & Insights
Parent Page Spotlight: Tech Transformation & Cyber-Risiken 2025
Tech Transformation - vom Code zur digitalen Wahrnehmung

Tech Transformation - vom Code zur digitalen Wahrnehmung

Unternehmen müssen den Spagat zwischen Nutzen und Risiko von künstlicher Intelligenz maximieren und gleichzeitig sicherzustellen, dass geeignete Schutzmaßnahmen implementiert sind, um bekannte und unbekannte Risiken zu mindern.

KI-Optimismus

Künstliche Intelligenz hat das Gesundheitswesen, das Finanzwesen und die Produktion revolutioniert. Doch sie birgt auch Risiken: Verlust von Arbeitsplätzen, ethische Bedenken, Cybersicherheit, IP-Risiken und Datenschutz.

Unsere Studie zeigt, dass der Optimismus von Führungskräften gegenüber KI trptzdem wächst.

Der Einsatz von KI in Europa nimmt rasch zu - so eine aktuelle Studie von Amazon Web Services: Pro Minute integrieren durchschnittlich fünf Unternehmen KI in ihre Systeme[12]. Innerhalb von nur einem Jahr ist der Anteil der europäischen Unternehmen, die KI konsequent einsetzen, um 27 % gestiegen, von etwa 33 % im Jahr 2023 auf 42 % im Jahr 2024. Ein solches Wachstum ist beispiellos und übertrifft sogar die Einführungsraten früherer disruptiver Technologien, wie Mobiltelefone, die zwischen 2007 und 2008 ein Spitzenwachstum von 18 % verzeichneten[13].

Größere Unternehmen stehen bei der Einführung und Verbreitung von KI an vorderster Front[14]. Es hat sich auch gezeigt, dass diese Unternehmen eher Best Practices für das Risikomanagement bei der allgemeinen Einführung von KI anwenden als KMU. Das deutet darauf hin, dass die Fähigkeit, das Potenzial von KI voll auszuschöpfen, immer noch mit der Größe und den Ressourcen eines Unternehmens zusammenhängt.

Risiko und Chance

So rege Unternehmen dabei sind KI zu implementieren, so rege wird auch über die Risiken diskutiert. Küntliche Intelligenz steckt noch in den Kinderschuhen. Daher ist es wichtig, sie vorsichtig in Systeme zu integrieren. Denn sie kann auch ungenaue oder irreführende Ergebnisse liefern. Meschliche Kontrolle ist daher unerlässlich.

"Generative KI bringt Schwankungen in die Gleichung ein, die häufig zu guten, aber gelegentlich auch zu schlechten Ergebnissen führen. Organisationen dürfen nicht selbstgefällig werden und erwarten, dass das, was einmal funktioniert hat, auch in Zukunft funktioniert. Die Implementierung von Leitplanken, die Durchführung gründlicher Tests und die Aufklärung der Nutzer über den verantwortungsvollen Umgang mit KI sind unerlässlich, um die neuen Risiken, die KI mit sich bringt, zu mindern."

Craig Linton
Head of US Underwriting Management - Cyber

Bedeutende Fortschritte in der KI[15] bedeuten, dass diese transformative Technologie jetzt in der Lage ist, komplexe Aufgaben auf Aufforderung hin auszuführen. Bis vor kurzem wurde mit KI-Agenten mehr geplaudert als gehandelt, aber das wird sich wahrscheinlich bald ändern.

Auch in der Patientendiagnostik und -pflege sowie in der wissenschaftlichen Forschung wird KI erfolgreich eingesetzt, um komplexe Probleme zu lösen und neue Innovationen zu ermöglichen.
Außerdem ergänzt sie menschliche Fähigkeiten und verbessert die durchgängige Automatisierung in Bereichen, wie Logistik und Kundensupport. Das macht Prozesse effizient und Unternehmen reaktionsfähiger.

Auch bei der Erkennung und Verhinderung von Cyberbedrohungen spielt KI eine Schlüsselrolle und ist daher für den Schutz digitaler Vermögenswerte ein strategischer Vorteil, der in einer digitalen Welt unerlässlich ist.

Rechtlichen und regulatorische Herausforderungen im Zusammenhang mit KI entwickeln sich weiter und erfordern die Einhaltung einer Vielzahl von neuen und bestehenden Gesetzen. Datenschutz und -sicherheit sowie IP-Risiken stehen im Vordergrund und es bleibt notwendig sensible Daten und Urheberrechte zu schützen. KI-Tools müssen daher verantwortungsbewusst eingesetzt werden - als Hilfsmittel und nicht als Ersatz für menschliches Urteilsvermögen. KI-generierte Ergebnisse müssen überprüft und validiert werden.

"Wir beobachten einen Anstieg der KI-bedingten Klagen wegen Verletzung des geistigen Eigentums und des Urheberrechts, die sich aus dem Training großer Sprachmodelle ergeben. Wir sehen auch Schäden durch Verleumdung, bei denen KI-Tools eingesetzt werden, um Experten zu überprüfen und keine korrekten Berichte liefern."

Melissa Collins
Claims Focus Group Leader - Third Party Liability Cyber & Tech

Veraltete Technik

Die Einführung einer digitalen Transformationsstrategie, die auf KI basiert, birgt Bedenken hinsichtlich des Risikos von veralteter Technik und des Potenzials für Betriebsunterbrechungen: Effizienzen könnten vermindert oder Wettbewerbsfähigkeit eingeschränkt werden. Angesichts der rasanten technologischen Entwicklung scheinen Unternehmen jedoch zuversichtlicher zu sein, was das Risiko der technologischen Obsoleszenz angeht: Nur 15 % der in diesem Jahr befragten Unternehmen fühlen sich auf diese Bedrohungen "unvorbereitet"[ii], ein deutlicher Rückgang gegenüber 24 % im Jahr 2024.

Trotz der wachsenden Zuversicht gegenüber KI dürfen Fühungskräfte nicht selbstzufrieden sein. Tech-Investitionen müssen sorgfältig geplant und die Langlebigkeit von Investitionen berücksichtigt werden.

Neue Betriebsstrukturen

KI im Gesundheitswesen, Robotik und natürliche Sprachverarbeitung zeigen, wie der technologische Fortschritt die Arbeitswelt verändert. Wobei bestimmte Berufe anfälliger für die Automatisierung sind als andere: 66 % der befragten Führungskräfte sind der Meinung, dass KI in den nächsten 18 Monaten Arbeitsplätze in ihrem Unternehmen verdrängen wird - eine Einschätzung, die sich seit 2024 nicht verändert hat.

Viele Regierungen befassen sich aktiv mit den ethischen und sozialen Risiken, die KI mit sich bringt. Entscheider sollten sicherstellen, dass Risikomanagement und ihre Strategien zur digitalen Transformation miteinander laufen.

Darüber hinaus müssen sie die zunehmenden Arbeitgeberrisiken erkennen, wenn KI Arbeitsplätze ersetztoder zu erheblichen Veränderungen der internen Rollenbeschreibungen führt.
Unternehmen müssen den digitalen Wandel verantwortungsbewusst gestalten. Es gilt, die Vorteile der gesteigerten Effizienz einzusetzen und Mitarbeitende pflichtbewusst bei Trainings oder Umschulungen zu unterstützen - für die Arbeitsplätze von morgen.

"Unternehmen sollten alle KI-Systeme, die zur Bewertung von Bewerbern, der Leistung von Arbeitnehmern und/oder zur Verdrängung von Arbeitnehmenden eingesetzt werden, jährlich einer unabhängigen Prüfung auf Vorurteile unterziehen, um Diskriminierungs- und Fehlinformationsrisiken zu minimieren.

Letoyia Horton
Claims Focus Group Leader – Employment Practices Liability

KI-Optimismus

Technologische Obsoleszenz

Risiko und Chance

Risiko und Chance

So rege Unternehmen dabei sind KI zu implementieren, so rege wird auch über die Risiken diskutiert. Küntliche Intelligenz steckt noch in den Kinderschuhen. Daher ist es wichtig, sie vorsichtig in Systeme zu integrieren. Denn sie kann auch ungenaue oder irreführende Ergebnisse liefern. Meschliche Kontrolle ist daher unerlässlich.

"Generative KI bringt Schwankungen in die Gleichung ein, die häufig zu guten, aber gelegentlich auch zu schlechten Ergebnissen führen. Organisationen dürfen nicht selbstgefällig werden und erwarten, dass das, was einmal funktioniert hat, auch in Zukunft funktioniert. Die Implementierung von Leitplanken, die Durchführung gründlicher Tests und die Aufklärung der Nutzer über den verantwortungsvollen Umgang mit KI sind unerlässlich, um die neuen Risiken, die KI mit sich bringt, zu mindern."

Craig Linton
Head of US Underwriting Management - Cyber

Bedeutende Fortschritte in der KI[15] bedeuten, dass diese transformative Technologie jetzt in der Lage ist, komplexe Aufgaben auf Aufforderung hin auszuführen. Bis vor kurzem wurde mit KI-Agenten mehr geplaudert als gehandelt, aber das wird sich wahrscheinlich bald ändern.

Auch in der Patientendiagnostik und -pflege sowie in der wissenschaftlichen Forschung wird KI erfolgreich eingesetzt, um komplexe Probleme zu lösen und neue Innovationen zu ermöglichen.
Außerdem ergänzt sie menschliche Fähigkeiten und verbessert die durchgängige Automatisierung in Bereichen, wie Logistik und Kundensupport. Das macht Prozesse effizient und Unternehmen reaktionsfähiger.

Auch bei der Erkennung und Verhinderung von Cyberbedrohungen spielt KI eine Schlüsselrolle und ist daher für den Schutz digitaler Vermögenswerte ein strategischer Vorteil, der in einer digitalen Welt unerlässlich ist.

Rechtlichen und regulatorische Herausforderungen im Zusammenhang mit KI entwickeln sich weiter und erfordern die Einhaltung einer Vielzahl von neuen und bestehenden Gesetzen. Datenschutz und -sicherheit sowie IP-Risiken stehen im Vordergrund und es bleibt notwendig sensible Daten und Urheberrechte zu schützen. KI-Tools müssen daher verantwortungsbewusst eingesetzt werden - als Hilfsmittel und nicht als Ersatz für menschliches Urteilsvermögen. KI-generierte Ergebnisse müssen überprüft und validiert werden.

"Wir beobachten einen Anstieg der KI-bedingten Klagen wegen Verletzung des geistigen Eigentums und des Urheberrechts, die sich aus dem Training großer Sprachmodelle ergeben. Wir sehen auch Schäden durch Verleumdung, bei denen KI-Tools eingesetzt werden, um Experten zu überprüfen und keine korrekten Berichte liefern."

Melissa Collins
Claims Focus Group Leader - Third Party Liability Cyber & Tech

Veraltete Technik

Neue Betriebsstrukturen

Neue Betriebsstrukturen

KI im Gesundheitswesen, Robotik und natürliche Sprachverarbeitung zeigen, wie der technologische Fortschritt die Arbeitswelt verändert. Wobei bestimmte Berufe anfälliger für die Automatisierung sind als andere: 66 % der befragten Führungskräfte sind der Meinung, dass KI in den nächsten 18 Monaten Arbeitsplätze in ihrem Unternehmen verdrängen wird - eine Einschätzung, die sich seit 2024 nicht verändert hat.

Viele Regierungen befassen sich aktiv mit den ethischen und sozialen Risiken, die KI mit sich bringt. Entscheider sollten sicherstellen, dass Risikomanagement und ihre Strategien zur digitalen Transformation miteinander laufen.

Darüber hinaus müssen sie die zunehmenden Arbeitgeberrisiken erkennen, wenn KI Arbeitsplätze ersetztoder zu erheblichen Veränderungen der internen Rollenbeschreibungen führt.
Unternehmen müssen den digitalen Wandel verantwortungsbewusst gestalten. Es gilt, die Vorteile der gesteigerten Effizienz einzusetzen und Mitarbeitende pflichtbewusst bei Trainings oder Umschulungen zu unterstützen - für die Arbeitsplätze von morgen.

"Unternehmen sollten alle KI-Systeme, die zur Bewertung von Bewerbern, der Leistung von Arbeitnehmern und/oder zur Verdrängung von Arbeitnehmenden eingesetzt werden, jährlich einer unabhängigen Prüfung auf Vorurteile unterziehen, um Diskriminierungs- und Fehlinformationsrisiken zu minimieren.

Letoyia Horton
Claims Focus Group Leader – Employment Practices Liability

Spotlight

Der Einsatz von KI hat deutlich zugenommen, wobei größere Organisationen bei der Implementierung und Skalierung von KI-Technologien führend sind. Der Enthusiasmus für KI muss jedoch mit Vorsicht vor den Risiken, die sie mit sich bringen kann, gemildert werden, und es müssen maßgeschneiderte Strategien für das Risikomanagement entwickelt werden.
Das Risiko einer Unterinvestition in KI überwiegt bei weitem das Risiko einer Überinvestition. Die Vorteile von KI überwiegen die Komplexität der richtigen Auswahl und Implementierung beachtlich.
Menschliche Kontrolle ist unerlässlich, um Risiken wie Urheberrechtsverletzungen, Verstöße gegen geistiges Eigentum oder Verleumdung zu minimieren. KI kann zu unerwarteten Ergebnissen führen und Unternehmen müssen ihre Beschäftigten über die Grenzen von KI aufklären und sicherstellen, dass KI-Tools verantwortungsvoll und effektiv eingesetzt werden.