Agenturwert berechnen
November 2026 · Unser Geburtstagsgeschenk
35 Jahre iBusiness.
Im November alles frei lesen.
Zum Jubiläum öffnen wir alle iBusiness-Inhalte: vom 1. bis 30. November, für alle, ohne Anmeldung und ohne Bezahlschranke.
Alle Inhalte im November kostenlosRegistrieren Sie sich kostenlos und abonnieren Sie anschließend den iBusiness-Newsletter. So bleiben Sie bei den Themen auf dem Laufenden, die für Sie zählen.
Unbekanntes mit Unbekanntem bekämpfen? Lieber nicht
21.06.2023 Wenn man jetzt eine bis an die Zähne bewaffnete KI in den Kampf gegen Cyberbedrohungen schickt, wird der Verteidiger zum Sicherheitsrisiko.
Viel schlimmer ist die akute Gefahr, dass Hacker bei der KI-Lösung Einfallstore finden oder Wege, sie zu manipulieren, von denen ProgrammiererInnen und NutzerInnen nichts wissen. Eine KI ist eine Blackbox, sie in den Kampf gegen eine andere Blackbox zu schicken, ist nicht ohne.
Deshalb benötigen wir dringen AI TRiSM: TRiSM steht für Trust, Risk and Security Management und bezeichnet eine KI, die mittels verschiedener Features versucht, Nachvollziehbarkeit zu erreichen: Wieso handelt die KI so wie sie handelt? Was genau läuft bei ihren Entscheidungsprozessen ab? Das geht aktuell nicht. Die lernenden Algorithmen sind zum einen so komplex und zum anderen dynamisch, so dass man nicht mehr zurückverfolgen kann, wie genau sie zu einer Entscheidung kam.
Das wäre aber essentiell, um herauszufinden, wie ein Hacker es geschafft hat, sie zu überlisten oder - noch schlimmer - warum sie schädliche Handlungen vorgenommen hat.
Dummerweise dauert es noch zwei bis fünf Jahre, bis AI TRiSM in den Mainstream gelangen wird (wie iBusiness in seiner Vorschau auf die nächste Dekade von KI berichtete). Bis dahin ist KI ein doppeltes Risiko in der Security, sowohl als Angreifer als auch als unkalkulierbarer Verbündeter.
