Expert-Talk: GEO-PR: "Es geht um Relevanz in KI-Systemen" Video-Podcast ansehen
Wer in ChatGPT, Gemini oder Perplexity sichtbar sein will, darf sich nicht auf die eigene Website verlassen. Denn KI-Systeme prüfen, was andere über eine Marke sagen - auf Fachportalen, Bewertungsplattformen, Vergleichsseiten, Reddit oder YouTube. Hier setzt GEO-PR an. Video-Podcast ansehen
Was ist Deine Digitalagentur wert? Agenturwert berechnen
Sechs Zahlen aus der BWA genügen, um herauszufinden, was aktuell Deine Agentur wert ist und welche Faktoren den Wert beeinflussen.
Agenturwert berechnen

November 2026 · Unser Geburtstagsgeschenk

35 Jahre iBusiness.
Im November alles frei lesen.

Zum Jubiläum öffnen wir alle iBusiness-Inhalte: vom 1. bis 30. November, für alle, ohne Anmeldung und ohne Bezahlschranke.

Alle Inhalte im November kostenlos
Heute frei lesen. Morgen nichts verpassen.

Registrieren Sie sich kostenlos und abonnieren Sie anschließend den iBusiness-Newsletter. So bleiben Sie bei den Themen auf dem Laufenden, die für Sie zählen.

Das Newsletter-Abo erhalten Sie im Rahmen der kostenlosen Registrierung.

Abruf exklusiv für Premium-Mitglieder
KI-Security

Unbekanntes mit Unbekanntem bekämpfen? Lieber nicht

21.06.2023 Wenn man jetzt eine bis an die Zähne bewaffnete KI in den Kampf gegen Cyberbedrohungen schickt, wird der Verteidiger zum Sicherheitsrisiko.

iBusiness-Analyst Sebastian Halm
Es muss ja nicht gleich so sein, wie es unser Experte im vorangegangenen Beitrag als Worst-Case-Szenario beschwört: Die KI-Sicherheitssoftware muss nicht zur bösartigen Malware mutieren, die sich gegen ihren Klienten richtet.

Viel schlimmer ist die akute Gefahr, dass Hacker bei der KI-Lösung Einfallstore finden oder Wege, sie zu manipulieren, von denen ProgrammiererInnen und NutzerInnen nichts wissen. Eine KI ist eine Blackbox, sie in den Kampf gegen eine andere Blackbox zu schicken, ist nicht ohne.

Deshalb benötigen wir dringen AI TRiSM: TRiSM steht für Trust, Risk and Security Management und bezeichnet eine KI, die mittels verschiedener Features versucht, Nachvollziehbarkeit zu erreichen: Wieso handelt die KI so wie sie handelt? Was genau läuft bei ihren Entscheidungsprozessen ab? Das geht aktuell nicht. Die lernenden Algorithmen sind zum einen so komplex und zum anderen dynamisch, so dass man nicht mehr zurückverfolgen kann, wie genau sie zu einer Entscheidung kam.

Das wäre aber essentiell, um herauszufinden, wie ein Hacker es geschafft hat, sie zu überlisten oder - noch schlimmer - warum sie schädliche Handlungen vorgenommen hat.

Dummerweise dauert es noch zwei bis fünf Jahre, bis AI TRiSM in den Mainstream gelangen wird (wie iBusiness in seiner Vorschau auf die nächste Dekade von KI berichtete). Bis dahin ist KI ein doppeltes Risiko in der Security, sowohl als Angreifer als auch als unkalkulierbarer Verbündeter.
Thema: KI vs. Cybercrimes

KI in der Cybersicherheit: Die unkalkulierbare Verbündete

Cybersicherheit droht ein nukleares Dilemma: Sie muss bei KI aufrüsten, um KI-Angriffe abzuwehren. So infiltriert KI die Verteidigungsmechanismen doppelt. Wie sollten Firmen handeln?

Weiterlesen
Die KI-Sicherheit in den Kampf gegen die KI-Bedrohung zu schicken, ist unausweichlich, doch man muss aufpassen, dass einem die neue Waffe nicht in der Hand explodiert. (Bild: Midjourney/Sebastian Halm)
Bild: Midjourney/Sebastian Halm
Die KI-Sicherheit in den Kampf gegen die KI-Bedrohung zu schicken, ist unausweichlich, doch man muss aufpassen, dass einem die neue Waffe nicht in der Hand explodiert.

Kommentar von Sebastian Halm

Unbekanntes mit Unbekanntem bekämpfen? Lieber nicht

Wenn man jetzt eine bis an die Zähne bewaffnete KI in den Kampf gegen Cyberbedrohungen schickt, wird der Verteidiger zum Sicherheitsrisiko.

Weiterlesen
iBusiness-Analyst Sebastian Halm (Timo Bierbaum)
Bild: Timo Bierbaum
Neuer Kommentar  Kommentare:
Schreiben Sie Ihre Meinung, Erfahrungen, Anregungen mit oder zu diesem Thema. Ihr Beitrag erscheint an dieser Stelle.
alle Veranstaltungen Webcasts zu diesem Thema:
Dienstleister-Verzeichnis Agenturen/Dienstleister zu diesem Thema: