Expert-Talk: GEO-PR: "Es geht um Relevanz in KI-Systemen" Video-Podcast ansehen
Wer in ChatGPT, Gemini oder Perplexity sichtbar sein will, darf sich nicht auf die eigene Website verlassen. Denn KI-Systeme prüfen, was andere über eine Marke sagen - auf Fachportalen, Bewertungsplattformen, Vergleichsseiten, Reddit oder YouTube. Hier setzt GEO-PR an. Video-Podcast ansehen
Was ist Deine Digitalagentur wert? Agenturwert berechnen
Sechs Zahlen aus der BWA genügen, um herauszufinden, was aktuell Deine Agentur wert ist und welche Faktoren den Wert beeinflussen.
Agenturwert berechnen

November 2026 · Unser Geburtstagsgeschenk

35 Jahre iBusiness.
Im November alles frei lesen.

Zum Jubiläum öffnen wir alle iBusiness-Inhalte: vom 1. bis 30. November, für alle, ohne Anmeldung und ohne Bezahlschranke.

Alle Inhalte im November kostenlos
Heute frei lesen. Morgen nichts verpassen.

Registrieren Sie sich kostenlos und abonnieren Sie anschließend den iBusiness-Newsletter. So bleiben Sie bei den Themen auf dem Laufenden, die für Sie zählen.

Das Newsletter-Abo erhalten Sie im Rahmen der kostenlosen Registrierung.

Abruf exklusiv für Premium-Mitglieder

In Festanstellung gesucht: Positivdiskriminierer

14.12.2018 So wünschenswert rassismusfreie Algorithmen sind - so notwendig werden bald gezielt einprogrammierte Vorbehalte sein. Der Aufschrei ist mitprogrammiert.

Männer sind gefährlicher als Frauen: Die kloppen sich öfter betrunken, fahren aggressiver Auto. Außerdem machen sie so Dinge wie andere Menschen zu ermorden deutlich öfter als es Frauen tun. Es wäre eine Form von Diskriminierung, Männer also genauso gut zu behandeln wie Frauen. Ein Algorithmus, der etwa eine Wohnung, einen Job, eine Versicherung, einen Kredit vergibt, sollte Frauen also positiv diskriminieren, sprich: ihnen einen besseren Score geben. So wie es heute schon weitgehend händisch geschieht. Auf anderen Gebieten werden dann Frauen, Verschuldete oder Raucher diskriminiert werden.

All das tun Versicherungen ja heute schon, wenn Garagenwagen und Vehikel fahrerfahrener Menschen günstiger versichert werden. Die Positivdiskriminierung als wünschenswerte KI-Eigenschaft wird gefragt werden - oder sollte man sagen: bleiben.

Aber wie weit darf sie gehen? Und wie genau funktioniert so ein Algorithmus? Unterscheidet er sauber zwischen Risiko und Sicherheit oder reproduziert er subjektive Vorurteile? Und inwiefern ist es verfassungsgemäß, einen Vorbehalt bewusst in einen Algorithmus zu programmieren, ohne seine Funktionsweise transparent zu machen? In den USA klagte eine Lehrergewerkschaft erfolgreich gegen einen Algorithmus, der entscheiden sollte, welcher Kandidat am geeignetsten für eine Beförderung ist. Nicht weil der Algorithmus diskriminativ war. Sondern viel basaler: weil unklar war, wie er funktionierte.

Wie weist man nach oder widerlegt, dass ein Algorithmus neutral oder gezielt tendenziös ist, wenn selbst die Programmierer immer weniger wissen, wie ihre Geschöpfe funktionieren und Ergebnisse nicht vorhersagbar sind? Das sind Aufgaben, die Wirtschaft, Gesellschaft und Gesetz noch lösen müssen.
Thema:

Interaktiv-Trends 2019/2020 (4): Biased Algorithms - Den Rassisten im System töten

Der unvoreingenommene Algorithmus ist ein Mythos - KI spiegelt den Rassismus und Sexismus seiner Schöpfer, Daten und Programmierer wider, oft ohne dass es Marken wollen. Der Kampf gegen diskriminative KI wird Zukunftsthema.

Weiterlesen
Garbage in, garbage out - richtig. Genauso richtig ist aber auch: Racism in, racism out. (Bild: jg)
Bild: jg
Garbage in, garbage out - richtig. Genauso richtig ist aber auch: Racism in, racism out.

Kommentar von Sebastian Halm

In Festanstellung gesucht: Positivdiskriminierer

So wünschenswert rassismusfreie Algorithmen sind - so notwendig werden bald gezielt einprogrammierte Vorbehalte sein. Der Aufschrei ist mitprogrammiert.

Weiterlesen
 (HighText Verlag OHG)
Bild: HighText Verlag OHG
Neuer Kommentar  Kommentare:
Schreiben Sie Ihre Meinung, Erfahrungen, Anregungen mit oder zu diesem Thema. Ihr Beitrag erscheint an dieser Stelle.
alle Veranstaltungen Webcasts zu diesem Thema:
Dienstleister-Verzeichnis Agenturen/Dienstleister zu diesem Thema: