Risikomanagement: AuditBoard übernimmt FairNow, um den Einsatz künstlicher Intelligenz in Unternehmen sicherer zu gestalten

Diese Übernahme ist Teil einer Dynamik starken Wachstums und kontinuierlicher Innovation bei AuditBoard, das kürzlich im G2-Ranking drei Goldmedaillen für die herausragende Qualität seiner Software für das Risiko- und Compliance-Management erhalten hat. Die Übernahme von FairNow erweitert somit das Angebot des kalifornischen Unternehmens um Tools für die Compliance und Sicherheit von Systemen mit künstlicher Intelligenz (KI) – ein Thema, das für Unternehmen weltweit mittlerweile unverzichtbar geworden ist.

Laut dem jüngsten Bericht von AuditBoard (Risk Intelligence Report) ist die Lage besorgniserregend: Mehr als zwei Drittel der Unternehmen geben zu, dass sie noch nicht über die erforderlichen Prozesse, Instrumente oder Kompetenzen verfügen, um den Einsatz von KI im eigenen Unternehmen angemessen zu steuern.

Die neuen regulatorischen Herausforderungen: DSGVO und europäisches KI-Gesetz

Die rasante Verbreitung generativer KI veranlasst die Regierungen dazu, die Vorschriften zu verschärfen. Für Unternehmen wird die Orientierung in diesem rechtlichen Umfeld zu einer Herausforderung, die bei falscher Umsetzung sehr kostspielig werden kann:

• Das europäische KI-Gesetz: Dieser Text stuft KI-Tools nach ihrem Risikograd ein (von „gering“ bis „inakzeptabel“). Unternehmen sind gesetzlich verpflichtet, ihre Tools zu erfassen, die Qualität der verwendeten Daten zu überprüfen und nachzuweisen, dass ein Mensch die Kontrolle über die Entscheidungen der Maschine behält – andernfalls drohen hohe Geldstrafen.
• Die DSGVO (Datenschutz-Grundverordnung): Der Einsatz von KI darf die Privatsphäre nicht verletzen. Das Trainieren eines KI-Modells mit Kundendaten oder personenbezogenen Informationen ohne ausdrückliche Einwilligung wird nun streng bestraft.

Wichtigste Funktionen: Wie die FairNow-Plattform Unternehmen schützt

Das in Virginia ansässige Unternehmen FairNow hat eine Komplettlösung entwickelt, mit der Organisationen den Einsatz von KI in ihren Geschäftsbereichen überwachen und steuern können – selbst in den am stärksten regulierten Bereichen (Finanzen, Personalwesen, Gesundheitswesen).

Die Plattform bietet dank dreier wichtiger Funktionen eine automatisierte Lösung:

• Automatische Erstellung eines KI-Registers: Die Software ermittelt und listet alle im Unternehmen verwendeten KI-Anwendungen auf, unabhängig davon, ob es sich um offizielle Anwendungen handelt oder um solche, die von Mitarbeitern ohne Wissen der IT-Abteilung installiert wurden.
• Automatisierte Risikobewertung: FairNow weist jedem KI-Modell je nach dessen Einsatzzweck, der Herkunft seiner Daten und seinen potenziellen Auswirkungen auf das Unternehmen eine Risikobewertung zu.
• Kontinuierliche Überwachung der Compliance: Die Plattform vergleicht das Verhalten der Algorithmen in Echtzeit mit den geltenden regulatorischen Vorgaben und benachrichtigt die Teams sofort, falls Abweichungen festgestellt werden.

Konkrete Beispiele für KI-Risiken, mit denen Unternehmen umgehen müssen

Durch die Integration von FairNow in den AuditBoard-Katalog lassen sich ganz konkrete Risiken im Zusammenhang mit der Haftung von Führungskräften abdecken:

• Der Verlust vertraulicher Daten: Mitarbeiter kopieren strategisch wichtige Quellcodes, Finanzberichte oder Kundendaten und fügen sie in öffentliche KI-Tools ein, um einen Text zusammenzufassen. Ohne entsprechende Kontrollen gelangen diese Betriebsgeheimnisse in die Öffentlichkeit.
• Algorithmische Diskriminierung (Verzerrungen): Eine KI-Software, die von der Personalabteilung zur Sichtung Tausender Lebensläufe eingesetzt wird und aufgrund eines schlecht konzipierten Trainingsdatensatzes beginnt, Bewerber systematisch nach ungerechten Kriterien auszusortieren.
• Sachliche Fehler („Halluzinationen“): Ein virtueller Rechts- oder Finanzassistent, der falsche Informationen oder Berechnungen erfindet. Wenn das Unternehmen diese Daten gegenüber einem Kunden oder einer Aufsichtsbehörde bestätigt, stehen seine Glaubwürdigkeit und seine rechtliche Haftung auf dem Spiel.

„Die rasante Verbreitung der KI macht eine robuste und vernetzte Governance unverzichtbar. Die Integration von FairNow stärkt unsere Plattform und ermöglicht es uns, angesichts der stetig wachsenden technologischen Risiken die umfassendste Lösung auf dem Markt anzubieten“, erklärt Raul Villar Jr., CEO von AuditBoard.

Ebenso begeistert zeigt sich Guru Sethupathy, Gründer von FairNow, der in diesem Zusammenschluss „den Weg zur Demokratisierung eines intelligenten, automatisierten und verantwortungsvollen KI-Managements“ sieht.