So etablieren Unternehmen eine KI mit Verantwortung

Die Einführung von künstlicher Intelligenz im Unternehmen ist primär eine organisatorische Herausforderung: KI effektiv und verantwortungsvoll zu nutzen ist ein Skill, der erlernt werden muss. KI sollte bestmöglich mit den Mitarbeitenden zusammenarbeiten und definierte Ziele zuverlässig erfüllen, ohne unerwünschte Nebenwirkungen zu verursachen. 

«Dies muss in einer klaren KI-Strategie geregelt und umgesetzt werden»,

sagt Sven Heeb, Team Lead Project Manager. 

Er empfiehlt Unternehmen, fünf Tipps zu beherzigen. In den Workshops von Baggenstos wird auf die speziellen Bedingungen in der individuellen Organisation eingegangen.

Human-in-the-Loop

Die Verantwortlichkeiten müssen geregelt sein: Entscheidungen trifft der Mensch, nicht die KI. Sie muss laufend überprüft und nachjustiert werden. Wenn sie ausfällt oder falsche Resultate liefert, muss ein Mensch jederzeit eingreifen und die KI übersteuern können.

Transparenz

Der Zweck der KI muss klar definiert und kommuniziert werden. Allen Mitarbeitenden muss klar sein, was die KI tut, welche Daten sie nutzt und welche Entscheidungen sie fällt. Es braucht eine KI-Policy, die den Einsatz regelt und Grenzen setzt.

Datenschutz und Sicherheit

Mit Microsoft 365 Copilot bei ausgeschalteter Websuche ist rechtlich alles klar: Die KI nutzt nur Daten, die im Unternehmenskontext gespeichert ist. Dennoch sollten Unternehmen sich gut überlegen, welche Daten die KI nicht verarbeiten darf und entsprechende Vorkehrungen treffen. So gilt es den Zugriff auf Trainingsdaten und Modelle zu regeln und zu beschränken - und zu verhindern, dass besonders schützenswerte Daten via KI an die Öffentlichkeit gelangen. Die sogenannte Schatten-KI stellt ein besonders grosses Risiko dar. Darum dürfen Mitarbeitende nur die offizielle KI des Unternehmens nutzen. Zusätzlich muss die Modellsicherheit gestärkt werden (Schutz vor Modell-Diebstahl und manipulierten Eingaben.

Bias erkennen und minimieren

Jede KI ist nur so gut wie ihr Trainingsmaterial – und das kann sogenannten Bias enthalten, also systematische Verzerrungen, Vorurteile, Diskriminierung und andere Abweichungen, die zu ethischen Herausforderungen führen. Trainiere deine KI darum mit ausgewogenen Daten und prüfe die Outputs regelmässig auf Bias. Diskriminierende und manipulative KI-Anwendungen müssen per KI-Policy verboten werden.

gelangen. Die sogenannte Schatten-KI stellt ein besonders grosses Risiko dar. Darum dürfen Mitarbeitende nur die offizielle KI des Unternehmens nutzen. Zusätzlich muss die Modellsicherheit gestärkt werden (Schutz vor Modell-Diebstahl und manipulierten Eingaben.

Mitarbeitende schulen und ein Bewusstsein für KI wecken

Sensibilisiere Mitarbeitende für die Möglichkeiten und Grenzen von künstlicher Intelligenz. Nur wer versteht, wie die Systeme funktionieren, kann sie auch sinnvoll und ethisch korrekt einsetzen. KI-Kompetenz muss im Unternehmen verankert und von der Geschäftsleitung aktiv gefördert werden.