Künstliche Intelligenz hat schon jetzt, von vielen unbemerkt, Eingang in Betriebe und Unternehmen gefunden. Vergleichsweise „banale“ Funktionen wie Suchmaschinen, Spracherkennung oder E-Mail-Programme, die ihren Nutzern mittlerweile Formulierungen, Anhänge oder Aktionen vorschlagen, sind mittlerweile nahezu Alltag. Aber auch komplexere Anwendungen nehmen zu und können den Arbeitsalltag spürbar erleichtern und die Konkurrenzsituation beeinflussen. Arbeitgeber kommen daher nicht umhin, sich früher oder später mit den Möglichkeiten zu beschäftigen – und sollten die damit verbundenen Rechtsfragen kennen.
Definition:
Zunächst aber stellt sich die Frage, was Künstliche Intelligenz in diesem Zusammenhang bedeutet. Das EU-Parlament hat 2023 in seinem Entwurf für eine KI-Verordnung eine Definition versucht: „Eine Software, die mit einer oder mehreren der in Anhang I aufgeführten Techniken und Konzepte entwickelt worden ist und im Hinblick auf eine Reihe von Zielen, die vom Menschen festgelegt werden, Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen kann, die das Umfeld beeinflussen, mit dem sie interagieren.“
Die Definition ist bewusst weit gefasst. Was KI eint, ist, dass sie auf selbstlernenden Algorithmen basiert, die auf der Grundlage großer Datenmengen Muster erkennen und Ergebnisse für Aufgaben liefern, die ihr der Mensch stellt. Für den Anwender ist die KI quasi eine Blackbox: oft sind ihm sowohl die Datenquelle, als auch der Weg, auf dem das Ergebnis erzeugt wird, nicht bekannt. Daher sind die Ergebnisse für den Anwender typischerweise nicht vorhersehbar und nicht reproduzierbar – die KI lernt während ihres Einsatzes ständig dazu.
Ihre Einsatzgebiete sind vielfältig: Als Hilfsmittel bei der Optimierung von Prozessen und der Personaleinsatzplanung, weil sie Auslastung, Qualifikation, Verfügbarkeit etc. schnell und effizient auswerten kann; im Qualitätsmanagement durch Ermittlung von Fehlerquellen und Risikobereichen; in der Auswertung von Anfragen und Angeboten. Aber auch im Bewerbungsverfahren, in der Personalentwicklung, oder in der Kommunikation spielt sie eine zunehmende Rolle.
Aufgrund der großen Bandbreite sind die rechtlichen Rahmenbedingungen vielfältig, sodass hier nur einige Aspekte angesprochen werden können:
Nutzung von KI als Arbeitsmittel
Wenn Arbeitnehmer KI bei der Arbeit einsetzen, ist vor allem auf den Geheimnisschutz und den Datenschutz zu achten. Übersetzungssoftware oder Vertragsmuster (Smart Contracts) beispielsweise lernen aus den von ihr bearbeiteten Texten – weder Betriebsgeheimnisse noch Namen von Kollegen oder Kundinnen haben hier etwas verloren.
Wenn der Arbeitgeber die Nutzung von KI anweist, wird der Arbeitnehmer dies nur im Ausnahmefall ablehnen können, etwa wenn seine Persönlichkeitsrechte verletzt werden – aber sicherlich nicht aus grundsätzlichen ideologischen Erwägungen.
Umgekehrt entscheidet grundsätzlich der Arbeitgeber, ob KI eingesetzt werden darf. Er kann beispielsweise die Nutzung von Chatbots auch untersagen. Schließlich trägt der Arbeitgeber auch das Risiko von Fehlern ebenso wie die Gefahr von Urheberrechtsverstößen, Verletzungen des Datengeheimnisses oder anderen Rechtsverletzungen.
Je besser die Möglichkeiten der KI werden und je mehr mit ihrem Einsatz zu rechnen ist, umso wichtiger werden daher betriebliche Regeln. Vor allem stellen Zustimmungsvorbehalte sicher, dass die unternehmenseigene IT weiß, welche KI im Unternehmen genutzt wird, um die Kontrolle zu behalten und Sicherheitsrisiken ausschließen zu können.
Einsatz von KI durch die Personalabteilung
KI kann in der Personalabteilung eingesetzt werden, beispielsweise zur Optimierung von Messebesuchen, Auswertung von Bewerbungsunterlagen, Erteilung standardisierter Informationen oder Erstellen von Stellenbeschreibungen.
Da diese Dienste meist mit der Verarbeitung personenbezogener Bewerber- oder Mitarbeiterdaten verbunden sind, ist besonderen Wert auf die Einhaltung der Datenschutzbestimmungen zu legen. Eine Datenschutzfolgeabschätzung nach Art. 35 DSGVO dürfte in der Regel erforderlich sein.
KI kann aber auch als Entscheidungshilfe interessant sein, indem sie Rangfolgen bildet oder eine Vorauswahl von geeigneten Kandidat*innen trifft. Dabei ist Art. 22 DSGVO zu beachten: ohne Zustimmung der Betroffenen, die im Bewerbungsverfahren im Normalfall nicht wirksam eingeholt werden kann, dürfen Entscheidungen nicht durch Künstliche Intelligenz allein getroffen werden. KI dient also nur der Entscheidungsvorbereitung. Sowohl der Ausschluss ungeeigneter Bewerber*innen, als auch die Auswahl der besten Kandidat*innen müssen durch einen Menschen getroffen werden. Die Anforderungen an den Entscheidungsspielraum des verantwortlichen Menschen in diesem Rahmen sind allerdings noch nicht geklärt. Unzweifelhaft reicht es nicht, wenn er die Entscheidung nur „abnicken“ oder Umsetzen darf; er muss vielmehr die echte Möglichkeit zum Eingreifen haben – und zwar sowohl das Recht, anders zu entscheiden, als auch die Fachkompetenz, die Entscheidung kritisch zu würdigen und die Zeit, sich die Entscheidungsgrundlagen tatsächlich anzusehen.
Berücksichtigt man, dass die Entscheidungskriterien und -wege der künstlichen Intelligenz in der Regel nicht in vollem Umfang bekannt sind und andererseits der Mensch dazu neigt, Risiken zu vermeiden und Ranglisten nicht grundsätzlich in Frage zu stellen, sollte auch die Vorbereitung von Personalentscheidungen allerdings wohl ohnehin nicht der KI überlassen werden. Anders ist das mit standardisierten Prozessen, bei denen die Entscheidungskriterien durch den Personalverantwortlichen vorgegeben werden können. Auch hier fordert Art. 35 DSGVO Transparenz, das Recht der Betroffenen auf Eingreifen einer Person, auf Darlegung des eigenen Standpunkts und auf Anfechtung der Entscheidung.
Gerade bei der Akquise von Auszubildenden, Praktikanten, Studierenden und/ oder Messeteilnehmern können kreative KI-Prozesse als zusätzliches Mittel aber durchaus attraktiv sein, so dass es sich lohnt, die Marktentwicklung im Blick zu behalten.
Mitbestimmung durch den Betriebsrat
Schon die vorstehenden Fragen zeigen, dass die Mitbestimmung durch die Betriebsräte von besonderer Bedeutung ist, um Risiken zu erkennen und Vertrauen zu schaffen. KI ist eine technische Anwendung gemäß § 87 Abs. 1 Ziffer 6 BetrVG, so dass ihre Einführung der Zustimmung des Betriebsrates bedarf.
Weitere Anknüpfungspunkte für die Mitbestimmung sind § 90 Abs. 1 Nr. 3 BetrVG (KI als Arbeitsverfahren), § 95 Absatz 2a BetrVG (Auswahlrichtlinien), gegebenenfalls aber auch die Vorschriften über Berufsbildung und Qualifizierung, Betriebsänderungen oder wirtschaftliche Angelegenheiten.
Aufgrund der Komplexität des Themas hat der Gesetzgeber in § 80 Abs. 3 S. 2 BetrVG das Rech des Betriebsrats bestimmt, zur Beurteilung der KI einen Sachverständigen hinzuzuziehen. Um den Aufwand überschaubar zu halten, empfiehlt sich schon in der Planungsphase eine offene Kommunikation und frühzeitige Einbeziehung der Arbeitnehmervertretungen.
Diskriminierung und KI
IT-basierte Personalauswahl schien vor Jahren ein Allheilmittel gegen Diskriminierung zu sein: „Computer haben keine Vorurteile“.
KI hat aber auch in diesem Bereich vom Menschen gelernt: da sie auf Daten, und daher menschlichen Entscheidungen der Vergangenheit beruht, kann gerade ihr Einsatz zu Diskriminierung führen: schon die geringe Frauenquote in einer bestimmten Berufsgruppe kann die KI zur Schlussfolgerung bringen, dass Frauen schlechter geeignet sind. Selbst die Präferenz für Sportvereine oder Freizeitaktivitäten kann so ein mittelbares diskriminierendes Kriterium darstellen. Soweit die Kriterien, die die KI für ihre Entscheidung ansetzt, nicht bekannt und nicht erkennbar sind, lässt sich diese Diskriminierung sogar vielfach umso schwerer feststellen und ausschließen.
Der Arbeitgeber bleibt nach AGG in der Pflicht, diskriminierungsfrei zu handeln. Auf Fehler der KI kann er sich nicht entlastend berufen. Auch in diesem Bereich ist allerdings vieles rechtlich und praktisch noch ungeklärt – etwa, was die Darlegungslast für eine Benachteiligung und ihre Ursachen betrifft.
Die Auswahl einer guten KI, die solche Vorurteile ausschließt und transparente Entscheidungsprozesse ermöglicht, ist deshalb von zentraler Bedeutung.
Und auch hier gilt: die kritische (!) Überprüfung durch den Menschen ist unverzichtbar.
Datenschutzrechtliche Rahmenbedingungen
Nicht alles was möglich ist, ist auch erlaubt. Bei jeder Verarbeitung personenbezogener Daten von Arbeitnehmern ist die Erforderlichkeit gem. Art. 26 BDSG zu prüfen. Was ein Mensch genauso gut, effizient und günstig tun kann, darf grundsätzlich nicht automatisiert erfolgen. Auch Art. 22 DSGVO stellt keine Rechtfertigungsgrundlage dar, sondern eine zusätzliche Einschränkung.
Gerade beim Einsatz von KI in der Personalabteilung sind also Vorteile und Risiken kritisch zu überprüfen und der Datenschutzbeauftragte einzuschalten.
Und auch die Vertragsgestaltung beim Erwerb von Anwendungen erfordert besondere Aufmerksamkeit, gerade wenn die KI durch eigene Beschäftigte trainiert werden muss –Haftung, Fehlerbeseitigung, Kosten für Aktualisierungen und Erweiterungen und Regelungen zur Auftragsdatenverarbeitung erfordern besondere Sorgfalt in der Gestaltung.
