Der Einsatz generativer Künstlicher Intelligenz im Unternehmen - ein Blick auf mögliche rechtliche Risiken

Künstliche Intelligenz (KI) ist gekommen, um zu bleiben, und hat in den letzten Jahren enorme Fortschritte gemacht. Besonders generative KI spielt eine immer größere Rolle, auch in Unternehmen. Prominentestes Beispiel ist wohl ChatGPT, das derzeit in aller Munde ist. Diese Technologie bietet eine Vielzahl von Vorteilen, die es Unternehmen ermöglichen, Prozesse zu beschleunigen und Innovation voranzutreiben. Gleichzeitig ist es jedoch wichtig, die potenziellen Herausforderungen und Risiken im Umgang mit generativer KI zu berücksichtigen. Beispielsweise hat Samsung seine Mitarbeiter*innen angehalten, die frei verfügbare Version von ChatGPT beruflich nicht zu verwenden.

KI bietet zweifellos Chancen. Auch wenn der Umgang mit generativen KIs für die Mitarbeiter*innen noch neu und teilweise ungewohnt ist, werden durch richtige Aufgabenstellung und Kontextualisierung (sogenanntes Front-End Engineering and Design, kurz FEED) schnell und effizient Informationen erhoben und Texte erstellt. Dies kann den Innovationsprozess erheblich beschleunigen. Neue Möglichkeiten für Produktentwicklung, Dienstleistungsdesign und Unternehmensstrategie werden eröffnet, um Kundenbedürfnissen gerecht zu werden, und es kann unter Umständen schneller auf Marktveränderungen reagiert werden. Durch die Analyse großer Datenmengen kann die KI wertvolle Erkenntnisse gewinnen und diese in einen umfassenden Kontext einbetten. Dies kann Entscheidungsprozesse erleichtern und trägt dazu bei, fundierte strategische Entscheidungen zu treffen.

Jedoch sollten auch die bestehenden Nachteile und Risiken im Zusammenhang mit generativer KI nicht außer Acht gelassen werden: So ist bereits darauf zu achten, welche Informationen über die Fragen und den Kontext der KI preisgegeben werden. Beispielsweise müssen Unternehmen darauf achten, dass die generative KI nicht mit sensiblen Informationen gefüttert wird, die möglicherweise sogar Geheimhaltungsvereinbarungen unterliegen und über die KI ungewollt nach außen gelangen könnten. Zudem unterliegt die KI genauso dem Datenschutz und es muss sichergestellt werden, dass personenbezogene Daten beim Einsatz generativer KI rechtmäßig verarbeitet werden. Ebenso können durch das Hochladen von Dokumententeilen oder Datenbankauszügen zur Kontextualisierung einer Frage Urheberrechte verletzt werden. Hier gilt es ein Bewusstsein für diese Aspekte zu entwickeln.

Derzeit besteht auch ein erhebliches Risiko in der Qualität und Richtigkeit der generierten Informationen. Generative KI-Modelle sind Textgeneratoren und keine Wissensdatenbanken. Das führt oft dazu, dass die Antworten und erstellten Texte zwar gut formuliert, aber schlichtweg inhaltlich falsch sind. Da ist im Moment ein hohes Maß an Argwohn angebracht, damit es auf dieser Grundlage nicht zu Fehlentscheidungen kommt, die negative Auswirkungen auf das Unternehmen haben. Es ist daher wichtig, die Ergebnisse von generativer KI kritisch zu hinterfragen und zu überprüfen, um potenzielle Fehler zu erkennen und zu korrigieren. Auch bei der Verwendung von personenbezogenen Daten, die die KI geliefert hat, ist Vorsicht geboten, da diese oft nicht rechtskonform verarbeitet wurden. Genau deshalb hatte die italienische Aufsichtsbehörde im Frühjahr ChatGPT für einige Tage gesperrt. Da die KI auch auf bestehende Texte zurückgreift, kann die glatte Übernahme von ganzen Texten oder Teilen urheberrechtlich problematisch sein.

Dabei machen es sich die Betreiber*innen der generativen KIs mitunter leicht, indem sie in den Geschäftsbedingungen, die bei der freien Version zu akzeptieren sind, nicht nur jegliche Haftung ausschließen, sondern wie etwa OpenAI, der Betreiber von ChatGPT, sich von den Verwender*innen für Verletzungen sogar schad- und klaglos halten lässt. Zwar ist hier vieles noch im rechtlichen Nebel, jedoch wird keine Unternehmer*in Interesse daran haben, zu einem rechtlichen Präzedenzfall zu werden.

Bei allen Chancen und der Notwendigkeit als Unternehmen, neue technische Entwicklungen zu beachten und – wo es sinnvoll ist – zu nutzen, ist im Sinne der unternehmerischen Sorgfalt auch den rechtlichen Risiken mit geeigneten Maßnahmen zu begegnen. Eine wichtige Maßnahme ist die Bewusstseinsbildung der Mitarbeiter*innen im Hinblick auf Compliance und den verantwortungsvollen Umgang mit generativer KI. Dazu ist es meist notwendig, den Einsatz dieser Tools im Unternehmen entsprechend zu begleiten, über Richtlinien und Beispiele zu steuern und die schnelle technische Entwicklung in diesen Bereichen zu verfolgen.

Hinweis: Dieser Blog stellt lediglich eine generelle Information und keineswegs eine Rechtsberatung von Binder Grösswang Rechtsanwälte GmbH dar. Der Blog kann eine individuelle Rechtsberatung nicht ersetzen. Binder Grösswang Rechtsanwälte GmbH übernimmt keine Haftung, gleich welcher Art, für Inhalt und Richtigkeit des Blogs.