GenAI-Systeme verarbeiten während ihrer Entwicklung und Nutzung große Mengen an Daten. Dies erfordert die Einhaltung strenger Datenschutzgesetze, insbesondere wenn personenbezogene Daten involviert sind. Insbesondere in der EU gibt es mit der Datenschutzgrundverordnung spezielle Anforderungen für automatisierte Entscheidungsfindungen, die erhebliche Auswirkungen auf Einzelpersonen haben können.

Die Frage, ob GenAI-Systeme die Rechte am geistigen Eigentum verletzen, ist komplex und variiert je nach Rechtsordnung. Es ist entscheidend, die Eigentumsrechte an den von GenAI erzeugten Inhalten zu klären und sicherzustellen, dass keine geschützten Werke ohne Erlaubnis genutzt werden.

Unternehmen müssen dafür Sorge tragen, dass die Nutzung von GenAI nicht gegen Geheimhaltungsvereinbarungen verstößt, insbesondere wenn Daten von Dritten verwendet werden.

Die regulatorischen Anforderungen an GenAI variieren weltweit. Die Nichteinhaltung kann zu erheblichen Sanktionen führen, weshalb Unternehmen sicherstellen müssen, dass sie alle relevanten Vorschriften berücksichtigen.

GenAI-Systeme können ungenaue Ergebnisse liefern, die als korrekt dargestellt werden. Die "Blackbox"-Natur dieser Systeme erschwert es, die Entscheidungsprozesse nachzuvollziehen, was die Einhaltung von Transparenzanforderungen erschwert.

Unternehmen müssen sich der rechtlichen Haftung bewusst sein, die sich aus ungenauen oder voreingenommenen Ergebnissen von GenAI ergeben kann. Dies umfasst auch das Risiko von Diskriminierung z.B. aufgrund des Geschlechts.

Der hohe Energieverbrauch von GenAI-Systemen kann sich auf die ESG-Verpflichtungen von Unternehmen auswirken. Zudem können Diskriminierungen in den Ergebnissen soziale Folgen haben.

Es muss sichergestellt werden, dass alle Datenschutzanforderungen erfüllt sind, um eine konforme Nutzung der GenAI-Systeme zu ermöglichen. Dies umfasst die Klärung der Rollen von Datenverantwortlichen und Datenverarbeitern sowie die Sicherstellung, dass die Datenverarbeitung transparent und nachvollziehbar ist.

Unternehmen sollten sich ein klares Bild von den Datensätzen machen, die für das Training der GenAI verwendet werden, und sicherstellen, dass diese rechtmäßig genutzt werden. Dies kann durch vertragliche Zusicherungen und Entschädigungen abgesichert werden.

Die Grenzen der Nutzung von Eingabe- und Ausgabedaten sollten klar definiert werden, um die Vertraulichkeit zu wahren und die Geschäftsgeheimnisse zu schützen.

Der EU AI Act stellt spezifische Anforderungen an die Anbieter und Nutzer von KI-Systemen. Unternehmen müssen sicherstellen, dass sie diese Anforderungen erfüllen, insbesondere wenn sie GenAI-Systeme beschaffen oder in ihrer Lieferkette einsetzen. Dies umfasst die Implementierung von Risikomanagementsystemen, die Überprüfung der Eingabedaten und die Einhaltung von Transparenz- und Sicherheitsanforderungen. Entsprechende Unterstützung durch den Anbieter muss sich das Unternehmen zusichern lassen.

In vielen Branchen gibt es zusätzliche Vorschriften, die bei der Beschaffung von GenAI-Systemen berücksichtigt werden müssen. Unternehmen sollten sicherstellen, dass ihre Verträge den Anbieter verpflichten, die Einhaltung dieser Vorschriften zu unterstützen.

Unternehmen sollten sorgfältig prüfen, welche Haftungsrisiken mit dem Einsatz von GenAI verbunden sind, und sicherstellen, dass diese Risiken durch angemessene vertragliche Regelungen wie Freistellungen und Haftungsbeschränkungen abgedeckt sind.

Cybersicherheitsaspekte sollten bei den Verhandlungen mit dem Anbieter berücksichtigt werden. Unternehmen sollten daher sicherstellen, dass der Anbieter über angemessene Sicherheitsmaßnahmen verfügt und diese in den Vertrag aufgenommen werden.

Der Betrieb von GenAI-Systemen kann kostspielig sein, insbesondere aufgrund des hohen Energieverbrauchs und der teuren Hardwareanforderungen. Unternehmen sollten transparente Preismechanismen vereinbaren, die ihren Bedürfnissen entsprechen, und sicherstellen, dass die langfristige Preisstabilität gewährleistet ist.

Um eine langfristige Abhängigkeit von einem bestimmten Anbieter zu vermeiden, sollten Unternehmen die Vertragsbedingungen sorgfältig prüfen und sicherstellen, dass sie im Falle einer Vertragsbeendigung bei Bedarf Unterstützung beim Ausstieg erhalten.

Unternehmen sollten ihre ESG-Richtlinien überprüfen und sicherstellen, dass diese in den Vertrag für ein GenAI-System aufgenommen werden. Dies umfasst auch die Berücksichtigung der Entwicklung der ESG-Richtlinien während der Vertragslaufzeit.