Risiken generativer KI abwägen: Ein Leitfaden für Schweizer Unternehmen Die Einsatzmöglichkeiten generativer Künstlicher Intelligenz (KI) revolutionieren die Geschäftswelt. Doch mit diesen Technologien gehen auch rechtliche und ethische Herausforderungen einher.
Die Einsatzmöglichkeiten generativer Künstlicher Intelligenz (KI) revolutionieren die Geschäftswelt. Doch mit diesen Technologien gehen auch rechtliche und ethische Herausforderungen einher.
Ein zentrales Thema bei der Nutzung generativer KI ist das Urheberrecht. In der Schweiz können nur natürliche Personen Urheber sein, und Werke müssen eine gewisse Schöpfungshöhe aufweisen, um geschützt zu werden. Zudem erhalten hierzulande nur kreative Werke, die von Menschen erschaffen wurden, urheberrechtlichen Schutz.
Wer hat die kreative Leistung erbracht?
Wenn also eine Person ChatGPT lediglich als Hilfsmittel nutzt, um eigene kreative Leistungen zu erbringen, kann der daraus resultierende Output urheberrechtlich geschützt sein. Liegt die kreative Leistung jedoch bei ChatGPT oder sonst einer KI, so wird sie nicht von einem Menschen erbracht und fällt damit nicht unter den Urheberrechtsschutz. Zusätzlich ist zu beachten, dass wenn ChatGPT in seinen Ausgaben urheberrechtlich geschützte Inhalte aus anderen Werken verwendet, diese Teile des Ergebnisses unter den bestehenden Schutz fallen.
Gerade bei generierten Bildern stellt sich die Frage, ob die kreative Leistung nicht eher bei der KI als beim Menschen liegt. In dem Fall dürfte das Resultat daher keinen Schutz geniessen. Die zugrunde liegenden Daten wiederum sind möglicherweise urheberrechtlich nicht unbedenklich.
Gerade bei generierten Bildern stellt sich die Frage, ob die kreative Leistung nicht eher bei der KI als beim Menschen liegt. In dem Fall dürfte das Resultat daher keinen Schutz geniessen.
Die Ersteller grosser Modelle wie Llama von Meta, Stable Diffusion und Midjourney äussern sich kaum zur Herkunft Ihrer Daten. Stichprobenartige Versuche haben aber ergeben, dass etwa in den Bildmodellen wie Stable Diffusion – das wohl auch als Grundlage für Midjourney dient – etwa fünf Prozent der Inhalte von Plattformen stammen, von denen keine Lizenz erworben wurde. Leicht nachzuweisen ist das aber nicht.
- Trainingsdaten: Mit grosser Wahrscheinlichkeit werden urheberrechtlich geschützte Werke zum Trainieren von KI-Modellen verwendet. Es gibt Stichproben, die das punktuell sogar belegen können. Die Legalität dieser Praxis ist umstritten und wird derzeit vor Gericht verhandelt.
- KI-generierte Inhalte: Auch hier ist die Rechtslage unklar. Grundsätzlich sind KI-generierte Inhalte in der Schweiz nicht urheberrechtlich geschützt, da kein menschlicher Urheber beteiligt ist. Wenn jedoch ein Mensch durch gezielte Anweisungen und Auswahlentscheidungen massgeblich zum Ergebnis beiträgt, kann ein Urheberrechtsschutz entstehen.
Für Unternehmen bedeutet dies, dass sie bei der Nutzung generativer KI genau prüfen müssen, woher die Trainingsdaten stammen und ob Lizenzen erforderlich sind. Bei der Verwendung von KI-generierten Inhalten sollten sie die Schöpfungshöhe prüfen und im Zweifel rechtlichen Rat einholen.
Datenschutz und Privatsphäre
Generative KI-Modelle verarbeiten oft grosse Mengen an Daten, darunter auch personenbezogene Daten. Sowohl die Datenschutzgrundverordnung (DSGVO) der EU als auch das Schweizer Datenschutzgesetz (DSG) schreiben vor, dass die Verarbeitung personenbezogener Daten rechtmässig, transparent und fair sein muss.
Man sollte sich daher gut überlegen, ob man Personendaten aus einer Geschäftsbeziehung in einen Chatbot laden möchte. Ohne Einwilligung ist das bedenklich.
Wer also beispielsweise eine Excel mit Personendaten in ChatGPT hochlädt, sollte das nur mit Einwilligung der Kontakte tun. Das ist nicht praxistauglich. Als Alternative könnten daher lokale Instanzen von Sprachmodellen eingesetzt werden. GPT4All ist beispielsweise ein Interface, über welches lokal die bekannten Modelle eingesetzt werden können, ohne dass Daten an Dritte gehen.
- Personenbezogene Daten: Unternehmen müssen sicherstellen, dass die für die Arbeit mit KI verwendeten Daten rechtmässig erhoben wurden und keine sensiblen Daten enthalten, es sei denn, es liegen ausdrückliche Einwilligung oder andere gesetzliche Grundlagen vor.
- Personenbezogene Daten im Output: KI-generierte Inhalte dürfen keine personenbezogenen Daten enthalten, die Rückschlüsse auf einzelne Personen zulassen, es sei denn, es gibt eine rechtliche Grundlage dafür.
Transparenz und Haftung: Ein Balanceakt
Die Intransparenz vieler generativer KI-Systeme ist ein weiteres Problem. Oft ist nicht nachvollziehbar, wie diese Systeme zu ihren Ergebnissen kommen. Zudem stellt sich die Frage, wer für fehlerhafte oder schädliche KI-generierte Inhalte haftet.
Gerade mit dem Aufkommen stärkerer Intelligenzen wie den «Omni-Modellen» GPT-4o und Gemini 1.5. werden die Diskussionen rund um Haftung für Empfehlungen und Anweisungen der KI lauter. So hat 2023 ein Chatbot in Belgien einen Mann durch immer emotionaler werdende Gespräche zum Selbstmord getrieben. Wer die Schuld dafür trägt, ist offen.
- Transparenz: Unternehmen sollten offenlegen, wenn sie generative KI einsetzen und wie dieser Einsatz funktioniert. Dies fördert das Vertrauen der Kunden und Mitarbeiter.
- Haftung: Die Haftungsfrage ist noch nicht abschliessend geklärt. In der Regel haften Unternehmen für Fehler ihrer KI-Systeme, es sei denn, sie können nachweisen, dass sie alle erforderlichen Massnahmen ergriffen haben, um Schäden zu verhindern.
Im Unternehmensalltag sollten KI-generierte Inhalte als solche gekennzeichnet werden, insbesondere bei der Verwendung in Prüfungsleistungen oder Veröffentlichungen. Bei externen KI-Diensten ist es ratsam, die Haftungsregelungen in den Allgemeinen Geschäftsbedingungen genau zu prüfen.
Ethische Überlegungen und zukünftige Regulierung
Die ethischen Implikationen generativer KI sind vielfältig. Sie reichen von der Verbreitung von Falschinformationen und Diskriminierung bis hin zur Verletzung von Persönlichkeitsrechten.
Der EU-AI-Act, welcher voraussichtlich 2025 in Kraft tritt, wird auch für Schweizer Unternehmen relevant sein, die KI-Systeme in der EU anbieten. Gemäss der Plateforme Tripartite, welche als nationale Informationsdrehscheibe und Multistakeholder-Austauschplattform zu Themen der Internet- und digitalen Gouvernanz und der künstlichen Intelligenz (KI) dient, hat das Ministerkomitee des Europarats auf seiner 133. Ministertagung die Konvention zu Künstlicher Intelligenz, Menschenrechten, Rechtsstaatlichkeit und Demokratie offiziell verabschiedet.
Die Schweiz hat sich während der eineinhalb Jahre dauernden Verhandlungen aktiv engagiert. Eine mögliche Unterzeichnung und Ratifikation der KI-Konvention durch die Schweiz wird derzeit im Rahmen der Auslegeordnung zur KI-Regulierung geprüft, die bis Ende 2024 vorliegen soll. Diese Regelungen sehen ein risikobasiertes Konzept vor, bei dem KI-Systeme je nach ihrem Risiko klassifiziert werden.
Für Hochrisiko-KI-Systeme gelten strenge Anforderungen, wie beispielsweise eine Konformitätsbewertung und die Einhaltung von Transparenzpflichten. IT-Entscheider und Geschäftsführer sollten diese Entwicklungen aufmerksam verfolgen und sich auf mögliche Änderungen vorbereiten.
Es empfiehlt sich für jedes Unternehmen, Grundsätze zum sicheren und verantwortungsvollen Umgang mit Künstlicher Intelligenz zu definieren und diese festzuhalten.
Handlungsempfehlungen für Unternehmen
- Rechtliche Expertise: Holen Sie sich rechtlichen Rat ein, um sicherzustellen, dass Ihr Einsatz von generativer KI den aktuellen und zukünftigen gesetzlichen Anforderungen entspricht.
- Datenschutz-Folgenabschätzung: Führen Sie eine Datenschutz-Folgenabschätzung durch, um die Risiken für die Privatsphäre zu bewerten und geeignete Schutzmassnahmen zu ergreifen.
- Transparenz und Erklärbarkeit: Setzen Sie auf erklärbare KI-Modelle und informieren Sie Ihre Mitarbeitenden und die Kundschaft über den Einsatz von KI.
- Ethische Richtlinien: Entwickeln Sie klare ethische Richtlinien für den Einsatz von KI im Unternehmen und schulen Sie Ihre Mitarbeitenden entsprechend.
- Kontinuierliche Überwachung: Überwachen Sie den Einsatz von KI-Systemen kontinuierlich, um sicherzustellen, dass sie fair, unvoreingenommen und sicher sind.
- Grundsätze erarbeiten: Legen sie fest, wie Ihr Unternehmen verantwortungsvoll mit Künstlicher Intelligenz umgehen möchte und informieren Sie intern darüber.
Generative KI bietet Unternehmen enorme Chancen, aber auch Herausforderungen. Indem sie sich proaktiv mit den rechtlichen, ethischen und technischen Aspekten auseinandersetzen, können Unternehmen diese Technologie verantwortungsvoll nutzen und ihre Vorteile voll ausschöpfen. Es empfiehlt sich für jedes Unternehmen, sich Grundsätze zum sicheren und verantwortungsvollen Umgang mit Künstlicher Intelligenz zu überlegen und diese festzuhalten.
Fazit
Unternehmen sollten sicherstellen, dass sie die Datenschutzbestimmungen einhalten, indem sie beispielsweise Datenschutz-Folgenabschätzungen durchführen und technische sowie organisatorische Massnahmen zum Schutz der Daten ergreifen. Diese Aspekte sind generell wichtig und betreffen nicht nur den Umgang mit KI.
Der Autor
Laurent Gachnang unterstützt Unternehmen im Spannungsfeld der Digitalisierung mit Fokus auf strategische Konzeption und Umsetzung. Sei es als unabhängiger Beirat für Geschäftsleitung und Verwaltungsrat oder ad Interim in der Umsetzung von strategischen Projekten.
www.digitalrat.ch
Das Fachmagazin
Business Software ist ein weitläufiges Feld, es ist nicht einfach, dort die Übersicht zu behalten. Doch hier hilft das «topsoft Fachmagazin» schon seit mehr als zehn Jahren. Hier finden Sie Antworten auf aktuelle Fragen zum Digital Business, die richtigen Software-Anbieter und die passenden Lösungen für Ihr Unternehmen. Gerade wenn Sie in einer IT-Abteilung arbeiten, sich beruflich mit Informatik auseinandersetzen oder auch auf der Suche nach neuem Know-how sind, ist das «topsoft Fachmagazin» beinahe schon eine Pflichtlektüre. Und das Beste: Sie können es gratis abonnieren.
