Debatte um Verantwortlichkeit von KI-Systemen in Genf
Am AI for Good Global Summit in Genf hat Salesforce-CEO Marc Benioff eindringlich für verbindliche Haftungsregeln für Anbieter von Künstlicher Intelligenz geworben. Seiner Darstellung nach genügten ethische Leitlinien und freiwillige Verpflichtungen nicht mehr, sobald KI-Systeme eine erhebliche Autonomie erreichen und Schäden verursachen können. Benioff forderte, dass Unternehmen für Schäden durch ihre Systeme geradestehen, und betonte dabei ausdrücklich, dass diese Regelung auch für Salesforce gelten solle.
„Das gelte ausdrücklich auch für Salesforce“, sagte der Konzernchef.
In einer öffentlichen Diskussion mit Nicholas Thompson, CEO des US-Magazins The Atlantic, brachte Benioff als Vergleich die Pharmaindustrie ins Spiel: Verursache ein Medikament Schäden, könne der Hersteller haftbar gemacht werden. Ein ähnlicher Grundsatz solle auch für KI-Anbieter gelten. Konkrete Vorschläge, wie ein entsprechender Rechtsrahmen gestaltet werden sollte oder wie die Haftung zwischen Modellanbietern, Softwareherstellern, Integratoren und Anwenderunternehmen aufzuteilen sei, nannte er jedoch nicht.
Implikationen für Genf und die Schweiz
Für den Kanton Genf und die Schweiz als Gastregion internationaler Technologie- und Menschenrechtsdiskussionen hat die Debatte mehrere praktische Folgen:
- Gesetzgeberische Debatten: Forderungen nach klaren Haftungsregeln können Druck auf nationale und europäische Gesetzgeber erhöhen, präzisere Vorgaben zu prüfen oder internationale Standards mitzugestalten.
- Standortfragen für Firmen: Strengere Haftpflichtregeln könnten Auswirkungen auf Anbieter haben, die in der Region tätig sind oder hier Forschung betreiben.
- Rechtliche Unsicherheit für Anwender: Ohne klare Zuordnung der Haftung bleiben Unternehmen, die KI einsetzen, mit Risiken und potenziellen Rechtsstreitigkeiten konfrontiert.
Die Diskussion in Genf hat zudem eine Dimension, die über nationale Grenzen hinausreicht: Nicholas Thompson wies in der Runde auf das Problem des Trainings von Modellen hin, etwa die Verwendung von Inhalten ohne ausreichende Zustimmung der Urheberinnen und Urheber. Solche Fragen betreffen Urheberrecht, Datenschutz und mögliche Schadenersatzansprüche — Bereiche, in denen die Schweiz und die EU bereits unterschiedliche Regelungen kennen.
Offene Fragen und politische Herausforderungen
Die zentralen Punkte, die nun zu klären sind, bleiben konkret:
| Fragestellung | Konsequenz |
|---|---|
| Wer übernimmt die Haftung? | Hersteller, Plattformbetreiber, Integratoren oder Anwender? Klare Regeln wären nötig, um Rechtsunsicherheit zu reduzieren. |
| Wie wird Schaden definiert? | Physische Schäden, wirtschaftliche Schäden, Reputationsschäden und Verletzungen von Rechten müssen präzisiert werden. |
| Welche Beweislage ist erforderlich? | Nachweis von Fehlverhalten von Modellen und Kausalität zwischen Einsatz und Schaden ist technisch anspruchsvoll. |
Praktisch bedeutet das für Behörden und Unternehmen in der Region: Sie müssen sich auf eine Phase intensiver gesetzgeberischer Prüfung und auf potenziell umfangreiche Compliance-Anforderungen einstellen. Akteurinnen und Akteure aus Forschung, Wirtschaft und Zivilgesellschaft sind gefordert, konkrete Vorschläge einzubringen, die technologische Realität, Haftungsprinzipien und international harmonisierbare Standards in Einklang bringen.
Die Debatte in Genf zeigt, dass renommierte Wirtschaftsvertreter wie Benioff bereit sind, eigene Verantwortung einzufordern und die Grundlage für verbindlichere Regeln zu legen. Wie schnell und in welcher Form daraus konkrete politische Massnahmen entstehen, bleibt offen. Für die Bevölkerung bedeutet dies in jedem Fall ein erhöhtes Interesse an der Ausgestaltung von Regeln, die Sicherheit, Rechtsschutz und Innovation zugleich berücksichtigen.
