Klare Haftung statt freiwilliger Regeln
Beim AI for Good Global Summit in Genf hat Marc Benioff, CEO von Salesforce, eine verbindliche Regelung zur Haftung von Anbietern von Künstlicher Intelligenz gefordert. Benioff argumentierte, dass ethische Grundsätze und freiwillige Selbstverpflichtungen angesichts der zunehmenden Autonomie von KI-Agenten nicht mehr ausreichten. Wer KI-Systeme entwickle und verkaufe, müsse auch für Schäden geradestehen, die daraus entstünden, sagte er nach Angaben der Veranstalter.
Vergleich mit der Pharmaindustrie
Als Analogie nannte Benioff die Pharmaindustrie: Wenn ein Medikament Schäden verursache, könne der Hersteller haftbar gemacht werden. Den gleichen Grundsatz solle es seiner Ansicht nach auch für Anbieter von KI-Systemen geben. Konkrete Vorschläge dazu, wie ein Rechtsrahmen aussehen oder wie die Haftung zwischen Modellanbietern, Softwareherstellern, Integratoren und Anwenderunternehmen aufzuteilen sei, legte er jedoch nicht vor.
Debatte über staatliche Eingriffe und Datenethik
In einer Diskussion mit Nicholas Thompson, CEO des US-Magazins The Atlantic, erörterte Benioff zudem die Grenzen staatlicher Eingriffe in die Entwicklung leistungsfähiger KI-Modelle. Thompson erweiterte die Debatte auf das Training von Modellen und wies darauf hin, dass das ethische Problem bereits bei der Verwendung von Inhalten ohne ausreichende Zustimmung der Urheberinnen und Urheber beginne. Beide Gesprächspartner unterstrichen damit die Komplexität von Regulierung, die technische, rechtliche und ethische Fragen zugleich betrifft.
Konkrete Auswirkungen für Genf und den Kanton
Als Austragungsort des Gipfels steht Genf erneut im Zentrum internationaler Gespräche über Technologiepolitik. Für lokale Behörden, Unternehmen und Forschungseinrichtungen bedeutet die Debatte:
- Die Notwendigkeit, sich rechtlich auf mögliche Haftungsfragen vorzubereiten;
- Prüfung von Verträgen mit globalen Anbietern hinsichtlich Haftungsklauseln und Risikoverteilung;
- Erhöhte Nachfrage nach Compliance- und Rechtsberatung im Bereich KI;
- Öffentliche Verwaltungen müssen abwägen, wie sie KI-Systeme beschaffen und verantworten.
Offene Fragen
Wesentliche Punkte bleiben offen: Wie sieht ein fairer Ausgleich zwischen Entwicklern, Integratoren und Endanwendern aus? Auf welche Weise können Regulierungen innovationsoffen bleiben und zugleich Schaden verhindern? In Genf diskutierten Expertinnen und Experten diese Spannungsfelder, ohne eine einheitliche Lösung vorzuschlagen. Benioff betonte, dass sein Aufruf zur Haftung ausdrücklich auch für Salesforce gelte.
Wer ist betroffen und was ist zu tun?
Betroffen sind nicht nur grosse Technologieunternehmen, sondern auch lokale KMU, öffentliche Institutionen und Dienstleister, die KI integrieren oder lizenzieren. Als praktische Schritte für Organisationen im Kanton Genf lassen sich ableiten:
| Akteur | Mögliche Massnahme |
|---|---|
| Öffentliche Verwaltung | Überprüfung von Beschaffungs- und Haftungsklauseln |
| KMU/Anwender | Rechtsschutz und Versicherungsoptionen für KI-Risiken prüfen |
| Entwickler/Anbieter | Transparenz über Trainingsdaten und Risikomanagement erhöhen |
Die Debatte in Genf macht klar: Die Frage nach verbindlicher Haftung für KI ist nicht nur eine theoretische ethische Diskussion, sondern hat unmittelbare praktische Konsequenzen für Verträge, Versicherungen und die öffentliche Beschaffung im Kanton. Ob und wie Gesetzgeber diesen Forderungen folgen, bleibt abzuwarten.
