Anders als in der EU gibt es in den USA kein allgemeines KI-Gesetz, so dass zahlreiche US-Bundesstaaten derzeit eigene spezielle KI-Gesetze erwägen oder in einigen Fällen schon verabschiedet haben. Ein KI-Bundesgesetz ist nicht abzusehen. Der Bundesstaat Kalifornien, wo bekanntlich fast alle großen KI-Unternehmen ihren Sitz oder zumindest KI-Forschungsstätten haben, ist wie beim Datenschutz (s. Spies ZD 2023, 715) auch bei KI Vorreiter: Die neuen Offenlegungspflichten des kalifornischen Transparenzgesetzes AB 2013 (Generative artificial intelligence: training data transparency) gelten ab dem 1. Januar 2026. Das Gesetz gilt nur für Kalifornien. Ob andere US-Bundesstaaten folgen, ist unklar.
Es fällt auf: Die Transparenzpflichten für die betroffenen Anbieter von generativer KI gehen längst nicht so weit wie die Pflichten in Art. 50 i.V.m. Anhang XII KI-VO oder wie im geplanten kalifornischen KI-Sicherheitsgesetz SB 1047. Gleichwohl, die Offenlegungspflichten in AB 2013, womit die KI trainiert wird, können - auch für Anbieter generativer KI in Europa mit Kunden in Kalifornien – zur Belastung werden.
Verpflichtet: Entwickler und alle, die wesentlich verändern
AB 2013 verlangt von jedem KI-"Entwickler", der eine generative "künstliche Intelligenz"-Technologie (GPIA) für Einwohner Kaliforniens verfügbar macht, auf seiner Website eine detaillierte Dokumentation zu veröffentlichen. Diese muss unter anderem eine Zusammenfassung der Datensätze enthalten, die bei der Entwicklung und Schulung der KI-Technologie oder -Dienstleistung verwendet wurden.
Die Vorgaben gelten sowohl für die ursprünglichen Entwickler von generativer KI-Technologie oder -Diensten als auch für jede Person oder Organisation, die der Definition eines "Entwicklers" entspricht, wenn sie eine "wesentliche Änderung" an einer generativen KI-Technologie oder einem generativen KI-Dienst vornimmt, die/der nach dem 1. Januar 2022 veröffentlicht wurde.
"Wesentliche Änderungen" umfassen gemäß der Definition des Gesetzes neue Versionen, Veröffentlichungen, Umschulungen und Feinabstimmungen, die die Funktionalität oder Leistung wesentlich verändern. Die Offenlegungspflicht des Gesetzes AB 2013 kann damit auch diejenigen europäischen Unternehmen mit Kunden in Kalifornien betreffen, die generative KI in ihre KI-Anwendungen integrieren.
Ein kleiner Teil der KI-Gesetzesvorlagen
AB 2013 enthält jedoch auch einige Ausnahmen von der Transparenzpflicht. Insbesondere gilt AB 2013 nicht für generative KI-Technologie, die ausschließlich zur Gewährleistung von Sicherheit und Integrität oder für Zwecke der nationalen Sicherheit, des Militärs oder der Verteidigung entwickelt wurde oder die nur für den Betrieb von Flugzeugen im nationalen Luftraum bestimmt ist.
Entwickler generativer KI, die in beiden Jurisdiktionen tätig sind, können sich möglicherweise an den Transparenzanforderungen in der KI-VO orientieren, um die neuen Anforderungen in Kalifornien zu erfüllen, aber fest steht das noch nicht.
AB 2013 ist Teil eines umfassenden Pakets von KI-bezogenen Gesetzesvorlagen, die kürzlich in Kalifornien in Kraft getreten sind. Dazu gehören zum Beispiel das Verbot, in der Wahlkommunikation kurz vor einem allgemeinen Wahltag (AB 2839) Deepfakes zu verwenden und die Bekämpfung von Online-Desinformation, indem große Plattformen verpflichtet werden, irreführende wahlbezogene Inhalte während bestimmter Zeiträume vor und nach einer Wahl zu blockieren oder zu kennzeichnen (AB 2655). Eine umfassende Liste der kürzlich verabschiedeten kalifornischen KI-Gesetze findet man in der Pressemitteilung von Gouverneur Newsom vom 29. September 2024.
Der Autor Dr. Axel Spies ist Rechtsanwalt bei Morgan Lewis& Bockius in Washington DC. Er ist u.a. Mitherausgeber der Zeitschriften MMR und ZD.
