Die Europäische Union verabschiedete Regeln, welche die Kennzeichnung von authentisch wirkenden Inhalten durch künstliche Intelligenz vorschrieben. Diese Bestimmungen zielten darauf ab, die Verbreitung täuschender Inhalte zu stoppen, die Politiker verleumden oder die Öffentlichkeit irreführen konnten. Ab dem zweiten August mussten künstlich erzeugte Bilder, Tonaufnahmen und Texte, welche als echt erschienen, deutlich gekennzeichnet werden. Die Vorschriften, die im Rahmen des wegweisenden KI-Gesetzes der Union entwickelt wurden, verlangten von Unternehmen, dass Nutzer wussten, wann sie mit einem künstlichen Chatbot interagierten oder manipulierten Bilder oder KI-generierte Texte betrachteten.
Die Regeln betrafen neue künstliche Intelligenzsysteme auf dem EU-Markt ab dem zwei August. Bestehende Systeme erhielten eine zusätzliche Frist von vier Monaten zur Einhaltung der Vorgaben. Ein Mitglied des Europäischen Parlaments, der die Verhandlungen zum KI-Gesetz unterstützte, betonte die Bedeutung dieser Transparenz. Er erklärte, dass es nicht nur um den Verbraucherschutz ging, sondern auch um den Schutz der Demokratie. Er argumentierte, dass die Offenlegung dieser Informationen notwendig sei, um die Authentizität der Fakten im digitalen Raum zu bewahren.
Gemäß den neuen Bestimmungen mussten synthetische Texte, Bilder, Videos und Tonaufnahmen, welche wahrheitsgemäß erschienen, als künstlich erzeugt gekennzeichnet werden. Zudem mussten Texte zu Themen öffentlichem Interesses als KI-generiert markiert werden, sofern keine menschliche redaktionelle Kontrolle vorlag. Unternehmen durften Inhalte kennzeichnen, die vor Inkrafttreten der Regeln entstanden, dies war jedoch nicht verpflichtend. Eine Ausnahme bildeten Werke, die als „eindeutig künstlerisch“, satirisch oder fiktiv galten. Bei Nichteinhaltung drohten Unternehmen Geldstrafen von bis zu fünfzehn Millionen Euro oder drei Prozent ihres weltweiten Jahresumsatzes.
Die Diskussion in der Technologiebranche zeigte unterschiedliche Ansichten. Die Industrie unterstützte den Wunsch nach sichtbarer Darstellung von Fälschungen, befürchtete jedoch, dass die Regeln zu weit gefasst interpretiert wurden und die Nutzer mit zahlreichen Hinweisen überforderten. Die Branchenverbände argumentierten, dass die Definition von Fälschungen durch die EU-Richtlinien weit über den ursprünglichen Rahmen des KI-Gesetzes hinausging. Ein Experte der Computer- und Kommunikationsindustrie stellte fest, dass die Unterscheidung zwischen „täuschenden Inhalten“ aufgehoben worden sei. Dies führte dazu, dass nahezu alle Inhalte gekennzeichnet werden mussten, was die Nutzererfahrung beeinträchtigte.
Große Technologieunternehmen reagierten auf die Regulierung mit eigenen Maßnahmen. Plattformen wie TikTok verlangten von Erstellern die Kennzeichnung realistischer KI-generierter Bilder, Ton und Videos. Google stellte zudem das Werkzeug SynthID bereit, welches es Nutzern ermöglichte, festzustellen, ob ein Bild künstlich erzeugt worden war, indem es unsichtbare digitale Wasserzeichen in Milliarden von Bildern und Tonaufnahmen hinterlegte. Meta und Google schlossen sich zu einem freiwilligen Kodex zur Einhaltung der Transparenzvorschriften der Union zusammen. Die Europäische Kommission betonte, dass die KI eine transformative Technologie sei, welche erhebliche Vorteile bringen könne, doch die fortschrittlichsten Modelle Risiken auf einer völlig neuen Ebene schufen. Die Union etablierte mit dem KI-Gesetz einen klaren, risikobasierten Rahmen für vertrauenswürdige KI, welcher Innovatoren rechtliche Sicherheit gewährte und gleichzeitig das öffentliche Interesse schützte.