Le mardi, le gouverneur de la Californie, Gavin Newsom, a signé certaines des lois les plus strictes d'Amérique réglementant le secteur de l'intelligence artificielle. Trois de ces lois visent à réprimer les deepfakes d'IA qui pourraient influencer les élections, tandis que deux autres interdisent aux studios hollywoodiens de créer un clone d'IA du corps ou de la voix d'un acteur sans leur consentement.
«Abritant la majorité des principales entreprises d'IA du monde, la Californie s'efforce d'utiliser ces technologies transformatrices pour aider à résoudre les défis pressants tout en étudiant les risques qu'elles présentent», a déclaré le bureau du gouverneur Newsom dans un communiqué de presse mardi.
Une des nouvelles lois de la Californie, AB 2655, oblige les grandes plateformes en ligne, comme Facebook et X, à supprimer ou à étiqueter les deepfakes d'IA liés aux élections, ainsi qu'à créer des canaux pour signaler de tels contenus. Les candidats et les élus peuvent demander des mesures d'urgence si une grande plateforme en ligne ne respecte pas la loi.
Une autre loi, 2355, exige des divulgations d'annonces politiques générées par IA. Cela signifie qu'à l'avenir, Trump ne pourra peut-être pas s'en sortir en postant des deepfakes d'IA de Taylor Swift le soutenant sur Truth Social (elle a soutenu Kamala Harris). La FCC a proposé une exigence similaire de divulgation au niveau national et a déjà rendu illégales les appels téléphoniques robotisés utilisant des voix générées par IA.
Les deux dernières lois sur l'IA signées mardi - pour lesquelles plaidait le plus grand syndicat d'acteurs du cinéma et de la télévision du pays, SAG-AFTRA - établissent de nouvelles normes pour l'industrie des médias de la Californie. L'AB 2602 exige des studios qu'ils obtiennent l'autorisation d'un acteur avant de créer une réplique générée par IA de leur voix ou de leur image. Pendant ce temps, l'AB 1836 interdit aux studios de créer des répliques numériques de performers décédés sans le consentement de leur succession. (Des répliques légalement autorisées ont été utilisées dans des films récents comme Alien, Star Wars, et d'autres, par exemple.)
Le gouverneur Newsom examine actuellement 38 projets de loi liés à l'IA, y compris le très controversé SB 1047, que le Sénat de Californie a envoyé sur son bureau pour approbation finale. Lors d'une discussion avec le PDG de Salesforce, Marc Benioff, mardi lors de la conférence Dreamforce 2024, Newsom a peut-être dévoilé ses intentions. Il a repris les préoccupations des opposants au SB 1047 selon lesquels le projet de loi pourrait avoir un effet dissuasif sur l'écosystème de l'IA en open source.
«Il y a un projet de loi qui est hors de proportion en termes de discours et de conscience publics; c'est ce SB 1047», a déclaré Newsom sur scène mardi. «Quels sont les risques démontrables en matière d'IA et quels sont les risques hypothétiques? Je ne peux pas tout résoudre. Que pouvons-nous résoudre? C'est donc l'approche que nous adoptons à travers le spectre de tout cela.»
Peu de temps après, Newsom a également déclaré qu'il voulait aborder les préoccupations les plus extrêmes concernant l'IA. Alors prenez ces commentaires pour ce qu'ils valent. Le gouverneur a deux semaines pour signer ou veto le SB 1047.
