SACRAMENTO, Californie (AP) - Les législateurs californiens ont approuvé cette semaine une série de propositions visant à réguler l'industrie de l'intelligence artificielle, à lutter contre les deepfakes et à protéger les travailleurs contre l'exploitation par la technologie en constante évolution.
La législature californienne, contrôlée par les démocrates, vote sur des centaines de projets de loi au cours de sa dernière semaine de session pour les envoyer au bureau du gouverneur Gavin Newsom. Leur date limite est samedi.
Le gouverneur démocrate a jusqu'au 30 septembre pour signer les propositions, les vetos ou les laisser devenir loi sans sa signature. Newsom a signalé en juillet qu'il signera une proposition visant à lutter contre les deepfakes électoraux mais n'a pas pris position sur d'autres législations.
Il a averti plus tôt cet été qu'une surréglementation pourrait nuire à l'industrie locale. Ces dernières années, il a souvent cité les problèmes budgétaires de l'État lorsqu'il rejetait des législations qu'il aurait par ailleurs soutenues.
Voici un aperçu de certaines propositions de loi sur l'IA approuvées par les législateurs cette année.
Lutte contre les deepfakes
Évoquant les préoccupations concernant la manière dont les outils d'IA sont de plus en plus utilisés pour tromper les électeurs et générer des deepfakes de pornographie mettant en scène des mineurs , les législateurs californiens ont approuvé plusieurs projets de loi cette semaine pour réprimer cette pratique.
Les législateurs ont approuvé une législation interdisant les deepfakes liés aux élections et exigeant des grandes plateformes de médias sociaux qu'elles suppriment le matériel trompeur 120 jours avant le jour de l'élection et 60 jours après. Les campagnes seraient également tenues de divulguer publiquement si elles diffusent des publicités avec des contenus modifiés par l'IA.
Une paire de propositions rendrait illégal l'utilisation d'outils d'IA pour créer des images et des vidéos de pornographie infantile. La législation en vigueur n'autorise pas les procureurs de district à poursuivre les personnes qui possèdent ou diffusent des images de pornographie infantile générées par l'IA si elles ne peuvent pas prouver que les documents représentent une personne réelle.
Les entreprises technologiques et les plateformes de médias sociaux devraient fournir des outils de détection d'IA aux utilisateurs en vertu d'une autre proposition.
Établissement de garde-fous de sécurité
La Californie pourrait devenir le premier État de la nation à établir des mesures de sécurité étendues sur les grands modèles d'IA.
La législation envoyée par les législateurs au bureau du gouverneur exige que les développeurs commencent à divulguer les données utilisées pour entraîner leurs modèles. Les efforts visent à éclairer davantage le fonctionnement des modèles d'IA et à éviter de futurs désastres catastrophiques.
Une autre mesure exigerait que l'État établisse des protocoles de sécurité prévenant les risques et la discrimination algorithmique avant que les agences ne puissent conclure tout contrat impliquant des modèles d'IA utilisés pour prendre des décisions.
Protection des travailleurs
Inspirés par la grève des acteurs de Hollywood de plusieurs mois de l'année dernière, les législateurs ont approuvé une proposition visant à protéger les travailleurs, y compris les acteurs de doublage et les interprètes de livres audio, contre le remplacement par leurs clones générés par l'IA. La mesure reflète les termes du contrat que le SAG-AFTRA a conclu avec les studios en décembre dernier.
Les agences d'État et locales seraient interdites d'utiliser l'IA pour remplacer les travailleurs des centres d'appels en vertu d'une des propositions.
La Californie pourrait également créer des sanctions pour le clonage numérique de personnes décédées sans le consentement de leurs héritiers.
Suivre la technologie
Alors que les entreprises intègrent de plus en plus l'IA dans la vie quotidienne des Américains, les législateurs de l'État ont également adopté plusieurs projets de loi pour améliorer la littératie en IA.
Une proposition exigerait la création d'un groupe de travail de l'État pour envisager d'incorporer les compétences en IA dans les programmes de mathématiques, de sciences, d'histoire et de sciences sociales. Une autre établirait des lignes directrices sur la manière dont les établissements scolaires pourraient utiliser l'IA dans les salles de classe.
