Projet IA d'Anthropic : seuil de 1 milliard de dollars ou 50 victimes
Anthropic aurait fait circuler un projet de loi fédérale selon lequel l’État ne pourrait bloquer un modèle d’IA qu’en cas de risque d’un milliard de dollars (environ 890 millions d’euros) de dégâts ou de plus de 50 morts ou blessés graves. Il s’agit d’un projet non public, pas d’une proposition publique, et les obligations de transparence, d’évaluation et de signalement des développeurs sont distinctes de ce seuil.
Politico a rapporté le 16 oct. avoir obtenu un projet confidentiel de loi fédérale sur l’IA qu’Anthropic a fait circuler auprès d’élus. Le média cite trois personnes au fait du dossier. Anthropic a déclaré à Politico qu’il s’agit de « mesures raisonnables sur lesquelles le Congrès devrait agir ». Nous n’avons pu lire ni l’article de Politico ni le texte du projet ; cet article s’appuie sur un papier de Benzinga qui cite Politico.
Ce que mesurent le milliard de dollars et les 50 personnes
Selon le projet, l’État ne peut bloquer la mise à disposition ou l’usage d’un modèle d’IA de pointe, c’est-à-dire l’un des modèles d’IA les plus avancés, qu’en cas de risque imminent. Le seuil est d’au moins un milliard de dollars de dégâts ou de plus de 50 morts ou blessés graves. Les origines citées sont une arme biologique, un modèle qui échappe au contrôle de son développeur et une cyberattaque.
On le résume souvent comme « la ligne à partir de laquelle on régule », mais ce qui a été rapporté ressemble plutôt au seuil du dernier recours de l’État. La procédure est exigeante. Le département du Commerce doit en faire la demande, et seul un tribunal fédéral du district de Columbia peut ordonner la suspension. Les autres agences ne peuvent pas arrêter le développement ou l’usage d’un modèle.
L’évaluation vient avant. Des organismes d’évaluation indépendants, enregistrés auprès du département du Commerce, testeraient les modèles de pointe. Les développeurs peuvent les rémunérer, mais le montant ne doit pas dépendre du résultat. Un organisme d’évaluation qui détecte un risque imminent doit le signaler sous 72 heures. D’après le rapport, cette partie ressemble aux lois californiennes sur l’IA, comme la SB 53.
Jusqu’où les lois des États seraient remplacées
Les articles s’accordent sur le fait que le projet remplacerait une partie des lois des États américains sur l’IA par du droit fédéral. Benzinga cite la divulgation des risques, l’évaluation externe et le signalement des incidents, mais son article parle de « quatre domaines » et n’en liste que trois ; nous n’avons donc pas pu établir la portée exacte. D’autres médias la décrivent comme plus large.
Certains médias y voient une contradiction avec le document de position qu’Anthropic a publié. Il demande au Congrès de ne pas remplacer le droit des États sauf si la loi fédérale est au moins aussi stricte que le cadre proposé, et, même alors, de le faire de façon ciblée pour laisser aux États des domaines comme la protection des enfants et des consommateurs. Benzinga indique que le projet est lié au cadre Advanced AI Framework d’Anthropic ; nous ne l’avons pas confronté au texte, et on ne sait pas comment la clause de remplacement remplit cette condition.
Le Congrès a déjà d’autres textes. À la Chambre, le FRONTIER Act de Lori Trahan et Jay Obernolte permettrait à l’État d’arrêter le déploiement de modèles risqués. Au Sénat, John Thune, Amy Klobuchar et Ted Cruz négocient un texte sur les risques catastrophiques de l’IA. Les démocrates ont résisté au remplacement des lois des États.
À surveiller
- Si le projet est réellement déposé comme proposition de loi, et si son texte devient public et précise l’étendue du remplacement des lois des États
- Si le FRONTIER Act à la Chambre et les négociations au Sénat reprennent ce seuil
- Si d’autres entreprises d’IA publient des projets ou des positions similaires
Taux de change du 18 oct. : 1 dollar vaut environ 0,89 euro.
Sources
Source: www.benzinga.com