Anthropic movería un borrador de ley con umbral de 1.000 millones
Anthropic habría hecho circular un borrador de ley federal según el cual el Gobierno solo podría bloquear un modelo de IA ante un riesgo de 1.000 millones de dólares (unos 890 millones de euros) en daños o de más de 50 muertos o heridos graves. Es un borrador no público, no una propuesta pública, y las obligaciones de transparencia, evaluación y notificación de los desarrolladores son independientes de ese umbral.
Politico informó el 16 oct. de que había obtenido un borrador confidencial de ley federal sobre IA que Anthropic hizo circular entre legisladores. Cita a tres personas conocedoras del asunto. Anthropic dijo a Politico que son «políticas sensatas sobre las que creemos que el Congreso debería actuar». No hemos podido leer el artículo de Politico ni el texto del borrador; esta pieza se apoya en un artículo de Benzinga que cita a Politico.
Qué miden los 1.000 millones de dólares y las 50 personas
Según el borrador, el Gobierno solo puede bloquear el lanzamiento o el uso de un modelo de IA de vanguardia, es decir, uno de los modelos de IA más avanzados, cuando existe un riesgo inminente. El umbral es de al menos 1.000 millones de dólares en daños o de más de 50 muertos o heridos graves. Las fuentes de riesgo citadas son un arma biológica, un modelo que se escapa del control de su desarrollador y un ciberataque.
Suele contarse como «la línea desde la que se regula», pero lo que se ha publicado se parece más al umbral del último recurso del Gobierno. El procedimiento también es exigente. El Departamento de Comercio tiene que pedirlo y solo un tribunal federal del Distrito de Columbia puede ordenar la suspensión. Otras agencias no pueden detener el desarrollo ni el uso de un modelo.
Antes está la evaluación. Entidades evaluadoras independientes registradas en Comercio probarían los modelos de vanguardia. Los desarrolladores pueden pagarles, pero la cuantía no puede depender del resultado. Si una entidad evaluadora detecta un riesgo inminente, debe comunicarlo en 72 horas. Según la información, esta parte se parece a leyes californianas de IA como la SB 53.
Hasta dónde sustituiría a las leyes estatales
Las informaciones coinciden en que el borrador sustituiría parte de las leyes estatales de IA por una ley federal. Benzinga menciona la divulgación de riesgos, la evaluación externa y la notificación de incidentes, pero su artículo habla de «cuatro ámbitos» y solo enumera tres, así que no hemos podido precisar el alcance. Otros medios lo describen como más amplio.
Algunos medios ven en ello una contradicción con el documento de posición que publicó la propia Anthropic. Pide que el Congreso no sustituya la ley estatal salvo que la ley federal sea al menos tan estricta como el marco propuesto y que, aun entonces, lo haga de forma acotada para dejar a los estados ámbitos como la protección de menores y de consumidores. Benzinga indica que el borrador está vinculado al Advanced AI Framework de Anthropic; no lo hemos contrastado con el texto y no se sabe cómo cumple la cláusula de sustitución esa condición.
El Congreso ya tiene otras iniciativas. En la Cámara de Representantes, la FRONTIER Act de Lori Trahan y Jay Obernolte permitiría al Gobierno frenar el despliegue de modelos arriesgados. En el Senado, John Thune, Amy Klobuchar y Ted Cruz negocian una ley sobre riesgos catastróficos de la IA. Los demócratas se han resistido a sustituir las leyes estatales.
Qué vigilar
- Si el borrador se presenta como proyecto de ley y si su texto se hace público y aclara el alcance de la sustitución de las leyes estatales
- Si la FRONTIER Act de la Cámara y las negociaciones del Senado adoptan este umbral
- Si otras empresas de IA presentan borradores o posturas parecidas
Convertido con el tipo de cambio del 18 oct.: 1 dólar equivale a unos 0,89 euros.
Fuentes
Fuente: www.benzinga.com