roobriefNoticias de TI para desarrolladores

IA

Google, OpenAI y Anthropic planean sus propias reglas de seguridad para la IA: qué puede cambiar para los desarrolladores

Antes de que exista una ley, los términos de servicio de las empresas de IA pueden cambiar primero y aplicarse a los desarrolladores.

Google, OpenAI y Anthropic preparan, según la prensa, una organización que fijaría por sí misma las reglas de seguridad de la IA. Se llamaría SAFA, siglas en inglés de Standards Authority for Frontier AI: una autoridad de estándares para la IA de vanguardia (Frontier AI), es decir, los modelos de IA más avanzados. Decidiría cosas como qué pruebas debe superar una IA nueva antes de lanzarse, cómo se notifican los incidentes y quién puede auditar.

Los datos proceden del medio estadounidense The Information, que cita fuentes no identificadas. Las tres empresas no han anunciado nada oficialmente. Se habla de un lanzamiento a finales de 2026 o principios de 2027.

Por qué las empresas toman la iniciativa

Estados Unidos aún no tiene una ley federal que regule directamente la IA de vanguardia. Según los informes, estas empresas querían primero una supervisión del gobierno, pero un borrador de orden ejecutiva no logró suficiente apoyo dentro de la administración, así que van hacia una organización privada.

Se dice que SAFA seguiría el modelo de FINRA, el organismo de autorregulación de las firmas de corretaje de EE. UU. Aún no se ha decidido cómo se sancionaría a quien incumpla ni si SAFA haría las pruebas de los modelos o las dejaría en manos de evaluadores externos.

En qué punto están el gobierno y el Congreso

  • Orden ejecutiva (2 de junio): una orden que la Casa Blanca puede dictar sin pasar por el Congreso. Esta es voluntaria: se pide a las empresas que den al gobierno hasta 30 días de acceso anticipado a un modelo antes de su lanzamiento. No exige obtener un permiso antes de lanzar.
  • FRONTIER Act en la Cámara de Representantes (23 de julio): un proyecto de ley que impondría a los grandes desarrolladores de IA obligaciones graduadas según su tamaño, como fichas de modelo (documentos que describen cómo se ha probado un modelo), planes de gestión de riesgos, auditorías independientes y notificación de incidentes.
  • Senado: Maria Cantwell publicó el 7 de octubre un conjunto de principios, no un proyecto de ley. Plantea que los modelos superen una auditoría independiente antes de lanzarse.

Qué podría cambiar para los desarrolladores

Lo que sigue es nuestra estimación y consejo a partir de los informes.

Hoy no hay ninguna obligación para los desarrolladores. SAFA aún no existe, la orden ejecutiva es voluntaria y los proyectos de ley no se han aprobado. Pero cuando las reglas se asienten, es probable que lleguen a los desarrolladores a través de los términos de las API y los procesos de lanzamiento de las empresas de IA.

  • Los términos de servicio podrían cambiar. Si se espera que se notifiquen incidentes o que haya auditorías externas, es probable que las empresas de IA ajusten sus condiciones de API. Las funciones de agente, en las que una IA opera un ordenador en nombre del usuario, podrían ser de las primeras afectadas.
  • Los modelos nuevos podrían tardar más. Participar en la revisión anticipada del gobierno añade un paso antes del lanzamiento.
  • Los resultados de seguridad podrían ser más fáciles de comparar. Si las pruebas se estandarizan, los documentos de evaluación de distintos modelos podrán compararse directamente.
  • Los equipos pequeños podrían salir perjudicados. Los críticos dicen que, si las grandes empresas fijan los estándares de auditoría, cumplirlos costará más a los equipos pequeños y a los proyectos de código abierto. Un borrador para debate en la Cámara de Representantes incluye además una congelación de tres años de las nuevas leyes estatales de IA.

Si dependes mucho de un solo modelo, agrupa tus llamadas a la IA en un solo lugar del código y mantén tu propio conjunto de pruebas, para poder cambiar de proveedor más adelante sin reescribir todo.

Qué vigilar

Un anuncio oficial de SAFA con su borrador de estándares, si la congelación de las leyes estatales sobrevive en un proyecto final y los cambios en los términos de servicio de las empresas de IA.

Fuentes

Fuente: thenextweb.com

← Volver