roobriefL’actualité IT pour les développeurs

IA

Google, OpenAI et Anthropic préparent leurs propres règles de sécurité pour l'IA, selon la presse : ce qui peut changer pour les développeurs

Avant même qu’une loi existe, les conditions d’utilisation des entreprises d’IA peuvent changer en premier et s’appliquer aux développeurs.

Google, OpenAI et Anthropic préparent, selon des informations de presse, une organisation chargée de fixer elle-même des règles de sécurité pour l’IA. Elle s’appellerait SAFA (Standards Authority for Frontier AI, une autorité de normalisation pour la Frontier AI, c’est-à-dire les modèles d’IA les plus avancés). Elle déciderait par exemple des tests qu’une nouvelle IA doit réussir avant sa sortie, de la façon de signaler les incidents et de qui est autorisé à auditer.

Ces informations viennent de The Information, qui cite des sources non nommées. Les trois entreprises n’ont rien annoncé officiellement. Un lancement est évoqué pour fin 2026 ou début 2027.

Pourquoi les entreprises prennent les devants

Les États-Unis n’ont pas encore de loi fédérale qui encadre directement l’IA de pointe. Selon ces informations, les entreprises voulaient d’abord une supervision de l’État, mais un projet de décret présidentiel n’a pas obtenu assez de soutien au sein de l’administration. Elles s’orientent donc vers une organisation privée.

SAFA serait calquée sur la FINRA, l’organisme d’autorégulation des sociétés de courtage américaines. La manière de sanctionner les manquements, et la question de savoir si SAFA réaliserait elle-même les tests de modèles ou les confierait à des testeurs externes, ne sont pas tranchées.

Où en sont le gouvernement et le Congrès

  • Décret présidentiel (2 juin) : un texte que le président peut signer sans passer par le Congrès. Celui-ci est volontaire : les entreprises sont invitées à donner au gouvernement jusqu’à 30 jours d’accès anticipé à un modèle avant sa sortie. Il n’impose aucune autorisation préalable pour lancer un modèle.
  • FRONTIER Act à la Chambre des représentants (23 juillet) : un projet de loi qui imposerait aux grands développeurs d’IA des obligations graduées selon leur taille, comme des fiches de modèle, des plans de gestion des risques, des audits indépendants et le signalement des incidents.
  • Sénat : Maria Cantwell, membre démocrate de la commission du Commerce du Sénat, a publié le 7 octobre un ensemble de principes, et non un projet de loi. Il prévoit que les modèles réussissent un audit indépendant avant leur sortie.

Ce qui pourrait changer pour les développeurs

Ce qui suit est notre estimation et nos conseils à partir de ces informations.

Aucune obligation ne pèse sur les développeurs aujourd’hui. SAFA n’existe pas encore, le décret est volontaire et les projets de loi ne sont pas adoptés. Mais une fois les règles fixées, elles arriveront probablement aux développeurs par les conditions d’utilisation des API et les processus de lancement des fournisseurs.

  • Les conditions d’utilisation peuvent changer. Si les signalements d’incidents ou les audits externes deviennent la norme, les fournisseurs d’IA risquent d’ajuster leurs conditions d’API. Les fonctions d’agent, où une IA utilise un ordinateur pour l’utilisateur, pourraient être parmi les premières concernées.
  • Les nouveaux modèles pourraient arriver plus tard. Participer à l’examen anticipé par le gouvernement ajoute une étape avant la sortie.
  • Les résultats de sécurité pourraient devenir plus faciles à comparer. Si les tests sont standardisés, les documents d’évaluation de différents modèles pourront être comparés directement.
  • Les petites équipes pourraient être pénalisées. Selon les critiques, si les grandes entreprises fixent les normes d’audit, les respecter coûtera plus cher aux petites équipes et aux projets open source. Un avant-projet de loi à la Chambre des représentants prévoit aussi un gel de trois ans des nouvelles lois des États américains sur l’IA.

Si vous dépendez beaucoup d’un seul modèle, regroupez vos appels à l’IA à un seul endroit du code et gardez votre propre jeu de tests, afin de pouvoir changer de fournisseur plus tard sans tout réécrire.

À suivre

Une annonce officielle de SAFA avec un projet de normes, le maintien ou non du gel des lois des États américains dans un texte final, et les modifications des conditions d’utilisation des fournisseurs d’IA.

Sources

Source: thenextweb.com

← Retour