Aller au contenu
Le Signal Clair
← Toutes les actualités

Notre première phase d'évaluations intégrées

Titre original (traduit automatiquement) : Our first phase of embedded assessments

En clair

OpenAI a signé des accords avec quatre organisations indépendantes (Apollo Research, METR, Transluce et Goodfire) pour une première phase d'évaluations dites « intégrées ». Ces experts obtiennent un accès approfondi à certains modèles, au , aux données d'entraînement et d'évaluation, aux systèmes de surveillance, à la documentation et aux équipes. Ils examineront notamment si des modèles pourraient agir en secret contre l'intention de leurs concepteurs, et si les mesures de protection et de surveillance le détectent.

Pourquoi ça vous concerne

Ces contrôles externes, dont les résultats pourraient être publiés, permettent au public de mieux savoir comment les risques liés à l'IA sont évalués et gérés, plutôt que de se fier aux seules déclarations de l'entreprise. Cela n'a toutefois pas d'effet immédiat sur l'usage quotidien des outils d'IA.

Texte de la source · links.tldrnewsletter.com (en anglais)

Embedded assessments give independent experts deep access to a lab's internal models and systems so they can assess model alignment and the effectiveness of safeguards over an extended period. The access gives assessors the evidence and context to pursue independent evaluations and uncover unanticipated failures. Public reporting from independent assessments can give the public a clearer view of how labs are evaluating and managing risks. OpenAI has signed agreements with four independent assessors for its first phase of embedded assessments.

Source originale

links.tldrnewsletter.com

Lire l’article ↗ (nouvel onglet)

Prévenir un proche

WhatsApp SMS E-mail

3 médias en ont parlé

Notre première phase d'évaluations intégrées · Le Signal Clair