Notre première phase d'évaluations intégrées
Titre original (traduit automatiquement) : Our first phase of embedded assessments
En clair
OpenAI a signé des accords avec quatre organisations indépendantes (Apollo Research, METR, Transluce et Goodfire) pour une première phase d'évaluations dites « intégrées ». Ces experts obtiennent un accès approfondi à certains modèles, au , aux données d'entraînement et d'évaluation, aux systèmes de surveillance, à la documentation et aux équipes. Ils examineront notamment si des modèles pourraient agir en secret contre l'intention de leurs concepteurs, et si les mesures de protection et de surveillance le détectent.
Pourquoi ça vous concerne
Ces contrôles externes, dont les résultats pourraient être publiés, permettent au public de mieux savoir comment les risques liés à l'IA sont évalués et gérés, plutôt que de se fier aux seules déclarations de l'entreprise. Cela n'a toutefois pas d'effet immédiat sur l'usage quotidien des outils d'IA.
Texte de la source · links.tldrnewsletter.com (en anglais)
Embedded assessments give independent experts deep access to a lab's internal models and systems so they can assess model alignment and the effectiveness of safeguards over an extended period. The access gives assessors the evidence and context to pursue independent evaluations and uncover unanticipated failures. Public reporting from independent assessments can give the public a clearer view of how labs are evaluating and managing risks. OpenAI has signed agreements with four independent assessors for its first phase of embedded assessments.
Source originale
links.tldrnewsletter.com
3 médias en ont parlé
Our First Phase of Embedded Assessments ↗
links.tldrnewsletter.com · 17 nov.
Our first phase of embedded assessments ↗
openai.com · 16 nov.