← Toutes les actualités
Anthropic ouvre ses portes à des évaluateurs externes
Pourquoi c’est important
Cette transparence renforce la confiance envers les systèmes d'IA en permettant un contrôle externe indépendant. Pour les utilisateurs de Claude, cela signifie que les risques potentiels seront évalués par des tiers sans intérêt commercial à les minimiser.
Synthèse
Anthropic, l'entreprise derrière l'IA Claude, a ouvert ses locaux à six évaluateurs indépendants de l'organisation METR. Ces chercheurs auront accès aux systèmes de l'entreprise comme des salariés et pourront publier leurs conclusions sur la sécurité de Claude sans que Anthropic puisse les censurer, sauf pour des données sensibles précises.
Anthropic donne à six chercheurs de l’organisation METR un accès proche de celui de ses employés, pour évaluer ses risques et ses garde-fous. Ils peuvent publier leurs conclusions sans accord préalable, Anthropic ne pouvant demander que le retrait de données sensibles précises.
Source originale
zdnet.fr