Tester Luca

← Retour aux évaluations

Anthropic Claude Opus 4.8

Exécution Claude Opus 4.8 avec Luca sur 150 questions avec 3 générations par question.
Raisonnement : medium · Juge : GPT‑5.5

En un coup d’œil

Anthropic Claude Opus 4.8 obtient un score moyen de 50,0/100.

Il produit une erreur technique grave sur 123 question(s) sur 450.

381 question(s) sur 450 ont obtenu au moins un peu de points, 69 sont des échecs complets (score nul).

Ses meilleures performances sont sur le thème conformité (85,3/100), ses plus faibles sur droit des sociétés (40,5/100).

Indicateurs clés

Score moyen
50,0/100
Moyenne sur 150 question(s). Chaque question est notée de 0 à 10, ramenée ici sur 100.
Réponses non nulles
84,7%
127 question(s) sur 150 ont obtenu au moins un peu de points.
Erreurs majeures
27,3%
41 question(s) sur 150 contiennent une erreur technique grave.
Questions
150
Nombre de questions posées au modèle.
Temps moyen par réponse
16,9 s
Le modèle met ~16,9 s en moyenne pour produire une réponse.
Longueur moyenne de réponse
397 mots
~397 mots en moyenne par réponse sur 150 question(s).

Classement par thème

Meilleur thème conformité (85,3/100) · Plus faible droit des sociétés (40,5/100)

Score moyen par thème

conformitéconformité85,3%comptabilitécomptabilité60,1%fiscalitéfiscalité48,9%social/payesocial/paye41,3%droit des sociétésdroit des sociétés40,5%

Échecs complets vs réponses utiles

Sur 450 question(s), 69 ont reçu un score nul (échec complet), " 381 ont obtenu au moins un peu de points.

15,3 nul
84,7 non nul
Détails de la distribution des scores

Répartition des notes attribuées par le juge (de 0 à 10). Permet de voir si le modèle obtient beaucoup de notes moyennes, ou si tout se joue aux extrêmes (succès complets vs échecs francs).

Pass@k

@1@157,1%@2@266,2%

Distribution des scores (sur 10)

0,0-1,0861,0-2,0102,0-3,0243,0-4,0334,0-5,0405,0-6,0336,0-7,0637,0-8,0678,0-9,0599,0-10,035