Tester Luca

← Retour aux évaluations

Google Gemini 3.5 Flash

Exécutions Gemini 3.5 Flash avec et sans LUCA sur 150 questions avec 3 générations par question.
Raisonnement : medium · Juge : GPT‑5.5

En un coup d’œil

Google Gemini 3.5 Flash obtient un score moyen de 50.0/100.

Il produit une erreur technique grave sur 84 question(s) sur 450.

348 question(s) sur 450 ont obtenu au moins un peu de points, 102 sont des échecs complets (score nul).

Ses meilleures performances sont sur le thème conformité (78.7/100), ses plus faibles sur social/paye (38.5/100).

Indicateurs clés

Score moyen
50.0/100
Moyenne sur 150 question(s). Chaque question est notée de 0 à 10, ramenée ici sur 100.
Réponses non nulles
77.3%
116 question(s) sur 150 ont obtenu au moins un peu de points.
Erreurs majeures
18.7%
28 question(s) sur 150 contiennent une erreur technique grave.
Questions
150
Nombre de questions posées au modèle.
Temps moyen par réponse
55.3 s
Le modèle met ~55.3 s en moyenne pour produire une réponse.
Longueur moyenne de réponse
687 mots
~687 mots en moyenne par réponse sur 150 question(s).

Avec Luca et LLM utilisé seul (sans environnement Luca)

Avec Luca, le modèle gagne 2.1 points sur le score moyen.

Avec Luca, le taux d’erreurs majeures est réduit de 18.9 points.

Score moyen
Avec Luca50.0/100
LLM seul47.9/100
+2.1 pts grâce à Luca
Erreurs majeures
Avec Luca18.7%
LLM seul37.6%
+18.9 pts grâce à Luca
Réponses non nulles
Avec Luca77.3%
LLM seul82.7%
−5.3 pts perdus avec Luca

Classement par thème

Meilleur thème conformité (78.7/100) · Plus faible social/paye (38.5/100)

Score moyen par thème

Avec LucaLLM seulconformitéconformité78.7%84.8%comptabilitécomptabilité58.0%62.0%fiscalitéfiscalité51.3%44.7%droit des sociétésdroit des sociétés41.5%37.1%social/payesocial/paye38.5%38.1%

Échecs complets vs réponses utiles

Sur 450 question(s), 102 ont reçu un score nul (échec complet), " 348 ont obtenu au moins un peu de points.

22.7 nul
77.3 non nul
Détails de la distribution des scores

Répartition des notes attribuées par le juge (de 0 à 10). Permet de voir si le modèle obtient beaucoup de notes moyennes, ou si tout se joue aux extrêmes (succès complets vs échecs francs).

Pass@k

@1@155.6%@2@267.3%

Distribution des scores (sur 10)

0.0-1.01181.0-2.0122.0-3.0183.0-4.0194.0-5.0335.0-6.0266.0-7.0367.0-8.0518.0-9.0569.0-10.081