EvalAP
Collection
Experiment sets exported from the EvalAP evaluation platform. • 60 items • Updated
query stringlengths 80 235 | output_true stringlengths 174 774 | category stringclasses 3
values | source stringlengths 45 153 | doc_id stringlengths 20 20 | url stringlengths 59 67 | experiment_id int64 1.87k 1.87k | experiment_name stringclasses 1
value | model_name stringclasses 1
value | dataset_name stringclasses 1
value | answer stringlengths 4 1.99k | answer_retrieval_context listlengths 1 1 | result_contextual_relevancy float64 0 1 ⌀ | result_judge_precision float64 0 1 | result_contextual_recall float64 0 1 | result_faithfulness float64 0 1 | result_contextual_precision float64 0 1 ⌀ |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
Quelles obligations s'appliquent au maître d'ouvrage pour encadrer l'utilisation des matériaux et dispositifs de protection lors des travaux préparatoires en vue de l'implantation d'unités de production nucléaire EPR2 en milieu marin ? | Pour chaque phase de travaux maritimes, le maître d'ouvrage doit transmettre aux services en charge du contrôle une description des matériaux mis en œuvre (nature, provenance), l'indication des quantités concernées (masse, volume, linéaire) ainsi que, le cas échéant, la localisation des zones concernées par l'immersion... | Décret | Décret n° 2024-505 du 3 juin 2024, article 18 | LEGIARTI000050813529 | https://www.legifrance.gouv.fr/loda/article_lc/LEGIARTI000050813529 | 1,872 | MediaTech's LEGI Chunking Evaluation V1__50 | LEGI Synthetic QA Dataset | Le maître d'ouvrage doit s'assurer de l'entretien régulier des dispositifs destinés à la protection de l'eau et des milieux aquatiques et marins, ainsi que des moyens de surveillance et d'évaluation des effets des travaux sur l'environnement. Il doit également mettre en œuvre des procédures et moyens pour prévenir et l... | [
"[\"Décret n° 2024-505 du 3 juin 2024 portant autorisation environnementale relative à la réalisation de travaux préparatoires nécessaires à l'implantation d'une paire d'unités de production nucléaire de type EPR2, sur le site de Penly et la commune de Petit-Caux - Article 15\\nPRESCRIPTIONS PARTICULIÈRES RELATIVES... | 0.4 | 0 | 0 | 1 | 1 | |
Comment les travaux pour l'implantation nucléaire à Penly doivent‑ils être adaptés lorsque les conditions météorologiques ou marines deviennent défavorables ? | Les travaux sont interrompus dès que les conditions météorologiques et hydrodynamiques limites retenues pour leur réalisation sont atteintes, afin de réduire les risques de naufrage, d’accident et de pollution associée. | Décret | Décret n° 2024-505 du 3 juin 2024, article 18 | LEGIARTI000050813529 | https://www.legifrance.gouv.fr/loda/article_lc/LEGIARTI000050813529 | 1,872 | MediaTech's LEGI Chunking Evaluation V1__50 | LEGI Synthetic QA Dataset | Je ne sais pas. | [
"[\"Décret n° 2024-505 du 3 juin 2024 portant autorisation environnementale relative à la réalisation de travaux préparatoires nécessaires à l'implantation d'une paire d'unités de production nucléaire de type EPR2, sur le site de Penly et la commune de Petit-Caux - Article 15\\nPRESCRIPTIONS PARTICULIÈRES RELATIVES... | 0.4 | 0 | 0 | 1 | 0 | |
Quelles obligations de documentation et de surveillance doit respecter Electricité de France concernant la qualité des matériels importants pour la sûreté de la centrale nucléaire de Saint-Alban-Saint-Maurice ? | Electricité de France doit mettre en place un système efficace permettant de définir la qualité requise pour les structures, systèmes et composants importants pour la sûreté, de vérifier que cette qualité est obtenue, de contrôler les résultats et de rectifier les erreurs éventuelles. Ce système reposera sur des procéd... | Décret | Décret du 12 novembre 1981, article 3.1 – Autorisation de création de deux tranches de la centrale nucléaire de Saint-Alban-Saint-Maurice | LEGIARTI000047655330 | https://www.legifrance.gouv.fr/loda/article_lc/LEGIARTI000047655330 | 1,872 | MediaTech's LEGI Chunking Evaluation V1__50 | LEGI Synthetic QA Dataset | Electricité de France doit présenter un dossier pour assurer la sûreté du stockage et la protection du combustible contre les actions de malveillance, ainsi que contre les tentatives de vols ou détournements, au plus tard trois mois avant l'arrivée sur le site du premier assemblage combustible destiné à chacune des tra... | [
"[\"Décret du 12 novembre 1981 autorisant la création par Electricité de France de deux tranches de la centrale nucléaire de Saint-Alban-Saint-Maurice, dans le département de l'Isère - Article 7\\nLes installations faisant l’objet du présent décret seront désignées par le ministre de l’industrie comme installation... | 0.714286 | 0 | 0.75 | 1 | 1 | |
Comment l'enceinte de confinement de la centrale de Saint-Alban-Saint-Maurice doit-elle être dimensionnée ? | L'enceinte de confinement de Saint-Alban-Saint-Maurice doit être constituée d'une enceinte interne en béton précontraint entourée d'une enceinte externe en béton armé. L'enceinte interne doit être conçue pour supporter sans perte d'intégrité les sollicitations d'un accident majeur : rupture circonférentielle complète e... | Décret | Décret du 12 novembre 1981, article 3.1 – Autorisation de création de deux tranches de la centrale nucléaire de Saint-Alban-Saint-Maurice | LEGIARTI000047655330 | https://www.legifrance.gouv.fr/loda/article_lc/LEGIARTI000047655330 | 1,872 | MediaTech's LEGI Chunking Evaluation V1__50 | LEGI Synthetic QA Dataset | Le confinement des substances dangereuses ou radioactives doit être conçu et réalisé de façon à prévenir tout événement conduisant à leur dissémination involontaire à l'intérieur de l'installation ou dans son environnement. Il doit tenir compte de la forme physico-chimique de ces substances. Dans les parties de l'insta... | [
"[\"Décret du 12 novembre 1981 autorisant la création par Electricité de France de deux tranches de la centrale nucléaire de Saint-Alban-Saint-Maurice, dans le département de l'Isère - Article 7\\nLes installations faisant l’objet du présent décret seront désignées par le ministre de l’industrie comme installation... | 1 | 0 | 0.25 | 1 | 0 | |
Quels objectifs les collectivités territoriales ultramarines doivent-elles atteindre concernant la modernisation de leurs réseaux numériques ? | Les architectures des réseaux numériques ultramarins, notamment en Nouvelle-Calédonie, Polynésie française et Guyane, doivent être remises à niveau pour bénéficier des dernières évolutions technologiques. Un déploiement adapté et rapide des chantiers numériques de proximité (téléprocédures, applications de sécurité, éq... | Loi | LOI n° 2023-22 du 24 janvier 2023 d'orientation et de programmation du ministère de l'intérieur, Titre V - Dispositions relatives à l'outre-mer | LEGIARTI000047047831 | https://www.legifrance.gouv.fr/loda/id/JORFTEXT000047046768/ | 1,872 | MediaTech's LEGI Chunking Evaluation V1__50 | LEGI Synthetic QA Dataset | Je ne sais pas. | [
"[\"Décret n° 2009-796 du 23 juin 2009 fixant le cahier des charges de la société nationale de programme France Télévisions - Article Annexe\\nAnnexe\\nCAHIER DES CHARGES DE LA SOCIÉTÉ NATIONALE DE PROGRAMME FRANCE TÉLÉVISIONS\\nPréambule\\nChapitre Ier. ― La nouvelle télévision publique\\nI. ― Des services aux ide... | 0.5 | 0 | 1 | 1 | null | |
"Comment les effectifs de sécurité doivent-ils évoluer dans les territoires ultramarins d'ici 203(...TRUNCATED) | "L'objectif national est de doubler la présence policière et gendarmique sur la voie publique d'ic(...TRUNCATED) | Loi | "LOI n° 2023-22 du 24 janvier 2023 d'orientation et de programmation du ministère de l'intérieur,(...TRUNCATED) | LEGIARTI000047047831 | https://www.legifrance.gouv.fr/loda/id/JORFTEXT000047046768/ | 1,872 | MediaTech's LEGI Chunking Evaluation V1__50 | LEGI Synthetic QA Dataset | "Les effectifs de sécurité dans les territoires ultramarins d'ici 2030 devront être augmentés. E(...TRUNCATED) | ["['LOI n° 2003-73 du 27 janvier 2003 relative à la programmation militaire pour les années 2003 (...TRUNCATED) | 1 | 0 | 0 | 1 | 0 | |
"Quel financement supplémentaire est prévu pour soutenir l'équipement des communes ultramarines e(...TRUNCATED) | "Les crédits du fonds interministériel de prévention de la délinquance et de la radicalisation ((...TRUNCATED) | Loi | "LOI n° 2023-22 du 24 janvier 2023 d'orientation et de programmation du ministère de l'intérieur,(...TRUNCATED) | LEGIARTI000047047831 | https://www.legifrance.gouv.fr/loda/id/JORFTEXT000047046768/ | 1,872 | MediaTech's LEGI Chunking Evaluation V1__50 | LEGI Synthetic QA Dataset | Je ne sais pas. | ["['LOI n° 2013-1168 du 18 décembre 2013 relative à la programmation militaire pour les années 2(...TRUNCATED) | 0 | 0 | 0 | 1 | 0 | |
"Quels moyens technologiques innovants sont destinés à renforcer la surveillance des frontières u(...TRUNCATED) | "Le déploiement de « frontières intelligentes » comprend : des équipements de contrôle avancé(...TRUNCATED) | Loi | "LOI n° 2023-22 du 24 janvier 2023 d'orientation et de programmation du ministère de l'intérieur,(...TRUNCATED) | LEGIARTI000047047831 | https://www.legifrance.gouv.fr/loda/id/JORFTEXT000047046768/ | 1,872 | MediaTech's LEGI Chunking Evaluation V1__50 | LEGI Synthetic QA Dataset | "Le système SPATIONAV, qui fédère et redistribue les informations de surveillance maritime, est e(...TRUNCATED) | ["['LOI n° 2013-1168 du 18 décembre 2013 relative à la programmation militaire pour les années 2(...TRUNCATED) | 0.285714 | 0 | 0 | 1 | 1 | |
"Quelles mesures spécifiques sont envisagées pour préparer les territoires ultramarins à la gest(...TRUNCATED) | "Plusieurs mesures sont prévues : étude de démarches similaires au plan séisme Antilles dans d'a(...TRUNCATED) | Loi | "LOI n° 2023-22 du 24 janvier 2023 d'orientation et de programmation du ministère de l'intérieur,(...TRUNCATED) | LEGIARTI000047047831 | https://www.legifrance.gouv.fr/loda/id/JORFTEXT000047046768/ | 1,872 | MediaTech's LEGI Chunking Evaluation V1__50 | LEGI Synthetic QA Dataset | "Les mesures spécifiques envisagées pour préparer les territoires ultramarins à la gestion des r(...TRUNCATED) | ["['LOI n° 2013-1168 du 18 décembre 2013 relative à la programmation militaire pour les années 2(...TRUNCATED) | 0.833333 | 0 | 0 | 1 | 0 | |
"Quels sont les trois objectifs majeurs de la politique de développement solidaire et de lutte cont(...TRUNCATED) | "Les trois objectifs majeurs sont : l'éradication de la pauvreté dans toutes ses dimensions, la lu(...TRUNCATED) | Loi | "LOI n° 2021-1031 du 4 août 2021 de programmation relative au développement solidaire et à la lu(...TRUNCATED) | LEGIARTI000043899519 | https://www.legifrance.gouv.fr/jorf/id/JORFTEXT000043898536 | 1,872 | MediaTech's LEGI Chunking Evaluation V1__50 | LEGI Synthetic QA Dataset | "1. L'éradication de la pauvreté dans toutes ses dimensions, la lutte contre les inégalités, la (...TRUNCATED) | ["[\"LOI n° 2021-1031 du 4 août 2021 de programmation relative au développement solidaire et à l(...TRUNCATED) | 0.375 | 1 | 1 | 1 | 1 |
Evaluation of severals chunking strategies for MediaTech's LEGI dataset.
This dataset contains 51 experiments from the EvalAP evaluation platform.
Datasets: LEGI Synthetic QA Dataset
Metrics: contextual_precision, contextual_recall, contextual_relevancy, faithfulness, judge_precision
| model | contextual_precision | contextual_recall | contextual_relevancy | faithfulness | judge_precision |
|---|---|---|---|---|---|
| 8000_ov100 | 0.64 ± 0.46 | 0.59 ± 0.45 | 0.50 ± 0.30 | 0.98 ± 0.13 | 0.02 ± 0.14 |
| 8000_ov0 | 0.66 ± 0.46 | 0.58 ± 0.45 | 0.47 ± 0.31 | 0.98 ± 0.14 | 0.02 ± 0.14 |
| 4096_ov100 | 0.68 ± 0.45 | 0.59 ± 0.44 | 0.49 ± 0.29 | 0.98 ± 0.10 | 0.04 ± 0.20 |
| 4096_ov0 | 0.70 ± 0.44 | 0.60 ± 0.42 | 0.52 ± 0.31 | 0.97 ± 0.15 | 0.05 ± 0.21 |
| 2048_ov100 | 0.77 ± 0.40 | 0.62 ± 0.43 | 0.50 ± 0.32 | 0.98 ± 0.12 | 0.06 ± 0.24 |
| 2048_ov0 | 0.76 ± 0.41 | 0.66 ± 0.43 | 0.47 ± 0.31 | 0.98 ± 0.14 | 0.04 ± 0.20 |
| 1500_ov100 | 0.82 ± 0.36 | 0.74 ± 0.39 | 0.51 ± 0.29 | 0.97 ± 0.10 | 0.07 ± 0.26 |
| 1500_ov0 | 0.83 ± 0.36 | 0.72 ± 0.39 | 0.51 ± 0.31 | 0.96 ± 0.16 | 0.09 ± 0.28 |
| 1024_ov100 | 0.78 ± 0.39 | 0.73 ± 0.37 | 0.49 ± 0.29 | 0.96 ± 0.15 | 0.10 ± 0.29 |
| 1024_ov0 | 0.83 ± 0.36 | 0.74 ± 0.38 | 0.50 ± 0.29 | 0.97 ± 0.12 | 0.10 ± 0.30 |
| 512_ov50 | 0.82 ± 0.37 | 0.68 ± 0.39 | 0.51 ± 0.32 | 0.96 ± 0.13 | 0.06 ± 0.24 |
| 512_ov0 | 0.80 ± 0.39 | 0.68 ± 0.39 | 0.51 ± 0.30 | 0.99 ± 0.06 | 0.10 ± 0.29 |
| 256_ov25 | 0.85 ± 0.35 | 0.68 ± 0.37 | 0.52 ± 0.30 | 0.97 ± 0.11 | 0.03 ± 0.18 |
| 256_ov0 | 0.86 ± 0.34 | 0.66 ± 0.37 | 0.52 ± 0.31 | 0.98 ± 0.06 | 0.02 ± 0.14 |
| 5000_ov500_len | 0.76 ± 0.40 | 0.66 ± 0.42 | 0.51 ± 0.30 | 0.96 ± 0.19 | 0.08 ± 0.27 |
| 5000_ov250_len | 0.79 ± 0.39 | 0.75 ± 0.36 | 0.50 ± 0.27 | 0.97 ± 0.16 | 0.07 ± 0.26 |
| 5000_ov0_len | 0.80 ± 0.38 | 0.74 ± 0.37 | 0.49 ± 0.30 | 0.99 ± 0.08 | 0.08 ± 0.27 |
Use the dropdown above to select an experiment configuration.