DiarioOficial-Contratos-BR-GT

Este dataset, DiarioOficial-Contratos-BR-GT, é um Ground Truth de alta confiabilidade para avaliação de sistemas de Retrieval-Augmented Generation (RAG) focados no domínio jurídico/administrativo em língua portuguesa.

O dataset foi desenvolvido como a principal contribuição metodológica do TCC em Engenharia de Computação de Gustavo Valentim na Universidade de Brasília (UnB).

🎯 Desafio e Objetivo do Dataset

A avaliação de sistemas RAG em domínios específicos, como atos públicos, é severamente limitada pela ausência de benchmarks públicos em português. Este dataset preenche essa lacuna, fornecendo um ground truth robusto focado no Diário Oficial do Distrito Federal (DODF).

A tarefa central do benchmark é:

Avaliar a capacidade de um sistema RAG de recuperar o VALOR MONETÁRIO EXATO de um extrato de contrato.

Esta escolha metodológica (focar em um valor exato) permite uma avaliação objetiva e rigorosa da precisão do sistema, eliminando a subjetividade de respostas abertas.

📁 Organização do Benchmark (Os 4 Arquivos)

O benchmark é composto por 554 extratos de contrato únicos e validados. Ele é estruturado em duas dimensões (Tamanho e Tipo de Consulta), resultando nos 4 arquivos .jsonl principais deste repositório.

Dimensão 1: Tamanho do Conjunto

A dimensão de tamanho é baseada no número de documentos PDF de origem usados para validar os extratos.

1. Conjunto Pequeno (Ajuste): Subconjunto de 87 extratos validados, extraídos de um corpus de 36 PDFs. Ideal para hyperparameter tuning (ex: chunk_size, top_k) com ciclos de teste rápidos.

   • (Os arquivos PDF de origem deste conjunto estão na pasta diario_oficial_menor).

2. Conjunto Grande (Avaliação): O conjunto completo de 554 extratos validados, extraídos de um corpus de 58 PDFs (que inclui os 36 PDFs do conjunto pequeno). Usado para a avaliação final.

   • (Os arquivos PDF de origem deste conjunto estão na pasta diario_oficial_maior).

Dimensão 2: Tipo de Consulta (Base A vs. Base B)

1. Base A (Consulta Ampla / Objeto): Perguntas mais difíceis, focadas apenas no campo "objeto" do contrato (ex: "Qual o valor do contrato para prestação de serviços...?"). Testa a capacidade do RAG de lidar com ambiguidade.
2. Base B (Consulta Específica / Extrato): Perguntas mais fáceis, que fornecem mais contexto (ex: "Qual o valor do contrato nº 123 com a empresa X...?"). Testa a capacidade do RAG de usar múltiplos pontos de contexto.

Mapeamento dos Arquivos de Benchmark

Configuração no Viewer	Arquivo JSONL	Tamanho	Tipo de Consulta	Nº Extratos	Nº Perguntas*
base_a_pequeno	base_a_objeto_menor.jsonl	Pequeno	Ampla (Base A)	87	261
base_b_pequeno	base_b_extrato_menor.jsonl	Pequeno	Específica (Base B)	87	261
base_a_grande	base_a_objeto_maior.jsonl	Grande	Ampla (Base A)	554	1662
base_b_grande	base_b_extrato_menor.jsonl	Grande	Específica (Base B)	554	1662

* As perguntas foram geradas sinteticamente usando o Llama 3.1, com 3 variações por extrato para cada base (A e B).

🧬 Estrutura dos Dados (JSON Lines)

Cada linha em um arquivo .jsonl é um objeto JSON autocontido. A estrutura exata é a seguinte:

Campo	Tipo	Descrição
id_versao_pergunta	String	Identificador único da pergunta (inclui versão).
pergunta	String	A pergunta gerada pelo Llama 3.1 para o RAG.
objeto	String	O campo "objeto" do contrato (usado na Base A).
resposta	String	O valor monetário exato (Ground Truth).
pdf	String	Nome do arquivo PDF fonte onde o extrato foi validado.
extrato	String	O texto completo do extrato (usado na Base B).
id_ato_linkado	String	ID do ato original.
id_dodf_linkado	Integer	ID do Diário Oficial original.

Exemplo de linha (.jsonl):

{"id_versao_pergunta":"a_aquisição_de_equipamentos_de_tecnologia_da_informação_e_co_00_v0","pergunta":"Qual é o valor total destinado à aquisição de equipamentos de Tecnologia da Informação e Comunicação para modernizar o parque de computadores do Centro Integrado de Operações de Brasília?","objeto":"a aquisição de equipamentos de Tecnologia da Informação e Comunicação objetivando a modernização do parque de computadores e notebooks do Centro Integrado de Operações de Brasília...","resposta":"R$ 287.000,00","pdf":"DODF 191 08-10-2021 INTEGRA.pdf","extrato":"EXTRATO DO CONTRATO DE AQUISIÇÃO DE BENS Nº 42/2021...","id_ato_linkado":"1-R1","id_dodf_linkado":1}