Scraping de Sites

Projeto para extração de dados (scraping) de cargos e remunerações dos servidores públicos ativos e inativos de 3 estados brasileiros.

De maneira geral, o projeto seria o seguinte:

Prazo máximo para a entrega dos dados: 30/05/22

Coletaremos as informações apenas do mês de março de 2022 (ou do último mês disponível).

Os dados gerais (podemos ter mais dados coletados) a serem coletados nos sites: Nome do Servidor; Identificação Exclusiva do Servidor (CPF, Matrícula e etc.); Situação do Servidor (Ativo, Inativo, Pensionista e etc.); Órgão; Cargo; Remuneração Bruta; Remuneração Líquida.

Os dados de cada estado seriam entregues ************.

Informações dos dados dos estados a serem coletados:

1. Mato Grosso (MT)

1.1 Servidores ativos: ************
A página inicial mostra apenas matrícula, nome (servidor), remuneração bruta (vantagens) e remuneração líquida (pós descontos); Para obter as demais informações, é necessário acessar cada nome. Nessas páginas "individuais", seria necessário extrair "Órgão", "Categoria", "Setor" e "Cargo".

1.2 Servidores inativos: ************
A primeira página abre uma seleção por órgãos, em por nome do servidor e em seguida as informações individuais.

2. Rio Grande do Norte (RN)

2.1 Servidores Ativos e Inativos: ************
Na página inicial, selecionar mês e ano e marcar a opção de "pesquisar por órgão". Abre uma página com os órgãos e, assim, é necessário acessar cada um deles. Na página de cada órgão, já aparecem as informações que precisamos. Porém, a opção de download ************ só traz a informação dos 20 nomes que estão na tela... Assim, é necessário percorrer todas as páginas.

3. Roraima (RR)

3.1 Servidores ativos: ************
Gera uma primeira página com algumas informações pessoais, mas é preciso clicar em cada nome para obter os dados da remuneração.

Obrigado pela atenção.