Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Implementação funcional de log de todo o processamento embutido no próprio dataframe #27

Merged
merged 188 commits into from
Mar 25, 2024

Conversation

ronaldokun
Copy link

No description provided.

ronaldokun and others added 30 commits August 1, 2023 14:42
- As emissões são agregadas por ['UF', 'Código_Município', 'Fistel', 'Frequência_Central', 'Largura_Emissão(kHz)', 'Classe_Emissão']
O total de estações agregadas é anotado na coluna Multiplicidade

- Dada Frequência Central e Largura de Banda extraída da string Canalização são criadas 2 colunas: Início_Canal e Fim_Canal para cada registro
    - São ignorados os dados de Frequência Inicial e Frequência Final da base, menos de 30% coincide com esse início e fim de canal calculado à partir da Frequência Central e Largura de Banda

Para o mapeamento das emissões com os Canais, as estações agregadas são novamente agrupadas por canal.

- Esse canal é cruzado com o arquivo de canalização planilhado à partir da resolução.
- São definidos os blocos que correspondem à emissão: Blocos_Downlink à partir desses blocos são definidos os respectivos blocos Blocos_Uplink. É marcado na coluna Intervalo_Canal a qual intervalo corresponde o canal da estação, neste caso Downlink
    - Caso não seja identificado nenhum bloco de Downlink no canal, é verificado se o mesmo não corresponde à um ou mais blocos de Uplink, caso afirmativo é marcado na coluna Intervalo_Canal a sigla Uplink
    - Se o canal não corresponder à nenhum intervalo de Downlink ou Uplink a coluna Intervalo_Canal é marcada como Inválido
- Antes da agregação anterior, os dados são ordenados numericamente pelo número de estação, assim caso uma emissão agregar mais de 1 item, irá aparecer a estação com número menor de um conjunto de estações agregadas
Refatoração dos notebooks e organização dos arquivos fixos de dados em pastas internas do módulo extracao
Liberada versão tratada e agregada dos dados de SMP
Adicionado também tratamento de erros genérico caso haja erro na atualização dos dados aeronáuticos. A chamada fillna com o argumento inplace=True no pandas não parece estar funcionando
There was no verification for when the subset to be verified is empty
The documentation files were not up-to-date with the nbdev version 2
Criar módulo conectors.py para encapsular criação de conectores de banco
Foi reimplementada toda lógica de conexão de banco, extração e pós-processamento em classes base, herança e composição
Completa refatoração utilizando Classes, herança e composição utilizando a Classe GettAttr do fastcore
O bug estava em utilizar comparação simples ao utilizar floats em vez do np.isclose
The logic is flawed to extract millions of data and then discard them. There is high cost in extract and then in process and save it.
@ronaldokun ronaldokun added documentation Improvements or additions to documentation enhancement New feature or request data-validation Validação de Dados labels Mar 25, 2024
@ronaldokun ronaldokun self-assigned this Mar 25, 2024
@ronaldokun ronaldokun merged commit f8d7325 into master Mar 25, 2024
0 of 3 checks passed
@ronaldokun ronaldokun deleted the dev branch March 25, 2024 01:45
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
data-validation Validação de Dados documentation Improvements or additions to documentation enhancement New feature or request
Projects
Status: Done
Development

Successfully merging this pull request may close these issues.

1 participant