Ajuda Técnica — HydroStat v5.0.2026

1. Visão geral do HydroStat

O HydroStat é uma ferramenta computacional para análise estatística de dados batimétricos comparáveis. O sistema avalia diferenças verticais entre profundidades de referência e profundidades de check line, seja a partir de pares homólogos já definidos, seja por associação espacial entre dois conjuntos de pontos.

O software transforma dados de entrada em uma síntese estatística rastreável: discrepâncias, tolerâncias verticais, indicadores de tendência central, dispersão, métricas robustas, diagnóstico de normalidade, detecção de valores extremos, gráficos e relatórios. O resultado apoia o controle de qualidade hidrográfico, mas não substitui a análise técnica do levantamento nem a interpretação da origem física das discrepâncias observadas.

Diferenças entre levantamentos podem decorrer de incerteza observacional, referência vertical adotada, maré residual, perfil de velocidade do som (SVP), atitude do transdutor, offsets de instalação, densidade amostral, interpolação, morfologia do fundo ou pareamento espacial inadequado. A análise estatística precisa ser lida em conjunto com o contexto operacional do levantamento.

2. Estrutura do software

A janela principal apresenta dois fluxos de processamento. A escolha do fluxo define a natureza da entrada, o tipo de pareamento e os produtos gerados.

Fluxo	Entrada esperada	Função
Análise Estatística das Discrepâncias	Um arquivo com X, Y, profundidade de referência e profundidade de check line em colunas separadas.	Analisa pares já definidos pelo usuário ou por processamento externo. Nenhuma busca espacial é executada.
Análise Estatística das Profundidades	Dois arquivos separados: um de referência e um de check line, cada um com X, Y e Z.	Busca homólogos por vizinho mais próximo dentro de um raio definido e calcula as discrepâncias.

3. Entradas aceitas e seleção de colunas

O HydroStat aceita arquivos textuais delimitados, planilhas Excel e shapefiles. O usuário seleciona explicitamente as colunas correspondentes às coordenadas planimétricas e às profundidades usadas na comparação.

Formato	Extensões	Observação
XYZ ou texto delimitado	`.xyz`, `.txt`	Leitura com ou sem cabeçalho. O delimitador é detectado automaticamente (vírgula, tabulação, espaço, ponto-e-vírgula ou pipe).
Planilha	`.xlsx`, `.xls`	Dados organizados em colunas nomeadas ou genéricas.
Shapefile	`.shp`	Atributos e coordenadas extraídos da geometria pontual. O EPSG é lido automaticamente quando disponível no arquivo.

Na ausência de cabeçalho, o sistema atribui rótulos genéricos (coluna 1, coluna 2…). A responsabilidade de confirmar se cada campo corresponde efetivamente a X, Y, Z referência e Z check line é integralmente do usuário.

4. Fluxo de análise das discrepâncias

Para usar este fluxo, o arquivo de entrada deve conter pares comparáveis em um único arquivo: coordenada X, coordenada Y, profundidade de referência e profundidade de check line em colunas distintas. O HydroStat calcula a discrepância vertical de cada par e aplica as estatísticas sobre a amostra resultante.

Discrepância calculada pelo software para cada par i: Dif_i = Z_referência_i − Z_check_i Condição de aceitação ponto a ponto (IHO S-44): |Dif_i| < T_S44(Z_referência_i)

Convenção de sinal

Dif positiva — a profundidade de referência é numericamente maior que a check line no mesmo ponto.
Dif negativa — a profundidade de referência é numericamente menor que a check line.
Viés sistemático positivo ou negativo persistente pode indicar desacordo de referência vertical, desacordo de datum ou efeito de maré não corrigido.

5. Fluxo de análise das profundidades

Para usar este fluxo, o usuário dispõe de dois arquivos separados: um conjunto de referência e um conjunto de check line. O HydroStat constrói uma estrutura kd-tree sobre os pontos da check line e associa cada ponto de referência ao seu vizinho mais próximo, desde que a distância planimétrica não ultrapasse o raio de busca definido.

Associação espacial por vizinho mais próximo: Para cada P_ref = (X_ref, Y_ref): d = distância euclidiana até o vizinho mais próximo em P_check Se d ≤ R_busca → par aceito Se d > R_busca → ponto descartado Discrepância após pareamento: Dif = Z_referência − Z_check_vizinho

Consequências práticas do raio de busca

Raio muito pequeno descarta homólogos válidos e reduz artificialmente a amostra, podendo enviesar os resultados.
Raio muito grande associa pontos de regiões distintas do fundo, introduzindo variabilidade morfológica como se fosse incerteza de medição.
O valor adequado depende do espaçamento entre linhas, da densidade de pontos e da geometria do levantamento. Não existe valor universalmente correto.

Além dos produtos estatísticos, o fluxo de profundidades gera dois mapas: distribuição espacial dos conjuntos com os círculos de busca (sobreposição) e distribuição dos pontos homólogos encontrados. Esses mapas são incorporados ao relatório PDF e devem ser inspecionados antes de qualquer conclusão sobre a qualidade do pareamento.

6. Tolerâncias verticais — IHO S-44 (6.ª ed., 2020)

O HydroStat aplica a fórmula de Incerteza Vertical Total (TVU — Total Vertical Uncertainty) da IHO S-44 para calcular a tolerância de cada ponto individualmente, em função da profundidade de referência e dos coeficientes da ordem selecionada.

Tolerância vertical aplicada ponto a ponto (IHO S-44, Tabela 1): T_S44(Z) = sqrt[ a² + (b · Z)² ] onde: a — componente de incerteza constante, independente da profundidade (metros) b — fator adimensional que escala a incerteza com a profundidade Z Z — profundidade de referência do par (metros) Critério ponto a ponto: Par aceito se |Dif| < T_S44(Z_referência) Critério global adotado pelo software: QC aprovado se percentual de pares aceitos ≥ 95%

Ordem IHO S-44	a (m)	b	Exemplo: T para Z = 20 m
Ordem 2	1,000	0,0230	√(1,00² + (0,023·20)²) ≈ 1,026 m
Ordem 1b	0,500	0,0130	√(0,50² + (0,013·20)²) ≈ 0,517 m
Ordem 1a	0,500	0,0130	√(0,50² + (0,013·20)²) ≈ 0,517 m
Ordem Especial	0,250	0,0075	√(0,25² + (0,0075·20)²) ≈ 0,257 m
Ordem Exclusiva	0,150	0,0075	√(0,15² + (0,0075·20)²) ≈ 0,160 m

A tolerância S-44 expressa requisitos de incerteza vertical de levantamento. A conformidade estatística reportada pelo software é uma condição necessária, mas não suficiente, para a aprovação do levantamento. Outros requisitos da norma — cobertura, detecção de feições, qualidade do posicionamento, controle de maré, SVP, validação cruzada e análise de incerteza total — devem ser avaliados separadamente.

Referência: IHO (2020). S-44 — IHO Standards for Hydrographic Surveys, 6.ª ed. Monaco: International Hydrographic Organization.

7. Estatísticas calculadas

O núcleo estatístico opera sobre a amostra de discrepâncias. Além das estatísticas descritivas clássicas, o software calcula três indicadores principais — IVT, RMSE e Sigma Robusto — e os compara com a tolerância S-44 calculada para a profundidade média da amostra.

7.1 Estatísticas descritivas

Média (estimativa de viés vertical): μ = (1/n) Σ Dif_i Desvio padrão amostral (ddof = 1, estimador não-viesado de σ): s = sqrt[ (1/(n−1)) Σ (Dif_i − μ)² ] Variância amostral: s² = (1/(n−1)) Σ (Dif_i − μ)²

7.2 IVT e RMSE — equivalência matemática

O software calcula IVT e RMSE com as expressões abaixo. Quando o desvio padrão é calculado com divisor n (desvio padrão populacional, ddof = 0), as duas expressões são matematicamente idênticas. Isso decorre diretamente da identidade algébrica entre variância populacional e média dos quadrados.

IVT (implementação do software — usa desvio padrão populacional, ddof = 0): σ_pop = sqrt[ (1/n) Σ (Dif_i − μ)² ] IVT = sqrt[ σ_pop² + μ² ] RMSE: RMSE = sqrt[ (1/n) Σ Dif_i² ] Equivalência: IVT² = σ_pop² + μ² = (1/n)Σ(Dif_i − μ)² + μ² = (1/n)Σ Dif_i² − μ² + μ² (expansão do quadrado) = (1/n)Σ Dif_i² = RMSE² Portanto: IVT = RMSE (quando ddof = 0) Nota: o desvio padrão descritivo s usa ddof = 1 (estimador amostral). O IVT usa ddof = 0 (desvio padrão populacional). São quantidades distintas.

A equivalência IVT = RMSE vale para a implementação atual do software. Valores ligeiramente distintos entre os dois podem ocorrer apenas por arredondamento intermediário. A interpretação técnica de ambos é a mesma: raiz da média dos quadrados das discrepâncias, combinando em um único número tanto o viés (μ) quanto a dispersão (σ_pop).

7.3 Sigma Robusto

O Sigma Robusto combina o MAD (Desvio Absoluto Mediano) escalado com a mediana das discrepâncias. O fator 1,4826 torna o MAD consistente com o desvio padrão gaussiano: para uma distribuição normal, MAD · 1,4826 ≈ σ. A combinação quadrática com a mediana segue a mesma estrutura do IVT/RMSE, substituindo média por mediana e desvio padrão por MAD escalado.

MAD (Desvio Absoluto Mediano): MAD = median( |Dif_i − median(Dif)| ) Sigma Robusto: Σ_rob = sqrt[ (1,4826 · MAD)² + median(Dif)² ]

Por que usar estimadores robustos?

Média e desvio padrão são estimadores de máxima verossimilhança para a distribuição normal, mas degradam rapidamente na presença de valores extremos (baixo ponto de colapso).
Mediana e MAD têm ponto de colapso de 50%, ou seja, até metade da amostra pode ser contaminada sem invalidar os estimadores (Rousseeuw & Croux, 1993).
Em dados batimétricos, valores extremos podem ter origem real (feições, obstáculos) ou operacional (erros de posição, spike de sonar, leituras fora d'água). O Sigma Robusto permite avaliar a dispersão da parte central da distribuição independentemente desses extremos.

Referência: Rousseeuw, P.J. & Croux, C. (1993). Alternatives to the Median Absolute Deviation. Journal of the American Statistical Association, 88(424), 1273–1283.

7.4 Interpretação conjunta

Indicador	Sensível a extremos?	Captura viés?	Uso técnico
Média (μ)	Sim	Sim — é o viés	Verificar se há tendência vertical sistemática.
Desvio padrão amostral (s)	Sim	Não — mede dispersão em torno da média	Dispersão aleatória das discrepâncias.
IVT = RMSE	Sim	Sim	Magnitude total das discrepâncias, combinando viés e dispersão.
Sigma Robusto (Σ_rob)	Baixa	Sim (via mediana)	Referência para a parte central da distribuição. Comparar com IVT para avaliar influência dos extremos.

8. Bootstrap, normalidade e outliers

8.1 Bootstrap paramétrico por reamostragem

Quando ativado, o bootstrap calcula intervalos de confiança de 95% para IVT, RMSE e Sigma Robusto por reamostragem com reposição (bootstrap percentil). Para cada métrica, o software verifica se o IC inteiro está contido no intervalo de tolerância calculado para a profundidade média da amostra.

Critério de aprovação do IC Bootstrap para cada métrica M (IVT, RMSE ou Σ_rob): T_média = T_S44(Z̄_referência) ← tolerância calculada na profundidade média IC aprovado se: IC_inferior ≥ −T_média E IC_superior ≤ +T_média IC reprovado se qualquer limite ultrapassar os limites [−T_média, +T_média]

O critério é conservador: exige que o IC inteiro esteja dentro da tolerância, não apenas o valor pontual. Isso reduz o risco de aprovação quando a incerteza amostral é alta.

Referência: Efron, B. & Tibshirani, R.J. (1993). An Introduction to the Bootstrap. Chapman & Hall, New York.

8.2 Teste de normalidade

O software executa o teste de Kolmogorov-Smirnov (KS) usando média e desvio padrão estimados a partir da própria amostra. Nesse caso, os parâmetros da distribuição de referência não são conhecidos a priori — são estimados dos dados — configurando uma hipótese composta, não simples.

Quando os parâmetros são estimados da própria amostra, o teste KS clássico perde correção de tamanho: a estatística de teste e seus valores críticos tabelados supõem parâmetros fixos conhecidos. Para hipótese composta sobre normalidade, o teste de Lilliefors (Lilliefors, 1967) é o procedimento correto, pois recalcula os valores críticos por simulação de Monte Carlo. O resultado do KS relatado pelo software deve ser interpretado como indicativo, não como teste rigoroso de normalidade.

Referências: Kolmogorov, A.N. (1933). Sulla determinazione empirica di una legge di distribuzione. Giornale dell'Istituto Italiano degli Attuari, 4, 83–91. — Lilliefors, H.W. (1967). On the Kolmogorov-Smirnov test for normality with mean and variance unknown. Journal of the American Statistical Association, 62(318), 399–402.

8.3 Detecção de outliers pelo critério IQR

Intervalo Interquartílico: IQR = Q3 − Q1 Limites do critério de Tukey (1977): L_inf = Q1 − 1,5 · IQR L_sup = Q3 + 1,5 · IQR Classificação: Outlier se Dif_i < L_inf ou Dif_i > L_sup

Interpretação técnica

O critério IQR é resistente a extremos: Q1 e Q3 não são afetados por valores fora dos limites.
Para distribuição normal, cerca de 0,7% das observações ficam além dos limites (Tukey, 1977). Em amostras pequenas, a taxa de falsos positivos pode ser maior.
Um outlier estatístico não é necessariamente um erro. Pode corresponder a uma feição real do fundo, a um ponto isolado em região de alta variabilidade morfológica ou a uma leitura genuinamente anômala do sensor. A decisão de manter ou excluir o ponto depende de análise hidrográfica, não apenas do critério estatístico.

Referência: Tukey, J.W. (1977). Exploratory Data Analysis. Addison-Wesley, Reading, MA.

9. Gráficos diagnósticos

O software gera cinco produtos gráficos por execução: três histogramas, um boxplot e um QQ plot. No fluxo de profundidades, dois mapas adicionais são gerados antes dos gráficos estatísticos.

9.1 Histogramas (três, um por métrica)

Cada histograma mostra a distribuição das discrepâncias com a linha vertical do estimador correspondente (IVT, RMSE ou Sigma Robusto), os limites do IC Bootstrap quando ativado, e os limites da tolerância S-44 calculada para a profundidade média. Isso permite avaliar visualmente se o estimador e seu IC estão contidos dentro da tolerância normativa.

9.2 Boxplot

Representa a mediana, os quartis Q1 e Q3, os limites IQR e os outliers identificados. Complementa o histograma com uma visualização resistente a extremos da posição e dispersão da amostra.

9.3 QQ plot

Compara os quantis empíricos da amostra com os quantis teóricos de uma distribuição normal. Desvios sistemáticos nas caudas indicam leptocurtose ou platicurtose; curvatura global indica assimetria. É o diagnóstico visual mais direto da hipótese de normalidade.

9.4 Mapas de sobreposição e homólogos (fluxo de profundidades)

O mapa de sobreposição mostra a distribuição espacial dos dois conjuntos com os círculos de busca em cada ponto de referência. O mapa de homólogos mostra apenas os pares efetivamente associados. Esses mapas devem ser inspecionados para verificar se o pareamento é espacialmente coerente e se a cobertura dos homólogos representa adequadamente a área analisada.

Os gráficos devem ser analisados antes de qualquer conclusão. Uma amostra com alto percentual dentro da tolerância pode ainda apresentar distribuição fortemente assimétrica, padrão espacial de discrepâncias ou concentração de outliers em regiões específicas — situações que os números isolados não revelam.

10. Saídas e relatórios

O HydroStat gera produtos tabulares, gráficos e relatórios cujos nomes dependem do prefixo definido pelo usuário na interface.

Produto	Fluxo	Conteúdo
Planilha Excel	Ambos	Uma linha por par: X, Y, Z referência, Z check line, Dif, tolerância calculada, aceitação S-44 (Sim/Não) e marcação de outlier.
Relatório PDF	Ambos	Parâmetros de entrada, estatísticas descritivas, IVT, RMSE, Sigma Robusto, IC Bootstrap (se ativado), conformidade S-44, normalidade KS, gráficos embutidos e síntese técnica.
Relatório HTML	Ambos	Versão em tela com cartões de indicadores, tabelas e síntese de processamento.
Mapas PNG	Profundidades	Mapa de sobreposição dos conjuntos e mapa dos pares homólogos encontrados. Embutidos no PDF.
Arquivo de diagnóstico	Em caso de falha	Rastreamento completo do erro para depuração e auditoria.

Os relatórios registram todos os parâmetros adotados: ordem S-44, EPSG, raio de busca, uso de bootstrap e número de amostras. Essa rastreabilidade é necessária para que o relatório seja tecnicamente reproduzível e auditável.

11. Limitações e cautelas

A seleção incorreta das colunas X, Y, profundidade de referência ou profundidade de check line invalida toda a análise.
A busca espacial pressupõe que os dois arquivos estejam no mesmo sistema de coordenadas métricas e em unidades compatíveis.
O raio de busca controla a composição da amostra de homólogos e pode alterar significativamente todos os resultados subsequentes.
IVT e RMSE são matematicamente equivalentes nesta implementação. Divergências expressivas entre os dois valores indicam erro de execução, não diferença real entre os estimadores.
O teste KS com parâmetros estimados dos dados tem correção de tamanho comprometida. O resultado deve ser interpretado como diagnóstico auxiliar, não como teste rigoroso.
Outliers pelo critério IQR devem ser investigados no contexto hidrográfico antes de qualquer decisão de exclusão.
O percentual dentro da tolerância S-44 é condição necessária, não suficiente, para aprovação do levantamento.

Um resultado numericamente aprovado pode ser tecnicamente frágil quando há desacordo de datum vertical, pareamento espacial inadequado, referência de maré mal definida, efeito de SVP não corrigido ou mudança morfológica real do fundo entre os levantamentos comparados.

12. Boas práticas de uso

Confirme que os arquivos de entrada estão completos, no mesmo sistema de coordenadas métricas e em unidades compatíveis antes de qualquer processamento.
Verifique a prévia dos dados exibida na interface antes de confirmar o processamento.
Selecione as colunas manualmente com atenção, mesmo quando os nomes parecerem óbvios — especialmente em arquivos sem cabeçalho.
No fluxo de profundidades, defina o raio de busca com base na geometria real do levantamento: espaçamento entre linhas, densidade de pontos e morfologia esperada.
Inspecione os mapas de sobreposição e homólogos antes de analisar os indicadores estatísticos.
Interprete IVT (= RMSE), Sigma Robusto, média, desvio padrão e gráficos de forma integrada. Comparar IVT com Sigma Robusto permite avaliar a influência dos extremos na dispersão total.
Trate os outliers identificados como sinalizadores de investigação, não como descarte automático.
Preserve planilhas, relatórios e logs de diagnóstico para rastreabilidade, auditoria e comparação futura com novos levantamentos.

13. Créditos e contato

Desenvolvido por Prof. Dr. Ítalo Ferreira — GPHIDRO.

Versão: HydroStat v5.0.2026
Contato: italo.ferreira@ufv.br
Grupo de pesquisa: GPHIDRO — Geodésia e Hidrografia
Site: www.gphidro.com.br