Please use this identifier to cite or link to this item:
https://repositorio.ufu.br/handle/123456789/39768| ORCID: |  http://orcid.org/0000-0002-5067-5044 |
| Document type: | Dissertação |
| Access type: | Acesso Aberto |
| Title: | Aplicação da estatística à modelagem hidrológica e à previsão de uso e ocupação do solo para o desenvolvimento de novas métricas de desempenho |
| Alternate title (s): | Applying statistics to hydrological modeling and land use and occupation forecasting to develop new performance metrics |
| Author: | Bueno, Guilherme Cavallari |
| First Advisor: | Pereira, Carlos Eugênio |
| First coorientator: | Alamy Filho, José Eduardo |
| First member of the Committee: | Fagundes, Hugo de Oliveira |
| Second member of the Committee: | Reis Junior, Dirceu Silveira |
| Summary: | A aplicação de elementos estatísticos à hidrologia é recorrente, sendo muito comum o emprego de testes estatísticos ou de análises de tendência a séries temporais de dados hidrológicos, como por exemplo as vazões. Contudo, existe na literatura alguma carência da aplicação da estatística direcionada para o desenvolvimento de métricas de eficiência a serem utilizadas na avaliação de simulações hidrológicas, o que gera uma demanda por funções que possam complementar aquelas já existentes, como o coeficiente de Nash-Sutcliffe (NASH), o coeficiente de Nash-Sutcliffe com logaritmos (NASHLOG) e o percentual de viés (PBIAS). Portanto, esta pesquisa esteve imbuída não apenas no desenvolvimento de novas métricas, mas também na construção de uma função objetivo composta a partir das métricas desenvolvidas. De início, as métricas desenvolvidas foram testadas separadamente em simulações de vazão não calibradas feitas através do Modelo de Grandes Bacias (MGB) para a Bacia Hidrográfica do Rio Grande (BHRG), representando o período de 01/01/1990 a 29/06/2015. Em seguida, a composição da função objetivo foi elaborada, e a função resultante foi aplicada à calibração do modelo Hydrologiska Byråns Vattenbalansavdelning (HBV) para dados aleatórios de precipitação, evapotranspiração e vazão disponibilizados pela Universidade Politécnica de Valência (UPV) para o período de abril de 1996 a setembro de 2004. A testagem individual com o MGB revelou que as métricas desenvolvidas foram capazes de demonstrar satisfatoriamente os seguintes fatores: a posição do erro de cálculo da vazão de 90% de permanência em relação à média dos erros determinados para todas as vazões do hidrograma; a tendência de subestimativa ou superestimativa da simulação, com base nas áreas dos hidrogramas calculados e observados e também nos percentuais de subestimativa, superestimativa e acerto; a compatibilidade entre os comprimentos dos hidrogramas calculados e observados; a compatibilidade entre os traçados desses hidrogramas. Concomitantemente, a aplicação da composição de métricas como função objetivo revelou que a calibração do modelo HBV tendeu a reduzir consideravelmente as variações de pico e de depressão das vazões. Foram realizadas calibrações comparativas, utilizando como funções objetivo NASH, NASHLOG e PBIAS, tendo sido ainda analisadas as condições de dispersão dos dados de vazões observadas e calculadas sem calibração pelo HBV. Retas de tendência foram plotadas para todos os hidrogramas produzidos, e os valores de R2 foram determinados para tais retas, vindo-se a obter 0,65 no caso da calibração feita com a composição de métricas, 0,23 para a calibração com NASHLOG, 0,17 para a calibração com NASH, 0,13 para a calibração com PBIAS, 0,10 para os dados calculados pelo HBV sem calibração e 0,06 para os dados observados. De modo notável, o efeito do uso da composição como função objetivo foi muito distinto do uso das demais métricas de eficiência. Na pesquisa foram ainda executadas outras aplicações da estatística. As médias móveis simples (MMS), poderada (MMP) e exponencial (MME) foram utilizadas para a execução de estimativas de vazão na BHRG para o período de 30/06/2015 a 29/06/2016. Cadeias de Markov foram aplicadas para que se obtivessem as chances de ocorrência das estimativas. Nenhuma das médias móveis foi considerada satisfatória a partir da comparação entre os hidrogramas calculados e os hidrogramas observados, embora a verificação matemática por tendência de viés tenha apontado para resultados razoavelmente confiáveis gerados com MME. Utilizaram-se ainda os testes estatísticos de Mann-Kendall, Pettit e t de student, respectivamente para avaliar a presença de tendências, pontos de ruptura no comportamento e diferenças entre as médias de vazão na primeira e na segunda metades do período analisado (01/01/1990 a 29/06/2015). Nenhum dos testes permitiu a conclusão de que houve tendências ou alterações significativas no regime de vazões da BHRG durante esse período. Ainda foi elaborada uma análise diante de parâmetros estaísticos básicos, no caso, quartis, média e desvio padrão, o que também não levou a nenhuma constatação de tendências prevalentes. Finalmente, foram confeccionados no QGIS mapas de uso e ocupação do solo em 3 regiões da BHRG, para os anos de 1995, 2005 e 2015, com o uso de imagens Landsat. No programa TerrSet, foram obtidas previsões de uso do solo para 2025 e 2035 em duas regiões da bacia. Constatou-se com isso a tendência de prevalência da atividade agropecuária no solo da BHRG, especialmente nas regiões de menor declividade. |
| Abstract: | The application of statistical elements to hydrology is recurrent, and it is very common to use statistical tests or trend analyses on time series of hydrological data, such as flows. However, there is a lack in the literature of the application of statistics to the development of efficiency metrics to be used in the evaluation of hydrological simulations, which generates a demand for functions that can complement those that already exist, such as the Nash-Sutcliffe coefficient (NASH), the Nash-Sutcliffe coefficient with logarithms (NASHLOG) and the percentage of bias (PBIAS). Therefore, this research was involved not only in the development of new metrics, but also in the construction of a composite objective function based on the metrics developed. Initially, the metrics developed were tested separately in uncalibrated flow simulations made using the Large Basin Model (MGB) for the Rio Grande River Basin (BHRG), representing the period from 01/01/1990 to 29/06/2015. Next, the composition of the objective function was elaborated, and the resulting function was applied to the calibration of the Hydrologiska Byråns Vattenbalansavdelning (HBV) model for random precipitation, evapotranspiration and flow data provided by the Polytechnic University of Valencia (UPV) for the period from April 1996 to September 2004. Individual testing with the MGB revealed that the metrics developed were able to satisfactorily demonstrate the following factors: the position of the 90% permanence flow calculation error in relation to the average of the errors determined for all the flows in the hydrograph; the tendency to underestimate or overestimate the simulation, based on the areas of the calculated and observed hydrographs and also on the percentages of underestimation, overestimation and success; the compatibility between the lengths of the calculated and observed hydrographs; the compatibility between the paths of these hydrographs. At the same time, the application of the composition of metrics as an objective function revealed that the calibration of the HBV model tended to considerably reduce the peak and trough variations in flows. Comparative calibrations were carried out using NASH, NASHLOG and PBIAS as objective functions, and the dispersion conditions of the observed and calculated flow data without HBV calibration were also analyzed. Trend lines were plotted for all the hydrographs produced, and R2 values were determined for these lines, obtaining 0.65 in the case of the calibration made with the composition of metrics, 0.23 for the calibration with NASHLOG, 0.17 for the calibration with NASH, 0.13 for the calibration with PBIAS, 0.10 for the data calculated by HBV without calibration and 0.06 for the observed data. Remarkably, the effect of using composition as an objective function was very different from using the other efficiency metrics. Other applications of statistics were also carried out in the research. Simple moving averages (SMA), power moving averages (PMA) and exponential moving averages (EMA) were used to perform flow estimates in the BHRG for the period from June 30, 2015 to June 29, 2016. Markov chains were applied to obtain the chances of the estimates occurring. None of the moving averages were considered satisfactory when comparing the calculated hydrographs with the observed hydrographs, although the mathematical check for bias pointed to reasonably reliable results generated with EMA. The Mann-Kendall, Pettit and Student's t statistical tests were also used, respectively, to assess the presence of trends, breakpoints in behavior and differences between the flow averages in the first and second halves of the period analyzed (01/01/1990 to 29/06/2015). None of the tests led to the conclusion that there were significant trends or changes in the BHRG's flow regime during this period. An analysis was also carried out using basic statistical parameters, in this case quartiles, mean and standard deviation, which also did not lead to any finding of prevalent trends. Finally, land use and occupation maps were created in QGIS for three regions of the BHRG, for the years 1995, 2005 and 2015, using Landsat images. In the TerrSet program, land use forecasts were obtained for 2025 and 2035 in two regions of the basin. This showed a tendency for farming to prevail on the BHRG's land, especially in the regions with the lowest slopes. |
| Keywords: | Bacia Hidrográfica do Rio Grande Rio Grande River Basin Simulações Simulations Estimativas de vazão Flow estimates Cadeias de Markov Markov chains Testes estatísticos Statistical tests Engenharia Civil |
| Area (s) of CNPq: | CNPQ::ENGENHARIAS::ENGENHARIA CIVIL::ENGENHARIA HIDRAULICA::HIDROLOGIA |
| Subject: | Engenharia civil Previsão hidrológica Solo - Uso - Planejamento Grande, Rio, Bacia (MG e SP) |
| Language: | por |
| Country: | Brasil |
| Publisher: | Universidade Federal de Uberlândia |
| Program: | Programa de Pós-graduação em Engenharia Civil |
| Quote: | BUENO, Guilherme Cavallari. Aplicação da estatística à modelagem hidrológica e à previsão de uso e ocupação do solo para o desenvolvimento de novas métricas de desempenho. 2023. 242 f. Dissertação (Mestrado em Engenharia Civil) - Universidade Federal de Uberlândia, Uberlândia, 2023. DOI http://doi.org/10.14393/ufu.di.2023.563. |
| Document identifier: | http://doi.org/10.14393/ufu.di.2023.563 |
| URI: | https://repositorio.ufu.br/handle/123456789/39768 |
| Date of defense: | 11-Sep-2023 |
| Sustainable Development Goals SDGs: | ODS::ODS 6. Água potável e saneamento - Garantir disponibilidade e manejo sustentável da água e saneamento para todos. |
| Appears in Collections: | DISSERTAÇÃO - Engenharia Civil |
Files in This Item:
| File | Description | Size | Format | |
|---|---|---|---|---|
| AplicaçãoEstatísticaModelagem.pdf | Dissertação | 5.13 MB | Adobe PDF |  View/Open |
Items in DSpace are protected by copyright, with all rights reserved, unless otherwise indicated.