View
1
Download
0
Category
Preview:
Citation preview
UNIVERSIDADE ESTADUAL DO OESTE DO PARANÁCENTRO DE CIÊNCIA EXATAS E TECNOLÓGICASPÓS-GRADUAÇÃO EM ENGENHARIA AGRÍCOLA
BRUNA GABRIELA WENDPAP
VARIABILIDADE ESPACIAL UTILIZANDO MODELOS GEOESTATÍSTICOSESCALONADOS E COM REPETIÇÕES MÚLTIPLAS INDEPENDENTES NA
AGRICULTURA DE PRECISÃO
CASCAVEL - PR2013
BRUNA GABRIELA WENDPAP
VARIABILIDADE ESPACIAL UTILIZANDO MODELOS GEOESTATÍSTICOSESCALONADOS E COM REPETIÇÕES MÚLTIPLAS INDEPENDENTES NA
AGRICULTURA DE PRECISÃO
Trabalho apresentado junto ao programa dePós Graduação em Engenharia Agrícola daUniversidade Estadual do Oeste do Paraná, emcumprimento aos requisitos para a obtenção dotítulo de mestre em Engenharia Agrícola, áreade concentração Sistemas Biológicos e Agroin-dustriais.Orientador: Dr. Miguel Angel Uribe OpazoCo-orientador: Dr. Marcio Antonio Vilas Boas
CASCAVEL - PR2013
Bruna Gabriela Wendpap, nascida em 19 de setembro de 1988 no município de Toledo,
estado do Paraná. Licenciada em Matemática pela Universidade Estadual do Oeste do Paraná
(UNIOESTE) no ano de 2010. Atualmente, em fase de conclusão do curso de mestrado do
Programa de Pós-Graduação em Engenharia Agrícola, orientada pelo professor Dr. Miguel
Angel Uribe Opazo e estuda o tema: “Variabilidade espacial utilizando modelos geoestatísticos
escalonados e com repetições múltiplas independentes na agricultura de precisão”.
iii
Dedicatória
Às pessoas mais importantes da minha vida:
meus pais, Cladis e Clécio,
meus irmãos, Elis e Marcos.
À família que me permitiram escolher: meus amigos!
Ao meu querido Jaziel por estar sempre comigo!
Vocês enriquecem minha vida de tantas maneiras que é
impossível dizer com palavras o quanto representam.
iv
Agradecimentos
A todos que, direta ou indiretamente, contribuíram para
a realização deste trabalho.
Em especial ao meu orientador, professor Miguel Angel
Uribe Opazo, por toda dedicação, ensinamentos, conse-
lhos e incentivo.
v
Epígrafe
“Data! data! data! he cried impatiently.
I can’t make bricks without clay”
(Conan Doyle)
vi
Sumário
Lista de Figuras . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ix
Lista de Tabelas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . x
RESUMO . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . xii
ABSTRACT . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . xiii
1 INTRODUÇÃO . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
2 REVISÃO BIBLIOGRÁFICA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
2.1 Modelos espaciais lineares . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
2.1.1 Função semivariância . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
2.1.2 Parâmetros da estrutura de dependência espacial . . . . . . . . . . . . . . . . . . . . . 5
2.1.3 Modelos teóricos de semivariograma . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
2.2 Análise espacial por meio do escalonamento da função semivariância . . . . . . . . . 6
2.3 Análise espacial utilizando repetições múltiplas independentes . . . . . . . . . . . . . . . . 8
2.4 Krigagem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
2.4.1 Krigagem ordinária . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
2.4.2 Krigagem universal . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
2.5 Medidas de comparação de mapas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
2.5.1 Exatidão global . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
2.5.2 Índice Kappa . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
2.5.3 Índice Tau . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
2.6 Potássio . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14
2.7 Produtividade da soja . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
2.8 Resistência do solo à penetração (RSP) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
2.9 Densidade do solo (Dens) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
3 MATERIAL E MÉTODOS . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
3.1 Material . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
3.1.1 Área 1 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
3.1.2 Área 2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20
3.2 Metodologia . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
3.2.1 Estudo do potássio e produtividade da soja . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
3.2.2 Estudo da produtividade da soja como função de covariáveis . . . . . . . . . . . 22
vii
3.2.3 Estimadores de máxima verossimilhança considerando repetições múl-
tiplas independentes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22
3.2.4 Erro padrão das estimativas de máxima verossimilhança considerando
repetições múltiplas independentes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23
3.2.5 Software utilizado . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
4 RESULTADOS E DISCUSSÃO. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
4.1 Área 1: estudo do potássio . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
4.1.1 Escalonamento da função semivariância . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
4.1.2 Repetições múltiplas independentes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31
4.1.3 Comparação dos métodos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36
4.2 Área 1: estudo da produtividade da soja . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38
4.3 Área 2: estudo da produtividade da soja como função de covariáveis . . . . . . . . . . 41
4.3.1 Ajuste de modelos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42
5 CONCLUSÕES . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43
6 REFERÊNCIAS . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 44
viii
Lista de Figuras
Figura 1 Relação entre a covariância espacial C(δ) e a semivariância γ(δ). . . . . . . . . . . . 5Figura 2 Semivariograma escalonado. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7Figura 3 Perfis de produtividade estadual e nacional para sete anos agrícolas. . . . . . . . 16Figura 4 Esquema de amostragem da área em estudo. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19Figura 5 Localização dos 30 pontos amostrais. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20Figura 6 Semivariogramas teóricos ajustados aos semivariogramas experimentais esca-
lonado e individuais da variável potássio. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27Figura 7 Mapas temáticos do potássio (K) [cmolc dm−3] construídos a partir dos mode-
los escalonado (ESC) e individuais, para cada ano em estudo, ajustados por
OLS. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29Figura 8 Semivariogramas teóricos ajustados aos semivariogramas experimentais con-
siderando replicações múltiplas e individuais da variável potássio. . . . . . . . . . . . 32Figura 9 Mapas temáticos do potássio (K) [cmolc dm−3] construídos a partir dos modelos
espaciais lineares com repetições múltiplas independentes (RMI) e os modelos
individuais, para cada ano em estudo, ajustados por ML. . . . . . . . . . . . . . . . . . . . . 34Figura 10 Mapas temáticos da produtividade da soja [t ha−1] construídos segundo o mo-
delo considerando repetições múltiplas independentes (RMI), para cada ano
em estudo, ajustados por ML. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40
ix
Lista de Tabelas
Tabela 1 Matriz dos erros genérica de ordem k × k. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12Tabela 2 Interpretação dos teores do potássio (K) na análise de solo . . . . . . . . . . . . . . . . . 15Tabela 3 Produtividade da soja [t ha−1] segundo os padrões estadual e nacional . . . . . 15Tabela 4 Níveis críticos de resistência do solo a penetração em função da classificação
dos solos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17Tabela 5 Estatísticas descritivas para cada ano em estudo do potássio (K) [cmolc dm−3] 26Tabela 6 Modelos espaciais ajustados aos semivariogramas individuais e por escalona-
mento (ESC) e parâmetros estimados por OLS do potássio (K) . . . . . . . . . . . . . 28Tabela 7 Critério de validação cruzada dos modelos teóricos ajustados os semivariogra-
mas experimentais individuais e por escalonamento para a variável potássio
(K) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28Tabela 8 Matriz de erros do número de pixels por classe da variável potássio 98/99 . . 30Tabela 9 Matriz de erros do número de pixels por classe da variável potássio 99/00 . . 30Tabela 10 Matriz de erros do número de pixels por classe da variável potássio 00/01 . . 30Tabela 11 Matriz de erros do número de pixels por classe da variável potássio 01/02 . . 30Tabela 12 Matriz de erros do número de pixels por classe da variável potássio 02/03 . . 31Tabela 13 Medidas de acurácia do potássio (K) dos mapas gerados pelos modelos ajusta-
dos segundo os métodos: individual - OLS versus escalonamento ESC- OLS 31Tabela 14 Modelos espaciais ajustados individuais e considerando repetições múltiplas
independentes (RMI) e parâmetros estimados por ML do potássio (K) . . . . . . 33Tabela 15 Matriz de erros do número de pixels por classe da variável potássio 98/99 . . 35Tabela 16 Matriz de erros do número de pixels por classe da variável potássio 99/00 . . 35Tabela 17 Matriz de erros do número de pixels por classe da variável potássio 00/01 . . 35Tabela 18 Matriz de erros do número de pixels por classe da variável potássio 01/02 . . 35Tabela 19 Matriz de erros do número de pixels por classe da variável potássio 02/03 . . 36Tabela 20 Medidas de acurácia do potássio (K) dos mapas gerados pelos modelos ajusta-
dos segundo os métodos: individual - ML versus utilizando repetições múltiplas
independentes RMI - ML . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36Tabela 21 Matriz de erros do número de pixels por classe da variável potássio 98/99 . . 37Tabela 22 Matriz de erros do número de pixels por classe da variável potássio 99/00 . . 37Tabela 23 Matriz de erros do número de pixels por classe da variável potássio 00/01 . . 37Tabela 24 Matriz de erros do número de pixels por classe da variável potássio 01/02 . . 37Tabela 25 Matriz de erros do número de pixels por classe da variável potássio 02/03 . . 38Tabela 26 Medidas de acurácia do potássio (K) dos mapas gerados pelos modelos ajus-
tados segundo os métodos: escalonamento ESC-OLS versus repetições múl-
tiplas independentes RMI-ML . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38Tabela 27 Estatísticas descritivas para cada ano em estudo da produtividade da soja
(Prod) [t ha−1] . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39Tabela 28 Modelo espacial ajustado e parâmetros estimados da produtividade da soja
x
[t ha−1] . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40Tabela 29 Estatísticas descritivas para cada ano em estudo da produtividade da soja
(Prod*) [t ha−1], resistência do solo à penetração (RSP) [MPa] e densidade
do solo (D) [g cm−3] . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41Tabela 30 Modelo espacial ajustado e parâmetros estimados da produtividade da soja
(Prod*) como função das covariáveis RSP e D . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42
xi
RESUMO
Variabilidade espacial utilizando modelos geoestatísticos escalonados e com repetiçõesmúltiplas independentes na agricultura de precisão
O objetivo deste trabalho foi apresentar um estudo de variabilidade espacial em diferentes pe-ríodos de tempo de duas áreas experimentais utilizando modelos geoestatísticos escalonadose espaciais lineares gaussianos com repetições múltiplas independentes. Na primeira área emestudo utilizou-se o método de escalonamento da função semivariância e o modelo espaciallinear com repetições múltiplas independentes. Compararam-se as estruturas de variabilidadeespacial do teor de potássio no solo e da produtividade da soja em cinco anos agrícolas. Osresultados indicam semelhança entre os mapas temáticos elaborados segundo os modelosindividuais e os mapas gerados segundo o modelo ajustado ao semivariograma escalonado.O mesmo ocorreu ao construir mapas temáticos segundo os modelos individuais comparadosaos mapas gerados segundo os modelos espaciais lineares com repetições múltiplas indepen-dentes. Ao comparar os mapas originados pelo modelo escalonado e o modelo espacial linearcom repetições múltiplas independentes, obteve-se índices de acurácia altos, o que implica emsemelhança dos mapas temáticos construídos com estes dois métodos. Na segunda área emestudo o interesse foi utilizar o modelo espacial linear com repetições múltiplas independentespara estudar a variabilidade espacial da produtividade da soja em dois anos agrícolas comofunção das covariáveis resistência do solo à penetração (RSP) e densidade do solo (Dens),nas camadas de 0-0,10, 0,10-0,20 e 0,20-0,30 m de profundidade. Em ambos os estudos, aestrutura de variabilidade espacial estimada pelo modelo espacial linear com repetições múl-tiplas independentes ocasionou redução do tempo computacional no ajuste dos modelos e nageração de mapas temáticos.
Palavras - chave: função semivariância; máxima verossimilhança; mapas temáticos.
xii
ABSTRACT
Spatial variability using geostatistical methods scaled and with multiple independentreplications in precision agriculture
The objective of this paper was to present a study of spatial variability in different time periodsof two experimental areas using geostatistical models scaling and spatial linear gaussian withmultiple independent replications. In the first area under study, the scaling of semivariancefunction method and spatial linear model with multiple independent replications was used. Thestructures of spatial variability of the potassium content in soil and soybean yield in five agricul-tural years were compared. The results indicate similarity between the thematic maps producedaccording to individual models and maps generated using the model set to scaled semivario-gram. The same happens to build thematic maps according to the individual models comparedto maps generated according to the spatial linear models with multiple independent replications.Comparing the maps originated by the scaled model and spatial linear model with multiple re-petitions, high levels of accuracy were obtained, which implies similarity of thematic maps builtwith these two methods. In the second area under study the interest was to use the spatiallinear model with multiple independent replications to study the spatial variability of soybeanyield in both years as a function of covariates soil resistance to penetration (RSP) and bulkdensity (Dens) in the layers 0-0.10, 0.10-0.20 and 0.20-0.30 m deep. In both studies, the struc-ture of spatial variability estimated by spatial linear model with multiple independent replicationscaused reduction of computational time in the adjustment of models and the generation of the-matic maps.
Key-words: semivariance function; maximum likelihood; thematic maps
xiii
1
1 INTRODUÇÃO
Características naturais, como os atributos químicos e físicos do solo, frequentemente
apresentam variações com um nível de autocorrelação espacial e, para avaliar esta dependên-
cia, utilizam-se técnicas geoestatísticas considerando a localização dos dados. Os métodos
geoestatísticos têm como fundamento a “Teoria das Variáveis Regionalizadas”, que leva em
consideração a distribuição espacial das medidas, o que permite definir a estrutura e o raio
de dependência espacial entre elementos amostrados, para estimar valores em locais não
amostrais e construir mapas temáticos que apresentem essa dependência.
O conhecimento da variabilidade espacial de determinada característica do solo ou da
produtividade de culturas somado ao estudo do comportamento desta variabilidade no tempo
permite o monitoramento e o mapeamento desses atributos e a aplicação localizada de insu-
mos.
Na literatura geoestatística observa-se um grande número de publicações referentes a
processos espaciais e temporais. Smith (1999) trabalha com modelos espaciais com repeti-
ções múltiplas independentes, Salviano (1996), Mercante et al. (2003), Vieira et al. (2010) e
Ávila et al. (2011) utilizam semivariogramas escalonados em atributos do solo e Szpiro et al.
(2010) utilizaram modelos espaciais hierárquicos no estudo de variabilidade espaço-temporal.
Mercante et al. (2003) e Vieira et al. (2010) utilizaram a técnica de escalonamento de
semivariogramas como uma proposta para a modelagem conjunta no espaço e no tempo.
Esta técnica consiste em estimar os parâmetros que definem a estrutura de dependência
espaço-temporal por meio de ajuste de modelos ao semivariograma escalonado. A condição
necessária para utilizar o semivariograma escalonado é o efeito proporcional em suas funções
semivariâncias.
Smith (1999), por outro lado, propõe modelar a estrutura de dependência espacial utili-
zando modelos espaciais lineares com repetições múltiplas independentes do campo aleatório
e o método de máxima verossimilhança para estimação de parâmetros.
O presente trabalho justifica-se pela importância que o desenvolvimento de diferentes
métodos geoestatísticos para o estudo da estrutura de dependência espacial representam,
visto que estes processos fornecem estimativas dos parâmetros que são utilizados na cons-
trução de mapas temáticos utilizando o método de interpolação por krigagem.
Ao utilizar metodologias que consideram repetições do campo aleatório, espera-se ob-
ter melhores estimativas dos parâmetros que definem a estrutura de dependência espacial e,
assim, descrever com maior fidelidade características da área sob estudo.
O presente trabalho teve como objetivo apresentar um estudo de variabilidade espacial,
em diferentes períodos de tempo, utilizando e comparando o método de escalonamento da fun-
ção semivariância com os modelos espaciais lineares com repetições múltiplas independentes,
2
em dados espacialmente referenciados, caracterizando a estrutura de dependência espacial
do teor de potássio no solo e da produtividade da soja em áreas agrícolas.
3
2 REVISÃO BIBLIOGRÁFICA
2.1 Modelos espaciais lineares
Para modelar dados com uma determinada estrutura de dependência espacial, considera-
se Z = Z(s) = (ZT1 (s), . . . ,ZTr (s))
T um vetor espacial linear multivariado de r processos esto-
cásticos gaussianos independentes, que dependem da posição s ⊂ S ⊂ R2 (R2 espaço euclidi-ano bidimensional). Assume-se que o i-ésimo processo estocástico Zi(s) = (Zi(s1), . . . , Zi(sn))T ,
i = 1, . . . , r, pode ser expresso como o modelo linear (WEBSTER; OLIVER, 2007; BORSSOI
et al., 2009; URIBE-OPAZO et al., 2012) apresentado na Equação Eq. 1:
Zi(s) = µi(s) + ǫi(s), i = 1, . . . , r (Eq. 1)
em que, o termo determinístico µi(s) é o vetor de médias do processo Zi(s) e ǫi(s) é um
processo estacionário de segunda ordem, com vetor de médias zero, isto é, E[ǫi(s)] = 0.
O vetor de médias µi(s) pode ser escrito como um modelo espacial linear (SMITH,
1999) cujos elementos são apresentados na Equação Eq. 2:
µi(sj) =
p∑
u=1
xiu(sj)βu, i = 1, . . . , r, j = 1, . . . , n, (Eq. 2)
em que,
xi1, . . . , xip são funções conhecidas de s, i = 1, . . . , r;
β1, . . . , βp são parâmetros desconhecidos a serem estimados.
O modelo espacial linear multivariado para r processos estocásticos gaussianos inde-
pendentes pode ser escrito em forma matricial conforme a Equação Eq. 3:
Zi(s) = X(s)β + ǫi(s), (Eq. 3)
em que,
Zi(s) = (Zi(s1), . . . , Zi(sn))T é o vetor n × 1 das n observações no espaço paramétrico S,
i = 1, . . . , r;
X(s) = [xju(s)] é a matriz n× p, de u = 1, . . . , p covariáveis, para todo j = 1, . . . , n, isto é, sãoutilizados os mesmos n dados das p covariáveis para as r repetições;
β = (β1, . . . , βp)T é o vetor p× 1, de parâmetros desconhecidos, para todo i = 1, . . . , r.
Seja Σi(s) = Σi = [Ci(su, sj)] = Cov[Zi(su),Zi(sj)] a matriz de covariância n × n deZi(sj) na i-ésima repetição, i = 1, . . . , r, j = 1, . . . , r. A matriz Σi(s) é simétrica e positiva
definida, associada ao vetor Zi(s), em que para processos intrinsecamente estacionários e
isotrópicos os elementos Ci(su, sj) dependem da distância euclidiana entre os pontos su e sj
(CRESSIE, 1993).
4
Considera-se a mesma estrutura de covariância para cada uma das r repetições múl-
tiplas (MARDIA; MARSHALL, 1984), isto é, a matriz de covariância Σi(s) tem estrutura con-
forme a Equação Eq. 4:
Σi(s) = Σ(s) = ϕ1In + ϕ2R(ϕ3), i = 1, . . . , r (Eq. 4)
em que,
ϕ1 é o parâmetro conhecido como efeito pepita (ϕ1 ≥ 0);ϕ2 é o parâmetro conhecido como contribuição (ϕ2 ≥ 0);R(ϕ3) = [(ruj)] é uma matriz que é função de ϕ3, n× n, simétrica com elementos da diagonalruu = 1, u, j = 1, . . . , n;
ϕ3 é função do alcance (a) do modelo (ϕ3 ≥ 0);In é uma matriz identidade n× n.
A forma paramétrica da matriz de covariância Σ, dada na Equação Eq. 4, ocorre para
vários processos isotrópicos (GUEDES et al., 2008), onde a covariância Ci(su, sj) é definida
segundo a função de covariâncias Ci(δ) = ϕ2ruj , em que, δ = ‖su − sj‖ é a distância euclidi-ana entre os pontos su e sj . Nas funções de covariâncias Ci(δ), a variância do processo esto-
cástico Zi(s) é Ci(0) = ϕ1+ϕ2, e a semivariância pode ser definida como γi(δ) = Ci(0)−Ci(δ)(DIGGLE; RIBEIRO JR, 2007).
Considerando Zi(s) vetores independentes e identicamente distribuídos, Z ∼ Nnr(X∗β∗,Σ
∗), em que X∗ = Ir ⊗X(s) é uma matriz nr × pr, β∗ = β ⊗ 1r vetor pr × 1, Σ∗ = Ir ⊗Σ(s)é uma matriz nr × nr, onde Ir é a matriz identidade de ordem r, 1r é um vetor de uns dedimensão r e sendo ⊗ o produto de Kronecker.
2.1.1 Função semivariância
A função semivariância γi(δ), para i = 1, . . . , r, é definida como a metade da esperança
matemática do quadrado da diferença do valor da função aleatória ou variável regionalizada
Zi verificada em dois pontos separados no espaço por uma distância δ,
γi(δ) =1
2E[Zi(sj)− Zi(sj + δ)]2, i = 1, . . . , r, j = 1, . . . , n. (Eq. 5)
O gráfico da função semivariância versus a distância δ é conhecida como semivario-
grama. Na Figura 1, é apresentado um exemplo da relação entre a covariância espacial Ci(δ)
e a semivariância γi(δ), i = 1, . . . , r.
Como a função semivariância é uma medida da variância das diferenças nos valores
da variável regionalizada entre pontos separados por uma distância δ, pontos mais próximos,
por estarem correlacionados, terão essa variância pequena, aumentando à medida que esses
pontos se distanciam (CRESSIE, 1993).
5
j1
j j1 2+
g d( ) C( )d
g d( )
C( )d
g j j( )= +∞ 1 2
C( )=0∞
a g= ( )j3( )d
0
Figura 1 Relação entre a covariância espacial C(δ) e a semivariância γ(δ).
O contrário acontece para a função covariância, que é grande para distâncias peque-
nas, diminuindo à medida que a distância aumenta, pois esta função mede a correlação entre
pontos separados por uma distância δ.
2.1.2 Parâmetros da estrutura de dependência espacial
O efeito pepita ϕ1, que é um parâmetro importante da função semivariância, reflete o
erro analítico, indicando uma variabilidade não explicada (ao acaso) de um ponto para o outro,
que pode ser devida tanto a erros de medidas ou microvariação não detectada em função da
distância de amostragem utilizada (CAMBARDELLA et al., 1994; VIEIRA, 1997), sendo im-
possível quantificar a contribuição individual dos erros de medições ou da variabilidade. Esse
parâmetro pode facilitar a comparação do grau de dependência espacial das variáveis em es-
tudo, pois, quando não encontrada a estrutura de variação, observa-se que γ(δ) permanece
constante com o aumento da distância desde o início, ou seja, o raio de ação é menor que
a distância de amostragem. Em tal situação diz-se que ocorreu um efeito pepita puro, de-
monstrando que o fenômeno físico tem uma distribuição espacial completamente ao acaso
com respeito ao espaço de amostragem, que não há correlação espacial entre os elementos
amostrais e que os métodos da estatística tradicionais podem ser aplicados (CRESSIE, 1993).
O parâmetro C = ϕ1+ϕ2 é conhecido como patamar e corresponde ao valor da semiva-
riância que se estabiliza na distância a = g(ϕ3), que é uma função positiva de ϕ3 denominada
alcance.
2.1.3 Modelos teóricos de semivariograma
A literatura apresenta diversas opções para escolha do modelo de variabilidade espa-
cial, como, por exemplo, a função de correlação família Matérn com diferentes parâmetros de
forma k.
Matérn (1986) apresentou uma função chamada família Matérn. Essa função é defi-
nida, em termos da função de covariância, por:
6
C(δ) =
0, δ = 0
ϕ2
[
(
2k−1Γ(k))−1
(
δ
ϕ3
)k
Kk
(
δ
ϕ3
)
]
, δ > 0(Eq. 6)
em que:
ϕ1, ϕ2, ϕ3 e k são parâmetros;
δ > 0 é a distância euclidiana entre duas localizações espaciais conhecidas sj (j = 1, . . . , n);
Kk é a função de Bessel de terceiro tipo, de ordem k.
A família Matérn é válida para ϕ3 > 0 e k > 0 e corresponde à função exponencial
quando o parâmetro de forma k = 0, 5 e à função Gaussiana quando k → ∞ (DIGGLE;RIBEIRO JR., 2007).
A relação entre o alcance prático a e o parâmetro ϕ3 depende do valor do parâmetro k
(DIGGLE; RIBEIRO JR, 2007). Por esta razão, Handcock e Wallis (1994) sugerem a repara-
metrização da Equação (Eq. 6) a partir de ϕ3 e k para um par aproximadamente ortogonal k e
a = 2ϕ3√k.
O modelo exponencial apresenta comportamento aproximadamente linear na origem
e atinge o patamar assintoticamente com alcance prático definido como a distância na qual o
valor do modelo é 95% de ϕ2, sendo o alcance prático dado por a = 3ϕ3.
Semelhante ao modelo exponencial, o modelo gaussiano atinge o patamar assinto-
ticamente e o alcance prático é dado por a =√3ϕ3. O que carateriza este modelo é seu
comportamento parabólico próximo à origem e é o único modelo que apresenta em sua forma
um ponto de inflexão (ISAAKS; SRIVASTAVA, 1989).
2.2 Análise espacial por meio do escalonamento da função semivariânc ia
Estudos de variabilidade espacial normalmente caracterizam-se por um grande número
de variáveis ou repetições de uma variável no tempo e, em consequência disso, faz-se neces-
sário um grande número de ajustes de semivariogramas experimentais. Uma alternativa para
agrupar os dados de forma a facilitar conclusões sobre estas variáveis é a técnica de escalo-
namento da função semivariância.
A técnica de escalonamento da função semivariância γ(δ), δ ∈ R+ consiste em esti-mar os parâmetros que definem a estrutura de dependência espacial por meio do ajuste de
modelos ao semivariograma escalonado.
De acordo com Salviano (1996) o escalonamento da função semivariância consiste em
agrupar vários semivariogramas em uma única função, descrita pela Equação Eq. 7:
γesci(δ) =γi(δ)
αi, i = 1, . . . , r, (Eq. 7)
em que,
r é o número de períodos ou repetições em estudo;
αi é o fator de escalonamento, adotado como a variância dos dados da i-ésima repetição.
7
O procedimento consiste em:
• elaborar os semivariogramas individuais para cada período i = 1, . . . , r, observando queas semivariâncias devem ser calculadas para as mesmas distâncias;
• calcular as semivariâncias escalonadas para cada distância, segundo a Equação Eq. 7;e
• reunir os semivariogramas individuais escalonados em um único gráfico.
O escalonamento é utilizado com a finalidade de desenhar vários semivariogramas no
mesmo gráfico, quando de outra maneira teriam escalas diferentes no eixo das semivariâncias.
Quando semivariogramas escalonados se agrupam, pode-se dizer que as propriedades envol-
vidas têm variabilidade espacial semelhante (VIEIRA et al., 1997). Assim, pode-se estimar os
parâmetros de dependência espacial por meio do ajuste de modelos teóricos ao semivario-
grama escalonado.
A Figura 2 ilustra um semivariograma experimental escalonado com um modelo teórico
ajustado.
0 20 40 60 80
0.0
0.2
0.4
0.6
0.8
1.0
1.2
Distância (m)
Sem
ivar
iânc
ia
Figura 2 Semivariograma escalonado.
Quando se escalona um semivariograma pela variância o efeito pepita torna-se auto-
maticamente uma fração do patamar (VIEIRA et al., 1998, MERCANTE et al., 2003), facilitando
as interpretações e comparações entre semivariogramas de diferentes atributos ou do mesmo
no tempo, já que assim pode-se verificar se contam com o mesmo padrão de variabilidade
espacial, uma vez que assumem valores em uma escala padronizada.
Mercante et al. (2003), Fidalski et al. (2006), Vieira et al. (2010) e Ávila et al. (2011)
utilizaram a técnica de escalonamento de semivariogramas como uma proposta para a mode-
lagem conjunta no espaço e no tempo.
Mercante et al. (2003) estudaram o comportamento das variabilidades espacial e tem-
poral por meio da técnica de escalonamento de semivariogramas da variável resistência me-
8
cânica do solo à penetração nas camadas de 0-0,1, 0,1-0,2, 0,2-0,3 m de profundidade, para
os anos de 1999 a 2001, sob duas formas de manejo, e concluíram que o escalonamento dos
semivariogramas reduziu o tempo computacional do ajuste de modelos, não apresentando
diferenças no comportamento e amplitude da variabilidade espacial em relação aos semivario-
gramas não escalonados.
Fidalski et al. (2006) avaliaram a variabilidade espacial e temporal da resistência me-
cânica do solo à penetração utilizando a técnica de escalonamento dos semivariogramas em
camadas de um latossolo vermelho eutoférrico em áreas contíguas de sistemas de manejo de
plantio direto e verificaram que o escalonamento dos semivariogramas não alterou os padrões
da estrutura espacial da resistência mecânica do solo à penetração.
Vieira et al. (2010) analisaram a variabilidade espacial do teor de água no solo ao longo
do tempo utilizando semivariogramas escalonados em duas conduções distintas de uso: área
com vegetação natural e área cultivada com culturas anuais. Pela análise dos semivariogra-
mas escalonados do conteúdo de água no solo verificaram que para a área com cultivo as
amostragens apresentaram variabilidade espacial diferente enquanto que para a área com ve-
getação natural ocorreu semelhança no padrão de variabilidade espacial do semivariograma
escalonado.
Ávila et al. (2011) avaliaram o padrão espacial e temporal da umidade volumétrica na
camada superficial do solo, nas diferentes estações do ano, em uma bacia hidrográfica experi-
mental localizada na região Sul de Minas Gerais, utilizando o escalonamento de semivariogra-
mas, o qual possibilitou a comparação da estrutura espacial dos modelos de semivariogramas
ajustados. Os semivariogramas escalonados mostraram semelhanças no padrão espacial no
verão e no outono e diferenças em relação ao inverno e à primavera.
A condição necessária para utilizar o semivariograma escalonado é que exista efeito
proporcional entre suas funções semivariâncias, ou seja, que haja proporcionalidade entre as
médias e as variâncias dos dados em estudo (MERCANTE et al., 2003; VIEIRA et al, 2010).
2.3 Análise espacial utilizando repetições múltiplas independentes
O tratamento utilizando a estimação de parâmetros por máxima verossimilhança baseia-
se na suposição de que a inferência deve ser fundamentada em uma única realização do pro-
cesso estocástico Z(s). Espera-se obter melhores estimativas dos parâmetros que definem
a estrutura de variabilidade espacial se houver múltiplas repetições independentes de Z(s)
(SMITH, 1999).
Seja Z = (ZT1 (s), . . . ,ZTr (s))
T r vetores aleatórios independentes. A função densidade
de probabilidade conjunta de Zi é conforme a Equação Eq. 8:
fZi(Zi(s1), . . . , Zi(sn)) =1
√2π
n/2 |Σ|1/2e−
1
2(Zi −Xβ)TΣ−1(Zi −Xβ)
, i = 1, . . . , r. (Eq. 8)
9
E a função densidade de probabilidade conjunta de Z é da forma:
fZ(ZT1 (s), . . . ,Z
Tr (s)) =
r∏
i=1
fZi(Zi(s1), . . . , Zi(sn)).
A função de verossimilhança para θ = (βT ,ϕT )T é dada pela Equação Eq. 9:
L(θ) =r∏
i=1
fZi(Zi(s1), . . . , Zi(sn)) = (2π)−nr/2 |Σ|−r/2 e
−
1
2
r∑
i=1
(Zi −Xβ)TΣ−1(Zi −Xβ).
(Eq. 9)
O logaritmo da função de verossimilhança para o vetor de parâmetros θ é apresentado
na Equação Eq. 10:
l(θ) = −rn2
log(2π)− r2log |Σ| − 1
2
r∑
i=1
(Zi −Xβ)TΣ−1(Zi −Xβ) (Eq. 10)
em que,
Σ = ϕ1In + ϕ2R(ϕ3) é a matriz de covariância;
Ui = (Zi −Xβ)TΣ−1(Zi −Xβ) é chama de distância de Mahalanobis, i = 1, . . . , r.Observa-se que, nesta abordagem, a matriz de covariáveis X, o vetor de parâmetros β
e a matriz de covariância Σ são consideradas as mesmas para as r repetições (SMITH,1999).
O procedimento para a estimação do vetor de parâmetros que definem a estrutura
de dependência espacial θ = (βT ,ϕT )T por meio do método de máxima verossimilhança e
para o cálculo do erro padrão das estimativas de máxima verossimilhança é apresentado nos
subcapítulos 3.2.3 e 3.2.4.
2.4 Krigagem
A krigagem é um nome genérico adotado pelos geoestatísticos para um grupo de técni-
cas de estimação baseado em minimização da variância do erro. É um método de interpolação
que usa a estrutura de dependência espacial para estimar valores dentro de um espaço amos-
tral, sem tendência e com variância mínima.
O método de interpolação por krigagem possibilita a construção de mapas temáticos
com alta precisão, uma vez que após a interpolação, a densidade espacial de dados será muito
maior do que a obtida pela amostragem. Quando um estudo de semivariância é adequada-
mente elaborado, a estimativa por krigagem resultante é reconhecida como sendo a estimativa
linear e não tendenciosa (BLUE - best, linear, unbiased estimate) (LANDIM, 2000).
2.4.1 Krigagem ordinária
Segundo Journel e Huijbregts (1978), a ideia básica de regressão linear é a estimativa
de um valor desconhecido Ẑi(s0) por meio de uma combinação linear de n valores conhecidos,
10
Zi(sj), i = 1, . . . , r, j = 1, . . . , n. Na krigagem, esses n valores conhecidos são de uma mesma
característica ou propriedade em estudo. O preditor pode ser escrito conforme a Equação Eq.
11:
Ẑi(s0) =n∑
j=1
λijZi(sj), i = 1, . . . , r, (Eq. 11)
em que:
Ẑi(s0): valor predito no local s0, não amostrado na repetição i = 1, . . . , r;
n: número de valores Zi(sj) medidos das variáveis em pontos amostrados;
λij : pesos associados a cada valor Zi(sj) medido.
O preditor definido na Equação Eq. 11 é tido como melhor preditor por produzir esti-
mativas não viciadas com variâncias mínimas. Tais qualidades são garantidas uma vez que os
pesos λij são determinados impondo-se que a esperança do erro seja zero e a variância do
erro seja mínima.
Sob a hipótese do processo ser intrinsecamente estacionário, tem-se que o erro médio
é expresso pela Equação Eq. 12:
E[Zi(s0)− Ẑi(s0)] = µi − µin∑
j=1
λij = µi
1−n∑
j=1
λij
, i = 1, . . . , r. (Eq. 12)
Esse erro será nulo se (Equação Eq. 13):
n∑
j=1
λij = 1, i = 1, . . . , r, (Eq. 13)
o que é necessário para garantir que o preditor seja não tendencioso. Além disso, na krigagem,
a variância da predição é mínima, ou seja (Equação Eq. 14),
σ2i = V ar[Zi(s0)−Ẑi(s0)] = E[(Zi(s0)−Ẑi(s0))2]−{E[Zi(s0)−Ẑi(s0)]}2, i = 1, . . . , r. (Eq. 14)
Essas duas condições, Equações Eq. 13 e Eq. 14, garantem que o preditor da kriga-
gem seja não tendencioso e de variância mínima.
Substituindo a Equação Eq. 11 na Equação Eq. 14, desenvolvendo-se a expressão
resultante e minimizando-a, sujeita à restrição expressa na Equação Eq. 13, chega-se que os
valores de λij , i = 1, . . . , r, j = 1, . . . , n são as soluções do sistema de Equações Eq. 15:
n∑
j=1
λijγ(sl, sj)− η = γ(s0, sl), l = 1, . . . , nn∑
j=1
λij = 1, i = 1, . . . , r,
(Eq. 15)
em que a incógnita η é um multiplicador de Lagrange, introduzido ao minimizar a variância do
erro e γ(sl, sj) e γ(s0, sj) são respectivamente a semivariância entre os pontos sl, sj e entre os
11
pontos s0 e sj .
O sistema expresso na Equação Eq. 15, constituído de n+1 Equações e n+1 incógnitas
é conhecido como krigagem ordinária.
2.4.2 Krigagem universal
Um dos problemas encontrados ao modelar semivariogramas segundo ASCE Task
Committee (1990) é a existência de tendência nos dados, isto é, que os valores medidos
aumentam ou diminuem em alguma direção na área em estudo. Esse é o caso de um fenô-
meno não estacionário, o que torna impossível a aplicação da krigagem simples ou ordinária.
A krigagem universal é utilizada em casos em que a variável regionalizada não é estacionária.
A krigagem universal consiste em extrair da variável original Zi(s) a parte não esta-
cionária por meio de uma componente determinística µi(s) que representa a tendência, até
encontrar a parte estacionária do fenômeno, obtendo-se um componente estocástico Ri(s)
relacionados pela seguinte expressão:
Zi(s) = µi(s) +Ri(s), i = 1, . . . , r. (Eq. 16)
Para o componente determinístico se sugere utilizar uma função polinomial de grau p
das coordenadas para modelar a tendência, ou seja, ajustar um polinômio que se encarregaria
de remover a componente de deriva da variável regionalizada, e com os resíduos obter os
variogramas que agora podem ser modelados, pois, em princípio, deveriam apresentar-se
estacionários, isto é:
µi(sj) =
p∑
m=1
aimfim(sj), i = 1, . . . , r j = 1, . . . , n, (Eq. 17)
em que aim são os coeficientes desconhecidos e fim(sj) é a função que descreve a tendência.
Deste modo pode-se obter tendências simples, lineares, quadráticas, etc. Para uma
tendência simples a krigagem universal se reduz à krigagem ordinária (CHRISTENSEN et al.,
1993).
Assim, o sistema de Equações abaixo é conhecido como sistema de krigagem univer-
sal:
n∑
j=1
λijγ(sl, sj) +
p∑
m=1
aimfim(sj) = γ(s0, sl), l = 1, . . . , n
n∑
j=1
λjfm(sj) = fm(s0), m = 1, . . . , p
. (Eq. 18)
2.5 Medidas de comparação de mapas
O estudo de metodologias que permitam comparar mapas temáticos gerados por dife-
rentes técnicas é de suma importância, pois só uma comparação visual é subjetiva e diferenças
12
importantes entre mapas podem ser ignoradas.
Para uma análise precisa da similaridade de mapas temáticos utiliza-se diversas me-
didas de acurácia derivadas da matriz dos erros. A Tabela 1 apresenta a forma genérica de
uma matriz dos erros (GRINAND et al., 2008). Nesta matriz, os pixels1 do mapa de referência
são quantificados nas colunas enquanto que os pixels do mapa modelo são quantificados nas
linhas. Cada elemento da matriz representa a quantidade de pixels pertencentes à classe Ci,
i = 1, . . . , k, do mapa modelo e a classe Cj , j = 1, . . . , k, do mapa de referência. Os ele-
mentos da diagonal principal (quando i = j) representam casos em que os pixels tiveram a
mesma classificação nos dois mapas, enquanto que os elementos fora da diagonal principal
representam as classificações errôneas.
Tabela 1 Matriz dos erros genérica de ordem k × k.
Pixels do mapa de referência
Classes C1 C2 . . . Ck TOTAL
Pixels C1 n11 n12 . . . n1k n1·
do mapa C2 n21 n22 . . . n2k n2·
modelo...
......
. . ....
...
Ck nk1 nk2 . . . nkk nk·
TOTAL n·1 n·2 . . . n·k n
k: número de classes; Ci: classe i; ni·: total de pixels na classe Ci do mapa modelo; n·i:total de pixels na classe
Cj do mapa de referência; n: total de pixels.
A comparação entre o mapa de referência e o mapa modelo pode ser feita utilizando
medidas de acurácia obtidas da matriz dos erros.
2.5.1 Exatidão global
A exatidão global (EG) (Equação Eq. 19) é uma estatística de avaliação utilizada para
mensurar a similaridade entre algo real ou de referência e um modelo ajustado, porém, é
conveniente apresentar esta medida associada a outras medidas que levem em consideração
os demais valores contidos na matriz dos erros, e não somente os elementos da diagonal
principal. Pode ser extraída da matriz dos erros pela fórmula:
EG =
k∑
i=1
nii
n(Eq. 19)
Segundo Anderson et al. (2001), o nível mínimo de precisão de EG é 0,85.
É possível construir um intervalo de (1 − α)% de confiança para a EG, IC[EG, (1 −α)%] = EG ± zα/2
√
EG(1− EG)/n para n > 50, em que zα/2 é o quantil de uma variávelaleatória com distribuição normal padrão (FOODY, 2009).
1Aglutinação das palavras Picture e Elements. Representa o menor elemento de um mapa ao qual é possívelatribuir um valor. Neste trabalho, os pixels serão definidos como os elementos da matriz dos valores krigados.
13
2.5.2 Índice Kappa
Como relatam Gong e Howarth (1990), o índice Kappa (Ka) (COHEN, 1960) é uma
estatística utilizada para mensurar a exatidão das classificações temáticas. Ele é recomendado
como uma medida apropriada da exatidão por utilizar todos os elementos da matriz dos erros.
O índice Kappa fornece uma medida de concordância entre os valores previstos e os
valores observados e, segundo Congalton e Green (1999), pode ser calculado pela Equação
Eq. 20:
K̂a =
n
k∑
i=1
nii −k∑
i=1
ni·n·i
n2 −k∑
i=1
ni·n·i
. (Eq. 20)
Segundo a classificação de Kripendorff (2012), K̂a é classificado com baixa exatidão
se K̂a < 0, 67, média exatidão se 0, 67 ≤ K̂a ≤ 0, 80 e alta exatidão se K̂a ≥ 0, 80.O intervalo de (1 − α)% de confiança para Ka é da forma IC[Ka, (1 − α)%] = K̂a ±
zα/2
√
σ2(K̂a). A variância do índice Kappa é obtida por meio da Equação Eq. 21 (DE BASTI-
ANI et al, 2012):
σ2(K̂a) =1
n
(
θ1(1− θ1)(1− θ1)2
+2(1− θ1)(2θ1θ2 − θ3)
(1− θ2)3+
(1− θ1)2(θ4 − 2θ2)2(1− θ2)4
)
, (Eq. 21)
em que,
θ1 =1
n
k∑
i=1
nii;
θ2 =1
n2
k∑
i=1
ni·n·i;
θ3 =1
n2
k∑
i=1
nii(ni· + n·i);
θ4 =1
n3
k∑
i=1
k∑
j=1
nij(ni· + n·j)2.
2.5.3 Índice Tau
Ma e Redmond (1995) propuseram um índice que se mostra menos subjetivo e mais
fácil de compreensão e utilização, o índice de concordância Tau (T ), também conhecido como
Kappa modificado, definido por:
T =
k∑
i=1
nii
n− pi
1− pi(Eq. 22)
em que pi indica as probabilidades a priori de cada classe. Quando as probabilidades a priori
14
de cada classe forem iguais, tem-se pi =1
k, onde k é o número de classes da matriz dos erros.
O índice Tau pode seguir a mesma classificação do índice Kappa (KRIPENDORFF,
2012).
A variância do índice Tau é calculada com a mesma fórmula do índice Kappa e a
diferença é a inclusão das probabilidades a priori (DE BASTIANI et al, 2012).
2.6 Potássio
A análise química do solo é de grande importância como ferramenta para orientar prá-
ticas de correção e adubação do solo, considerando-se que a calagem e adubação, respon-
sáveis por até 100% do aumento da produtividade dos cultivos, dependem do conhecimento
prévio das características químicas do solo (TEDESCO et al., 1995).
As características químicas do solo estão relacionadas com a natureza dos minerais
do solo e a disponibilidade de nutrientes presentes no solo, subsídio esse fundamental para
a recomendação da dose de adubação, assim como as transformações a que os nutrientes
adicionados ao solo estarão sujeitos (ALCARDE et al., 1991).
Segundo Malavolta (1989), o conhecimento dos teores de nutrientes disponíveis no
solo orientam na formulação das recomendações mais acertadas para a adubação das plan-
tas, evitando-se o desperdício e o uso inadequado de adubos e corretivos e prejuízo, que
haveria tanto nas despesas com adubação como na redução das colheitas.
Segundo o Instituto da Potassa e Fosfato (1998), dezesseis elementos químicos são
chamados essenciais para o crescimento e desenvolvimento das plantas. Eles são divididos
em dois grupos principais: os não-minerais e os minerais. Os nutrientes não-minerais são o
carbono (C), o hidrogênio (H) e o oxigênio (O), nutrientes encontrados na atmosfera e na água
e participam da fotossíntese, sendo responsáveis pela maior parte do crescimento das plantas.
Os treze nutrientes minerais, que são fornecidos pelo solo, estão divididos em macronutrientes
primários (nitrogênio (N), fósforo (P) e potássio (K)), macronutrientes secundários (cálcio (Ca),
Magnésio (Mg) e Enxofre (S)) e micronutrientes (Boro (B), Cloro (Cl), Cobre (Cu), Ferro (Fe),
Manganês (Mn), Molibdênio (Mo) e Zinco (Zn)). Os macronutrientes primários geralmente
tornam-se deficientes no solo antes dos demais, porque as plantas os usam em quantidades
relativamente grandes. Os macronutrientes secundários e os micronutrientes são geralmente
menos deficientes e usados em quantidades menores. Mas eles são tão importantes quanto
os macronutrientes primários para uma adequada fertilidade do solo.
O potássio (K) é o segundo macronutriente em teor contido nas plantas. Segundo
Raij (1991), é, depois do fósforo, o nutriente mais consumido como fertilizante pela agricultura
brasileira. A maior parte do potássio é absorvida pelas plantas durante a fase de crescimento
vegetativo. A deficiência de potássio não revela sintomas imediatos nas plantas, ocorrendo
inicialmente a redução do crescimento e, em fases mais avançadas de deficiência, clorose
e necrose das folhas. Os sintomas de deficiência de potássio aparecem de várias formas.
Um dos sintomas mais comuns da fome de potássio é a murcha ou queima ao longo das
15
margens das folhas. As plantas deficientes em potássio crescem lentamente, apresentam
sistemas radiculares pouco desenvolvidos, os colmos são fracos e o acamamento é comum.
As sementes e os frutos são menores e enrugados, e as plantas possuem pouca resistência
às doenças (INSTITUTO DA POTASSA E FOSFATO, 1998).
A Tabela 2 apresenta os níveis de classificação do potássio segundo Costa e Oliveira
(2001).
Tabela 2 Interpretação dos teores do potássio (K) na análise de solo
Graduação Baixo Médio Alto Muito Alto
Potássio [cmolc dm−3] ≤ 10,0 0,11 - 0,20 0,21 - 0,30 >0,30Fonte: Adaptado de Costa e Oliveira (2001).
2.7 Produtividade da soja
A cultura da soja, apesar de ser milenar, ganhou destaque econômico apenas na se-
gunda metade do século XX. No Brasil, sua produção cresceu no início da década de 70,
quando ocorreu alta nos preços internacionais. A produtividade de uma área está relacionada
com os atributos físico-químicos do solo, o que pode ser corrigido com a ajuda da agricultura
de precisão, permitindo a aplicação de insumos agrícolas nos locais corretos e nas quantida-
des precisas, obtendo uma lavoura com produtividade mais uniforme (EMBRAPA, 2010).
Segundo dados da Embrapa Soja (2011), o Brasil é o segundo maior produtor mundial
do grão com produção igual a 75 milhões de toneladas na safra 2010/2011, com produtividade
igual a 3,1 t ha−1, ficando atrás somente dos Estados Unidos. Além disso, o estado do Paraná
é o segundo maior produtor nacional (o primeiro é o estado do Mato Grosso), com produção
de 15,4 milhões de toneladas na safra 2010/2011 e produtividade superior à nacional, 3,36
t ha−1.
Na Tabela 3 apresentam-se os valores da produtividade estadual e nacional da soja. A
Figura 3 apresenta um gráfico de perfis que permite observar o comportamento da produtivi-
dade a cada ano.
Tabela 3 Produtividade da soja [t ha−1] segundo os padrões estadual e nacional
Produtividade 1998/1999 1999/2000 2000/2001 2001/2002 2002/2003 ... 2010/2011 2011/2012
Estadual 2,79 2,52 3,06 2,89 3,02 ... 3,36 2,45
Nacional 2,37 2,41 2,75 2,58 2,82 ... 3,12 2,65
Fonte: CONAB (2012).
16
Figura 3 Perfis de produtividade estadual e nacional para sete anos agrícolas.
2.8 Resistência do solo à penetração (RSP)
A Resistência do Solo a Penetração (RSP) é resultante por forças provocadas pela
compactação, que é definida pela densidade do solo, conteúdo de água e textura do solo
(SECCO, 2003). Desse modo, pode-se afirmar que a RSP geralmente aumenta com a com-
pactação do solo (incremento da densidade) e com a redução da umidade do solo, sendo
indesejável para o crescimento das plantas, ocasionando redução de crescimento do sistema
radicular (BENGHOUG; MULLINS, 1990).
Determinar qual é o nível crítico de resistência do solo é um processo difícil, visto que
a resistência está intimamente ligada e influenciada pela umidade dos solos, atributos estes
que variam constantemente. Além do mais, a RSP é também influenciada pelo tipo de solo e
espécie cultivada (JUNIOR; et al, 2004). Desta maneira a literatura, de modo geral aceita como
valores limitantes para o crescimento radicular da maioria das espécies cultivadas no solo,
sendo considerado solo compactado quando apresentar valores de resistência à penetração
acima de 2,0 MPa em qualquer tipo de solo (FALKER, 2009).
Segundo Falker (2009), podemos classificar a compactação dos solos em três diferen-
tes níveis:
• Níveis toleráveis são aqueles nos quais não existe perda de produtividade por causa dacompactação;
• Níveis intermediários são aqueles em que existe potencial para perdas de produtividadepela compactação;
• Níveis críticos são aqueles em que normalmente ocorrerão perdas pela compactação.
Desse modo, levando em conta ainda a classificação dos solos pelo teor de argila da
EMBRAPA (2009) em solos leves: abaixo de 20%; solos médios: entre 20% e 50%; solos
17
pesados: acima de 50%, Falker (2009) construiu a Tabela 1 comparando ambas as caracterís-
ticas.
Tabela 4 Níveis críticos de resistência do solo a penetração em função da classificação dossolos
Níveis de RSP no solo Tipos de solo
Leves Médios Pesados
Nível Tolerável [MPa] Abaixo de 2,0 Abaixo de 2,0 Abaixo de 2,5
Nível intermediário [MPa] Entre 2,5 e 3,0 Entre 2,0 e 3,5 Entre 2,5 e 4,0
Nível crítico [MPa] Acima de 3,0 Acima de 3,5 Acima de 4,0
Fonte: Falker (2009).
Segundo Reichert et al. (2010) alguns cuidados devem ser tomados na determinação
da resistência do solo a penetração para que não ocorram erros de interpretação. A RSP
depende principalmente do conteúdo de água, da densidade do solo e da distribuição do ta-
manho de partículas. Assim, um solo seco ou mais denso apresenta maior resistência, se
comparado a um solo úmido e menos denso, enquanto, para um mesmo conteúdo de água,
um argilossolo apresenta maior resistência que um solo arenoso.
Nesse sentido, sugere-se que a avaliação da resistência do solo a penetração deva ser
aliada a outras avaliações ou observações de campo. Sua avaliação, juntamente com a deter-
minação da densidade, ou abertura de trincheiras para observação do crescimento radicular,
é fundamental para um melhor embasamento dos resultados de resistência à penetração.
2.9 Densidade do solo (Dens)
A densidade do solo é definida como a relação entre a massa de solo seco em estufa
(M) e seu respectivo volume (V), portanto levam em consideração os espaços ocupados pela
água e pelo ar. Assim, esta variável está relacionada com a estrutura e consequentemente
com a compactação do solo.
Assis (2000) considera que a densidade do solo é um atributo físico que reflete como
as partículas do solo estão arranjadas, definindo, assim, as características do sistema poroso.
O autor cita que grupos de solos diferentes não possuem valores característicos de densidade,
sendo encontrados, em geral, valores variando de 0,9 a 1,5 g cm−3.
O aumento da densidade pode ser gerado pelo pisoteio animal, tráfego de máquinas e
implementos agrícolas, cultivo intensivo e sistema de manejo inadequado (HAMZA; ANDER-
SON, 2005). Desse modo pode-se afirmar que a densidade é diretamente afetada pelo manejo
da área, sendo aumentada pela compactação intrínseca do solo e diminuída pela incorpora-
ção de matéria orgânica, bem como pelas práticas de preparo que alteram o espaço poroso.
Estudos indicam um maior grau de compactação no sistema de plantio direto, em relação ao
convencional, devido ao acúmulo de tráfego de máquinas e adensamento natural de partículas
(KLEIN, 1998).
Além do mais, existem indícios de que nesse sistema, o de plantio direto, ocorra uma
faixa de compactação de 7 a 15 cm de profundidade aparentemente indicados pela densidade
18
e/ou resistência do solo a penetração (FARACO et al., 2008).
19
3 MATERIAL E MÉTODOS
3.1 Material
3.1.1 Área 1
A análise de um conjunto de dados reais foi efetuada com o propósito de ilustrar a apli-
cação das técnicas geoestatísticas. Os dados utilizados neste trabalho são provenientes de
uma área experimental localizada no Centro de Pesquisa Eloy Gomes da Cooperativa Central
Agropecuária de Desenvolvimento Tecnológico e Econômico Ltda. (COODETEC), em Cas-
cavel (PR), com solo classificado como Latossolo Vermelho Distroférrico (EMBRAPA, 2009).
A área experimental possui 1,3 ha, dividida em uma malha regular de 256 parcelas de 7,20
× 7,20 m, com corredor de 2,4 m em uma das direções, perfazendo um total de 128 par-celas com manejo químico localizado (CML) e 128 parcelas sem manejo químico localizado
(SML), conforme esquema mostrado na Figura 4. O delineamento utilizado nesta área é deno-
minado amostragem desalinhada sistemática estratificada (WOLLENHAUPT; WOLIKOWSKI,
1994; SOUZA et al., 1999).
Figura 4 Esquema de amostragem da área em estudo.
Fonte: Adaptado de Souza et al. (1999).
Para coleta dos elementos amostrais do solo em cada parcela, a partir de um ponto
de referência, foram tomadas quatro subamostras na camada de 0 - 0,20 m de profundidade,
dentro de um raio de 0,25 m, as quais foram posteriormente misturadas para compor uma
amostra representativa de cada parcela. Essas amostras foram encaminhadas ao laboratório
de análise de solo da COODETEC para realização de análise química de rotina.
20
Os dados utilizados para o desenvolvimento deste trabalho são referentes a 114 par-
celas com manejo químico localizado do teor de potássio (K) [cmolc dm−3] no solo e produti-
vidade da soja (Prod.) [t ha−1], selecionadas por apresentarem repetição nos anos agrícolas
de 1998/1999 a 2002/2003 sem perda de parcelas e proporcionalidade entre as médias e
variâncias, requisitos para a aplicação dos métodos propostos.
3.1.2 Área 2
A segunda área refere-se a uma área comercial de produção de grãos, no município
de Cascavel, com coordenadas geográficas aproximadas de Latitude 25,95◦ S e Longitude
53,57◦ W e altitude média de 650 m. O solo é classificado como Latossolo Vermelho Distrofér-
rico com textura argilosa (EMBRAPA, 2009). O clima da região é classificado como temperado
mesotérmico e superúmido, tipo climático Cfa (Köeppen) e a temperatura anual média é de
21◦C. Os dados são referentes ao anos agrícolas de 2010/2011 e 2011/2012, com área apro-
ximada de 24,5 ha, com experimentos conduzidos por pesquisadores do grupo de pesquisa
do Laboratório de Estatística Espacial (LEE) da Universidade Estadual do Oeste do Paraná -
UNIOESTE, campus de Cascavel.
Foi realizada uma amostragem sistemática centrada com pares de pontos próximos
(lattice plus close pairs), com distância máxima de 141 m entre pontos. Em alguns locais,
escolhidos de forma aleatória, a amostragem foi realizada com distâncias menores: 75 e 50
m entre pontos. Todas as amostras foram georreferenciadas e localizadas com auxílio de um
aparelho receptor de sinal com o sistema de posicionamento global (GPS) GEOEXPLORE 3
da marca Trimble, num sistema espacial de coordenadas UTM.
Os dados utilizados para o desenvolvimento deste trabalho são referentes a 30 parcelas
da produtividade da soja (Prod*) [t ha−1] e as covariáveis resistência do solo à penetração
(RSP) [MPa] e densidade do solo (Dens) [g cm−3] selecionadas por apresentarem repetição
nos anos agrícolas de 2010/2011 e 2011/2012 sem perda de parcelas. A localização espacial
das parcelas é apresentada na Figura 5.
239600 239800 240000 240200 240400
7237
600
7238
000
7238
400
X
Y
↑ N
Figura 5 Localização dos 30 pontos amostrais.
21
A determinação da resistência do solo à penetração nas camadas de 0-0,10, 0,10-
0,20 e 0,20-0,30 m de profundidade foi obtida por meio de um penetrômetro digital FALKER
modelo PLG 5300 SoloTrack, que realiza medição eletrônica da resistência à penetração com
cone tipo 2, resolução da medição de 1 cm e profundidade máxima de 40 cm. O receptor
GPS é conectado ao equipamento para o registro da localização geográfica de cada parcela
experimental, sendo realizadas 3 repetições aleatórias em torno de cada ponto.
Os dados de densidade do solo foram coletados em três camadas (0-0,10, 0,10-0,20 e
0,20-0,30 m) de profundidade por meio do método do anel volumétrico (MAV), o qual consiste
na amostragem de solo com estrutura indeformada num anel (cilindro metálico) de 5 cm de
diâmetro.
3.2 Metodologia
3.2.1 Estudo do potássio e produtividade da soja
Inicialmente foi realizada a análise exploratória para avaliar o comportamento geral dos
dados e identificar no conjunto de dados a existência de proporcionalidade entre as médias
e as variâncias, condição necessária para se utilizar a técnica de escalonamento da função
semivariância.
O estudo da variabilidade espacial dos dados ocorreu com o ajuste de modelos teóricos
Exponencial, Gaussiano e família Matérn, com parâmetros estimados por mínimos quadrados
ordinários e máxima verossimilhança. Nesta etapa, foram aplicadas as técnicas de validação
de modelos para a posterior confecção dos mapas dos teores de potássio no solo por krigagem
ordinária.
Para o estudo do método de escalonamento da função semivariância, foram ajustados
os modelos teóricos aos semivariogramas individuais (para cada ano agrícola) e ao semivari-
ograma escalonado pela variância dos dados. Os parâmetros foram estimados pelo método
de mínimos quadrados ordinários, pois este método ajusta o modelo teórico aos pontos do
semivariograma experimental, dando sentido à utilização do escalonamento.
Para o estudo do método de repetições múltiplas independentes foram ajustados os
modelos teóricos de semivariogramas aos dados de forma individual (para cada ano agrícola)
e considerando as múltiplas repetições e os parâmetros foram estimados pelo método de
máxima verossimilhança.
A partir destes modelos elaboraram-se mapas temáticos por krigagem ordinária para
cada período em estudo. Por meio de medidas de acurácia obtidas a partir da construção
da matriz de erros compararam-se os mapas gerados segundo os métodos geoestatísticos
convencionais com os mapas elaborados segundo os dois métodos em estudo.
A fim de comparar os métodos sob estudo, compararam-se também os mapas ela-
borados pelo método do escalonamento da função semivariância com os mapas elaborados
segundo o método de repetições múltiplas independentes.
Para os dados de produtividade da soja, inicialmente foi realizada a análise exploratória
22
para avaliar o comportamento geral dos dados.
O estudo da variabilidade espacial dos dados ocorreu com o ajuste de modelos teóricos
Exponencial, Gaussiano e família Matérn, com parâmetros estimados por máxima verossimi-
lhança, considerando o método de repetições múltiplas independentes. Foram aplicadas as
técnicas de validação de modelos para a posterior confecção dos mapas da produtividade da
soja por krigagem ordinária.
3.2.2 Estudo da produtividade da soja como função de covariáveis
Nesta seção, o interesse foi estudar a variabilidade espacial da produtividade da soja
para os dois anos agrícolas em estudo (2010/2011 e 2011/2012) como função das covariáveis
resistência do solo à penetração (RSP) e densidade do solo (D), nas camadas de 0-0,10,
0,10-0,20 e 0,20-0,30 m de profundidade, referentes ao ano agrícola 2010/2011.
O estudo da variabilidade espacial dos dados ocorreu com o ajuste de modelos teóricos
Exponencial, Gaussiano e família Matérn, com parâmetros estimados por máxima verossimi-
lhança considerando o método de repetições múltiplas independentes.
3.2.3 Estimadores de máxima verossimilhança considerando repetiçõe s múltiplas in-dependentes
A primeira derivada do logaritmo da função de verossimilhança (Equação Eq. 10) é
chamada função escore para θ = (βT ,ϕT )T do modelo espacial linear com repetições múlti-
plas e é dada pela Equação Eq. 23:
U(β) =∂l(θ)
∂βe U(ϕ) =
∂l(θ)
∂ϕ, (Eq. 23)
em que,
U(β) = rXTΣ−1ǭ, onde ǭ = Zi −Xβe
U(ϕ) =
(
∂l(θ)
∂ϕ1,∂l(θ)
∂ϕ2,∂l(θ)
∂ϕ3
)T
que tem como elementos
∂l(θ)
∂ϕu=
r
2
[
−tr(
Σ−1 ∂Σ
∂ϕu
)
+
(
ǭTΣ−1∂Σ
∂ϕuΣ
−1ǭ
)]
, u = 1, 2, 3. (Eq. 24)
Assim, U(θ) é o vetor gradiente da função de verossimilhança em θ = (βT ,ϕT )T e os
estimadores de máxima verossimilhança do vetor de parâmetros são obtidos pela solução do
sistema de equações apresentados abaixo (Equação Eq. 25):
U(β) =∂l(θ)
∂β= 0
U(ϕ) =∂l(θ)
∂ϕ= 0
. (Eq. 25)
Logo, o estimador de máxima verossimilhança de β é da forma
23
β̂ = (XTΣ−1X)−1XTΣ−1Z̄, onde Z̄ =1
r
r∑
i=1
Zi
e o estimador de máxima verossimilhança para ϕ constitui um sistema de equações não-
lineares que não apresenta solução em forma fechada. É encontrado maximizando o loga-
ritmo da função de verossimilhança com auxílio do algoritmo L-BFGS-B (BYRD et al., 1995)
implementado no pacote geoR (RIBEIRO JR; DIGGLE, 2012), isto é,
ϕ̂ = maxθ∈Θ
{l(θ)}.
3.2.4 Erro padrão das estimativas de máxima verossimilhança consider ando repeti-ções múltiplas independentes
A matriz de primeiras derivadas da função escore com sinal negativo J̈(θ) = −∂UT
∂θé
denominada matriz de informação observada. A matriz hessiana é L̈(θ) = −J̈(θ) e E[J̈(θ)] =K(θ) onde K(θ) é a matriz de informação esperada de Fisher. A matriz da segunda derivada
do logaritmo da função de verossimilhança é da forma
L̈(θ) =
L̈ββ L̈βϕ
L̈ϕβ L̈ϕϕ
em que,
L̈ββ =∂2l(θ)
∂β∂βT=
∂U(β)
∂βT= XTΣ−1X;
L̈βϕ =∂2l(θ)
∂β∂ϕT=
∂U(β)
∂ϕTque tem como elementos (j = 1, 2, 3),
∂2l(θ)
∂β∂ϕj= −rXTΣ−1 ∂Σ
∂ϕjΣ
−1ǭ;
L̈ϕβ = L̈Tβϕ
;
L̈ϕϕ =∂2l(θ)
∂ϕ∂ϕT=
∂U(ϕ)
∂ϕTque tem como elementos (u, j = 1, 2, 3),
∂2l(θ)
∂ϕu∂ϕj=
r
2tr
[
Σ−1
(
∂Σ
∂ϕjΣ
−1 ∂Σ
∂ϕu− ∂
2Σ
∂ϕuϕj
)]
−r2
2
[
ǭTΣ−1(
∂Σ
∂ϕjΣ
−1 ∂Σ
∂ϕu− ∂
2Σ
∂ϕu∂ϕj+
∂Σ
∂ϕuΣ
−1 ∂Σ
∂ϕj
)
Σ−1ǭ
]
.
Para estimar o erro padrão das estimativas de máxima verossimilhança utilizou-se a
matriz de informação esperada de Fisher, que é da forma bloco diagonal
24
K(θ) =
E[−Lββ] E[−Lβϕ]E[−Lϕβ] E[−Lϕϕ]
=
K(β) 0
0 K(ϕ)
(Eq. 26)
em que,
K(β) = rXTΣ−1X
e K(ϕ) tem como elementos (u, j)
Ku,j(ϕ) =r
2tr
(
Σ−1 ∂Σ
∂ϕjΣ
−1 ∂Σ
∂ϕu
)
para u, j = 1, 2, 3.
Neste estudo, a matriz de covariância tem a forma Σ = ϕ1In + ϕ2R(ϕ3). Então, a
primeira e segunda derivadas de Σ com respeito a ϕ1, ϕ2 e ϕ3 são dadas por:
∂Σ
∂ϕ1= In,
∂2Σ
∂ϕ21=
∂2Σ
∂ϕ1∂ϕ2=
∂2Σ
∂ϕ1∂ϕ3= 0;
∂Σ
∂ϕ2= R(ϕ3),
∂2Σ
∂ϕ22= 0,
∂2Σ
∂ϕ2∂ϕ3=
∂R(ϕ3)
∂ϕ3=
[(
∂ruj∂ϕ3
)]
;
∂Σ
∂ϕ3= ϕ2
∂R(ϕ3)
∂ϕ3,∂2Σ
∂ϕ23= ϕ2
∂2R(ϕ3)
∂ϕ23= ϕ2
[(
∂2ruj∂ϕ23
)]
, para u, j = 1, . . . , n.
As derivadas de primeira e segunda ordem de ruj com respeito a ϕ3 para as funções
de covariância Exponencial, Gaussiana e família Matérn com parâmetro de forma k > 0 são
apresentadas nas Equações Eq. 27 - Eq. 30 (URIBE-OPAZO et al., 2012), sendo δuj =
‖δu − δj‖ a distância euclidiana entre os pontos su e sj .Para a função de covariância Exponencial:
∂ruj∂ϕ3
= rujδujϕ23
e∂2ruj∂ϕ23
= rujδujϕ33
(
δijϕ3
− 2)
, para u, j = 1, . . . , n. (Eq. 27)
Para a função de covariância Gaussiana:
∂ruj∂ϕ3
= 2rujδ2ujϕ33
e∂2ruj∂ϕ23
=
(
2rujδ2ujϕ43
)(
2
(
δujϕ3
)2
− 3)
, para u, j = 1, . . . , n. (Eq. 28)
Para a função de covariância família Matérn:
∂ruj∂ϕ3
= −(
1
ϕ3
)
[
kruj +1
2k−1Γ(k)
(
δujϕ3
)k+1
K ′k
(
δujϕ3
)
]
, (Eq. 29)
e
25
∂2ruj∂ϕ23
=
(
k(k + 1)rujϕ23
)
+
(
1
ϕ232k−1Γ(k)
)(
δujϕ3
)k+1
×[
2(k + 1)K ′k
(
δujϕ3
)
+
(
δujϕ3
)
K ′′k
(
δuj
ϕ3
)]
, (Eq. 30)
para u, j = 1, . . . , n; onde K ′k(w) =∂Kk(w)
∂w= −1
2(Kk−1(w)+Kk+1(w)) e K ′′(w) =
∂2Kk(w)
∂w2=
1
4[Kk−2(w) + 2Kk(w) +Kk+2(w)].
3.2.5 Software utilizado
Para a análise geoestatística dos dados foi utilizado o software estatístico R (R DEVE-
LOPMENT CORE TEAM, 2012) e seu módulo geoR (RIBEIRO JR; DIGGLE, 2012).
26
4 RESULTADOS E DISCUSSÃO
4.1 Área 1: estudo do potássio
Na Tabela 5 são apresentadas as estatísticas descritivas para cada ano em estudo
da variável potássio (K) [cmolc dm−3]. Os valores médios do teor de potássio no solo são
classificados como muito altos para todos os anos em estudo segundo Costa e Oliveira (2001)
(Tabela 2). De acordo com o coeficiente de variação (CV), os dados de potássio são considera-
dos homogêneos, pois CV
27
Os semivariogramas originais apresentaram valores de semivariância em uma escala muito
baixa, o que torna o ajuste dos modelos teóricos sensível aos chutes iniciais. Por este motivo
optou-se por ajustar os modelos teóricos para cada ano agrícola sob estudo aos semivariogra-
mas individuais divididos pelo fator de escala αi. Observa-se que o teor de potássio para os
cinco anos amostrados revelaram média dependência espacial, pois o efeito pepita apresenta
valores em torno de 50% do patamar, uma vez que este atributo revela a variabilidade espa-
cial não detectada durante o processo de amostragem. Desta maneira, o comportamento em
termos da distribuição espacial do teor de potássio no solo é semelhante entre os cinco anos
amostrados e a utilização do escalonamento da função semivariância torna-se viável.
0 20 40 60 80
0.0
0.2
0.4
0.6
0.8
1.0
1.2
Distância (m)
Sem
ivar
iânc
ia
(a) Escalonamento
0 20 40 60 80
0.0
0.2
0.4
0.6
0.8
1.0
1.2
Distância (m)
Sem
ivar
iânc
ia
(b) Individual 98/99
0 20 40 60 80
0.0
0.2
0.4
0.6
0.8
1.0
1.2
Distância
Sem
ivar
iânc
ia
(c) Individual 99/00
0 20 40 60 80
0.0
0.2
0.4
0.6
0.8
1.0
1.2
Distância (m)
Sem
ivar
iânc
ia
(d) Individual 00/01
0 20 40 60 80
0.0
0.2
0.4
0.6
0.8
1.0
Distância (m)
Sem
ivar
iânc
ia
(e) Individual 01/02
0 20 40 60 80
0.0
0.2
0.4
0.6
0.8
1.0
1.2
Distância (m)
Sem
ivar
iânc
ia
(f) Individual 02/03
Figura 6 Semivariogramas teóricos ajustados aos semivariogramas experimentais escalonadoe individuais da variável potássio.
A Tabela 6 apresenta os resultados da análise geoestatística da variável potássio (K),
com os modelos ajustados aos semivariogramas individuais e por escalonamento e as estima-
28
tivas dos parâmetros obtidos por OLS.
Tabela 6 Modelos espaciais ajustados aos semivariogramas individuais e por escalonamento(ESC) e parâmetros estimados por OLS do potássio (K)
Método Modelo ϕ̂1 ϕ̂2 ϕ̂3 â = g(ϕ̂3) EPR
K-ESC Gaussiano 0,627 0,455 27,852 48,206 57,968
K-Individual 98/99 Gaussiano 0,529 0,569 20,910 36,192 48,155
K-Individual 99/00 Gaussiano 0,472 0,632 26,171 45,296 42,765
K-Individual 00/01 Gaussiano 0,620 0,561 44,996 77,879 52,497
K-Individual 01/02 Gaussiano 0,589 0,405 16,634 28,790 59,261
K-Individual 02/03 Gaussiano 0,787 0,340 40,197 69,574 69,849
ϕ̂1: efeito pepita; ϕ̂2: contribuição; ϕ̂3: função do alcance do modelo; â: alcance (modelo gaussiano: â = 31/2ϕ̂3);
EPR=(ϕ̂1/(ϕ̂1 + ϕ̂2)) × 100 efeito pepita relativo; K-ESC: estudo do potássio por escalonamento da função semi-
variância.
Segundo o critério de validação cruzada apresentado na Tabela 7 (FARACO et al.,
2008), o modelo que melhor se ajustou aos dados foi o Gaussiano. Observa-se similaridade
dos efeitos pepita (ϕ̂1), patamares (ϕ̂1 + ϕ̂2) e alcances (â) entre os métodos individuais e
escalonado. Pressupõe-se assim que os mapas temáticos construídos pela interpolação por
krigagem dos semivariogramas individuais e do semivariograma escalonado não apresentem
muitas diferenças entre si. Analisando o efeito pepita relativo (EPR), obteve-se moderada de-
pendência espacial (25% < EPR ≤ 75%) (CAMBARDELA et al.,1994), assim como observadonos semivariogramas experimentais.
Tabela 7 Critério de validação cruzada dos modelos teóricos ajustados os semivariogramasexperimentais individuais e por escalonamento para a variável potássio (K)
K Modelo EM ER SEM SER EA
Escalonamento Gaussiano 0,0006 0,0003 0,3757 0,4301 32,7084
Individual 98/99 Gaussiano 0,0007 0,0004 0,0821 0,0960 6,3910
Individual 99/00 Gaussiano -0,0004 -0,0003 0,0679 0,0869 6,2050
Individual 00/01 Gaussiano 0,0005 0,0003 0,0864 0,1024 7,5049
Individual 01/02 Gaussiano -0,0003 -0,0002 0,0687 0,0760 6,3195
Individual 02/03 Gaussiano 0,0001 0,0001 0,0691 0,0741 6,3783
EM: erro médio; ER: erro médio reduzido; SEM : desvio padrão do erro médio; SER: desvio padrão do erro médio;
EA: erro absoluto.
A Figura 7 apresenta os mapas temáticos dos teores de potássio (K) [cmolc dm−3]
construídos por krigagem ordinária, divididos em classes, segundo os níveis de classificação
para interpretação de resultados de análise do solo de acordo com Costa e Oliveira (2001)
(Tabela 2), para cada ano em estudo, segundo o modelo escalonado e os modelos individuais.
Pela classificação adotada, os níveis de potássio na área apresentaram-se altos (0,21-0,30
cmolc dm−3) e muito altos (>0,30 cmolc dm−3), para todos os anos em estudo. Para a constru-
ção desses mapas foi criada uma grade de interpolação formada por 69993 pixels. Observa-se
29
que os mapas elaborados utilizando-se os modelos individuais comparados aos mapas elabo-
rados segundo o modelo escalonado apresentam um comportamento semelhante.
0 50 100 150
020
4060
8010
0
X Coord
Y C
oord
≤ 0,100,11−0,200,21−0,30> 0,30
↑ N
(a) Individual 98/99
0 50 100 150
020
4060
8010
0
X Coord
Y C
oord
≤ 0,100,11−0,200,21−0,30> 0,30
↑ N
(b) Escalonamento 98/99
0 50 100 150
020
4060
8010
0
X Coord
Y C
oord
≤ 0,100,11−0,200,21−0,30> 0,30
↑ N
(c) Individual 99/00
0 50 100 150
020
4060
8010
0
X Coord
Y C
oord
≤ 0,100,11−0,200,21−0,30> 0,30
↑ N
(d) Escalonamento 99/00
0 50 100 150
020
4060
8010
0
X Coord
Y C
oord
≤ 0,100,11−0,200,21−0,30> 0,30
↑ N
(e) Individual 00/01
0 50 100 150
020
4060
8010
0
X Coord
Y C
oord
≤ 0,100,11−0,200,21−0,30> 0,30
↑ N
(f) Escalonamento 00/01
0 50 100 150
020
4060
8010
0
X Coord
Y C
oord
≤ 0,100,11−0,200,21−0,30> 0,30
↑ N
(g) Individual 01/02
0 50 100 150
020
4060
8010
0
X Coord
Y C
oord
≤ 0,100,11−0,200,21−0,30> 0,30
↑ N
(h) Escalonamento 01/02
0 50 100 150
020
4060
8010
0
X Coord
Y C
oord
≤ 0,100,11−0,200,21−0,30> 0,30
↑ N
(i) Individual 02/03
0 50 100 150
020
4060
8010
0
X Coord
Y C
oord
≤ 0,100,11−0,200,21−0,30> 0,30
↑ N
(j) Escalonamento 02/03
Figura 7 Mapas temáticos do potássio (K) [cmolc dm−3] construídos a partir dos modelosescalonado (ESC) e individuais, para cada ano em estudo, ajustados por OLS.
Para melhor comparar estes mapas, quantificou-se seus 69993 pixels em uma matriz,
30
conhecida como matriz dos erros, definindo o mapa gerado pelo modelo individual como o
de referência, visto que é elaborado por métodos geoestatísticos mais conhecidos, e o mapa
gerado pelo modelo escalonado como o mapa modelo.
As Tabelas de 8 a 12 apresentam as matrizes dos erros que comparam os mapas para
os anos agrícolas de 1998/1999 a 2002/2003, respectivamente.
Tabela 8 Matriz de erros do número de pixels por classe da variável potássio 98/99
Mapa de Referência
(K 98/99 Individual)
Classe 0, 21− 0, 30 > 0, 30 TotalMapa Modelo 0, 21− 0, 30 18320 2737 21057
(K 98/99 Escalonado) > 0, 30 3976 44960 48936
Total 22296 47697 69993
Tabela 9 Matriz de erros do número de pixels por classe da variável potássio 99/00
Mapa de Referência
(K 99/00 Individual)
Classe 0, 21− 0, 30 > 0, 30 TotalMapa Modelo 0, 21− 0, 30 28074 378 28452
(K 99/00 Escalonado) > 0, 30 1860 39681 41541
Total 29934 40059 69993
Tabela 10 Matriz de erros do número de pixels por classe da variável potássio 00/01
Mapa de Referência
(K 00/01 Individual)
Classe 0, 21− 0, 30 > 0, 30 TotalMapa Modelo 0, 21− 0, 30 21730 769 22499
(K 00/01 Escalonado) > 0, 30 2271 45223 47494
Total 24001 45992 69993
Tabela 11 Matriz de erros do número de pixels por classe da variável potássio 01/02
Mapa de Referência
(K 01/02 Individual)
Classe ≤ 0, 20 0, 21− 0, 30 > 0, 30 TotalMapa Modelo ≤ 0, 20 1 0 0 1
(K 01/02 Escalonado) 0, 21− 0, 30 0 11645 5494 17139> 0, 30 0 2687 50166 52853
Total 1 14332 55660 69993
31
Tabela 12 Matriz de erros do número de pixels por classe da variável potássio 02/03
Mapa de Referência
(K 02/03 Individual)
Classe ≤ 0, 20 0, 21− 0, 30 > 0, 30 TotalMapa Modelo ≤ 0, 20 1 0 0 1
(K 02/03 Escalonado) 0, 21− 0, 30 0 15998 4183 20181> 0, 30 0 4482 45329 49811
Total 1 20480 49512 69993
A diagonal principal das matrizes indica a quantidade de pixels classificados identica-
mente nos dois mapas. A matriz de erros permite calcular a exatidão global (EG) e os índices
Kappa (Ka) e Tau (T ), medidas de acurácia que podem ser utilizadas na comparação dos
mapas.
A Tabela 13 apresenta estimativas das medidas de acurácia obtidas da matriz dos er-
ros e seu correspondente intervalo de 95% de confiança para a comparação dos mapas de
todos os anos agrícolas estudados (Figura 7). O índice de exatidão global obtido (EG) para
todos os anos foi maior que 0,85, ou seja, acima do nível mínimo de precisão recomendado
por Anderson et al. (2001), indicando que os mapas temáticos são similares. De acordo com a
classificação de Kripendorff (2012), os índices Kappa (Ka) e Tau (T ) são considerados de mé-
dia (0,67 ≤Ka (T ) < 0,80) a alta (Ka, (T ) ≥ 0,80) precisão. Assim, podem-se observar poucasdiferenças entre os mapas temáticos estudados e, consequentemente, poucas diferenças ao
ajustar modelos de forma individual ou por escalonamento do semivariograma.
Tabela 13 Medidas de acurácia do potássio (K) dos mapas gerados pelos modelos ajustadossegundo os métodos: individual - OLS versus escalonamento ESC- OLS
Comparações Ano EG IC[EG, 95%] Ka IC[K, 95%] T IC[T, 95%]
K vs K-ESC 98/99 0,904 [0,902;0,906] 0,776 [0,771;0,781] 0,808 [0,805;0,812]
K vs K-ESC 99/00 0,968 [0,967;0,969] 0,934 [0,932;0,937] 0,936 [0,934;0,938]
K vs K-ESC 00/01 0,957 [0,955;0,958] 0,902 [0,899;0,905] 0,913 [0,911;0,915]
K vs K-ESC 01/02 0,883 [0,881;0,885] 0,665 [0,659;0,672] 0,825 [0,821;0,828]
K vs K-ESC 02/03 0,876 [0,874;0,878] 0,700 [0,694;0,706] 0,814 [0,811;0,818]
K: mapa do potássio gerado pelo método individual utilizando OLS na estimação dos parâmetros; K-ESC: mapa do
potássio gerado por escalonamento da função semivariância utilizando OLS na estimação dos parâmetros; EG:
exatidão global; Ka: Kappa; T : Tau.
4.1.2 Repetições múltiplas independentes
Na Figura 8 estão descritos os semivariogramas teóricos ajustados aos semivariogra-
mas experimentais dos teores de potássio (K) [cmolc dm−3], segundo o modelo espacial linear
utilizando replicações múltiplas independentes e os modelos individuais, com os parâmetros
obtidos por máxima verossimilhança (ML).
32
0 20 40 60 80
0.00
00.
002
0.00
40.
006
0.00
8
Distância (m)
Sem
ivar
iânc
ia
(a) Rep. Múltiplas
0 20 40 60 80
0.00
00.
002
0.00
40.
006
0.00
80.
010
Distância (m)
Sem
ivar
iânc
ia
(b) Individual 98/99
0 20 40 60 80
0.00
00.
002
0.00
40.
006
0.00
8
Distância (m)
Sem
ivar
iânc
ia
(c) Individual 99/00
0 20 40 60 80
0.00
00.
002
0.00
40.
006
0.00
80.
010
Distância (m)
Sem
ivar
iânc
ia
(d) Individual 00/01
0 20 40 60 80
0.00
00.
001
0.00
20.
003
0.00
40.
005
0.00
6
Distância (m)
Sem
ivar
iânc
ia
(e) Individual 01/02
0 20 40 60 80
0.00
00.
002
0.00
40.
006
Distância (m)
Sem
ivar
iânc
ia
(f) Individual 02/03
Figura 8 Semivariogramas teóricos ajustados aos semivariogramas experimentais consid
Recommended