UNIVERSIDADE FEDERAL DA BAHIA
ESCOLA POLITÉCNICA
DEPTº DE ENGENHARIA AMBIENTAL - DEA
MESTRADO PROFISSIONAL EM
GERENCIAMENTO E TECNOLOGIAS
AMBIENTAIS NO PROCESSO PRODUTIVO
PAULO SÉRGIO FERREIRA DE MENEZES
VALIDAÇÃO DO MODELO MATEMÁTICO ISCST3
DE DISPERSÃO ATMOSFÉRICA A PARTIR DAS
EMISSÕES DE DIÓXIDO DE ENXOFRE DE UMA
REFINARIA
SALVADOR
2006
UNIVERSIDADE
FEDERAL DA BAHIA
ESCOLA POLITÉCNICA
TECLIM
PROGRAMA DE
PÓS-GRADUAÇÃO E
PRODUÇÃO LIMPA
DEPARTAMENTO DE
ENGENHARIA AMBIENTAL - DEA
PAULO SÉRGIO FERREIRA DE MENEZES
VALIDAÇÃO DO MODELO MATEMÁTICO ISCST3 DE
DISPERSÃO ATMOSFÉRICA A PARTIR DAS EMISSÕES DE
DIÓXIDO DE ENXOFRE DE UMA REFINARIA
Dissertação apresentada ao Curso de Mestrado
Profissional em Gerenciamento e Tecnologia Ambiental
no
Processo
Produtivo,
Escola
Politécnica,
Universidade Federal da Bahia, como requisito parcial
para obtenção do grau de Mestre
Orientador: Prof. Dr. José Geraldo de A. Pacheco Filho
Co-orientador: Prof. Msc. Silvio de Oliveira
Salvador
2006
M543v Menezes, Paulo Sérgio Ferreira de
Validação do modelo matemático ISCST3 de dispersão
atmosférica a partir das emissões de dióxido de enxofre de uma
refinaria. – Salvador, 2006.
175 p.; il., color.
Orientador: Prof. Dr. José Geraldo de Andrade Pacheco Filho
Dissertação (Mestrado em Gerenciamento e Tecnologias
Ambientais no Processo Produtivo. Ênfase em Produção Limpa) –
Universidade Federal da Bahia. Escola Politécnica, 2006.
1. Poluição do ar. 2. Controle de poluição. 3. Indústria - Controle
de poluição – Modelos matemáticos. I.Universidade Federal da
Bahia. Escola Politécnica. II. Pacheco Filho, José Geraldo de
Andrade. III. Refinaria Landulpho Alves IV. Petrobras. V. Título.
CDD: 628.53
Agradecimentos
Paulo Sérgio F. de Menezes
AGRADECIMENTOS
A minha mãe Lindinalva Menezes;
Ao meu pai Paulo Rodrigues Menezes (in memoriam);
A minha Filha Rebecca;
A Francis pelo carinho;
A toda a minha família pelo apoio e incentivo.
Aos meus orientadores José Geraldo Pacheco e Silvio de Oliveira pela idéia,
empenho, interesse e a valiosa colaboração em todas as etapas durante o
desenvolvimento do presente trabalho.
Ao Doutor Asher pelo interesse e apoio.
A Petróleo Brasileiro S/A – PETROBRAS pela oportunidade e apoio e especialmente
a RLAM e a TRANSPETRO.
E, finalmente aos colegas do TECLIM-UFBA, da PETROBRAS e da TRANSPETRO
que contribuíram com sugestões, críticas e comentários para concretização do
trabalho.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
i
Mensagem
Paulo Sérgio F. de Menezes
“Não considero automaticamente um homem de ciência aquele que sabe manejar
instrumentos e métodos julgados científicos. Penso somente
naqueles cujo espírito se revela verdadeiramente científico.“
Albert Einstein (1879 – 1955).
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
ii
Sumário
Paulo Sérgio F. de Menezes
SUMÁRIO
Agradecimentos
Mensagem
Sumário
Lista de figuras
Lista de tabelas
Lista de equações
Resumo
Abstract
i
ii
iii
viii
xiv
xvi
xvii
xviii
CAPÍTULO I – INTRODUÇÃO
001
1.1 – Introdução
001
1.1.1 – Contexto global da poluição do ar
001
1.1.2 – Contexto nacional da poluição do ar
003
1.1.3 – Contexto regional da poluição do ar
003
1.2 – Justificativa do Trabalho
005
1.3 – Objetivos
006
1.3.1 – Objetivos específicos
006
1.4 – Delimitação
006
1.5 – Organização do Trabalho
008
CAPÍTULO II – FUNDAMENTOS TEÓRICOS
010
2.1 – Poluentes Atmosféricos
010
2.1.1 – Definição
010
2.1.2 – Efeitos da poluição do ar na saúde humana
011
2.1.3 – Principais poluentes atmosféricos
012
2.1.4 – Principais características do SO2
014
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
iii
Sumário
Paulo Sérgio F. de Menezes
2.2 – Influência da Meteorologia na Dispersão dos Poluentes
015
2.2.1 – Caracterização do clima na Baía de Todos os Santos
015
2.2.2 – Parâmetros meteorológicos para dispersão atmosférica
017
2.2.2.1 – Estabilidade atmosférica
017
2.2.2.2 – Camada de Mistura
020
2.2.2.3 – Vento de Superfície
023
2.2.2.4 – Topografia
024
2.3 – Taxas de Emissões Atmosféricas
025
2.3.1 – Metodologias para elaboração de inventário de
emissões atmosféricas
026
2.4 – Unidades para Expressar a Concentração de Poluentes
027
CAPÍTULO III – REVISÃO BIBLIOGRÁFICA
028
3.1 – Legislação
028
3.1.1 – Legislação referente a padrões de qualidade do ar
029
3.1.2 – Legislação referente às emissões atmosféricas de fontes
de combustão
031
3.2 – Modelos de Dispersão
031
3.2.1 – Vantagens e limitações da modelagem
032
3.2.2 – Modelos usuais de dispersão atmosférica
033
3.2.2.1 – Modelos Gaussianos
034
CAPÍTULO IV – DESCRIÇÃO DA UNIDADE DE PRODUÇÃO E DA ESTAÇÃO
DE MONITORAMENTO DA QUALIDADE DO AR
035
4.1 – Caracterização da Área Industrial
035
4.1.1 – Descrição sumária das unidades de produção
4.2 – Estação de Monitoramento da Qualidade do Ar em Madre de Deus
036
037
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
iv
Sumário
Paulo Sérgio F. de Menezes
4.2.1 – Localização
037
4.2.2 – Equipamentos básicos da estação
038
4.2.3 – Métodos de calibração e controle de qualidade
039
4.2.4 –Vantagens e limitações do monitoramento da qualidade do ar
040
CAPÍTULO V – METODOLOGIA
042
5.1 – Modelo ISCST3
042
5.1.1 - Algoritmo “Industrial Source Complex”
043
5.1.2 – Equação de Difusão
043
5.1.3 – Limitação do Modelo
044
5.1.4 – Dados de Entrada
045
5.1.5 – Dados de Saída
046
5.2 – Definição da Área de Domínio
046
5.3 – Definição dos Receptores Discretos
047
5.4 – Levantamento Detalhado das Taxas de SO2 da refinaria
047
5.5 – Efeito da Presença de Prédios sobre a Dispersão de Poluentes
(Building Downwash)
048
5.6 – Levantamento e Tratamento dos Dados Meteorológicos
048
5.7 – Levantamento dos Dados Topográficos
050
5.8 - Cálculo dos dados de concentrações de SO2 pelo modelo ISCST3
nos receptores definidos
050
5.9 – Levantamento dos Dados de Concentrações de SO2 Medidos na Estação
de Madre de Deus
051
5.10 – Validação do Modelo ISCST3
052
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
v
Sumário
Paulo Sérgio F. de Menezes
CAPÍTULO VI– RESULTADOS
055
6.1 – Inventário de Emissões de SO2 do Ano de 2003
055
6.2 – Dados Meteorológicos e Considerações sobre a Velocidade dos Ventos
057
6.2.1 – Pressão atmosférica ou barométrica
057
6.2.2 – Precipitações pluviométricas
057
6.2.3 – Estabilidade atmosférica
058
6.2.4 – Direção e velocidade do Vento
058
6.3 – Resultados Experimentais da Concentração de SO2
063
6.4 – Cálculo das Concentrações de SO2 e Análise Comparativa das
Concentrações de SO2 Calculadas e Medidas
063
6.4.1 Análise comparativa de janeiro
065
6.4.2 Análise comparativa de fevereiro
071
6.4.3 Análise comparativa de março
077
6.4.4 Análise comparativa de abril
083
6.4.5 Análise comparativa de maio
088
6.4.6 Análise comparativa de junho
092
6.4.7 Análise comparativa de julho
097
6.4.8 Análise comparativa de agosto
100
6.4.9 Análise comparativa de setembro
104
6.4.10 Análise comparativa de outubro
108
6.4.11 Análise comparativa de novembro
112
6.4.12 Análise comparativa de dezembro
115
6.5 – Análise Comparativa Anual dos Dados de Correlação - 2003
116
6.6 – Quadros Resumo das Análises Estatísticas
118
6.7 – Validação do Modelo
121
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
vi
Sumário
Paulo Sérgio F. de Menezes
CAPÍTULO VII– CONCLUSÕES
123
7.1 – Conclusões
123
7.2 – Sugestões Para Trabalhos Futuros
125
CAPÍTULO VIII – REFERÊNCIAS BIBLIOGRÁFICAS
126
APÊNDICE
132
A.1 – Dados do Mês de Janeiro de 2003
132
A.2 – Dados do Mês de Fevereiro de 2003
134
A.3 – Dados do Mês de Março de 2003
135
A.4 – Dados do Mês de Abril de 2003
137
A.5 – Dados do Mês de Maio de 2003
138
A.6 – Dados do Mês de Junho de 2003
140
A.7 – Dados do Mês de Julho de 2003
141
A.8 – Dados do Mês de Agosto de 2003
143
A.9 – Dados do Mês de Setembro de 2003
144
A.10 – Dados do Mês de Outubro de 2003
146
A.11 – Dados do Mês de Novembro de 2003
147
A.12 – Dados do Ano de 2003
149
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
vii
Lista de figuras
Paulo Sérgio F. de Menezes
LISTA DE FIGURAS
Figura 1.1 – Desenho esquemático da RMS
004
Figura 1.2: Madre de Deus com a refinaria ao fundo
007
Figura 1.3: Madre de Deus
008
Figura 2.1: Camada limite superficial atmosférica e planetária
015
Figura 2.2: Sistema de alta pressão associada aos ventos alísios no nível médio
do mar, atuando na costa do estado da Bahia, período médio do mês de julho 016
Figura 2.3: Evolução tridimensional da altura da camada de mistura na Região
Metropolitana de Salvador
021
Figura 2.4: Altura da camada mistura média mensal da região da Baía de
Todos os Santos em 2003
022
Figura 2.5: Altura da camada mistura média horária da região da Baía de
Todos os Santos em 2003
022
Figura 2.6: Distribuição das 16 direções radiais do vento
023
Figura 2.7: Visão tridimensional da topografia no entorno da REFINARIA,
vista de dentro da Baía de Todos os Santos
024
Figura 2.8: Visão tridimensional da topografia no entorno da REFINARIA, vista
dos receptores Candeias e São Francisco do Conde para Baía de Todos os
Santos
025
Figura 4.1: Vista aérea da refinaria
035
Figura 4.2: Esquema básico de refino
036
Figura 4.3: Estação de Madre de Deus
037
Figura 5.1: Pluma gaussiana no sistema de coordenadas cartesianas
044
Figura 5.2: Área de domínio
047
Figura 6.1: Distribuição percentual das taxas médias de emissão de SO2 da
refinaria em 2003
056
Figura 6.2: Comportamento mensal da pressão atmosférica em 2003,
observado na estação Madre de Deus
057
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
viii
Lista de figuras
Paulo Sérgio F. de Menezes
Figura 6.3: Precipitações pluviométricas mensais
058
Figura 6.4 – Rosa dos ventos ano 2003 – refinaria
059
Figura 6.5 – Rosa dos ventos primeiro semestre 2003 – refinaria
060
Figura 6.6 – Rosa dos ventos janeiro de 2003 – refinaria
060
Figura 6.7: Rosa dos ventos 00:00 – 06:00h
061
Figura 6.8: Rosa dos ventos 06:00 – 12:00h
061
Figura 6.9: Rosa dos ventos 12:00 – 18:00h
061
Figura 6.10: Rosa dos ventos 18:00 – 24:00h
061
Figura 6.11: Comparação entre a velocidade horária anual dos ventos ao longo
do dia medidos na estação de Madre de Deus e na estação da refinaria para
2003
062
Figura 6.12 – Correlação entre velocidade do vento em Madre de Deus e
na refinaria em 2003
062
Figura 6.13: Primeira correlação entre as concentrações de SO2, calculada e
medida, em Madre de Deus - Janeiro de 2003
065
Figura 6.14 – Gráfico do erro (valor calculado menos o valor medido) da
concentração de SO2, em Madre de Deus - Janeiro de 2003
066
Figura 6.15: Segunda correlação entre as concentrações de SO2, calculada e
medida, em Madre de Deus - Janeiro de 2003
070
Figura 6.16: Comparação entre as concentrações de SO2, calculada e
medida, em Madre de Deus – sem os outliers - Janeiro de 2003
070
Figura 6.17: Primeira correlação entre as concentrações de SO2, calculada e
medida, em Madre de Deus - Fevereiro de 2003
071
Figura 6.18 – Gráfico do erro (valor calculado menos o valor medido) da
concentração de SO2, em Madre de Deus - Fevereiro de 2003
072
Figura 6.19: Segunda correlação entre as concentrações de SO2, calculada e
medida, em Madre de Deus - Fevereiro de 2003
076
Figura 6.20: Comparação entre as concentrações de SO2, calculada e
medida, em Madre de Deus – sem os outliers - Fevereiro de 2003
076
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
ix
Lista de figuras
Paulo Sérgio F. de Menezes
Figura 6.21: Primeira correlação entre as concentrações de SO2, calculada e
medida, em Madre de Deus - Março
077
Figura 6.22 – Gráfico do erro (valor calculado menos o valor medido) da
concentração de SO2, em Madre de Deus – Março de 2003
078
Figura 6.23: Segunda correlação entre as concentrações de SO2, calculada e
medida, em Madre de Deus - Março de 2003
082
Figura 6.24: Comparação entre as concentrações de SO2, calculada e
medida, em Madre de Deus – sem os outliers - Março de 2003
082
Figura 6.25: Primeira correlação entre as concentrações de SO2, calculada e
medida, em Madre de Deus - Abril de 2003
083
Figura 6.26 – Gráfico do erro (valor calculado menos o valor medido) da
concentração de SO2, em Madre de Deus - Abril de 2003
084
Figura 6.27: Segunda correlação entre as concentrações de SO2, calculada e
medida, em Madre de Deus - Abril de 2003
087
Figura 6.28: Comparação entre as concentrações de SO2, calculada e
medida, em Madre de Deus – sem os outliers - Abril de 2003
088
Figura 6.29: Primeira correlação entre as concentrações de SO2, calculada e
medida, em Madre de Deus - Maio de 2003
088
Figura 6.30 – Gráfico do erro (valor calculado menos o valor medido) da
concentração de SO2, em Madre de Deus - Maio de 2003
089
Figura 6.31: Segunda correlação entre as concentrações de SO2, calculada e
medida, em Madre de Deus - Maio de 2003
092
Figura 6.32: Comparação entre as concentrações de SO2, calculada e
medida, em Madre de Deus – sem os outliers - Maio de 2003
092
Figura 6.33: Primeira correlação entre as concentrações de SO2, calculada e
medida, em Madre de Deus - Junho de 2003
093
Figura 6.34 – Gráfico do erro (valor calculado menos o valor medido) da
concentração de SO2, em Madre de Deus - Junho de 2003
093
Figura 6.35: Segunda correlação entre as concentrações de SO2, calculada e
medida, em Madre de Deus - Junho de 2003
096
Figura 6.36: Comparação entre as concentrações de SO2, calculada e
medida, em Madre de Deus – sem os outliers - Junho de 2003
097
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
x
Lista de figuras
Paulo Sérgio F. de Menezes
Figura 6.37: Primeira correlação entre as concentrações de SO2, calculada e
medida, em Madre de Deus - Julho de 2003
097
Figura 6.38 – Gráfico do erro (valor calculado menos o valor medido) da
concentração de SO2, em Madre de Deus - Julho de 2003
098
Figura 6.39: Segunda correlação entre as concentrações de SO2, calculada e
medida, em Madre de Deus - Julho de 2003
099
Figura 6.40: Comparação entre as concentrações de SO2, calculada e
medida, em Madre de Deus – sem os outliers - Julho de 2003
099
Figura 6.41: Primeira correlação entre as concentrações de SO2, calculada e
medida, em Madre de Deus - Agosto de 2003
100
Figura 6.42 – Gráfico do erro (valor calculado menos o valor medido) da
concentração de SO2, em Madre de Deus - Agosto de 2003
101
Figura 6.43: Segunda correlação entre as concentrações de SO2, calculada e
medida, em Madre de Deus - Agosto de 2003
103
Figura 6.44: Comparação entre as concentrações de SO2, calculada e
medida, em Madre de Deus – sem os outliers - Agosto de 2003
103
Figura 6.45: Primeira correlação entre as concentrações de SO2, calculada e
medida, em Madre de Deus - Setembro de 2003
104
Figura 6.46 – Gráfico do erro (valor calculado menos o valor medido) da
concentração de SO2, em Madre de Deus - Setembro de 2003
105
Figura 6.47: Segunda correlação entre as concentrações de SO2, calculada e
medida, em Madre de Deus – Setembro de 2003
107
Figura 6.48: Comparação entre as concentrações de SO2, calculada e
medida, em Madre de Deus – sem os outliers - Setembro de 2003
107
Figura 6.49: Primeira correlação entre as concentrações de SO2, calculada e
medida, em Madre de Deus - Outubro de 2003
108
Figura 6.50 – Gráfico do erro (valor calculado menos o valor medido) da
concentração de SO2, em Madre de Deus - Outubro de 2003
109
Figura 6.51: Segunda correlação entre as concentrações de SO2, calculada e
medida, em Madre de Deus – Outubro de 2003
111
Figura 6.52: Comparação entre as concentrações de SO2, calculada e
medida, em Madre de Deus – sem os outliers – Outubro de 2003
111
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
xi
Lista de figuras
Paulo Sérgio F. de Menezes
Figura 6.53: Primeira correlação entre as concentrações de SO2, calculada e
medida, em Madre de Deus - Novembro de 2003
112
Figura 6.54 – Gráfico do erro (valor calculado menos o valor medido) da
concentração de SO2, em Madre de Deus - Novembro
113
Figura 6.55: Segunda correlação entre as concentrações de SO2, calculada e
medida, em Madre de Deus – Novembro de 2003
115
Figura 6.56: Comparação entre as concentrações de SO2, calculada e
medida, em Madre de Deus – sem os outliers – Novembro de 2003
115
Figura 6.57: Primeira correlação entre as concentrações de SO2, calculada e
medida, em Madre de Deus – Ano de 2003
116
Figura 6.58: Segunda correlação entre as concentrações de SO2, calculada e
medida, em Madre de Deus – Ano de 2003
117
Figura 6.59: Comparação entre as concentrações de SO2, calculada e
medida, em Madre de Deus – sem os outliers – Ano de 2003
117
Figura 6.60 – Gráfico do erro (antes dos ajustes) da
concentração de SO2, em Madre de Deus – Ano de 2003
118
Figura 6.61 – Gráfico do erro (depois dos ajustes) da
concentração de SO2, em Madre de Deus – Ano de 2003
118
Figura 7.1 – Mapa de isoconcentrações de SO2 média 24 horas
124
Figura 7.2 – Mapa de isoconcentrações de SO2 média anual
125
Figura A.1: Histograma dos dados de SO2 medidos em janeiro
133
Figura A.2: Histograma dos dados de SO2 calculados em janeiro
133
Figura A.3: Histograma dos dados de SO2 medidos em fevereiro
134
Figura A.4: Histograma dos dados de SO2 calculados em fevereiro
135
Figura A.5: Histograma dos dados de SO2 medidos em março
136
Figura A.6: Histograma dos dados de SO2 calculados em março
136
Figura A.7: Histograma dos dados de SO2 medidos em abril
137
Figura A.8: Histograma dos dados de SO2 calculados em abril
138
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
xii
Lista de figuras
Paulo Sérgio F. de Menezes
Figura A.9: Histograma dos dados de SO2 medidos em maio
139
Figura A.10: Histograma dos dados de SO2 calculados em maio
139
Figura A.11: Histograma dos dados de SO2 medidos em junho
140
Figura A.12: Histograma dos dados de SO2 calculados em junho
141
Figura A.13: Histograma dos dados de SO2 medidos em julho
142
Figura A.14: Histograma dos dados de SO2 calculados em julho
142
Figura A.15: Histograma dos dados de SO2 medidos em agosto
143
Figura A.16: Histograma dos dados de SO2 calculados em agosto
144
Figura A.17: Histograma dos dados de SO2 medidos em setembro
145
Figura A.18: Histograma dos dados de SO2 calculados em setembro
145
Figura A.19: Histograma dos dados de SO2 medidos em outubro
146
Figura A.20: Histograma dos dados de SO2 calculados em outubro
147
Figura A.21: Histograma dos dados de SO2 medidos em novembro
148
Figura A.22: Histograma dos dados de SO2 calculados em novembro
148
Figura A.23: Histograma dos dados de SO2 medidos - 2003
149
Figura A.24: Histograma dos dados de SO2 calculados – 2003
150
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
xiii
Lista de tabelas
Paulo Sérgio F. de Menezes
LISTA DE TABELAS
Tabela 2.1: Componentes Gasosos
011
Tabela 2.2: Poluentes do Ar e seus efeitos
012
Tabela 2.3: Classificação das categorias de estabilidade
019
Tabela 2.4: Classificação da estabilidade atmosférica pelo desvio padrão
do vento
020
Tabela 3.1: Padrões Nacionais de Qualidade do Ar
030
Tabela 3.2: Critérios para episódios agudos de poluição do ar
031
Tabela 4.1: Principais unidades e processos
037
Tabela 4.2: Estação de Monitoramento de Madre de Deus
038
Tabela 4.3: Codificação dos monitores
040
Tabela 5.1: Coordenadas da Grade de Estudo em UTM
046
Tabela 5.2: Distribuição de freqüência relativa da estabilidade atmosférica
a partir do desvio padrão da direção do vento, estação meteorológica da
refinaria – 2003
050
Tabela 5.3: Parâmetros Estatísticos de Validação
054
Tabela 6.1: Taxas Médias de Emissão de SO2 da refinaria em 2003
055
Tabela 6.2: Relação altura da chaminé x altura média das unidades produtivas
056
Tabela 6.3: Categorias de estabilidade e freqüências
058
Tabela 6.4 – Dados Mensais Experimentais de SO2
063
Tabela 6.5 – Dados Mensais Calculados de SO2
064
Tabela 6.6: Resumo Estatístico antes dos Ajustes
120
Tabela 6.7: Resumo Estatístico depois dos Ajustes
120
Tabela 6.8: Resultados de Validação do Modelo
122
Tabela 6.9 – Comparação dos dados obtidos com os de Hanna
122
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
xiv
Lista de tabelas
Paulo Sérgio F. de Menezes
Tabela A.1: Dados para análise de correlação janeiro 2003
132
Tabela A.2: Dados para análise de correlação fevereiro 2003
134
Tabela A.3: Dados para análise de correlação março 2003
135
Tabela A.4: Dados para análise de correlação abril 2003
137
Tabela A.5: Dados para análise de correlação maio 2003
138
Tabela A.6: Dados para análise de correlação junho 2003
140
Tabela A.7: Dados para análise de correlação julho 2003
141
Tabela A.8: Dados para análise de correlação agosto 2003
143
Tabela A.9: Dados para análise de correlação setembro 2003
144
Tabela A.10: Dados para análise de correlação outubro 2003
146
Tabela A.11: Dados para análise de correlação novembro 2003
147
Tabela A.12: Dados para análise de correlação do ano de 2003
149
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
xv
Lista de equações
Paulo Sérgio F. de Menezes
LISTA DE EQUAÇÕES
Equação 5.1 - Equação Gaussiana de difusão para estimar a concentração
de poluentes
044
Equação 5.2 - Equação de Decaimento
051
Equação 5.3 – “Fractional Bias”
053
Equação 5.4 - Média Geométrica
053
Equação 5.5 - Erro Quadrático Médio Normalizado
053
Equação 5.6 – Variância Geométrica Média
053
Equação 5.7 – Fração das previsões dentro de um fator de dois
053
Equação 5.8 – Coeficiente de Correlação
053
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
xvi
Resumo
Paulo Sérgio F. de Menezes
RESUMO
Com o uso cada vez mais freqüente no Brasil, de modelos matemáticos de
dispersão atmosférica para avaliar a qualidade do ar, e a falta de diretrizes
específicas para o uso dos mesmos, pelas agências ambientais, verificou-se a
necessidade de estabelecer mecanismos de validação para a aplicação destes
modelos. Em função das características micrometeorológicas da região em estudo é
necessário que avaliação do modelo seja feita utilizando-se os dados
meteorológicos próximos à fonte de emissão do poluente.
O presente trabalho tem como objetivo validar o modelo matemático de dispersão
atmosférica ISCST3 – Industrial Source Complex Short Term – tendo como base as
emissões de dióxido de enxofre (SO2) de uma refinaria localizada em Mataripe, no
Estado da Bahia, e os dados meteorológicos locais. No período referente ao ano de
2003 foram analisados 163 dias de dados. As concentrações, médias de 24 horas
de SO2 foram calculadas e comparadas com as concentrações médias medidas na
estação de monitoramento da qualidade do ar localizada no município de Madre de
Deus, há cinco quilômetros da refinaria. Foi observado que a velocidade do vento
em Madre de Deus é geralmente menor do que a velocidade observada na refinaria.
Além disso, em alguns momentos do dia, registram-se direções de vento opostas
nestes dois locais de medição. Foram identificados dados experimentais
discrepantes, especialmente aqueles que sofreram fortes interferências
meteorológicas de direção do vento e precipitação pluviométrica. Para validação do
modelo foi utilizado critério de Olesen para validação de modelos de dispersão
atmosférica que é adotado pela Agência de Proteção Ambiental Americana. Após a
sua aplicação, os resultados mostraram existir uma correlação satisfatória entre os
valores de SO2 calculados pelo ISCST3 e os observados na estação de Madre de
Deus. Concluiu-se que o modelo prevê de forma adequada as concentrações de
SO2, médias de 24 horas, no sítio de Madre de Deus principalmente nos períodos de
meses mais secos do ano. A simulação das concentrações de SO2 mostrou que a
concentração deste poluente, na área de influência da refinaria, está bem abaixo dos
limites estabelecidos na legislação brasileira. Com a validação do modelo este pode
ser usado para verificar as piores épocas do ano para a dispersão atmosférica, o
impacto de novas fontes de emissão e auxiliar na gestão da qualidade do ar.
Palavras-chave: Dispersão atmosférica, emissões de dióxido de enxofre, modelo
ISCST3, refinaria, Brasil
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
xvii
Abstract
Paulo Sérgio F. de Menezes
ABSTRACT
Industries in Brazil are required to use mathematical models for atmospheric
dispersion of pollutants in order to predict the impact of these chemicals on
environment. The lack of rules to use those models atmospheric dispersion models
lead to the need of developing validation criteria of the models, especially when using
meteorological data close to the source of emission. The objective of this study is to
validate a mathematical model designed for atmospheric dispersion named ISCST3
(Industrial Source Complex Short Term) based on sulfur dioxide (SO2) emissions
from one oil refinery installed in Mataripe, state of Bahia, Brazil, and on local
meteorological data. Within a period of twelve months, 163 sampled days were
analyzed. Subsequently the 24-hour average concentrations of SO2 were achieved,
both estimated by applying the model and based on observations carried out at the
Madre de Deus meteorological station, located five kilometers from the refinery. In
the additional pairs of values, the concentrations calculated over-esteemed or underesteemed the observed one. According to our findings, such discrepancies were
caused by pluvial occurrences, since the model does not consider the humid removal
of pollutants from the atmosphere; we have also concluded that the wind speed in
Madre de Deus is weaker than those observed at the Oil Refinery site; in addition to
that in some moments of the day opposite wind directions were recorded at the two
recording locations. Finally, in order to validate the model, we applied Olesen
statistical criteria, designed for calibration of models of atmospheric dispersion, which
is adopted by the U.S. Environmental Protection Agency. Upon its application on
data pairs statistically tested and accepted, the results demonstrated the existence of
a satisfactory correlation between those SO2 values estimated via ISCST3 and those
observed at the Madre de Deus meteorological station. Conclusions were as follows:
such model is adequate to predict the 24-hours average SO2 concentrations at the
Made de Deus site, especially during the dryer months of the year, according to the
performance analysis mentioned above, which served as a basis for validation of the
model. Simulation of SO2 concentration showed that, in the area around the refinery,
the concentration of this pollutant is much lower than the limits regulated by Brazilian
rules. After validation, this model can be used to predict the worse SO2
concentrations during season of the year and also to predict the environmental
impact of future new sources of SO2 emission.
Key-words: Atmospheric dispersion, emissions of sulfur dioxide, model ISCST3,
refinery, Brazil
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
xviii
Capítulo I - Introdução
Paulo Sérgio F. de Menezes
CAPÍTULO I: INTRODUÇÃO
1.1 Introdução
1.1.1 Contexto global da poluição do ar
O ar constitui um dos elementos básicos para garantir a existência da maioria
dos seres vivos. Por isso desde os tempos mais remotos, o homem tornou-se
consciente de que uma atmosfera contaminada pode causar danos á saúde, como
por exemplo à originada, de modo natural, por ocasião de uma erupção vulcânica.
Em tempos históricos esta preocupação motivou a produção de disposições
legislativas em vários países, como na França em 1382, onde Carlos VI proibia num
édito a emissão de gases odoríferos para atmosfera ou na Inglaterra, onde já existia
no século XVII uma disposição que proibia acender o fogo durante as sessões do
Parlamento de Westminster (Castells, 1979)
O aperfeiçoamento da tecnologia e o crescimento da população ocasionaram
um aumento gradual do consumo de energia e da produção industrial. Com o
surgimento da era industrial o problema da poluição do ar adquiriu uma importância
maior, pois apesar da composição natural da atmosfera não ter sido alterada durante
longos períodos de tempo, hoje são notórios os efeitos dos poluentes atmosféricos,
associados ao desenvolvimento urbano e industrial, bem como a crescente utilização
de veículos automotores. Estes efeitos variam de acordo com as condições
climáticas, chegando a se constituir um motivo de preocupação mundial, visto que a
poluição atmosférica ultrapassa muitas vezes as fronteiras dos países. Entre os
diversos tipos de poluição atmosférica a precipitação ácida tem-se tornado uma das
formas mais prejudiciais em todo mundo industrializado. As fontes primárias de
deposição ácida são os óxidos sulfúricos e nitrogenados.
Em regiões urbanas industrializadas diversas fontes de emissões
antropogênicas são responsáveis pela poluição do ar. Entre essas fontes as mais
importantes são as de origem veicular e de processos industriais, tais como:
produção termoelétrica de energia, incineração de resíduos, processamento de
petróleo e indústrias químicas em geral. O gerenciamento da poluição do ar de
origem industrial está diretamente associado ao controle das fontes de emissões de
poluentes, o qual é exercido através de normas e procedimentos operativos na
indústria. Este controle visa reduzir a emissão de gases e partículas que possam
atingir a atmosfera.
Dessa maneira faz se necessário definir estratégias que possibilitem, aos
níveis urbanos, regionais e globais, reduzir os efeitos negativos da poluição
atmosférica na saúde humana, no equilíbrio dos ecossistemas e conseqüentemente
minimizar problemas como: a destruição da camada de ozônio e o efeito estufa. O
conhecimento dos mecanismos de dispersão e do transporte de poluentes
atmosféricos é fundamental para o gerenciamento e conseqüentemente da proteção
da qualidade do ar. Para atender a estas demandas sobre a qualidade do ar foram
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
1
Capítulo I - Introdução
Paulo Sérgio F. de Menezes
desenvolvidos, nas últimas décadas, estudos sobre o transporte e a dispersão de
poluentes na atmosfera (Moraes, 2004).
Segundo Stern at al.(1984), a poluição do ar é um fenômeno dinâmico e
complexo que apresenta, em geral, grandes variações no espaço e no tempo. Os
poluentes ao serem lançados na atmosfera são submetidos aos efeitos de
dispersão, transporte e turbulência atmosférica e aos processos de reatividade
química, seja através da reação com outros poluentes ou com a umidade ambientes,
sedimentação ou deposição. Esta reatividade pode provocar a mudança de
poluentes primários para secundários, o que torna este fenômeno ainda mais
complexo. As condições climáticas são as principais responsáveis pela dispersão
dos poluentes. Ressalta-se que as próprias condições meteorológicas são
extremamente variáveis e influenciadas por diversos fatores, tais como, o tipo de
ocupação do solo e a topografia por exemplo. Os parâmetros meteorológicos atuam
simultaneamente no sentido de transportar e dispersar os níveis de poluição de uma
determinada região para outra. A variação na taxa de emissões dos poluentes
também influencia a dispersão espaço-temporal dos poluentes.
Os principais processos atmosféricos que determinam o potencial de
dispersão atmosférica, dependem das condições meteorológicas e da turbulência
atmosférica, acionadas a partir da interação entre as diversas escalas do movimento
que atuam simultaneamente. Esses efeitos atuam sobre as fontes das zonas
industrializadas no sentido de transportar e espalhar a poluição do ar sobre as áreas
de influências caracterizadas pelos diferentes tipos de receptores (Seinfeld and
Pandis, 1998).
Para se determinar o grau do efeito da poluição sobre uma região é
necessário monitorar a qualidade do ar da área de interesse, através da medição
dos poluentes convencionais definidos na legislação brasileira (CONAMA 3, 1990).
Esses poluentes podem ser medidos através de estações de qualidade do ar,
automáticas ou manuais. A comparação do valor medido, de um determinado
poluente, com o seu respectivo padrão permite verificar se a legislação está sendo
atendida.
Dependendo do tamanho do complexo industrial gerador da poluição do ar, é
necessário projetar uma rede de monitoramento da qualidade do ar para que haja
uma boa representatividade da distribuição espacial da medição dos poluentes na
área de influência das fontes de emissões. Essa projeção é feita através da
utilização de modelos matemáticos de dispersão atmosférica por ser uma ferramenta
prática que reproduz com certo grau de confiabilidade resultados muito próximos da
realidade física e de baixo custo dependendo da sua exatidão entre a poluição
calculada e a medida. Através dos resultados de um determinado modelo se
estimará o dimensionamento de uma rede de qualidade do ar assim como a
instalação de novos empreendimentos industriais. Quanto mais refinado for o
modelo maior exatidão terá os seus resultados. Daí porque a necessidade de se
aferir ou calibrar um modelo matemático, a fim de se conhecer com segurança o seu
grau de exatidão (Stern et al., 1984).
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
2
Capítulo I - Introdução
Paulo Sérgio F. de Menezes
Entre os diversos poluentes atmosféricos o dióxido de enxofre (SO2) foi o
escolhido para ser abordado neste trabalho em função das taxas de emissões de
SO2 da refinaria, dos danos que ele causa aos pulmões e vias respiratórias e por ser
uma fonte primária de deposição ácida. Sendo importante a avaliação dos seus
mecanismos de controle e o seu monitoramento na atmosfera.
A EPA (2002) definiu como padrão primário de qualidade do ar para o SO2 os
seguintes valores: 80 µgm-3 de concentração média anual máxima e 365 µgm-3 para
uma hora. O valor anual não pode ser excedido mais que uma vez por ano.
1.1.2 Contexto nacional da poluição do ar
Apesar de o Brasil possuir legislação referente aos padrões de qualidade do
ar, existe uma carência de informações sobre o tema. Mesmo em áreas
consideradas críticas, do ponto de vista do impacto causado pela poluição
atmosférica, não há nenhum tipo de monitoramento. Visando suprir esta deficiência
os órgãos ambientais têm procurado estabelecer parcerias com as indústrias para
viabilizar a implantação de rede de monitoramento de qualidade do ar em áreas de
interesse relevante, como as regiões metropolitanas e nas áreas de influência destas
indústrias. A legislação brasileira (CONAMA 3, 1990) estabelece os seguintes
limites: 80 µgm-3 média aritmética anual máxima e 365 µgm-3 para a média de 24
horas. O CONAMA, através de sua Resolução n0 8 de 1990, definiu os limites
máximos de emissão de SO2 em função do uso pretendido da área.
A maioria das emissões de SO2 no Brasil deriva do uso de combustíveis de
petróleo com alto conteúdo de enxofre no setor industrial, do uso do carvão na
manufatura de aço e do combustível diesel nos transportes. As emissões de SO2
tiveram uma grande redução em 1997, resultante da implementação do programa de
melhoria do óleo diesel. Devido à predominância da hidroeletricidade e, em menor
medida, da energia nuclear no setor de geração do Brasil, o setor de energia não
emite grandes quantidades de óxidos de enxofre. Em 1980 as emissões de SO2
foram de 2,133 mil toneladas (Schechtman et al., 1999).
1.1.3 Contexto regional da poluição do ar
A industrialização do Estado da Bahia teve um crescente desenvolvimento
industrial, principalmente na Região Metropolitana de Salvador (RMS), representada
esquematicamente na Figura 1.1, a partir da exploração petrolífera, na década de
50, e da industrialização do Recôncavo Norte, continuando com a instalação do
Centro Industrial de Aratu (CIA) na década de 1960 e do Complexo Petroquímico de
Camaçari, nos anos 70. Este desenvolvimento industrial favoreceu o crescimento
das cidades onde estas indústrias se localizavam, e dos municípios vizinhos, como
Candeias, São Francisco do Conde, Simões Filho e Camaçari e proporcionando a
transformação de pequenos povoados em municípios a exemplo de Madre de Deus.
A Legislação ambiental do Estado Bahia (Lei no 7.799, de 07 de fevereiro e 2001)
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
3
Capítulo I - Introdução
Paulo Sérgio F. de Menezes
adota como padrão de qualidade do ar para o SO2 os mesmos valores da Resolução
CONAMA no 3, de 1990.
Figura 1.1 – Desenho esquemático da RMS
Fonte: CONDER, 2000
Há diferentes impactos provenientes das emissões de SO2, dependendo das
fontes de emissões e da área geográfica. Esses incluem chuva ácida em uma
grande extensão, sulfatos agregados a partículas leves de veículos a diesel em
áreas urbanas e intoxicação direta pelo SOX nos arredores de complexos industriais.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
4
Capítulo I - Introdução
Paulo Sérgio F. de Menezes
Portanto, as emissões de SOX devem ser avaliadas localmente, e não somente em
nível nacional (Goldemberg e Moreira, 2005)
1.2 Justificativa do Trabalho
No passado recente a instalação de um empreendimento industrial não avaliava
as características meteorológicas do local de implantação visto que não existia
nenhuma preocupação com a dispersão dos poluentes na atmosfera. Em função
disto foram instaladas indústrias em locais totalmente inadequados para a dispersão.
Avaliando o processo de industrialização no Estado verificamos, do ponto de vista
ambiental, que o mesmo ocorreu de maneira similar ao restante do país, ou seja,
sem se levar em conta o impacto da poluição do ar sobre a população receptora
exposta, a cobertura vegetal e o solo.
Em particular, na proximidade da Refinaria Landulfo Alves, formaram-se dois
centros urbanos que podem sofrer influência das emissões atmosféricas. O controle
adequado das emissões deve ser priorizado na fonte do processo. Mas para isso, é
fundamental ter um levantamento detalhado das taxas de emissão de poluentes da
indústria e das concentrações destes poluentes nas áreas vizinhas. O
monitoramento contínuo de poluentes possui custo muito elevado e seu uso deve
ser feito em pontos estratégicos no entorno da industria. Contudo, há outras regiões
não monitoradas que podem apresentar elevadas concentrações de poluentes, uma
vez que a direção e a velocidade dos ventos mudam de forma intensa ao longo de
um dia e ao longo do ano. Neste caso, a modelagem matemática da concentração
de poluentes pode ser de grande importância no controle da poluição atmosférica.
Devido ao avanço da tecnologia hardware e software os modelos matemáticos
vem sendo utilizados sistematicamente na previsão da poluição do ar atmosférico
antes da instalação de novos empreendimentos industriais para avaliar o grau de
impacto no meio ambiente e verificar se os padrões de qualidade do ar estão sendo
violados de acordo com as legislações de controle ambiental vigentes.
O uso de modelos de dispersão atmosférica, em países industrializados, é
bastante comum por se tratar de ferramenta essencial no auxílio do gerenciamento
da qualidade do ar por agências responsáveis pelo meio ambiente, como uma
alternativa rápida de controle das fontes. No Brasil o uso de modelos matemáticos
de dispersão atmosférica é ainda limitado, apesar de serem usados em estudos de
dispersão, como por exemplo: o dimensionamento de redes automáticas de
monitoramento da qualidade do ar, ampliação ou instalação de novas atividades
industriais. As diretrizes legais para o uso de modelos de dispersão no Brasil,
ainda não estão regulamentadas, por isso é fundamental se estabelecer uma
avaliação dos modelos em uso, através de aferição dos resultados previstos pelos
modelos matemáticos com as concentrações dos poluentes reais medidos no sítio
do experimento, a fim de que se possam utilizar os resultados obtidos na
modelagem de forma adequada e com certo grau de confiabilidade.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
5
Capítulo I - Introdução
Paulo Sérgio F. de Menezes
Os trabalhos encontrados na literatura, nacional e internacional, para validação
de modelos matemáticos, são específicos para a área onde foi desenvolvido, em
função das características micrometeorológicas locais e de clima temperado, os
quais diferem bastante, das condições climáticas da Região Metropolitana de
Salvador, RMS, que é o tropical úmido. Daí porque a necessidade de se adequar os
modelos matemáticos para a região em estudo através da validação, considerando a
disponibilização de dados de qualidade do ar, de emissão de SO2 e de dados
meteorológicos na escala temporal necessária para o desenvolvimento de um
trabalho de validação de modelos matemáticos.
1.3 Objetivos
O objetivo do presente trabalho é validar o modelo de dispersão atmosférica
ISCST3 aplicado na área de domínio entre Mataripe e Madre de Deus a partir das
emissões de SO2 de uma refinaria, comparando as concentrações de SO2
calculadas pelo modelo com as concentrações medidas em uma estação automática
de monitoramento do ar. Foram usados dos dados meteorológicos horários da
estação meteorológica localizada na refinaria. A escolha pelo modelo ISCST3 devese a sua larga utilização no Brasil e a disponibilidade dos tipos de dados
meteorológicos necessários para sua alimentação.
1.3.1 Objetivos específicos
O desenvolvimento do trabalho considerou os seguintes objetivos específicos:
Levantamento detalhado das taxas de e adequação dos dados de emissão de
SO2 da refinaria;
Levantamento e tratamento dos dados meteorológicos e topográficos;
Cálculo dos dados de concentrações de SO2 (incluindo os valores máximos e
mínimos) pelo modelo ISCST3;
Levantamento dos dados de concentrações de SO2 medidos na estação de
Madre de Deus;
Tratamento estatístico dos dados medidos de concentração de SO2;
Validação e simulação do modelo ISCST3 para medir concentração de SO2.
1.4 Delimitação
O trabalho utilizou os dados meteorológicos, inventário de emissões,
concentrações de SO2 observadas referente ao ano de 2003.
Selecionou-se a refinaria que é fonte emissora de SO2 e o município de Madre
de Deus por ser um receptor que possui uma estação automática medidora de
poluição do ar e meteorologia e está dentro da área de influência da refinaria. Além
disso o local do estudo possui as seguintes peculiaridades;
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
6
Capítulo I - Introdução
Paulo Sérgio F. de Menezes
•
A população da região é 12.000 habitantes, instalada dentro de área de 4,5
Km2, ou seja, com uma densidade populacional de 2,7 habitantes por
quilômetro quadrado, é uma área prioritária para estudos de poluição
atmosférica;
•
A verticalização por edifícios não existe, o que facilita o transporte e a
dispersão de SO2 pelo vento entre as fontes e o Receptor;
•
Do ponto de vista microclimático, por se tratar de uma ilha, o município sofre
influência dos efeitos das brisas marítimas e do fluxo de calor sensível do
continente sobre a dinâmica da dispersão atmosférica na região.
A Figura 1.2 apresenta uma parte do município de Madre de Deus, onde é
possível se identificar à localização da refinaria ao fundo e da Fábrica de Asfalto a
Oeste.
RLAM
ESTAÇÃO METEOROLÓGICA
TERMINAL MARÍTIMO
DE
MADRE DE DEUS
Figura 1.2 –Madre de Deus com a refinaria ao fundo
A Figura 1.3 apresenta uma visão panorâmica do agrupamento residencial urbano
do município.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
7
Capítulo I - Introdução
Paulo Sérgio F. de Menezes
Figura 1.3 – Vista aérea de Madre de Deus
1.5 Organização do trabalho
No capítulo 1 se enfoca o problema da poluição atmosférica nos dias atuais tanto
a nível global como na área de estudo e a necessidade de aferição dos modelos
matemáticos de dispersão atmosférica utilizados como ferramentas de avaliação de
impacto ambiental.
O capítulo 2 trás os fundamentos teóricos com a definição de poluentes
atmosféricos, os principais poluentes e seus efeitos na saúde humana, e as
principais características do SO2. É explicada a influência das condições
meteorológicas na dispersão dos poluentes atmosféricos e as metodologias para o
cálculo das taxas de emissão atmosférica.
O capítulo 3 apresenta a revisão bibliográfica que inclui a legislação nacional e
internacional e os tipos de modelos de dispersão.
No capítulo 4 elaborou-se um resumo sobre as características das fontes de
emissão de SO2 da refinaria e as características da estação de monitoramento da
qualidade do ar e meteorologia de madre de Deus.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
8
Capítulo I - Introdução
Paulo Sérgio F. de Menezes
No capítulo 5 é explicado o desenvolvimento da metodologia do trabalho,
escolha do modelo ISCST3, as bases e a fundamentação física do modelo, bem
como as suas limitações,coleta dos dados da estação automática de monitoramento
da qualidade do ar; a coleta e tratamento dos dados meteorológicos, bem como os
parâmetros básicos para estimativa das concentrações do dióxido de enxofre, SO2,
utilizando o modelo matemático ISCST3.
No capítulo 6 são apresentados os resultados de taxas de emissão da refinaria,
apresentação dos dados meteorológicos, apresentação e tratamento estatístico dos
resultados medidos de SO2, cálculo das concentrações de SO2 com modelo ISCST3,
comparação dos valores calculados com os experimentais e validação do modelo.
No capítulo 7 são apresentadas as conclusões e recomendações.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
9
Capítulo II – Fundamentos Teóricos
Paulo Sérgio F. de Menezes
CAPÍTULO II: FUNDAMENTOS TEÓRICOS
2.1 Poluentes Atmosféricos
2.1.1 – Definição
Poluente atmosférico é qualquer substância na atmosfera cuja concentração
possa via a prejudicar o homem, outros animais, a vegetação e materiais. Os
poluentes incluem quase todas as composições naturais ou artificiais de matéria em
suspensão atmosférica passível de ser aerotransportada. Apresentam-se na forma
de partículas sólidas, líquidas e/ou heterogêneas, gases, ou em combinações daí
resultantes. Geralmente, divide-se em dois grupos: (1) os que são emitidos
diretamente por fontes identificáveis e (2) os que são produzidos na atmosfera pelas
interações entre dois ou mais poluentes primários, ou por reação com constituintes
atmosféricos normais, com ou sem fotoativação. Foram identificados cerca de 100
contaminantes atmosféricos, que se dividem nas seguintes categorias: sólidos,
compostos sulfúricos, químicos orgânicos voláteis, compostos nitrogenados,
compostos oxigenados, compostos halogenados, compostos radioativos e odores
(EPA, 1994).
Considera-se poluente qualquer substância presente no ar e que pela sua
concentração possa torná-lo impróprio, nocivo ou ofensivo à saúde, inconveniente
ao bem estar público, danoso aos materiais à fauna e à flora ou prejudicial à
segurança, ao uso e ao gozo da propriedade e às atividades normais da
comunidade (CONAMA 3, 1990).
Quando se determina a concentração de um poluente na atmosfera, avalia-se o
grau de exposição dos receptores (ser humano, animais, vegetação e materiais)
como resultado final do processo de lançamento dos poluentes por suas fontes de
emissões e o seu sinergismo na atmosfera, do ponto de vista físico (diluição e
transporte) e químico (reatividade química no ar).
O problema da poluição do ar pode ser representado simplesmente como um
sistema integrado por três componentes básicas:
FONTES DE EMISSÃO
Poluentes
ATMOSFERA
RECEPTORES
Diluição e Transformação química
A interação entre as fontes de poluição e a atmosfera define o nível da qualidade
do ar, que determina por sua vez o surgimento dos efeitos adversos da poluição do
ar sobre os receptores. Vale frisar que, mesmo mantida as emissões de poluentes
sobre rigoroso controle na fonte, a qualidade do ar pode sofrer alterações em função
da variabilidade das condições meteorológicas ao longo das 24 horas do dia e da
sazonalidade climática (Seinfeld, 1975).
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
10
Capítulo II – Fundamentos Teóricos
Paulo Sérgio F. de Menezes
Os efeitos dos poluentes atmosféricos na saúde humana, na vegetação, nos
materiais de construção e na produtividade dos solos dependem, ainda, dos níveis
de concentração e do tempo de exposição.
Os problemas de poluição atmosférica são complexos e variados, tanto no que
respeita aos efeitos no ambiente, como no que concerne às escalas temporais e
espaciais onde estes efeitos se manifestam.
Na escala urbana as conseqüências mais importantes da poluição atmosférica
são os efeitos sobre a saúde humana, existindo uma correlação direta com a
concentração de determinados poluentes ao nível do solo, como por exemplo, o
dióxido de enxofre (SO2), dióxido de nitrogênio (NO2) e o ozônio (O3). Na escala
regional os efeitos da poluição atmosférica são sentidos principalmente na
vegetação e nos ecossistemas. Na escala global predominam os problemas de
alteração do clima e de consumo de ozônio estratosférico que protege a terra contra
a radiação ultravioleta.
Segundo a EPA (1994), padrões de qualidade do ar são definidos como a
concentração de poluentes, determinada por lei, que não pode ser excedida num
dado período de tempo, numa área definida. Na Tabela 2.1 observa-se uma
panorâmica dos principais componentes gasosos.
Tabela 2.1 – Componentes Gasosos
Gás
Concentração
Tempo de Residência
Ciclo
N2
O2
Ar
Ne
Kr
Xe
CH4
ppmv (média)
780.840
209.460
9340
18
1,1
0,09
1,65
10 6 anos
10 anos
~ 10 anos
Biológico,microbiológico
Biológico,microbiológico
Sem ciclo
Sem ciclo
Sem ciclo
Sem ciclo
Biogênico,
antropogênico, químico
Antropogênico, biogênico
Antropogênico, químico
Biogênico, químico
Biogênico, químico
Antropogênico, químico
Biogênico, químico
Antropogênico, químico
Químico
Químico
Físico-químico
Físico-químico
CO2
335
CO
0,05 – 0,2
H2
0,58
N2O
0,33
-5
-4
SO2
10 a 10
-4
-3
NH3
10 a 10
-6
-2
NO + NO2
10 a 10
-2
-1
O3
10 a 10
-5
-3
HNO3
10 a 10
H2O
Variável
He
5,2
Fonte: Adaptada de Seinfeld, 1986
10 – 20 anos
65 dias
10 anos
10 anos
40 dias
20 dias
1 dia
?
1 dia
10 dias
10 anos
2.1.2 Efeitos da poluição do ar na saúde humana
Como principais efeitos da poluição do ar podemos citar o aumento das doenças
e mortes prematuras, a deterioração dos materiais, a redução das atividades
agrícolas e os problemas de odores.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
11
Capítulo II – Fundamentos Teóricos
Paulo Sérgio F. de Menezes
Geralmente as pessoas com uma boa saúde não percebem os efeitos causados
pela poluição do ar, exceto quando a poluição do ar é muito alta. Entretanto existem
determinados grupos de pessoas que são sensíveis mesmo a níveis baixos de
poluição do ar como, por exemplo, os asmáticos e outros que possuem doenças
pulmonares, além de idosos e crianças, normalmente mais sensíveis (DEFRA,
2005),
A ação dos poluentes (gases e partículas) no sistema respiratório depende da
região que eles atingem em função do seu comportamento no pulmão, que no caso
da partícula, influenciado pelo seu diâmetro aerodinâmicoi, para os gases, os
principais fatores são a solubilidade das moléculas nas diferentes regiões do sistema
respiratório. A Tabela 2.2 apresenta os principais poluentes do ar e seus efeitos.
POLUENTES
NOx: NO2 + NO
SO2
COV’s
Tabela 2.2 – Principais Poluentes do Ar e seus efeitos
FONTES
NATURAL
ANTROPOGÊNICA
Bactérias
Relâmpagos
Combustão natural
Combustão
erupções vulcânicas
Queima de
Combustíveis fósseis
Plantas
Animais
Emissões fugitivas
Perdas por combustão
O3
Material particulado
Reações de COV’s
com NOx (poluente
secundário)
erosão eólica,
erupções vulcânicas,
spray marinho
Combustão,
Perdas fugitivas
Agricultura
EFEITOS
Smog fotoquímico
Probl. respiratórios
Baixa imunidade
Fitotóxico
Probl. respiratórios
Chuva ácida
Fitotóxico
Corrosão
Danos a materiais
Visibilidade (indireto)
Smog fotoquímico
Visibilidade
Fitotóxico
Náusea,
problemas
respiratórios, tonteiras.
Smog fotoquímico
Oxidante poderoso
Fitotóxico poderoso
Náusea,
problemas
respiratórios, tonteiras.
Visibilidade
Doenças respiratórias
Efeitos específicos a
depender
da
composição química.
Fonte: Adaptada de Seinfeld, 1986
2.1.3 Principais poluentes atmosféricos
Óxidos de nitrogênio (NOx) – Os óxidos de nitrogênio são formados nos
processos de combustão como resultado da dissociação de nitrogênio (N2) e
oxigênio (O2) em N e O, respectivamente. Como resultado desta dissociação
i
Diâmetro aerodinâmico da partícula (DAP) é o diâmetro de uma partícula comparada a uma esfera de densidade
unitária, que possui comportamento igual ao da partícula em exame.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
12
Capítulo II – Fundamentos Teóricos
Paulo Sérgio F. de Menezes
podemos ter sete tipos diferentes de óxidos de nitrogênio: NO, NO2, NO3,
N2O, N2O3, N2O4 e N2O5. O óxido nítrico (NO) é emitido como poluente
primário pelas fontes veiculares e unidades industriais de geração de energia.
Na atmosfera o NO se oxida rapidamente para NO2. A quantidade de dióxido
de nitrogênio emitida diretamente para a atmosfera é pequena. O óxido nítrico
(NO) é relativamente não tóxico, mas em altas concentrações os efeitos sobre
a saúde incluem alterações nas funções pulmonares. O dióxido de nitrogênio,
devido à sua toxicidade causa danos a saúde. Os efeitos sobre a saúde pela
exposição ao NO2 incluem problemas de respiração e dores no tórax
(DEFRA, 2005).
Óxidos de enxofre (SOx) - Os óxidos de enxofre são categorizados como
dióxido de enxofre (SO2), predominante, e trióxido de enxofre (SO3). O SO2 é
um gás não inflamável, sem cor, com odor forte e irritante aos olhos. Ele
reage com uma variedade enorme de partículas, é solúvel em água e pode
ser oxidado. A queima de carvão é a principal fonte de emissão de SO2,
contribuindo com cerca de 50% das emissões globais anuais, com a queima
do petróleo correspondendo à cerca de 25 a 30%. A principal fonte de
emissão natural são os vulcões. Outras fontes de SO2 são a produção de
ácido sulfúrico, fábricas de papel, incineração de resíduos e produção de
enxofre elementar (DEFRA, 2005).
Hidrocarbonetos (HC) – Os hidrocarbonetos são moléculas compostas de
carbono e hidrogênio, tais como, aromáticos oleofinas e parafinas, originados
no processo e no uso do petróleo e seus derivados (DEFRA, 2005).
Compostos Orgânicos Voláteis (COV’s) – São compostos químicos que
evaporam facilmente à temperatura ambiente. Estes compostos não têm cor,
cheiro ou sabor, incluem uma grande variedade de substâncias como por
exemplo o benzeno e o tolueno. São agrupados em metanos e não-metanos.
Os principais impactos ambientais estão associados a sua contribuição para o
aquecimento global, redução da camada de Ozônio. Muitos dos COV’s são
considerados cancerígenos, (DEFRA, 2005).
Ozônio – É um poluente secundário que é formado por reações fotoquímicas
entre óxidos de nitrogênio e compostos orgânicos voláteis (COV’s). O ozônio
é um gás tóxico que em altas concentrações pode trazer prejuízo irreversível
ao trato respiratório e aos pulmões. Além disso o ozônio causa prejuízos ao
sistema imunológico, redução da camada de gordura, com aumento de
infecções e envelhecimento precoce da pele pela sua degeneração elástica.
Este é o ozônio troposférico. O ozônio presente na estratosfera, onde existe
seu ciclo natural e produção e destruição, forma uma camada protetora
(conhecida como camada de ozônio) contra os danos provenientes da ação
dos raios ultravioletas do sol. A camada de ozônio, na estratosfera, se localiza
em uma faixa que vai dos 20 aos 34 Km de altitude no equador e 14 aos 30
Km de altitude sobre os pólos, (PNUMA, 2005).
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
13
Capítulo II – Fundamentos Teóricos
Paulo Sérgio F. de Menezes
Material Particulado – É considerado um dos poluentes atmosféricos mais
críticos. Os particulados podem estar no estado sólido, líquido ou nois dois
estado, na forma orgânica ou inorgânica, no material que está em suspensão
na atmosfera, como resultado das emissões de chaminé, fugitivas e outras
especificadas na Tabela 2.2.. Segundo estimativas, os particulados tem sido
responsáveis por 10.000 mortes prematuras por ano no Reino Unido. Os
danos causados a saúde pelos particulados vai depender da sua composição.
Uma das fontes de emissão de particulados é a combustão em veículos, que
incluem hidrocarbonetos considerados carcinogênicos. Em função do
tamanho do particulado ele pode penetrar profundamente dentro do pulmão
causando danos mais graves à saúde, (DEFRA, 2005).
2.1.4 Principais características do SO2
O SO2 emitido para a atmosfera, após oxidação, pode ser transformado em
trióxido de enxofre (SO3) que, na presença de umidade do ar, dá origem ao ácido
sulfúrico (H2SO4) e respectivos sais, contribuindo assim para a formação de chuvas
ácidas.
É mais denso do que o ar e quando está na mesma temperatura do ar tende a
ocupar locais mais baixos.
O dióxido de enxofre, o H2SO4 e os sulfatos são irritantes para as mucosas dos
olhos e órgãos respiratórios podendo ter efeitos agudos e crônicos na saúde
humana, reportados predominantemente ao aparelho respiratório, (DEFRA, 2005).
O SO2 agrava as doenças respiratórias preexistentes e também contribui para
seu desenvolvimento. Sozinho provoca irritação no sistema respiratório, e convertido
em partículas pode ser conduzido mais profundamente, podendo causar danos nos
tecidos do pulmão. Exposições prolongadas a baixas concentrações de SO2 têm
sido associadas ao aumento de morbidade cardiovascular em pessoas idosas.
Os danos do SO2 à saúde humana podem ser aumentados na presença de
particulados e outros poluentes em concentrações altas, (DEFRA, 2005).
Os efeitos sobre a saúde humana foram registrados durante conhecido evento de
smog químico em Londres, em 1952. Este evento causou aproximadamente 4000
mortes prematuras através de doenças do coração e bronquites. Desde então as
emissões tem sido significativamente reduzidas através de legislação de controle e
da introdução de novas tecnologias de combustíveis mais limpos (DEFRA, 2005).
O enxofre possui um ciclo complexo em função dos diferentes números de
oxidação que ele pode assumir. As principais espécies gasosas que chegam à
atmosfera são o SO2 e o H2S sulfeto de hidrogênio.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
14
Capítulo II – Fundamentos Teóricos
Paulo Sérgio F. de Menezes
2.2 Influência da Meteorologia na Dispersão dos Poluentes
A meteorologia é uma ciência importante e essencial nos processos de dispersão
atmosférica da poluição do ar. Tendo em vista a sua abrangência nos seus diversos
aspectos e os objetivos do presente estudo serão abordados apenas os parâmetros
meteorológicos utilizados nos estudos de modelagem de dispersão atmosférica.
Segundo Piironen, 1994, tais parâmetros são: a estabilidade atmosférica, a altura
da camada de mistura, vento de superfície e a topografia. Esses parâmetros atuam
na baixa troposfera, especificamente na camada limite planetária (CLP), os quais se
estendem da superfície até a altura máxima de 2,0 km, durante o dia e até 500m,
durante a noite em condições de atmosfera neutra conforme representado na Figura
2.1.
Figura 2.1– Camada limite superficial atmosférica e planetária (Piironen, 1994)
2.2.1 Caracterização do clima na Baía de Todos os Santos
Antes de apresentar os parâmetros específicos para dispersão de poluentes
será apresentada uma abordagem sobre o comportamento das condições climáticas
entre a Baía de Todos os Santos e a parte do continente onde se desenvolveu o
estudo de dispersão atmosférica. O padrão de circulação atmosférica observada na
região costeira do nordeste brasileiro é de certa forma complexo, dominado pelos
ventos alísios, influenciados pelo posicionamento do anticiclone subtropical marítimo
semiestacionário do Atlântico Sul e pelo efeito da oscilação da Zona de
Convergência Intertropical, ZCIT (Intertropical Convergence Zone - ITCZ), Figura
2.2. Devido ao posicionamento do Anticiclone, os fluxos de ar gerados proporcionam
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
15
Capítulo II – Fundamentos Teóricos
Paulo Sérgio F. de Menezes
condições de boa ventilação sobre toda área da Baía de Todos os Santos (RLAM,
1999 b).
A Baía de Todos os Santos, BTS, com aproximadamente 927 km2 e 184 m de
extensão costeira, apresenta-se como uma reentrância na costa, pela qual o mar
penetra no interior do continente, a partir de um estreitamento principal entre a
cidade de Salvador e a Ilha de Itaparica. Este estreitamento possui cerca de 9 km de
largura o qual induz a canalização dos ventos para dentro da Baía definindo o
comportamento da circulação local e a estabilização do clima da região.
Na composição da paisagem da BTS, estão localizadas diversas ilhas como a
Ilha dos Frades, a Ilha de Maré, a Ilha Madre de Deus, e na parte leste da região
encontra-se a Baía de Aratu. Devido à posição geográfica da Baía de Todos os
Santos existe sobre a região um clima peculiar o qual é influenciado pelos sistemas
de brisas marítimas e continentais.
Figura 2.2. Sistema de alta pressão (A) associada aos ventos alísios no nível médio do mar, atuando
na costa do estado da Bahia, período médio do mês de julho. Adaptado de Lutgens and Tarbuck,
2001.
A circulação do ar, de pequena escala, associada com as variações diárias de
diversos parâmetros meteorológicos, em particular a estabilidade atmosférica e a
direção e a velocidade do vento, definem uma condição meteorológica peculiar para
dispersão de poluentes sobre a localização da Refinaria. Esse fenômeno tem dois
comportamentos, bem definidos: um durante o dia, quando o vento sopra da baía de
Todos os Santos para o continente, podendo se estender sobre os municípios de
São Francisco do Conde, Candeias, Madre de Deus e adjacências; e outro à noite
quando o fluxo se inverte e passa a soprar sobre as superfícies líquidas da Baía de
Todos os Santos. O regime do clima da região sofre modificações com a mudança
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
16
Capítulo II – Fundamentos Teóricos
Paulo Sérgio F. de Menezes
das estações do ano, com o avanço das frentes frias e dos sistemas de alta pressão
(anticiclone subtropical marítimo) para o Estado da Bahia, com reflexo direto sobre a
capacidade de diluição de poluentes atmosféricos. A temperatura média da região é
de 25,0o C, a mínima média é de 18o C, sendo que a mínima absoluta poderá atingir
17,6o C em junho; a máxima média é de 28,2o C, sendo que a máxima absoluta
poderá atingir 34,0o C em janeiro. A precipitação média anual atinge 2.100 mm; e a
umidade relativa média anual de 86,0% (RLAM, 1999 b).
2.2.2 Parâmetros meteorológicos para dispersão atmosférica
O grau de poluição do ar de uma determinada região deve-se às emissões de
poluentes pelas fontes móveis e fixas e às condições meteorológicas turbulentas do
ar. Portanto, para avaliação da dispersão de poluentes é necessário o conhecimento
dos parâmetros meteorológicos que efetivamente atuam na baixa troposfera
conhecida como camada limite planetária (CLP). A seguir serão descritos os
parâmetros meteorológicos importantes que atuam no processo da dispersão
atmosférica e que foram fundamentais para aplicação do modelo matemático de
dispersão utilizado no presente estudo.
Deve-se ressaltar que o ciclo da poluição pode ser considerado como
constituído de três fases: emissão, transporte e difusão, e recepção dos poluentes.
Destas fases, é na de transporte e difusão, onde ocorrem as maiores influências dos
parâmetros meteorológicos (Painter, 1974), os quais são: a estabilidade atmosférica,
altura da camada de mistura e o vento. Segue a descrição destes parâmetros.
2.2.2.1
Estabilidade atmosférica
A estabilidade da atmosfera pode ser definida como sendo a sua capacidade
de resistir ou intensificar os movimentos verticais. Quando ela resiste aos
movimentos verticais é chamada de atmosfera estável, quando intensifica os
movimentos verticais é dita atmosfera instável ou convectiva, e quando é indiferente
a qualquer tipo de movimento vertical é chamada atmosfera neutra.
O conceito de estabilidade atmosférica está ligado diretamente ao grau de
equilíbrio de uma parcela de ar, durante a sua trajetória na vertical e horizontal que
tende a se elevar ou descer, dependendo da sua temperatura, pressão e densidade.
O indicador dessa tendência é o gradiente vertical de temperatura.
Portanto uma parcela de ar que se eleva, ou desce, se resfria, ou se aquece,
sem que haja condução ou transferência de calor com o ambiente externo. Logo a
taxa de variação vertical de temperatura constitui uma forma de variação interna de
energia da parcela de ar sem que haja troca de calor com o ambiente externo,
devido à variação de pressão que atua sobre ela; esse fenômeno é chamado de
processo adiabático (Turner, 1994).
Na realidade a atmosfera está sempre procurando uma situação de equilíbrio
representado por três condições: a Estável, a Neutra e a Instável, cujos conceitos
em relação à dispersão (Seinfeld and Spyros, 1998) são os seguintes:
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
17
Capítulo II – Fundamentos Teóricos
Paulo Sérgio F. de Menezes
•
Condição de equilíbrio Estável é quando os movimentos verticais sobre
uma parcela de ar são restritos e nesta situação ela é impedida de
ascender ou é forçada a descer para a superfície. Neste caso, as plumas
de poluição ficam confinadas com pouca abertura lateral e vertical,
prejudicando a dispersão atmosférica dos poluentes. Condições estáveis
são caracterizadas por um perfil superadiabático (aumento da temperatura
com a altura). Quando a parcela de ar, ao elevar-se na atmosfera,
encontrar ar circundante mais quente sua tendência é descer. Em
situações estáveis qualquer movimento vertical é inibido. Logo, a
turbulência convectiva não está presente e a única turbulência presente é
a mecânica, Carvalho (1996). Sob estas condições, com ventos fracos, o
poluente pode viajar a grandes distâncias mantendo altas concentrações
(Brusasca, 1992).
•
Condição de equilíbrio Instável é quando os movimentos verticais sobre
uma parcela de ar são intensificados e nesta situação ela ascende
verticalmente ocupando todo volume de ar disponível. Neste caso, as
plumas de poluição se expandem com grande abertura lateral e vertical,
favorecendo a condição de dispersão atmosférica dos poluentes. Ocorrem
durante o dia, com forte entrada de radiação (dias bastante ensolarados).
Estas condições proporcionam uma forte mistura vertical dos poluentes
provocada por movimentos convectivos gerados pelo aquecimento solar
da superfície, Carvalho (1996).
•
Condição de equilíbrio Neutro é quando os movimentos verticais
descendentes e ascendentes sobre uma parcela de ar não são
enfraquecidos e nem intensificados. Esta é uma condição de transição
entre a situação instável e estável que geralmente favorece a dispersão de
poluentes. Estas condições ocorrem geralmente durante as transições do
dia para noite e vice-versa, em dias nublados, ou com fortes ventos (com
velocidades maiores do que 6 ms-1), Carvalho (1996).
Os conceitos acima parecem simples, mas do ponto de vista de aplicação
prática nos estudos de dispersão atmosférica são relativamente complexos. Para
suprir essa deficiência Pasquill, em 1961, propôs um método prático de
determinação da estabilidade atmosférica, incorporando os feitos atmosféricos da
turbulência mecânica (ventos de superfície medidos a 10m) e turbulência térmica
(radiação solar incidente), o qual ficou conhecido como a classificação da
estabilidade atmosférica de Pasquill-Gifford. Esse método foi modificado por Turner
em 1970 e as três condições da estabilidade atmosférica foram subdivididas em
outras seis conforme apresentadas na Tabela 2.3.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
18
Capítulo II – Fundamentos Teóricos
Paulo Sérgio F. de Menezes
Tabela 2.3 . Classificação das categorias de estabilidade
Velocidade do vento
R A D I A Ç Ã O S O L A R (DIA)
NOITE
(a 10m) - (m/s)
Forte
Moderada
Fraca
Nuvens >4/8 Nuvens < 3/8
<2
2-3
3-5
5-6
>6
A
A-B
B
C
C
A-B
B
B-C
C-D
D
B
C
C
D
D
E
D
D
D
F
E
D
D
Fonte: Adaptada de Turner (1970)
Onde:
A = Extremamente instável
B = Moderadamente instável
C = Ligeiramente instável
D = Neutra
E = Ligeiramente estável
F = Moderadamente estável
Conforme se pode observar as seis classes de estabilidade atmosférica estão
relacionadas com três níveis de radiação solar, cinco faixas de velocidades do vento
e duas de coberturas de nuvens. Verificou-se que a estabilidade atmosférica varia
de uma situação extremamente instável a moderadamente estável, sendo que as
classes de A a C representam as condições instáveis e as E e F condições estáveis.
A condição de atmosfera neutra é admitida para céu coberto (nublado) durante o dia
ou à noite, independente da velocidade do vento. Portanto considerando o método
adotado por Pasquill a estabilidade pode ser determinada em função da radiação
solar, durante o dia, e à noite (período compreendido entre uma hora depois do por
do sol e uma hora antes do nascer do sol), em função da nebulosidade.
Existem vários métodos para se estimar a estabilidade atmosférica. Destacase um deles que é através da medição do gradiente vertical de temperatura (∆Z/∆T),
medido em torre meteorológica. Em 1982, Hanna at all, conduziu um experimento
utilizando esse método que se revelou oneroso e complexo e de pouca
representatividade porque despreza as informações da turbulência mecânica pelo
vento. Um outro método para se estimar a estabilidade atmosférica foi sugerido por
Gifford e Slade em 1968, utilizando a flutuação horária do desvio padrão da direção
horizontal do vento, σθ, que reflete diretamente o grau da turbulência atmosférica
local. Esse método tem a vantagem de representar as condições de estabilidade
locais, enquanto que o de Pasquill está associado aos efeitos em grandes áreas. A
comparação entre as classes de estabilidade de Pasquill e Gifford-Slade é
apresentada na Tabela 2.4.
E finalmente existe um outro método para determinação da estabilidade
atmosférica a partir dos dados horários de uma estação de superfície conhecido
como Comprimento de Monin-Obukhov, sobre o qual maiores detalhes são
apresentados por Monin e Obukhov (1954).
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
19
Capítulo II – Fundamentos Teóricos
Paulo Sérgio F. de Menezes
Tabela 2.4 – Classificação da estabilidade atmosférica pelo desvio padrão do vento.
Estabilidade atmosférica
Classificação de
Pasquill
A
B
C
D
E
F
σθ (desvio padrão)
da direção do vento
≥25,0o
15o ≤ σθ<25o
10o ≤ σθ <15o
5o ≤σθ <10o
2,5o ≤ σθ <5o
<2,5o
Significado
Altamente Instável
Moderadamente Instável
Ligeiramente Instável
Neutra
Ligeiramente Estável
Moderadamente Estável
Fonte: Gifford and Slade, 1968
2.2.2.2
Camada de Mistura
Camada de mistura é uma lâmina de ar que vai da superfície até o nível da
primeira inversão térmica. Nesta camada os poluentes podem ser misturados
facilmente, assim como o conteúdo do vapor d’água, o calor, gases, aerossóis e
outras substâncias em suspensão na atmosfera. Por isso a camada de mistura se
comporta razoavelmente homogênea, desde a superfície até a base da primeira
camada de inversão térmica, e a sua temperatura absoluta permanece praticamente
constante, Benkley and Schulman (1978), ao longo da altura.
Existem vários métodos diretos para se estimar a altura da camada de mistura,
os quais são: perfil térmico medido pela radiosonda, ecosondas e torres
micrometeorológicas. Estes métodos são de custos elevados e de operacionalidade
complexa e de pouco uso no Brasil. Holzworth (1972), sugeriu um método de
determinação da altura da camada da mistura utilizando a radiosonda da manhã (12
GMT - Greenwich Meam Time) e a da noite (00 GMT) baseada em duas sondagens
diárias realizadas em aeroportos. Para o presente estudo não se utilizou o método
de dados de radiosonda pelos seguintes motivos: o aeroporto está distante da
refinaria cerca de 60 Km; a estação de radiosonda do aeroporto faz apenas um
lançamento diário do balão sonda e o método de Holzworth requer o uso de duas
radiosondas diárias.
Outro método para obtenção da camada de mistura é o computacional através
dos dados horários de uma estação meteorológica de superfície utilizando um
Programa conhecido como PCRAMMET o qual foi desenvolvido pela Agência de
Proteção Ambiental Americana (EPA, 1999). Trata-se de um pré-processador de
dados meteorológicos horários que produz o arquivo de dados meteorológicos
formatados para uso no modelo ISCST3. Tendo em vista a existência de dados de
superfície horários na área de domínio do presente estudo utilizou-se este método
para estimar a altura da camada de mistura horária.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
20
Capítulo II – Fundamentos Teóricos
Paulo Sérgio F. de Menezes
Um exemplo da altura da camada de mistura obtida em um experimento
utilizando uma ecosonda na região metropolitana de Salvador (cerca de 30 km da
refinaria) pode ser visto na Figura 2.3: Observa-se que durante o dia, na parte da
tarde, a camada da mistura atinge sua altura máxima e a noite e durante a
madrugada, a altura mínima. Observa-se também que ao longo do ano nos meses
de junho e julho a camada atinge a sua altura mínima se elevando nos demais
meses. Conforme pode se observar à altura da camada de mistura tende a limitar a
dispersão dos gases e partículas lançados na baixa atmosfera, influenciando o
comportamento da trajetória da pluma de poluentes.
Alt. Máx. da Mistura (m)
Por do Sol
Alt.Mínima da Inversão (m)
Nascer do Sol
Figura 2.3 - Evolução tridimensional da altura da camada de mistura na Região Metropolitana de
Salvador, medida por radar acústico - julho/98 - junho/99 (RLAM, 1999 b).
Na Figura 2.4 está representada a altura da camada de mistura, de janeiro a
dezembro de 2003, na região da Baía de Todos os Santos, onde observamos que
ela alcança os seus maiores valores nos meses de janeiro, fevereiro e dezembro.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
21
Capítulo II – Fundamentos Teóricos
Paulo Sérgio F. de Menezes
Altura da Mistura média Mensal da Região da Baía de Todos os Santos ano 2003
Altura da mistura (m)
2200
1700
1200
700
200
JAN
FEV
MAR
ABR
MAI
JUN
JUL
AGO
SET
OUT
NOV
DEZ
AM
2072
1970
1527
1333
1050
759
650
980
1350
1100
1400
2000
MÉDIA
1349
1349
1349
1349
1349
1349
1349
1349
1349
1349
1349
1349
Figura 2.4 – Altura da Camada Mistura média mensal da região da
Baía de Todos os Santos em 2003 (RLAM, 1999b).
Na Figura 2.5 está representada a altura da camada de mistura média para
cada hora do dia referente ao ano de 2003, na região da Baía de Todos os Santos,
onde observamos que ela alcança o seu maior valor às 14:00h.
Altura da Mistura média Horária da Região da Baía de Todos os Santos ano 2003
2200
Altura de Mistura (m)
2000
1800
1600
1400
1200
1000
800
600
400
200
Hora
AM
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
650 590 571 500 771 908 1145 1234 1401 1613 1783 1992 2081 2201 2100 2181 1971 1871 1571 1630 1200 900 771 751
M é dia 1349 1349 1349 1349 1349 1349 1349 1349 1349 1349 1349 1349 1349 1349 1349 1349 1349 1349 1349 1349 1349 1349 1349 1349
Figura 2.5– Altura da Camada Mistura média horária da região da
Baía de Todos os Santos em 2003 (RLAM, 1999b).
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
22
Capítulo II – Fundamentos Teóricos
2.2.2.3
Paulo Sérgio F. de Menezes
Vento de superfície
Segundo Oliveira (1983), o conceito do vento de superfície se refere ao ar em
movimento fluindo horizontalmente em relação à superfície terrestre. O vento é o
elemento básico na circulação geral da atmosfera devido aos gradientes de pressão,
temperatura e os diversos inputs de energia que a atmosfera é submetida.
A importância do vento está diretamente relacionada com os processos de
dispersão turbulenta que interferem no espalhamento da poluição do ar, sendo o
vento portanto do ponto de vista físico uma grandeza vetorial caracterizada pelo
sentido, intensidade e direção.
Entende-se como direção do vento o sentido de onde ele está soprando e a
velocidade determina o tempo de deslocamento de uma parcela de ar entre a fonte e
o receptor.
A direção do vento tem uma tendência a variar com a altura, enquanto a
velocidade aumenta de intensidade à medida que se distanciam da superfície.
Portanto o vento de superfície exerce um papel importante no controle da
capacidade de diluição dos poluentes à medida que se distancia da superfície.
Por exemplo, quando se fala vento do sul, significa que ele está soprando do
sul para o norte considerando o observador como um referencial fixo. O vento sopra
de 16 direções durante um ciclo de 24h, conforme mostra a Figura 2.6. Sempre
existe uma direção em que o vento passa mais tempo soprando, a qual é conhecida
como a direção predominante e determinada através de uma análise estatística dos
dados gerados pelo anemógrafo.
Graus
0°
22,5°
45,0°
67,5°
90,0°
112,5°
135°
157,5°
180,0°
202,5°
225,0°
247,5°
270,0°
292,5°
315,0°
337,5°
Localização
N
Norte
NNE
Norte-nordeste
NE
Nordeste
ENE
Leste-nordeste
ENE
Leste
ESE
Leste-sudeste
SE
Sudeste
SSE
Sul-sudeste
S
Sul
SSW
Sul-sudoeste
SW
Sudoeste
WSW
Oeste-sudoeste
W
Oeste
WNW
Oeste-noroeste
NW
Norte-oeste
NNW
Norte-noroeste
Figura 2.6 – Distribuição das 16 direções radiais do vento
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
23
Capítulo II – Fundamentos Teóricos
2.2.2.4
Paulo Sérgio F. de Menezes
Topografia
A topografia tem um significado etimológico de descrever a paisagem de um
determinado lugar e trata-se de uma ciência aplicada, baseada na geometria e na
trigonometria, cujo objetivo é estudar a forma e dimensões da Terra. A Topografia
pode descrever o relevo do solo com todas as suas elevações e depressões
representadas através das curvas de nível.
Nos estudos de modelagem de dispersão atmosférica a topografia assume
um papel relevante devido à sua interferência no comportamento do vento, que
tende a assumir diversas direções aleatórias a partir do padrão normal de circulação
de uma determinada região.
A área de domínio para o presente estudo é formada por duas bacias aéreas:
Candeias e São Francisco do Conde (RLAM, 1999 c), cuja paisagem é composta de
morros e morretes em toda a sua extensão, conforme pode ser visto nas Figuras 2.7
e 2.8.
A Figura 2.7 apresenta uma visão topográfica tridimensional da localização da
refinaria vista da Baía de Todos os Santos para o continente, e a Figura 2.8
apresenta a observação da topografia do continente para a baía de Todos os
Santos. Os dados da topografia foram utilizados para o cálculo da concentração de
poluentes no modelo de dispersão.
VISTA DA BAÍA DE TODOS OS SANTOS
PARA ZONA COSTEIRA DA REFINARIA
N
Monte
Recôncovo
( 160 m )
Candeias
( 120 m )
S. Francisco
do Conde
130 m
(60 m)
RLAM
Ilha dos
Fortes
Baía de
Todos os Santos
( 13 m )
Madre
de Deus
Ilha
dos Frades
Baía de
Todos os Santos
Ilha
da Maré
( 60 m )
Figura 2.7 – Visão tridimensional da topografia no entorno da refinaria,
vista de dentro da Baía de Todos os Santos, (RLAM, 1999c).
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
24
Capítulo II – Fundamentos Teóricos
Paulo Sérgio F. de Menezes
VISTA DE CANDEIAS PARA BAÍA DE TODOS OS
SANTOS E PARA ZONA COSTEIRA DA
RLAM
Baía de
Todos os Santos
Monte
Recôncovo
( 160 m )
Ilha
dos Frades
Baía de
Todos os Santos
RLAM
Ilha dos
Fortes
Madre
de Deus
( 13 m )
Ilha
da Maré
( 60 m )
130 m
S. Francisco
do Conde
( 120 m )
Candeias
(60 m)
N
Figura 2.8 – Visão tridimensional da topografia no entorno da REFINARIA, vista dos
Receptores Candeias e São Francisco do Conde para Baía de Todos os Santos, (RLAM, 1999c).
2.3 Taxas de Emissão Atmosféricas
A gestão da qualidade do ar está diretamente ligada ao conhecimento e controle
das fontes de emissão atmosférica que emitem os poluentes para determinada bacia
aérea, influenciando diretamente a sua qualidade.
Hoje, não se tem um tratamento adequado da questão das emissões
atmosféricas, tanto nas indústrias, como nos órgãos de controle ambiental,
principalmente em função do número diversificado de fontes, com suas
características próprias, da dificuldade de se estabelecer correlações de causa-efeito
em função da interferência de uma fonte sobre a área de influência da outra e,
também, do comportamento dos parâmetros meteorológicos.
Para ajudar na avaliação do impacto de determinadas fontes de poluentes
atmosféricos foram criados os Padrões de Emissão, que são limites estabelecidos
através de legislação, considerados como valores máximos admissíveis de emissão
de um determinado poluente para uma determinada fonte. Em relação à existência
de padrões de emissão de poluentes atmosféricos a Legislação no Brasil é bastante
limitada.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
25
Capítulo II – Fundamentos Teóricos
Paulo Sérgio F. de Menezes
Um inventário de emissões é composto das seguintes informações relacionadas
às fontes emissoras: Altura da chaminé; Temperatura de saída dos gases; Vazão de
saída dos gases; Taxa de emissão dos poluentes; e Coordenadas das fontes.
2.3.1 Metodologias para elaboração de inventário de emissões atmosféricas
A elaboração de um inventário (RLAM, 1999 a) pode ser feita seguindo uma das
metodologias - reconhecidas internacionalmente - apresentadas a seguir:
a) Monitoramento contínuo de emissões (MCE)
O monitoramento contínuo das emissões desde que feito com qualidade é, em
princípio, o procedimento preferencial para estimativa das emissões
atmosféricas. Isto se deve ao fato das medições das emissões serem feitas por
um período de tempo extenso e ininterrupto.
b) Medição na fonte (MF)
A Medição na fonte é feita de maneira pontual e consiste no monitoramento de
chaminés ou de “vents”. Os instrumentos utilizados são basicamente um coletor
de gases e um medidor do fluxo dos gases.
Os dados levantados nas medições pontuais são extrapolados para se estimar as
emissões anuais. Esta extrapolação deve levar em conta as variações que
podem ter ocorrido nos processos e também a existência, ou não, dos
equipamentos de controle de poluição atmosférica e a sua manutenção.
c) Fatores de emissão (FEM)
Um fator de emissão é uma ferramenta usada para estimar a emissão da
quantidade de determinado poluente para a atmosfera em função das
características da fonte emissora.
Esses fatores são normalmente expressos por peso do poluente, dividido por
uma unidade de peso, volume, distância ou duração de uma atividade emissora
do poluente, por exemplo: kg de SO2 emitido por tonelada de óleo combustível
queimado.
Os fatores foram desenvolvidos para representar as cargas médias de poluentes,
emitidas para períodos longos, como por exemplo, as cargas médias mensais ou
anuais. De maneira geral eles não são utilizados para estimar emissões
referentes a períodos curtos. Os fatores de emissão consideram as condições
normais de operação das fontes. Esta metodologia segue protocolos
internacionais, tais como o AP-42 (EPA, 1995c).
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
26
Capítulo II – Fundamentos Teóricos
Paulo Sérgio F. de Menezes
d) Balanço de massa (BM)
O balanço de massa é calculado através da diferença entre as massas dos
materiais de entrada e saída em determinados pontos como em determinado
equipamento como reatores, fornos, vasos, etc., em determinado processo
industrial ou em toda unidade industrial. O BM geralmente é usado quando não
existe dado de medição na fonte ou quando não há fatores de emissão. O BM
está limitado à exatidão que se pode calcular as perdas de determinado produto
ou substância.
Comparando as metodologias de controle verificamos que apesar da avaliação
através de medições nas chaminés serem feitas com freqüência, elas estão sujeitas
a diversas interferências como, por exemplo, as condições de amostragem, o
manuseio dos equipamentos, a conservação da amostra, os cuidados na análise
laboratorial, etc. Desta maneira não podemos dizer que a amostragem na fonte é um
método de controle mais representativo que os métodos que utilizam cálculo para
obter os valores de emissão. O controle das emissões por métodos de cálculo é
considerado como um bom procedimento de gestão ambiental, desde que seja
garantida a qualidade dos dados de processo que compõe estes cálculos.
2.4 Unidades para Expressar a Concentração de Poluentes
As unidades mais comuns para expressar concentrações de gases e poluentes
atmosféricos são:
•
•
•
•
•
Partes por milhão - ppm vol (ml.Nm-³ ou 10-6 Nm³.Nm-³);
Partes por bilhão – ppb;
Partes por trilhão – ppt;
Microgramas por metro cúbico (µg.m-3);
Miligrama por Normal metro cúbico (mg.Nm-³);
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
27
Capítulo III – Revisão Bibliográfica
Paulo Sérgio F. de Menezes
CAPÍTULO III: REVISÃO BIBLIOGRÁFICA
Na pesquisa bibliográfica para a realização deste trabalho foram encontradas
diversas referências sobre modelos matemáticos de dispersão atmosférica, métodos
de validação, usos para avaliar os impactos ambientais, trabalhos sobre a
necessidade de regulamentação e limitação dos modelos. Machado (1995)
comparou as concentrações de SO2 observadas em oito estações de monitoração
pertencentes a uma refinaria localizada no Estado do Rio de Janeiro com as
calculadas pelo ISCST, tendo como base as emissões da refinaria e os dados
meteorológicos locais. No período de um ano foram analisados 42 dias de
amostragem existentes, dos quais apenas doze foram utilizados. As concentrações
comparadas para as estações totalizaram 19 pares de valores, dos quais 10
estavam bem correlacionados.
De maneira geral, verificou-se que os trabalhos feitos anteriormente sobre
validação de modelos matemáticos de dispersão atmosférica, principalmente do
ISCST3, tiveram sua abordagem restrita em função da pouca disponibilidade de
dados. Outro fator de restrição destes trabalhos é a qualidade do inventário de
emissões atmosféricas que geralmente é feito através do uso de fatores de emissão
baseados na literatura internacional. Além disso observou-se em vários trabalhos
que nem sempre o ano dos dados meteorológicos coincidia com o ano do inventário
de análise dos poluentes.
3.1 Legislação
São apresentadas a seguir de forma expedita e sistêmica as principais
legislações referentes à qualidade do ar e aos padrões de emissão de SO2.
ii
•
Lei Federal no 6938/81 – Estabelece a Política Nacional de Meio Ambiente e
cria entidades de regulação e controle.
•
Constituição Federal 1998 – Capítulo IV – Meio Ambiente – Artigo 225. Indica
o direito ao meio ambiente ecologicamente equilibrado. Estabelece a
competência da União, Estados e Municípios de “proteger o meio ambiente e
combater a poluição em qualquer de suas formas”.
•
Lei Federal no 9605/98 e Medida Provisória no 1710/98. Lei dos crimes
ambientais.
•
Resolução Conama no 001/86. Estabelece a definição de impacto ambiental e
procedimentos para elaboração do EIA/RIMAii.
•
Resolução Conama no 005/87. Estabelece o programa nacional de controle
da poluição do ar.
Estudo e Relatório de Impacto Ambiental
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
28
Capítulo III – Revisão Bibliográfica
Paulo Sérgio F. de Menezes
•
Resolução Conama no 003/90. Estabelece padrões de qualidade do ar.
•
Resolução Conama no 008/90. Estabelece padrões de emissão para fontes
fixas.
•
Resolução Conama no 237/97. Estabelece procedimentos administrativos
sobre licenciamento.
3.1.1 Legislação referente a padrões de qualidade do ar
Padrões de qualidadeiii do ar definem um limite máximo para a concentração de
determinados poluentes atmosféricos, de maneira que se consiga a proteção da
saúde e do bem estar das pessoas, com uma determinada margem de segurança
que seja considerada adequada. Estes limites são fixados através de estudos
científicos que avaliem os danos causados à saúde por determinado poluente.
A seleção do grupo de poluentes que são usados como indicadores da qualidade
do ar está ligada à sua maior freqüência de ocorrência e aos efeitos adversos que
causam ao meio ambiente e a saúde humana.
O número de medições exigidas para a verificação do cumprimento dos padrões
de qualidade do ar é variável e depende do tempo médio exigido para cada
poluente.
Ainda segundo a Resolução CONAMA no 3 (1990), entende-se como poluente
atmosférico qualquer forma de matéria ou energia com intensidade e em quantidade,
concentração, tempo ou características em desacordo com os níveis estabelecidos,
e que tornem ou possam tornar o ar:
I - impróprio, nocivo ou ofensivo à saúde;
II - inconveniente ao bem-estar público;
III - danoso aos materiais, à fauna e flora.
IV - prejudicial à segurança. ao uso e gozo da propriedade e às atividades
normais da comunidade.
A Resolução CONAMA no 3 (1990), estabelece os seguintes conceitos:
•
Padrões primários de qualidade do ar são as concentrações de poluentes
que, ultrapassadas poderão afetar a saúde da população.
iii
São padrões de qualidade do ar as concentrações de poluentes atmosféricos que, ultrapassadas, poderão afetar a
saúde, a segurança e o bem-estar da população, bem como ocasionar danos à flora e à fauna, aos materiais e ao
meio ambiente em geral (CONAMA, 1990a)
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
29
Capítulo III – Revisão Bibliográfica
•
Paulo Sérgio F. de Menezes
Padrões secundários de qualidade do ar são as concentrações de poluentes
atmosféricos abaixo das quais se prevê o mínimo efeito adverso sobre o bem
estar da população, assim como o mínimo dano à fauna e à flora, aos
materiais e ao meio ambiente em geral.
Os padrões primários podem ser entendidos como níveis máximos toleráveis de
concentração de poluentes atmosféricos, constituindo-se em metas de curto e médio
prazo, enquanto os secundários podem ser entendidos como níveis desejados de
concentração de poluentes, constituindo-se em metas de longo prazo.
Na Tabela 3.1 observa-se os padrões de qualidade do ar regulamentados pela
Legislação Brasileira.
Tabela 3.1 – Padrões Nacionais de Qualidade do Ar
PADRÕES NACIONAIS DE QUALIDADE DO AR
Poluentes
Partículas totais
em suspensão
Dióxido de
Enxofre
Monóxido de
Carbono
Ozônio
Fumaça
Partículas
Inaláveis (PM10)
Dióxido de
Nitrogênio
Tempo
de
Amostragem
Padrão
µg/m3
Primário
Secundário
24 horas (1)
240
150
MGA (2)
80
60
24 horas
365
100
MAA (3)
80
40
1 hora (1)
40.000
40.000
8 horas
10.000
10.000
1 hora (1)
160
160
24 horas (1)
150
100
MAA (3)
60
40
24 horas (1)
150
150
MAA (3)
50
50
1 hora (1)
320
190
MAA (3)
100
100
Fonte: Resolução CONAMA 1990a
Método
de
Medição
Amostrador
de grandes volumes
Pararosanilina
Infravermelho
não dispersivo
Quimioluminescência
Reflectância
Separação
inercial/Filtração
Quimioluminescência
(1) Não deve ser excedido mais que uma vez ao ano
(2) Média geométrica anual
(3) Média aritmética anual
A legislação estabelece critérios para episódios agudos de poluição do ar,
que são apresentados na Tabela 3.2.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
30
Capítulo III – Revisão Bibliográfica
Paulo Sérgio F. de Menezes
Tabela 3.2 – Critérios para episódios agudos de poluição do ar
CRITÉRIOS PARA EPISÓDIOS AGUDOS DE POLUIÇÃO DO AR
Poluente
Partículas totais
em suspensão
Dióxido de
Enxofre
Monóxido de
Carbono
Ozônio
Fumaça
Partículas
Inaláveis
Dióxido de
Nitrogênio
Tempo
Atenção
NÍVEIS
Alerta
24 horas
24 horas
375
800
625
1600
2100
8 horas
17175
34350
45800
1 hora
24 horas
24 horas
400
250
250
800
420
420
1000
500
500
1 hora
1130
2260
3000
Emergência
875
Fonte: Resolução CONAMA 1990a
3.1.2 Legislação referente às emissões atmosféricas de fontes de combustão
A Resolução CONAMA no 8 (1990), entende que o estabelecimento de limites
máximos de emissão de poluentes do ar (padrões de emissão) para fontes fixas de
combustão externa de poluição, por se constituírem no maior contingente de fontes
fixas de poluentes atmosféricos, é o mecanismo mais eficaz de controle da poluição
atmosférica, juntamente com os limites máximos de emissão veiculares fixados pelo
PROCONVE (CONAMA, 1993).
Para isto o CONAMA, através de sua resolução no 8 de 1990, definiu os limites
máximos de emissão para partículas totais (MP) e dióxido de enxofre (SO2), em
função do uso pretendido da área.
Geralmente, mesmo para fontes anteriores à data de publicação desta Resolução
os Órgãos ambientais estaduais têm incluindo esta exigência como condicionante
das Licenças de Operação.
Entre as legislações estaduais a do Paraná (Resolução SEMA 41/2002) tem sido
considerada a mais completa e restritiva. Esta resolução é a primeira a regulamentar
as emissões de NOx e a especificar a freqüência das medições, além de incluir
limites de emissão para as Unidades Recuperadoras de Enxofre (URE). A limitação
está especificada na forma de eficiência mínima de recuperação de enxofre (94%) e
limites para outros compostos como H2S e COS.
3.2 Modelos de Dispersão
Com o crescente interesse da sociedade nas questões relacionadas ao meio
ambiente, maior destaque tem sido dado a estimativa e análise da dispersão de
poluentes atmosféricos, em ambientes urbanos através de estudos científicos e do
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
31
Capítulo III – Revisão Bibliográfica
Paulo Sérgio F. de Menezes
monitoramento e controle da qualidade do ar, o que levou a elaboração de uma
legislação ambiental sobre poluição atmosférica com limites de emissões cada vez
mais restritivos. Neste contexto aumentaram as exigências de estudos de previsão e
controle da emissão e dispersão dos poluentes na atmosfera para a obtenção de
autorização para instalação e operação de um empreendimento industrial.
Segundo Negri (2002), os modelos matemáticos de cálculo do transporte de
poluentes na atmosfera representam uma importante ferramenta para a previsão do
impacto de futuras fontes de poluição do ar e para a gestão ambiental de processos
industriais já instalados. A partir de uma série confiável e representativa de dados
meteorológicos, o estudo de dispersão atmosférica é por si só um trabalho
complexo, principalmente quando incorporadas fontes de naturezas distintas.
Basicamente a modelagem é usada para responder a seguinte formulação:
dadas às condições meteorológicas e as características das fontes emissoras, qual
será a concentração de poluentes em determinados pontos e distância da fonte?
Os modelos matemáticos de dispersão atmosférica estacionários foram
desenvolvidos para estimar as concentrações, ao nível do solo, dos poluentes
atmosféricos emitidos por diversas fontes. Estes modelos são baseados em uma
combinação de princípios teóricos e dados experimentais.
3.2.1 Vantagens e limitações da modelagem
O uso de modelos matemáticos tem várias vantagens sobre o monitoramento. Os
modelos são capazes de estimar as mais altas concentrações de um determinado
contaminante para as piores condições, tanto no que diz respeito às condições
meteorológicas como as de emissão, para a área de influência. O modelo pode
fornecer as estimativas de gradientes de concentração por meio da previsão de
concentrações em pontos pré-determinados ou em qualquer ponto que seja definido
na grade da área de influência, o que seria muito custoso de ser monitorado ponto a
ponto. A modelagem pode estimar as concentrações que possam ocorrer sob
cenários alternativos de emissão de poluentes atmosféricos e condições
meteorológicas.
Como limitação pode-se citar que os modelos devem subestimar a exposição
pela não inclusão de determinados tipos de fontes como, por exemplo, as fontes
áreas, assim como não levam em conta as fontes que compõem o background
(concentração da poluição de fundo pré-existente). Eles podem também subestimar
ou superestimar a exposição pelo uso de dados ou hipóteses que não representem
efetivamente a verdadeira situação ambiental. A qualidade dos dados modelados
será função da qualidade das informações fornecidas ao modelo e das hipóteses e
relações incorporadas pelo modelo em si. As incertezas existem em qualquer análise
de modelagem de dispersão e a quantificação e a interpretação destas incertezas
são difíceis. Segundo Sogabe (2000), a exatidão das estimativas modeladas varia
com o modelo usado, a aplicação do modelo e os valores de entrada.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
32
Capítulo III – Revisão Bibliográfica
Paulo Sérgio F. de Menezes
3.2.2 Modelos usuais de dispersão atmosférica
Como a modelagem pode ser desenvolvida com diversos graus de sofisticação a
Agência Americana de Proteção Ambiental tem pesquisado e desenvolvido diversos
modelos para aplicações legais. Os modelos de dispersão atmosférica disponíveis
foram desenvolvidos para atender a situações distintas em função do objetivo
desejado e dos dados disponíveis para alimentar o modelo. Não existe um modelo
de dispersão com aplicabilidade universal. Há diferenças de topografia, clima e
fontes de operação que alteram os resultados.
Segundo Negri (2002) os modelos são divididos em 4 classes:
a) Gaussianos - Baseado no decaimento da função de Gauss, são os modelos
mais utilizados para estimar impactos de poluentes não reativos.
b) Numéricos - Método alternativo ao Gaussiano é utilizado para área urbana,
envolvendo poluentes reativos, requerendo maiores informações de entrada,
redundando em aplicações limitadas.
c) Estatísticos e empíricos - São utilizados nos casos em que há baixo
entendimento físico.
d) Físico - Técnicas de Dinâmica de Fluidos Computacional (“Computational Fluid
Dynamics” – CFD) são utilizadas para problemas específicos, por
exemplo,impacto da pluma em prédios, impacto da pluma em terrenos elevados
(“downwash”).
Em termos de exatidão ou sofisticação dos resultados existem 2 níveis:
a) Orientativos ou screening (EPA, 1995d), que por não possuírem dados
representativos da meteorologia da área de estudo utilizam dados
meteorológicos mais abrangentes e por isso são muito conservadores na
estimativa das concentrações.
b) Analíticos que envolvem tratamentos mais detalhados dos fenômenos.
Alguns modelos têm recursos para representar a topografia da área de estudo e
sua influência no comportamento da pluma de poluentes gasosos. Dependendo do
modelo adotado ele pode considerar apenas os terrenos planos ou terrenos
levemente ondulados. Outros possuem recursos para calcular as interações das
plumas gasosas com o terreno, independente do tipo de relevo.
O modelo OCD (Offshore and Coastal Dispersion Model Version 5) é o único
recomendado pela EPA (EPA, 2005), para aplicações em regiões costeiras. A sua
principal limitação é a falta de dados meteorológicos apropriados medidos sobre
superfícies oceânicas completamente inexistentes na costa brasileira. Os dados
meteorológicos horários necessários para rodar esse programa costeiro são:
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
33
Capítulo III – Revisão Bibliográfica
•
•
•
•
•
•
•
Paulo Sérgio F. de Menezes
Direção e velocidade do vento medida sobre o oceano;
Altura da mistura medida sobre o oceano;
Temperatura e umidade relativa do ar sobre o oceano;
Cisalhamento vertical da direção e velocidade do vento;
Gradiente vertical da temperatura potencial medida sobre o oceano;
Componentes x e y, da intensidade turbulenta sobre o oceano;
Componentes x e y, da intensidade turbulenta sobre o continente.
O motivo de se usar dados medidos sobre o oceano é que o balanço de calor
sobre a água é completamente diferente do existente sobre o continente. Na costa
brasileira estes tipos de dados são praticamente inexistentes.
Os modelos de dispersão tentam estimar concentrações para locais específicos
que representam a média do conjunto de repetidas medições do mesmo evento,
podendo implicar em variações de 50%. Erros de 5 a 10% na direção do vento
podem provocar erros na concentração de 20 a 70% (Negri, 2000).
Em termos de aplicação regulatória a EPA defende o uso preferencial de
modelagem para determinar limites de emissão para fontes existentes e novas. O
monitoramento não é aceito como única base para limite de emissão em terrenos
planos. A especificação de limite de emissão conhecido como valor de projeto de ou
concentração de projeto é a soma da contribuição da fonte e a concentração da
poluição de fundo pré-existente.
3.2.2.1
Modelos gaussianos
Dentre os modelos disponíveis os mais usados são os “Modelos de Dispersão
Gaussianos”. Os modelos Gaussianos adotam como premissa que o perfil da
distribuição espacial da concentração de substâncias emitidas para a atmosfera
segue aproximadamente a distribuição normal com uma dependência da
concentração dos poluentes, do desvio padrão, cuja forma quando representada em
um histograma é a de um sino, conhecida como curva de Gauss.
Segundo Moraes (2004), os modelos gaussianos vêm sendo amplamente
utilizados porque produzem resultados compatíveis com os dados experimentais,
bem como o de qualquer outro modelo e não apresentam matemática complicada.
De qualquer forma, dos vários modelos existentes, a escolha de qualquer um
deles para a avaliação da concentração de poluentes é função dos objetivos visados
além das condições de limitações do próprio modelo e dos dados disponíveis
necessários para a sua aplicação. De uma maneira geral, o modelo gaussiano é
considerado adequado e prático para avaliar o impacto de poluentes não reativos
(Schenelle at all, 1999).
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
34
Capítulo IV – Descrição das unidades de produção
Paulo Sérgio F. de Menezes
CAPÍTULO IV: DESCRIÇÃO DAS UNIDADES DE
PRODUÇÃO E DA ESTAÇÃO DE
MONITORAMENTO DA QUALIDADE DO AR
4.1 Caracterização da Área Industrial
A Refinaria Landulpho Alves (RLAM) está localizada no Distrito de Mataripe,
município de São Francisco do Conde, Estado da Bahia – Brasil, em torno da
latitude 12o 41’ S e da longitude 38o 34’ W, próximo à Baia de Todos os Santos e a
uma distância de cerca de 50 km a Norte-Noroeste (NNW) da cidade de Salvador
(RLAM, 2004c).
Figura 4.1 - Vista Aérea da REFINARIA
A Unidade mantém uma trajetória pioneira, sendo a primeira refinaria do país
totalmente certificada nas normas ISO 9002 (sistema de qualidade nos processos
industriais), ISO 14001 (sistema de gestão ambiental) e BS 8800 (atestado de
qualidade em saúde e segurança), tendo entrado em operação em 18 de setembro
de 1950, processando 2.500 barris (400 m3) por dia. Após passar por diversos
processos de ampliação possui hoje uma capacidade instalada para processar
aproximadamente 48.290 m3 por dia de petróleo. Produz 43 derivados para
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
35
Capítulo IV – Descrição das unidades de produção
Paulo Sérgio F. de Menezes
abastecer as regiões norte e nordeste, sendo cerca de 8% de sua produção
destinada ao exterior.
Atualmente a empresa possui instalações para operações de destilação
atmosférica, destilação a vácuo, craqueamento catalítico fluido, separação de nparafinas, parafinas sólidas, óleo lubrificantes básicos, etc. Seus principais produtos
são: Propeno, Propano, Iso-Butano, GLP, Gasolina, Nafta Petroquímica, Querosene,
Querosene de Aviação, Normais Parafinas, Hexano, Aguarrás, Óleo Diesel,
Lubrificantes, Parafinas, Óleos Combustíveis e Asfaltos (RLAM, 2004b). Na Figura
4.2 observa-se um esquema básico de refino.
Figura 4.2 - Esquema Básico de Refino
4.1.1 Descrição sumária das unidades de produção
Para este trabalho foram consideradas apenas as unidades operacionais da
REFINARIA que emitem SO2. Visando manter a confidencialidade das informações
sobre os processos industriais apresentaremos, na Tabela 4.1, apenas uma
descrição sumária das unidades de produção da REFINARIA e o respectivo
processo.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
36
Capítulo IV – Descrição das unidades de produção
UNIDADES
4
6
9
18
2901 A/B
30/31
32
36
39
51
83
Paulo Sérgio F. de Menezes
Tabela 4.1 – Principais unidades e processos
PROCESSO
Destilação Atmosférica e a Vácuo
Craqueamento Catalítico
Destilação Atmosférica e a Vácuo
Desparafinação a Metil-Isobutil-Cetona
Sistemas de Tochas
Produção de N-Parafinas e Querosene de Aviação
Destilação Atmosférica e a Vácuo
Unidade de remoção de enxofre
Craqueamento Catalítico
Central Termoelétrica I
Central Termoelétrica 2
4.2 Estação Monitoramento da Qualidade do Ar em Madre Deus
Neste trabalho foram usados os dados de concentração de SO2 medidos pela
estação de monitoramento da qualidade do ar localizada no centro urbano do
município de Madre de Deus.
4.2.1 Localização
A localização da estação de Madre de Deus levou em conta a escolha de lugares
que tivessem uma população mais sensível aos poluentes como escolas, hospitais e
que pudessem oferecer uma maior segurança aos equipamentos da estação.
Atendendo as estes requisitos o local escolhido foi a Escola Nossa Senhora Mãe
dos Homens. A localização da estação pode ser vista na Figura 4.3. A Tabela 4.2
apresenta um resumo da estação, sua localização, os poluentes e parâmetros
meteorológicos que são monitorados.
Figura 4.3 – Estação de Monitoramento do Ar e Dados Meteorológicos de Madre de Deus
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
37
Capítulo IV – Descrição das unidades de produção
Escola
Nossa
Senhora
Mãe dos
Homens
Paulo Sérgio F. de Menezes
Tabela 4.2 – ESTAÇÃO DE MONITORAMENTO DE MADRE DE DEUS
POLUENTES
PARÂMETROS
COORDENADAS
MONITORADOS
METEOROLÓGICOS
UTM
Norte/Sul
Leste/Oeste
Direção e velocidade do vento,
8.591.588
541.810
temperatura, umidade, desvio
SO2; H2S; NOX,
padrão da velocidade do vento
GRAUS
CO; O3; THC e
(sigma), precipitação
Longitude
VOC
Latitude (S)
pluviométrica, pressão e
(O)
radiação solar.
38°36´53,50´
12°44´23,39´´
´
4.2.2 Equipamentos básicos da estação
A estação tem instalado uma torre meteorológica de 10 metros (altura padrão
recomendada pela Organização Mundial de Meteorologia), com capacidade para
medir continuamente os seguintes parâmetros meteorológicos. Além da torre a
estação possui os seguintes equipamentos:
Manifold – acessório para coletar as amostras de ar ambiente, dotado de uma
bomba, e serpentina que serve para evitar a condensação do ar amostrado na
estação, cuja temperatura é inferior à ambiente.
Dois aparelhos de ar-condicionado – pois a temperatura acima de 25°C interfere
no desempenho dos monitores de poluentes.
No-Break – este equipamento isola os circuitos de entrada e saída dos
equipamentos para suportar sobretensão.
Sistema de alarme – a estação possui um sistema de proteção contra roubo,
através de um sistema de alarme, conectado a refinaria.
Sensor de velocidade do vento - Este sensor é do tipo de alta sensibilidade (três
conchas). Ele tem capacidade para começar a medir ventos de 0,5 ms-1, é do tipo
"reed switch" ou fotoelétrico, o que diminui a manutenção e a possibilidade de
quebra. A exatidão recomendada é de 1,5% e baixa inércia.
Sensor da direção de vento – É do tipo sensível balanceado e com grande área,
para medir as variações da direção do vento para cálculos do valor de sigma
horizontal.
Sensor de radiação solar - A função do sensor de radiação solar é determinar a
intensidade da energia solar total que está sendo recebida pelo solo. Este sensor
é do tipo fotoelétrico.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
38
Capítulo IV – Descrição das unidades de produção
Paulo Sérgio F. de Menezes
Sensor de temperatura e umidade - O sensor de temperatura é do tipo termistor
com exatidão de 0,1 graus Celsius e que possui proteção contra radiação. Os dois
parâmetros são medidos em conjunto, por um único equipamento.
Sensor de Pressão barométrica e medidor de Precipitação pluviométrica.
4.2.3 Métodos de calibração e controle de qualidade
As médias de concentração dos poluentes são geradas, em intervalos de tempo
programados, por um software (ENVIEW) da RMQA (RLAM, 1999 d), atendendo os
padrões ambientais determinados pela legislação, como por exemplo:
•
•
•
•
Máxima média horária para CO, NO2 e O3;
Máximas médias diárias para SO2;
Máximas médias de 8 horas para o CO;
Médias aritméticas anuais para NO2 e SO2.
O critério para definir um dado como válido é feito através do software EPROM,
que controla o analisador e determina o seu tempo de resposta, que é o tempo em
que o mesmo realiza cada análise. Se todos os parâmetros do analisador estiverem
dentro da faixa recomendada pelo fabricante para a amostragem e análise, essa
leitura é considerada válida pelo software que registra o valor da mesma.
Ao longo dos 15 minutos o software integra esses resultados de forma a calcular
a média de 15 minutos. Se o percentual das amostras válidas coletadas for superior
a 75% (determinada no EPROM do analisador pelo fabricante), o dado referente à
integração dos 15 minutos é validado e assim temos a respectiva média. Se as
condições operacionais do analisador estiverem fora dos requisitados pelo
equipamento, a análise da amostra é invalidada, podendo o equipamento apresentar
uma mensagem de alarme, conforme a anormalidade.
Quando o analisador faz todas as análises mas o percentual de analises válidas
é inferior ao preestabelecido encontramos o registro “Samp<”. Quando são
apresentados registros como “InVld”, “No Data” ou “RS232”, implica que não há
leitura pelo software do computador da estação, houve queda de energia ou ainda
falha de comunicação entre o analisador e o computador da estação.
Quando o analisador executa qualquer tarefa, como “Zero”, “Zero Referência”,
“Span”, etc., o software reconhece cada tarefa atribuindo um determinado status a
cada Tempo de Resposta. Findo o período de 15 min o analisador calcula a média e,
estando o analisador, por exemplo, no modo span todo o período, o respectivo bloco
de 15 min receberá o status de Span.
O erro associado à medição dos poluentes está associado a diversos fatores tais
como:
•
Tipo de analisador usado;
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
39
Capítulo IV – Descrição das unidades de produção
Paulo Sérgio F. de Menezes
•
Métodos e freqüência das calibrações;
•
Capacitação do grupo de manutenção e operação dos equipamentos.
São utilizados dois tipos de calibração para os analisadores:
•
Calibração com um único ponto: Este tipo de calibração por ser muito simples
é considerado apenas uma checagem se o aparelho está funcionando
corretamente.
•
Calibração multiponto: Neste tipo de calibração são preparadas várias
misturas com diferentes concentrações para se montar uma curva de
calibração.
Quando se utiliza tubo de permeação a calibração é chamada de calibração
dinâmica e quando se usa cilindros com misturas padronizadas a calibração é
chamada de calibração estática.
Monitor
AF 21 M
CO 11 M
AC 31 M
O3 41 M
HC 51 M
VOC 71 M
Tabela 4.3 - Codificação dos monitores
Poluente
Fundo de escala
Limites de
detecção
SO2
10,0 ppm
1,0 ppb
CO
200 ppm
0,1 ppm
NOx
10,0 ppm
0,35 ppb
O3
10,0 ppm
1,0 ppb
HC’s metânicos e
1000 ppm
50 ppb
não metânicos
VOC’s
1000 mg/m³
0,5 mg/m³
Ruído
0,5 ppb
0,05 ppm
0,17 ppb
0,5 ppb
25 ppb
----
4.2.4 Vantagens e limitações do monitoramento da qualidade do ar
O monitoramento da qualidade do ar permite que a partir da medição dos
poluentes atmosféricos as fontes de emissão sejam avaliadas na medida em que o
monitor detecte aqueles poluentes.
Como existe a disponibilidade uma ampla gama de métodos analíticos, o
monitoramento também permite a avaliação de compostos que poderiam não estar
previstos a partir dos dados levantados no inventário de emissões.
Devem ser considerados no monitoramento os seguintes aspectos:
• Em função da sensibilidade dos equipamentos e métodos de medição os
níveis de detecção podem estar acima dos níveis referência baseados na
saúde humana.
• Nem sempre o monitoramento fornece informações suficientes para a
identificação das fontes que impactam determinada área.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
40
Capítulo IV – Descrição das unidades de produção
Paulo Sérgio F. de Menezes
• Nem sempre é viável o monitoramento de forma continuada em toda a
área de influência, sob todas as condições meteorológicas e de emissão, de
forma que os dados obtidos podem não incluir as condições do pior-caso que
tenham ocorrido na área.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
41
Capítulo V – Metodologia
Paulo Sérgio F. de Menezes
CAPÍTULO V: METODOLOGIA
Neste trabalho, foram analisadas as médias de 15 minutos dos dados de
concentração de SO2 medidos na estação de monitoramento da qualidade do ar em
Madre de Deus e os dados meteorológicos das estações da refinaria e de Madre de
Deus, para o ano de 2003. A disponibilidade de duas estações meteorológicas
próximas ajudou a analisar melhor a consistência dos dados disponíveis.
O inventário de emissões de SO2 fornecido pela refinaria foi fruto de um
trabalho realizado pela empresa a partir dos dados de processos medidos
especificamente para gerar um inventário o mais próximo possível da realidade.
O modelo adotado foi o ISC3 que é modelo gaussiano de pluma estacionária que
tem sido largamente utilizado para avaliar as concentrações de poluentes não
reativos emitidos de uma grande variedade de fontes.
Após a definição do modelo a ser utilizado, foi definido a área de domínio do
estudo e dentro dessa área foram definidos os receptores discretos. Foi feita a
consolidação dos dados das fontes de emissão de SO2 e o tratamento dos dados
meteorológicos necessários e o levantamento dos dados topográficos. Foi feito o
cálculo das concentrações de SO2 nos receptores definidos e o levantamento das
concentrações medidas nestes receptores. Os cálculos, e as medições, das
concentrações de SO2 foram feitos para concentrações médias de 24 horas, para
podermos comparar com o valor estabelecido pela legislação brasileira (CONAMA,
90a). Estes dados foram analisados e comparados com os dados calculados na
posição da estação de Madre de Deus para se avaliar o grau de certeza do modelo.
5.1 Modelo ISCST3
A EPA subdivide os modelos em 2 classes - preferenciais e alternativos. O
ISCST – “Industrial Source Complex Short Term” é classificado como preferencial.
O Industrial Source Complex (ISC) é um modelo gaussiano de pluma
estacionária que tem sido largamente utilizado para avaliar as concentrações de
poluentes não reativos emitidos de uma grande variedade de fontes, o qual foi
concebido em 1970 pela Agência de Proteção Ambiental Americana (EPA, 1996).
A EPA tem feito atualizações constantes no modelo e a versão mais recente foi
denominada ISCST3 (EPA, 1995 a, EPA, 1995c). Os principais avanços incluídos
nesta versão do programa são: revisão do algoritmo para cálculo de concentração
de fontes áreas; os novos algoritmos para cálculos de deposição seca e úmida de
partículas.
Vale ressaltar que a EPA (EPA, 2005) está recomendando um novo modelo
denominado AERMOD em substituição ao ISC3. Segundo este documento o
AERMOD será obrigatório a partir do dia 9 de novembro de 2006. Até lá o ISC3
continua recomendado e aceito como modelo de qualidade do ar.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
42
Capítulo V – Metodologia
Paulo Sérgio F. de Menezes
No Brasil a principal dificuldade em se utilizar o novo modelo será a falta de
dados meteorológicos necessários para alimentar o modelo em função da pouca
disponibilidade desses dados no nosso país.
Os pacotes que estão disponibilizados no mercado têm o mesmo conteúdo do
programa original Industrial Source Complex Short Term - ISCST, (EPA, 1995a),
desenvolvido pela Agência Americana de Proteção Ambiental, parte conceitual e
formulação matemática, diferenciando-se entre eles unicamente na forma de
apresentação e nos recursos gráficos e de pós-processamento. Na elaboração deste
trabalho foi utilizada a versão 4.8.6, 2004, do ISC-AERMOD View, da Lakes
Environmental Software (Thé et al, 2004).
5.1.1 Algoritmo “Industrial Source Complex”
O ISC3 é usado para calcular concentrações de poluentes em pontos, áreas ou
volume contínuo.
Ele é apropriado para as seguintes aplicações:
Fontes industriais complexas;
Áreas urbanas ou rurais;
Terreno plano ou elevado;
Concentrações médias para períodos de 1h hora a 1 ano;
Transporte a distâncias menores que 50 m;
Emissões contínuas de poluente do ar.
5.1.2 Equação de Difusão
A equação de difusão é o fundamento básico para o estudo da dispersão de
poluentes na atmosfera.
O modelo foi desenvolvido originalmente a partir da equação diferencial parcial
de difusão que descreve o transporte e a dispersão de poluentes emitidos de uma
fonte pontual. A solução analítica desta equação considera um referencial
cartesiano, Figura 5.1, resultando na fórmula 5.1, Boubel et al. (1994).
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
43
Capítulo V – Metodologia
Paulo Sérgio F. de Menezes
Figura 5.1 – Pluma Gaussiana no sistema de coordenadas cartesianas, adaptada de Turner (1994).
Equação Gaussiana de difusão para estimar a concentração de poluentes:
 y2
C ( x, y , z ) =
exp  −
2
 2σ z
2π uσ y σ z
Q
 
 (z − H )2
 x exp  −

2σ z2
 


 ( z + H ) 
 + α exp  −

 2 σ 2  
z


 
(5.1)
Onde:
•
•
•
•
•
•
•
•
•
•
C (x,y,z) = a concentração do poluente no ponto receptor, (gm-3)
Q = taxa de emissão dos poluentes, (gs-1)
u = velocidade do vento, (ms-1)
σy, σz = coeficientes de dispersão vertical e horizontal, (m).
x= distância horizontal da fonte, (m)
y = distância horizontal do eixo central da pluma, (m)
z = distância do receptor, coordenada altura, (m)
H = altura efetiva da emissão (H = h + ∆ h), (m)
h = altura física da chaminé, (m)
∆ h = subida da pluma, (m)
5.1.3 Limitação do Modelo
A abordagem gaussiana considera uma situação de turbulência estacionária e
homogênea (horizontal e vertical), em que o transporte dos poluentes ocorre na
direção média do vento, sendo que este é constante com a altura e diferente de
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
44
Capítulo V – Metodologia
Paulo Sérgio F. de Menezes
zero. Neste caso a pluma é totalmente refletida na superfície do solo, ou seja, não
existe deposição ou reação química (Machado, 1995).
Na realidade na atmosfera real o comportamento do vento é extremamente
turbulento, o artifício de reflexão da pluma é um recurso matemático para a solução
da equação da difusão, e durante a trajetória da pluma entre a fonte e os receptores
devem ocorrer transformações químicas entre o poluente emitido originalmente e as
variáveis meteorológicas. Este comportamento da atmosfera tem implicações diretas
nas estimativas da concentração dos poluentes que serão aproximações dos valores
reais sendo necessária uma aferição através medições.
5.1.4 Dados de Entrada do Modelo
O cálculo da concentração dos poluentes em determinado ponto é obtido
considerando os seguintes fatores:
•
Distância das fontes de emissão em relação à área de estudo;
•
Parâmetros meteorológicos como direção e velocidade do vento, estabilidade
atmosférica, temperatura ambiente e altura da camada de mistura;
•
Topografia da área;
•
Características da fonte de emissão: altura, diâmetro, temperatura e
velocidade de saída dos gases, localização da fonte, taxa de emissão dos
poluentes.
Os dados citados acima são inseridos no modelo matemático para que ele possa
efetuar o cálculo da concentração de determinado poluente no ponto de interesse.
Para localizar as fontes de emissões o modelo usa um sistema tridimensional, x,
y e z, com a origem no solo, assumindo as seguintes premissas:
•
A concentração de determinado poluente no ar é proporcional à taxa de
emissão deste poluente por uma fonte contínua. Como o vento atua diluindo
estas concentrações, quanto maior a velocidade do vento menor será a
concentração do poluente;
•
A concentração dos poluentes próxima à fonte de emissão segue a
distribuição Gaussiana, atingindo a máxima concentração no centro da pluma.
•
O modelo é conservativo, não considerando que ocorrem reações químicas
entre a fonte e o receptor, lavagens, precipitações ou outros processos de
remoção na atmosfera, ou seja, há uma conservação de massa.
•
O desvio padrão da concentração dos poluentes na pluma, numa posição dos
eixos x e y, está empiricamente relacionado à estabilidade atmosférica, e
aumenta com a distância até a fonte.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
45
Capítulo V – Metodologia
Paulo Sérgio F. de Menezes
5.1.5 Dados de Saída do Modelo
Entre as diversas opções de saída que o modelo disponibiliza podemos citar:
Cálculo das rosas dos ventos para períodos que variam de uma hora a um
ano;
Listagem dos cálculos das concentrações ordenados pelos valores mais altos;
Cálculos das concentrações agrupadas por conjunto de fontes;
Mapa das isoconcentrações.
5.2 Definição da área de domínio
Como área de domínio principal, conforme coordenadas em UTMiv da Tabela 5.1,
foi definida uma grade de 21 Km por 21 Km, correspondente a uma área de 441
Km2. Esta área foi definida como área de influência da refinaria em função dos
municípios próximos como Candeias, São Francisco do Conde, Madre de Deus e
São Sebastião do Passe.
Tabela 5.1 Coordenadas da Grade de Estudo em UTM
X
Y
SW
539852
8590119
NE
550821
8598921
Esta área corresponde a 441 quadrículas receptoras de 1 Km2 de área cada
uma, onde o modelo efetuou os cálculos das concentrações de SO2. Na Figura 5.2
temos o mapa da área de domínio com as curvas de isoconcentração para uma
determinada simulação.
iv
UTM = Universal Transversal Mercator
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
46
Capítulo V – Metodologia
Paulo Sérgio F. de Menezes
Área de Dominio da Modelagem Com o ISCST3
Dissertação de Mestrado TECLIM - UFBA
535000
540000
545000
550000
555000
8605000
8603000
8600000
SUL - NORTE (m)
Refinaria
8597000
8595000
B a i a de
Madre de Deus
T o d o s o s S a n t os
8591000
8590000
8585000
8585000
535000
541000
547000
553000
OESTE- LESTE (m)
Escala: Metros
0
5000
10000
Figura 5.2 – Área de domínio
5.3 Definição dos Receptores Discretos
Para a elaboração da comparação entre as concentrações calculadas e as
observadas, definiu-se no modelo uma orientação de cálculo sobre quatro locais
específicos que foram denominados receptores discretos, os quais são as estações
de monitoramento da qualidade do ar localizadas nos municípios de Madre de Deus,
São Francisco do Conde, Candeias e a estação background Ouro Negro.
5.4 Levantamento detalhado das taxas de SO2 da refinaria
Os dados de emissão de SO2 foram retirados do inventário de emissões
atmosféricas realizado pela REFINARIA para o ano de 2003. Entre as 56 unidades
da refinaria 12 foram utilizadas no inventário de emissões de SO2 para o presente
trabalho em função da sua significância.
Para a elaboração do inventário das fontes de emissão foi necessário montar
uma Tabela específica agrupando os dados constantes no inventário de emissões
feito pela refinaria em 1999 (RLAM, 1999a). As coordenadas geográficas, em UTM,
os dados de velocidade e temperatura de saída dos gases das chaminés, além das
características físicas como diâmetro e altura das unidades estudadas
correlacionando estes dados com os constantes no inventário de emissões da
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
47
Capítulo V – Metodologia
Paulo Sérgio F. de Menezes
refinaria referente ao ano de 2003 e que foi disponibilizado em outubro de 2004
(RLAM, 2004a).
As coordenadas de cada fonte emissora de SO2, bem como, as suas
características foram inseridas individualmente no modelo ISCST3. Com isto foi
possível calcular a contribuição de cada uma individualmente e no conjunto sobre os
valores calculados de SO2. As coordenadas de cada fonte de emissão também
foram inseridas.
5.5 Efeito da Presença de Prédios sobre a Dispersão de Poluentes (Building
Downwash
Os prédios situados próximos às fontes pontuais de emissões de poluentes
atmosféricos podem interferir em sua dispersão, através do impacto da pluma de
poluentes nos prédios, que pode causar uma mudança em seu curso normal,
causando a queda da pluma no solo. Este efeito é denominado building downwash
(Thé, 2004).
O ISCST3 contém procedimentos de cálculos que representam o modo como a
pluma pode ser levada até bem próximo da superfície, através de sua interação com
os ventos soprando sobre os edifícios, situados próximos às chaminés.
Quando esta razão (altura da chaminé / altura da unidade) é maior do que 2, não
é necessário considerar building downwash, pois as chaminés são bem mais altas
do que as outras estruturas da unidade, o que comprova que a estrutura da unidade
não interfere na dispersão dos poluentes emitidos pelas chaminés.
5.6 Levantamento e Tratamento dos Dados Meteorológicos
Os dados meteorológicos utilizados foram obtidos da estação automática
localizada dentro da refinaria e próxima das fontes. Os dados de temperatura do ar,
direção e velocidade do vento, umidade do ar, pressão atmosférica, radiação solar e
precipitação pluviométrica são coletados a cada minuto, obtendo-se uma média a
cada 10 minutos, construindo desta forma um banco de dados horários chamado
DATAMET da REFINARIA. O arquivo horário de dados meteorológico anual tem
8760 linhas de dados.
Os dados meteorológicos utilizados neste trabalho referem-se aos arquivos
meteorológicos de 2003 das estações da REFINARIA e de Madre de Deus.
Como o ISCST3 requer dados meteorológicos para cada hora referentes a um
ano completo, foi necessário passar as médias de 10 minutos para médias horárias.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
48
Capítulo V – Metodologia
Paulo Sérgio F. de Menezes
Estes milhares de dados foram filtrados, tratados e formatadosv para médias de
uma hora, totalizando 8760 horas, em formato apropriado para alimentar o modelo
matemático utilizado no estudo de dispersão.
Os dados brutos das estações meteorológicas da refinaria e da estação de
monitoramento de Madre de Deus referentes às médias de 10 minutos em extensão
“TXT”, foram transformados em médias horárias utilizando-se um programa de
cálculo vetorial, feito em JAVA, gerando um novo arquivo também com extensão
“TXT”. Este arquivo foi transformado em um novo arquivo com extensão “XLS”.
Depois foi gerado o arquivo em ASCII para ser lido p/ ISCST3 usando o PC
RAMMET.
Altura da Camada de Mistura
A altura da camada de mistura é usada no ISC, e nos outros modelos de
dispersão com o objetivo de determinar quando a pluma preenche totalmente
a camada de mistura, interrompendo a difusão dos poluentes para cima, ou
seja para dentro das camadas estáveis, e concentrando a pluma na camada
próxima ao solo. Na condição Rural a altura de mistura se eleva com o nascer
do sol e após o por do sol, demora a retornar.
Altura do anemômetro
Um dado importante a alimentar no modelo é a especificação da altura do
anemômetro, ou seja, a altura acima do solo, na qual os valores referentes a
velocidade do vento foram coletados.
A razão disto, é que os modelos ajustam os valores de velocidade do vento, a
partir da altura do anemômetro, para a altura de emissão dos poluentes, e a
correta especificação da altura do anemômetro é importante para a obtenção
de resultados corretos, do modelo matemático.
Classes de Estabilidade
Para a determinação da estabilidade atmosférica para a área de domínio do
presente estudo utilizou-se o método do desvio padrão da direção do vento
horizontal. Esse método foi utilizado porque a estação meteorológica
automática instalada dentro da Refinaria, no software do coletor de dados
(datalogger) permite a obtenção direta desse parâmetro.
A partir de uma série de 8760 dados horários de desvio padrão da direção do
vento para o ano de 2003, aplicou-se a metodologia estatística simples da
distribuição de freqüência considerando as faixas de desvio padrão
apresentadas na Tabela 5.2. Observa-se a alta predominância da estabilidade
v
Foi necessário usar cálculo vetorial através de um programa em JAVA para efetuar os cálculos das médias
horárias para os seguintes parâmetros meteorológicos: velocidade e direção do vento, temperatura ambiente,
classe de estabilidade atmosférica.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
49
Capítulo V – Metodologia
Paulo Sérgio F. de Menezes
D (Neutra) ocorrendo com 61% do tempo. Em seguida a condição de
estabilidade E (Ligeiramente Estável) com 11,4 % de ocorrência; e como
terceira predominância a categoria F (Moderamente Estável), ocorrendo com
10,5% do tempo.
Tabela 5.2 - Distribuição de freqüência relativa da estabilidade atmosférica a partir do desvio padrão
da direção do vento, estação meteorológica da refinaria - 2003.
Classes de
Distribuição de
Significado
σθ (desvio padrão) da
Estabilidade de
Frequência (%)
direção do vento
Pasquill
Altamente Instável
o
A
0.4
≥25,0
Moderadamente
o
o
Instável
B
3.9
15 ≤ σθ<25
Ligeiramente Instável
o
o
C
8.7
10 ≤ σθ <15
Neutra
o
o
D
61.0
5 ≤σθ <10
Ligeiramente Estável
o
o
E
2,5 ≤ σθ <5
11.4
Moderadamente
o
Estável
F
<2,5
10.5
A direção e a velocidade do vento variam ao longo do dia, do mês e do ano,
portanto quando falamos de direção preferencial temos que nos lembrar desta
sazonalidade.
5.7 Levantamento dos dados topográficos
Os dados topográficos foram utilizados no presente estudo para reproduzir
resultados próximos da realidade física da região. O arquivo de dados contém as
curvas de níveis georeferenciadas da região, o qual foi disponibilizado pela refinaria
(RLAM, 1999c).
De acordo com a Agência de Proteção Ambiental dos Estados Unidos (EPA) o
modelo trabalha com duas opções de tipo de terreno (EPA, 1987): Rural, quando
temos uma densidade demográfica menor que 750 hab/ km2 ;Urbano, quando temos
uma densidade demográfica maior que 750 hab/ km2 . No presente estudo foi
adotado como opção de entrada o Modo Topografia Simples.
5.8 Cálculo dos dados de concentrações de SO2 pelo modelo ISCST3 nos
receptores definidos
A partir da definição da área de domínio, dos receptores discretos, das fontes e
dos dados de emissão e demais informações rodou-se o modelo ISCST3 para o
cálculo das concentrações de SO2.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
50
Capítulo V – Metodologia
Paulo Sérgio F. de Menezes
Foram calculadas as concentrações máximas de SO2 para médias de 24h e
anual, para serem comparados com os valores estabelecidos pelo CONAMA,
(1990a), referentes aos 365 dias do ano de 2003, dentro da área de influência
definida, bem como, para as coordenadas específicas da Estação de Madre de Deus
(receptor discreto).
As concentrações calculadas pelo modelo ISCST3 levam em conta o tempo
médio de residência de cada poluente na atmosfera. O fator de desaparecimento ou
meia vida de poluentes em suspensão na atmosfera é um método simples que leva
em consideração a sua remoção através de processos físicos ou químicos. De
acordo com a EPA (1995e) nos estudos de dispersão atmosférica o fator de
desaparecimento de poluentes na atmosfera é dado pela fórmula descrita na
equação 5.2:
Equação de decaimento: D = e-0,693t/T
(5.2)
Onde,
D = fator de desaparecimento;
t = é o tempo que o poluente leva para percorrer a distância entre a
fonte e o receptor, [segundos];
T = meia vida do poluente, [segundos-1];
O valor temporal da meia vida para o poluente SO2, assumido pela EPA (1995e),
é igual a 4 horas ou (0,0000481 s-1). Esse valor é automaticamente assumido pelo
modelo quando a simulação está sendo desenvolvida no modo opcional urbano.
5.9 Levantamento dos Dados de Concentrações de SO2 Medidos na Estação de
Madre de Deus
Foram coletados os dados de SO2 na estação automática de Madre de Deus,
referentes ao ano de 2003. Estes dados são medidos na escala de tempo de 15 em
15 minutos e foram processados para médias aritméticas de 24h, de acordo com o
que determina o padrão de qualidade do ar estabelecido na Resolução CONAMA no
03, de 28 de junho de 1990. Posteriormente estes dados foram comparados com as
médias de 24h obtidas através da simulação da dispersão do SO2.
Os monitores estão instalados a 2 metros acima do solo, no nível da exposição
humana. Aumentos ou diminuições bruscas nas concentrações de SO2 podem ser
provocados por emissões anormais causadas por exposições agudas, como por
exemplo parada ou partidas de unidades operacionais, algum veículo estacionado
ao lado do muro onde está a estação e que esteja com o motor ligado.
O AF21M (Environnement, 2001) é um monitor contínuo de dióxido de enxofre
projetado para uso em baixas concentrações no ar ambiente. O princípio de medição
é a fluorescência no ultravioleta. A metodologia foi desenvolvida nos EUA no final da
década de 70.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
51
Capítulo V – Metodologia
Paulo Sérgio F. de Menezes
Numa descrição resumida desta metodologia, o ar ambiente contendo SO2,
passa por uma pequena câmara preta (similar ao interior de uma câmara fotográfica
comum), na qual as moléculas do ar são iluminadas por uma luz com comprimento
de onda específico, no qual só as moléculas de SO2 absorvem energia (luz). Após
um curtíssimo espaço de tempo, esta luz é interrompida e as moléculas de SO2 (e só
elas) emitem luz (fluorescência), que é detectada por um tubo fotomultiplicador. Este
aparelho então emite um sinal, quase instantâneo, diretamente proporcional à
concentração das moléculas de SO2, existentes no interior da câmara de reação.
Este sinal é convertido e processado eletronicamente, fornecendo o resultado em
unidades de concentração, que pode ser ppm; ppb ou µg/m3.
Os computadores da estação recebem as informações diretamente dos
analisadores. O tempo de resposta do analisador é programável, podendo variar de
10 a 90 segundos. A cada intervalo de tempo, o analisador coleta uma amostra,
analisa, gerando assim um dado instantâneo, que paralelamente é enviado para o
computador da estação. Os dados assim recebidos vão sendo integrados, e a cada
15 minutos é gerada uma média aritmética dos dados válidos.
5.10
Validação do Modelo ISCST3
Os dados de concentração de SO2 medidos na estação de monitoramento da
qualidade do ar em Madre de Deus, foram calculados em intervalos de 15 minutos.
Foi necessário calcular as médias de 24h para todos os dias disponíveis. Estas
médias foram comparadas com os valores calculados pelo modelo ISCST3, na
posição da estação de Madre de Deus.
Foram calculadas as correlações mensais entre os valores medidos e calculados
para detectar a influência da sazonalidade climática sobre o transporte e a difusão
do poluente. Foram observadas discrepâncias entre pares de dados medidos versus
calculados. Para a análise de validação do modelo não foram considerados os pares
de dados rejeitados, por causa das discrepâncias.
Para validar o grau de certeza dos resultados de concentrações previstas pelo
modelo, recorreu-se à literatura especializada em estatística aplicada à poluição do
ar, onde são definidos fatores de ajuste que garantem o grau de confiabilidade do
modelo matemático de dispersão.
O artigo de Beychok (1994) trata com destaque a questão do tema propagação
de erros na modelagem da dispersão atmosférica, citando vários trabalhos que
discutem as falhas da modelagem destacando a existência de um consenso entre os
autores de que os modelos de dispersão podem efetuar previsões das
concentrações de poluentes dentro de um fator de 2 ou 3 vezes em relação às
concentrações medidas.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
52
Capítulo V – Metodologia
Paulo Sérgio F. de Menezes
Na mesma linha de raciocínio, os trabalhos desenvolvidos por Hanna et. al.,
(2004) e Olesen (1994) recomendam que, para uma validação adequada entre os
valores previstos (CP) pelo modelo e os observados (CO), devem ser usados os
seguintes parâmetros estatísticos: “fractional bias” - FB; média geométrica - MG; o
erro quadrático médio normalizado - NMSE; variância geométrica média - VG;
coeficiente de correlação - R e a fração das previsões dentro de um fator de dois das
observações - FAC2, cujas fórmulas são:
−
FB =
−
(C o − C p )
−
(5.3)
−
0,5 (C o + C p )
MG = exp (ln Co - ln Cp )
NMSE =
(5.4)
(C o − C p ) 2
(5.5)
Co ⋅ C p
[
VG = exp (ln C o − ln C p ) 2
]
(5.6)
FAC 2 = fração dos dados que satisfazem a relação, 0,5 ≤
R=
Cp
Co
≤ 2,0,
(C o − C o ).(C p − C p )
σ C .σ C
p
(5.7)
(5.8)
o
Onde,
Cp = concentrações de SO2 previstas pelo modelo;
Co = concentrações de SO2 observadas;
(C ) = Média da concentração de SO2 sobre a série de dados;
σc= desvio padrão sobre a série de dados de SO2.
Detalhes sobre o desenvolvimento e discussão das fórmulas (5.3) a (5.8) são
encontrados no artigo de Hanna et. Al, (1991).
Na hipótese da concentração de SO2 prevista ser o dobro ou a metade da
concentração medida, que é uma razão de consenso citada por Hanna et al.,(1991),
Beychok (1994a) e Olesen (1995), os parâmetros estatísticos para validação
resultariam em FB= ± 2/3; MG = 0,5 ou 2,0; NMSE ≤ 0,5 e VG ≤ 1,6, assim como os
demais intervalos apresentados na Tabela 5.3.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
53
Capítulo V – Metodologia
Paulo Sérgio F. de Menezes
Tabela 5.3 – Parâmetros Estatísticos de Validação
“Fractional bias” (tendenciosidade, erro sistemático)
Média geométrica
Erro quadrático médio normalizado
Variância geométrica média
Coeficiente de correlação
Fração dos dados previstos e observados que satisfazem a
relação com um fator de 2 (hipótese da concentração prevista
ser o dobro ou a metade da concentração observada)
FB
MG
NMSE
VG
R
FAC2
± 2/3
0,5 ou2,0
≤ 0,5
≤ 1,6
0≤ R≤1.0
0.5≤Cp/Co≤ 2.0
Se existisse um modelo matemático de dispersão perfeito, este produziria
resultados estatísticos com os seguintes valores: MG, VG e FAC2 igual a 1,0; e FB e
NMSE igual a 0,0. No mundo real esse resultado é difícil de ser alcançado devido
aos processos aleatórios de movimentação turbulenta da atmosfera que impedem a
existência de um modelo perfeito em modelagem numérica para poluição do ar.
Diante disso e a fim de se obter o melhor resultado possível de validação do
modelo, estimaram-se os indicadores estatísticos para cada mês a fim de se
detectar o grau de interferência real da sazonalidade climática no melhor ajuste em
cada mês. No caso o anual se refere a um período de 11 meses, uma vez que a
estação não operou durante dezembro de 2003.
Observações sobre os parâmetros de validação:
•
FB = 0,67 – implica em um fator de 2 sub-previsto;
•
FB = -0,67 – implica em um fator de 2 super-previsto;
•
A média geométrica será igual MG = 0,5 ou 2,0 para um fator de 2;
•
NMSE: Quando o erro médio quadrático normalizado NMSE for igual 1,
assume-se que os valores observados são iguais aos medidos. Quando
NMSE ≤ 1 os dados obedecem a uma distribuição Normal e quando
NMSE ≥ 1 os dados obedecem a uma distribuição log-Normal;
•
VG – Variança geométrica: Expressa o grau de espalhamento dos dados
de uma distribuição normal. Para um fator de 2 implicaria em um VG = 1,6.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
54
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
CAPÍTULO VI: RESULTADOS
A seguir são apresentados os resultados de taxas de emissão da refinaria, os
dados meteorológicos, os resultados medidos de SO2, o cálculo das concentrações
de SO2 com o modelo ISCST3, a comparação dos valores calculados com os
experimentais e a validação do modelo.
6.1 Inventário de Emissões de SO2 do Ano de 2003
Para a elaboração do inventário de emissões atmosféricas de SO2 foi feito um
trabalho de análise e comparação dos dados do inventário de 1998 (RLAM, 1999a)
com os dados do inventário de 2003 (RLAM, 2004a). Esta comparação foi
necessária para avaliar as características físicas das fontes de emissão de SO2,
suas coordenadas geográficas e as taxas de emissão de SO2.
O resultado deste trabalho pode ser visto na Tabela 6.1 onde estão as taxas de
emissões de SO2 referentes ao ano de 2003, das 12 fontes mais importantes da
Refinaria, juntamente com as suas respectivas características físicas e coordenadas
geográficas em UTM.
Tabela 6.1 – Taxas médias de emissão de SO2 da refinaria em 2003
U
Fonte
H
(m)
38
45
67
52
120
120
60
75
65
65
70
25
D
(m)
2,35
3,44
2,9
2,06
1,07
1,07
2,28
5,00
1,73
2,8
2,6
2,30
V
(ms-1)
2,35
2,75
7,41
5,23
20,00
20,00
6,65
6,68
7,76
16,37
23,64
33,67
T
( K)
553
590
623
503
443
443
632
618
1023
709
523
429
0
CH
4
CH
6
CH
9
CH
18
2901 A
FLARE
2901 B
FLARE
CH
30/31
CH
32
CH
36
CH
39
CH
51
CH
83
U = Unidade de produção
Fonte: Fonte de emissão
H = Altura da Fonte em metros
D = Diâmetro da fonte em metros
V = Velocidade de saída dos gases em metros por segundo
T = Temperatura de saída dos gases em graus Kelvin
Taxa = Taxa de emissão do poluente em gramas por segundo
SO2
COORD. UTM
-1
NORTE/SUL ESTE/OESTE Taxa gs
8595200,52
546345,11
0,05
8595213,73
546229,42
8,76
8595343,35
546494,38
7,45
8595019,73
546680,30
0,08
8594462,82
546421,79
290,57
8594672,17
546575,88
290,57
8595050,92
546086,41
0,38
8594941,57
546268,26
28,95
8595437,60
546019,20
13,20
8594762,42
546446,57
66,41
8595240,78
546479,62
40,76
8595090,22
546461,50
0,81
%
0,01
1,17
1,00
0,01
38,85
38,85
0,05
3,87
1,76
8,88
5,45
0,11
Observa-se, na Figura 6.1, que os FLARES representam 77,7 % das emissões
de SO2. Isto ocorre devido ao fato das unidades operacionais desviarem para
queima nos flares os gases ácidos que não são tratados na Unidade Recuperadora
de Enxofre – URE. Essas emissões de SO2 são contabilizadas no inventário de
emissões no seu ponto de lançamento para atmosfera, que neste caso passa a ser
os FLARES.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
55
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
U 83
0,11%
U4
0,01%
U6
1,17%
U 36
1,76%
U 32
3,87%
U9
1,00%
U 51
5,45%
U-39
8,88%
U 18
0,01%
U 30/31
0,05%
Flare B
38,85%
Flare A
38,85%
Taxas de emissão de SO2
Figura 6.1 – Distribuição percentual das taxas médias de emissão de SO2 da refinaria em 2003
A altura média das unidades foi comparada com as alturas das chaminés e
verificou-se que em geral as chaminés da refinaria são elevadas, e a razão entre as
alturas médias das unidades, e as alturas de suas respectivas chaminés, variam
entre 1.2 e 18.7 vezes, não sendo necessário considerar o efeito de abaixamento da
pluma de SO2 causado pelo escoamento dos ventos em torno dos prédios das
unidades produtivas (efeito building downwash), conforme pode ser visto na Tabela
6.2.
Tabela 6.2 - Relação altura da chaminé x altura média das unidades produtivas
UNIDADE
Altura média
da unidade (m)
Altura da
chaminé (m)
4
6
9
18
29 (flare)
30
32
36
39
51
83
4,8
8,0
9,9
9,7
8,9
24,0
6,0
20,0
6,5
8,0
38
45
67
52
120
60
75
65
65
70
25
Relação
Altura chaminé /
Altura da unidade
7,9
5,6
6,8
5,4
6,7
3,1
10,8
3,2
10,8
3,1
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
56
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
6.2 Dados Meteorológicos e Considerações sobre a Velocidade dos Ventos
Conforme apresentado no capítulo 2 as condições meteorológicas influenciam a
dispersão dos poluentes atmosféricos. A seguir serão analisadas as influências
destes fatores na área de influência da refinaria no ano de 2003.
6.2.1 Pressão atmosférica ou barométrica
hPa
O aumento da pressão atmosférica influencia a redução da altura da camada
limite e dificulta a convecção, sendo que ambos os fatores são desfavoráveis à
dispersão dos poluentes lançados no ar. Durante o ano de 2003, o período
desfavorável para a dispersão na região da REFINARIA foram os meses de julho,
agosto e setembro, quando a pressão estava mais alta (RLAM, 2004c). Na Figura
6.2 observa-se o gráfico da pressão atmosférica, na estação de Madre de Deus,
observada em 2003.
Pressão
1.003
1.002
1.001
1.000
999
998
997
996
995
994
993
Jan
Fev
Mar
Abr
Mai
Jun
Jul
Ago
Set
Out
Nov
Dez
Figura 6.2 – Comportamento mensal da pressão atmosférica em 2003, observado na estação
Madre de Deus. Fonte: RLAM, 2004c.
6.2.2 Precipitações pluviométricas
A chuva atua como um depurador da atmosfera removendo dela os poluentes
atmosféricos. Na Figura 6.3 observa-se a precipitação pluviométrica mensal medida
pelas estações de Madre de Deus e da refinaria, verifica-se que as chuvas mais
significativas ocorreram entre março e setembro. Observa-se que em Madre de
Deus chove com mais freqüência do que na refinaria.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
57
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
Precipitação Pluviométrica
Refinaria
Madre de Deus
mm
300
250
200
15 0
10 0
50
0
Jan
Fe v
Mar
A br
Mai
Jun
Jul
A go
Set
Ou t
N ov
Dez
Figura 6.3 –Precipitações pluviométricas mensais.
6.2.3 Estabilidade atmosférica
Segundo o critério de Pasquill-Gifford (Pasquill, 1961), quanto maior os desvios
padrão maior será a instabilidade o que favorece a dispersão pos poluentes
atmosféricos.
Na Tabela 6.3 são apresentadas as classes de estabilidade, na estação de
Madre de Deus, e as suas freqüências determinadas em função do desvio padrão da
direção do vento ao longo de 2003. As categorias “A”, “B” e “C” somaram 88 %. na
estação de Madre de Deus, indicando boas condições de dispersão de poluentes ao
longo do ano de 2003.
Tabela 6.3 – Categorias de estabilidade e freqüências.
Categoria de
Desvio padrão da
Condição de estabilidade
estabilidade
direção do vento (σ
σθ)
A
Altamente instável
≥ 25,0
B
20 a 24,99
Moderadamente instável
C
15 a 19,99
Ligeiramente instável
D
10 a 14,99
Neutra
E
5 a 9,99
Ligeiramente estável
F
2,3 a 4,99
Estável
Fonte: RLAM, 2004c
Madre de Deus
20,0%
26,4%
41,4%
11,2%
0,8%
0,1%
6.2.4 Direção e velocidade do vento
A direção predominante do vento é representada por um vetor resultante com
uma determinada frequência, o que significa que existem várias direções do vento
acontecendo ao mesmo tempo em um determinado lugar. Esta direção
predominante tem uma variação significativa, tanto ao longo do dia, como ao longo
do ano. É importante avaliar se a direção do vento, em determinado período do dia
ou da noite, favorece, ou não, ao transporte dos poluentes para as regiões onde se
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
58
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
encontram as populações que vivem na área de influência das fontes de emissão
analisadas. O mesmo se aplica a determinadas épocas do ano, que são favoráveis,
ou não, à redução das concentrações de poluentes sobre determinadas áreas.
A direção e velocidade do vento são apresentadas em um gráfico circular
chamado rosa dos ventos que apresenta a freqüência combinada da direção do
vento associada com faixas de velocidades. A intensidade ou velocidade do vento é
indicada pela escala de cores, enquanto que os círculos concêntricos representam
as freqüências percentuais de ocorrência de ventos em cada direção. Portanto a
espessura de cada retângulo indica a freqüência com que o vento soprou com
aquela intensidade e naquela direção
São apresentadas nas figuras 6.4 a 6.6 o comportamento do vento, medido na
refinaria, ao longo de determinados períodos do ano de 2003.
Figura 6.4 – Rosa dos ventos ano 2003 – refinaria
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
59
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
Figura 6.5 – Rosa dos ventos primeiro semestre 2003 - refinaria
Figura 6.6 – Rosa dos ventos janeiro de 2003 - refinaria
As Figuras 6.7 a 6.10 apresentam as rosas dos ventos, referentes à média do
ano de 2003 para o período de 00:00 às 24:00h.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
60
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
Figura 6.7 Rosa dos ventos 00:00 – 06:00h
Figura 6.8 Rosa dos ventos 06:00 – 12:00h
Figura 6.9 Rosa dos ventos 12:00–18:00h
Figura 6.10 Rosa dos ventos 18:0 – 24:00h
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
61
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
As Figuras 6.11 e 6.12 mostram a comparação e a correlação entre a velocidade
média horária anual dos ventos ao longo do dia medidos na estação de Madre de
Deus e na estação da refinaria no ano de 2003. Observa-se que a estação medidora
de vento na área da refinaria, por estar muito próximo da zona costeira da Baía de
Todos nos Santos, apresentou velocidade de ventos de maior intensidade do que
aquelas medidas na estação de Madre de Deus, a qual está localizada no centro do
município. Estes dois efeitos diferenciados podem interferir na dispersão de SO2 na
atmosfera entre a fonte (refinaria) e o receptor urbano (Madre de Deus).
7
Velocidade, ms -1
6
5
4
3
2
1
0
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24
Hora
MDEUS
RLAM
Figura 6.11 - Comparação entre a velocidade horária anual dos ventos ao longo do dia medidos
na estação de Madre de Deus e na estação da refinaria para 2003
Velocidade do vento na estação da refinaria
em ms-1
7
6
5
4
3
2
1,0
1,5
Velociade do vento na estação de Madre de Deus em ms
2,0
-1
Figura 6.12 – Correlação entre velocidade do vento em Madre de Deus e na refinaria em 2003
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
62
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
6.3 Resultados Experimentais da Concentração de SO2.
Na Tabela 6.4 podemos observar o resumo dos dados das concentrações
mensais de SO2 medidas na estação de Madre de Deus. A manutenção dos
equipamentos, bem como, a calibração dos mesmos influenciou no número de
dados disponibilizados. Os valores variaram de 0,10 a 41,72 µgm-3.
Tabela 6.4 – Dados Mensais Experimentais de SO2
DADOS MEDIDOS DE SO2 EM MADRE DE DEUS
MÉDIA
DESVPAD MEDIANA
Máximo
Meses
N
6.08
janeiro
31
7.94
7.06
23.92
fevereiro
18
2.13
2.33
1.32
8.86
março
26
2.14
1.84
1.27
5.99
abril
14
2.55
2.99
1.09
10.78
maio
13
2.18
1.94
1.50
5.82
junho
15
0.96
0.55
0.74
2.04
julho
5
1.15
0.64
1.18
2.11
agosto
11
2.45
2.59
1.75
9.52
setembro
7
1.90
2.68
1.05
7.83
outubro
9
4.14
4.20
1.74
11.87
novembro
14
6.58
10.58
3.43
41.72
SEM DADOS
dezembro
ANO 2003
163
3.65
5.08
1.73
41.72
N = Tamanho da amostra
MÉDIA= Média Aritmética
DESVPAD= Desvio padrão
Mínimo
0.25
0.18
0.10
0.11
0.17
0.31
0.38
0.46
0.10
0.19
0.46
0.10
As Tabelas A.1 a A.12, no apêndice, além de mostrarem os dados calculados
pelo modelo e os medidos experimentalmente de concentração de SO2 mostram
ainda dados experimentais de precipitação pluviométrica na estação da refinaria e
para as duas estações os valores de direção dos ventos e sua freqüência,
velocidade dos ventos e percentual de calmaria (ventos abaixo de 0,5 ms-1).
6.4 Cálculo das Concentrações de SO2
Concentrações Calculadas e Medidas
e
Análise
Comparativa
das
Com objetivo de comparar os resultados da simulação das concentrações de SO2
com o modelo ISCST3, realizaram-se correlações lineares entre as amostras de
concentrações de SO2 calculadas e medidas em Madre de Deus, especificamente
nas coordenadas de localização da estação de monitoramento da qualidade do ar.
Na Tabela 6.5 podemos observar o resumo dos dados das concentrações
mensais de SO2 calculadas pelo ISCST3 para as coordenadas da estação de Madre
de Deus. Os valores variaram de 0,01 a 25,25 µgm-3.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
63
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
Tabela 6.5 – Dados Mensais Calculados de SO2
DADOS CALCULADOS DE SO2 EM MADRE DE DEUS
MÉDIA
DESVPAD MEDIANA MÁXIMO
Meses
N
janeiro
31
7.11
4.11
7.01
13.93
fevereiro
18
5.50
3.49
4.61
14.03
março
26
6.43
4.93
5.22
17.69
abril
14
3.00
3.47
1.91
12.74
maio
13
3.07
3.43
1.66
10.44
junho
15
1.79
1.07
2.07
3.77
julho
5
1.31
0.53
1.07
2.21
agosto
11
2.63
3.26
1.14
9.99
setembro
7
1.88
2.33
1.00
6.55
outubro
9
2.32
2.06
1.88
5.88
novembro
14
6.97
6.45
5.51
25.25
SEM DADOS
dezembro
ANO 2003
163
4.68
4.38
3.22
25.25
N = Tamanho da amostra
MÉDIA= Média Aritmética
DESVPAD= Desvio padrão
MÍNIMO
0.50
1.17
0.09
0.09
0.09
0.09
0.92
0.17
0.01
0.24
1.13
0.01
Os resultados encontrados através da modelagem matemática consideraram um
conjunto de variáveis micrometeorológicas que representam o transporte e a
dispersão do SO2 na atmosfera entre as fontes de emissão na refinaria e o local de
medição das concentrações em Madre de Deus. A dinâmica da atmosfera reúne um
conjunto enorme de fatores meteorológicos que atuam em diversas escalas do
movimento, influenciando na diferença entre os valores medidos e os calculados
pelo modelo, uma vez que o número de variáveis meteorológicas usadas no arquivo
meteorológico da modelagem é limitado. Podemos citar os campos de ventos não
uniformes como exemplo, além do fato do modelo ISCST3 não considerar no cálculo
da concentração a remoção dos poluentes causada pela chuva, o que explicaria a
concentração calculada em alguns casos ser bastante diferente da observada. Outro
fator relevante é a possibilidade de erro de natureza instrumental ou contaminação
próxima a estação de Madre de Deus, causada por outras fontes de emissões de
SO2, como por exemplo, as veiculares. Outras possíveis fontes de erro que podem
ter contribuído para estas discrepâncias são as imprecisões nas estimativas das
fontes e o fato de serem usadas médias anuais, além disso, variações pontuais nos
processos operacionais da refinaria não são consideradas na modelagem. Isto leva
a uma diferença expressiva, em alguns casos, entre os valores medidos e os
calculados.
Outro fator que poderia ter influência na discrepância dos dados é a limitação do
modelo ISCST3 para uso em regiões costeiras, no entanto, o trabalho de Brian and
Vijay (1993) mostrou que resultados de simulação obtidos pelo ISCST3 e o OCD
apresentaram um coeficiente de correlação de 0,87. Esse resultado mostrou que o
ISCST3 também pode ser aplicado em regiões sob influências de regimes climáticos
costeiros e continentais.
Segundo informações fornecidas pela refinaria, durante o ano de 2003 o plano de
calibração dos monitores das estações de monitoramento da qualidade do ar sofreu
diversos processos de descontinuidade, sendo este o principal motivo para não
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
64
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
termos os 365 dias do ano de medições de dados disponíveis. O outro fator a ser
considerado é o possível impacto causado por outra fonte de emissão de SO2
próximo a estação Madre de Deus. Além disso, variações pontuais nos processos
operacionais da refinaria, como partidas, paradas e/ou descontrole operacional não
são consideradas na modelagem, que leva em conta apenas as taxas médias de
emissão de SO2 calculadas a partir do inventário anual da refinaria.
Essas entre outras hipóteses são verificadas na comparação entre as duas séries
na remoção dos valores discrepantes. Para a identificação de pares de dados
considerados discrepantes foi adotada a seguinte metodologia:
•
Cálculo da relação entre o maior valor de concentração de SO2 sobre o
menor para cada par de dados. Quando essa relação é maior que três o
par é analisado para verificar a sua discrepância.
A retirada ou manutenção dos pontos considerados discrepantes levou em
conta a análise desses critérios além da análise das condições meteorológicas como
velocidade e direção do vento, ocorrência de chuva e outros fatores pontuais de
relevância.
6.4.1 Análise comparativa de janeiro
Na análise dos dados do mês de janeiro foram utilizados os 31 pares de
dados disponíveis, apresentados na Tabela A.1. Os dados de concentração de SO2
experimental e os calculados pelo modelo são apresentados nas Figuras A.1 e A.2,
na forma gráfica de histogramas, os quais obedecem a uma distribuição similar a
normal. A partir dos pares de dados de SO2, elaborou-se a correlação linear entre os
valores medidos e os calculados, apresentados na Figura 6.13, onde se observa um
espalhamento entre os pares de dados, refletido no baixo coeficiente de correlação
R2, igual a 0,0023, e na correlação R igual a 0,0484.
Conc. de SO 2 medida, µgm -3
25
20
15
10
5
0
0
5
10
15
20
25
Concentração de SO2 calculada (ISCST3), µgm -3
Figura 6.13 - Primeira correlação entre as concentrações de
SO2, calculada e medida, em Madre de Deus - Janeiro de 2003
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
65
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
Para uma melhor avaliação destes pares de dados foi calculado o erro,
considerando o resultado do valor calculado menos o valor medido, cujos resultados
estão representados no gráfico da figura 6.14.
13
8
30
27
24
21
18
15
12
9
6
3
-2
0
ERRO
3
-7
-12
-17
DIA
Figura 6.14 – Gráfico do erro (valor calculado menos o valor medido) da
concentração de SO2, em Madre de Deus - Janeiro de 2003
Analisando os pares de pares dentro dos critérios estabelecidos no item 6.4, foram
identificados os seguintes dias com dados duvidosos:
•
03 de janeiro - O valor medido na estação (2,87 µgm-3) foi 4,9 vezes menor
que o valor calculado pelo modelo ISCST3 (13,93 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
430 (Norte – Nordeste), com uma velocidade média de 4,3 ms-1. Na estação
de Madre de Deus a direção predominante do vento era de 810 (Leste –
Nordeste), com velocidade média de 1,7 ms-1. Isto significa que a estação em
Madre de Deus estava recebendo contribuição de ar limpo da BTS o que
contribuiria para a redução das concentrações de poluente no local. Para
avaliar esta discrepância estimou-se a concentração usando os dados
meteorológicos medidos na estação de Madre de Deus, que resultou numa
concentração média de 3,0 µgm-3. Podemos observar que o regime
diferenciado de vento na região influenciou consideravelmente a dispersão de
poluentes no local implicando na distorção do valor calculado pelo modelo em
relação ao medido. Este par de dados foi removido.
•
06 de janeiro - O valor medido na estação (12,89 µgm-3) foi 3,8 vezes maior
que o valor calculado pelo modelo ISCST3 (3,35 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
300 (Norte – Nordeste), com uma velocidade média de 3,9 ms-1. Na estação
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
66
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
de Madre de Deus a direção predominante do vento era de 500 (Nordeste),
com velocidade média de 1,7 ms-1. Isto significa que a estação em Madre de
Deus estava recebendo contribuição de ar limpo da BTS o que contribuiria
para a redução das concentrações de poluente no local.Para avaliar esta
discrepância estimou-se a concentração usando os dados meteorológicos
medidos na estação de Madre de Deus, que resultou numa concentração
média de 1,17 µgm-3. Diante disso como a concentração medida foi
extremamente elevada em relação à estimada, com duas situações de vento
diferentes, deduziu-se que algum fator localizado na estação deve ter
ocorrido, como por exemplo, emissões de veículos. Concluiu-se então pela
remoção deste par.
•
08 de janeiro - O valor medido na estação (16,87 µgm-3) foi 33,6 vezes maior
que o valor calculado pelo modelo ISCST3 (0,50 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
670 (Leste – Nordeste), com uma velocidade média de 4,3 ms-1. Na estação
de Madre de Deus a direção predominante do vento era de 1050 (Leste –
Sudeste), com velocidade média de 1,6 ms-1. Isto significa que a estação em
Madre de Deus estava recebendo contribuição de ar limpo da BTS o que
contribuiria para a redução das concentrações de poluente no local.Para
avaliar esta discrepância estimou-se a concentração usando os dados
meteorológicos medidos na estação de Madre de Deus, que resultou numa
concentração média de 1,14 µgm-3. Diante disso como a concentração
medida foi extremamente elevada em relação à estimada, com duas
situações de vento diferentes, deduziu-se que algum fator localizado na
estação deve ter ocorrido, como por exemplo, emissões de veículos.
Concluiu-se então pela remoção deste par.
•
09 de janeiro - O valor medido na estação (0,94 µgm-3) foi 8,6 vezes menor
que o valor calculado pelo modelo ISCST3 (8,07 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
830 (Leste – Nordeste), com uma velocidade média de 4,2 ms-1. Na estação
de Madre de Deus a direção predominante do vento era de 1270 (Leste –
Sudeste), com velocidade média de 1,4 ms-1. Isto significa que a estação em
Madre de Deus estava recebendo contribuição de ar limpo da BTS o que
contribuiria para a redução das concentrações de poluente no local.Para
avaliar esta discrepância estimou-se a concentração usando os dados
meteorológicos medidos na estação de Madre de Deus, que resultou numa
concentração média de 0,0 µgm-3. Podemos observar que o regime
diferenciado de vento na região influenciou consideravelmente a dispersão de
poluentes no local implicando na distorção do valor calculado pelo modelo em
relação ao medido. Concluiu-se então pela remoção deste par.
•
11 de janeiro - O valor medido na estação (12,60 µgm-3) foi 8,8 vezes maior
que o valor calculado pelo modelo ISCST3 (1,44 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
67
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
verificou-se que na refinaria o vento soprava com direção predominante de
300 (Norte – Nordeste), com uma velocidade média de 3,7 ms-1. Na estação
de Madre de Deus a direção predominante do vento era de 660 (Nordeste),
com velocidade média de 1,7 ms-1.Para avaliar esta discrepância estimou-se
a concentração usando os dados meteorológicos medidos na estação de
Madre de Deus, que resultou numa concentração média de 5,83 µgm-3.
Diante disso como a concentração medida foi elevada em relação à estimada,
com duas situações de vento diferentes, deduziu-se que algum fator
localizado na estação deve ter ocorrido, como por exemplo, emissões de
veículos ou erro de natureza instrumental de medição. Também podem ter
influenciado partidas e paradas de plantas que podem ter ocasionando algum
pico de concentração. Concluiu-se então pela remoção deste par.
•
14 de janeiro - O valor medido na estação (23,92 µgm-3) foi 3,4 vezes maior
que o valor calculado pelo modelo ISCST3 (7,01 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
370 (Norte – Nordeste), com uma velocidade média de 4,7 ms-1. Na estação
de Madre de Deus a direção predominante do vento era de 790 (Leste Nordeste), com velocidade média de 2,0 ms-1. Para avaliar esta discrepância
estimou-se a concentração usando os dados meteorológicos medidos na
estação de Madre de Deus, que resultou numa concentração média de 14,78
µgm-3. Diante disso como a concentração medida foi elevada em relação à
estimada, com duas situações de vento diferentes, deduziu-se que algum
fator localizado na estação deve ter ocorrido, como por exemplo, emissões de
veículos ou erro de natureza instrumental de medição. Também podem ter
influenciado partidas e paradas de plantas que podem ter ocasionando algum
pico de concentração. Concluiu-se então pela remoção deste par.
•
17 de janeiro - O valor medido na estação (1,54 µgm-3) foi 9 vezes menor que
o valor calculado pelo modelo ISCST3 (13,78 µgm-3). Analisando as direções
de vento medidas nas estações de Madre de Deus e da refinaria não se
encontrou nenhuma discrepância. Para avaliar esta diferença estimou-se a
concentração usando os dados meteorológicos medidos na estação de Madre
de Deus, que resultou numa concentração média de 1,68 µgm-3. Podemos
observar que o regime diferenciado de vento na região influenciou
consideravelmente a dispersão de poluentes no local implicando na distorção
do valor calculado pelo modelo em relação ao medido. Concluiu-se então pela
remoção deste par.
•
24 de janeiro - O valor medido na estação (1,03 µgm-3) foi 6,7 vezes menor
que o valor calculado pelo modelo ISCST3 (6,97 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
960 (Leste – Sudeste), com uma velocidade média de 5,0 ms-1. Na estação de
Madre de Deus a direção predominante do vento era de 1330 (Leste –
Sudeste), com velocidade média de 1,8 ms-1. Isto significa que a estação em
Madre de Deus estava recebendo contribuição de ar limpo da BTS o que
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
68
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
contribuiria para a redução das concentrações de poluente no local.Para
avaliar esta discrepância estimou-se a concentração usando os dados
meteorológicos medidos na estação de Madre de Deus, que resultou numa
concentração média de 0,0 µgm-3. Podemos observar que o regime
diferenciado de vento na região influenciou consideravelmente a dispersão de
poluentes no local implicando na distorção do valor calculado pelo modelo em
relação ao medido. Concluiu-se então pela remoção deste par de valores.
•
25 de janeiro - O valor medido na estação (0,25 µgm-3) foi 8,9 vezes menor
que o valor calculado pelo modelo ISCST3 (2,24 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
1070 (Leste), com uma velocidade média de 4,7 ms-1. Na estação de Madre
de Deus a direção predominante do vento era de 1570 (Sul – Sudeste), com
velocidade média de 1,8 ms-1. Isto significa que a estação em Madre de Deus
estava recebendo contribuição de ar limpo da BTS o que contribuiria para a
redução das concentrações de poluente no local. Para avaliar esta
discrepância estimou-se a concentração usando os dados meteorológicos
medidos na estação de Madre de Deus, que resultou numa concentração
média de 0,0 µgm-3. Podemos observar que o regime diferenciado de vento
na região influenciou consideravelmente a dispersão de poluentes no local
implicando na distorção do valor calculado pelo modelo em relação ao
medido. Concluiu-se então pela remoção deste par.
•
26 de janeiro - O valor medido na estação (1,34 µgm-3) foi 8,5 vezes menor
que o valor calculado pelo modelo ISCST3 (11,31 µgm-3). Neste dia registrouse a ocorrência de precipitação pluviométrica. Analisando as direções de
vento medidas nas estações de Madre de Deus e da refinaria verificou-se que
na refinaria o vento soprava com direção predominante de 830 (Leste Nordeste), com uma velocidade média de 3,6 ms-1. Na estação de Madre de
Deus a direção predominante do vento era de 1300 (Leste – Sudeste), com
velocidade média de 1,7 ms-1. Isto significa que a estação em Madre de Deus
estava recebendo contribuição de ar limpo da BTS o que contribuiria para a
redução das concentrações de poluente no local, além da remoção dos
mesmos pela chuva. Concluiu-se então pela remoção deste par.
•
31 de janeiro - O valor medido na estação (0,41 µgm-3) foi 5,7 vezes menor
que o valor calculado pelo modelo ISCST3 (2,33 µgm-3). Neste dia registrouse a ocorrência de precipitação pluviométrica. Analisando as direções de
vento medidas nas estações de Madre de Deus e da refinaria verificou-se que
na refinaria o vento soprava com direção predominante de 820 (Leste Nordeste), com uma velocidade média de 4,9 ms-1. Na estação de Madre de
Deus a direção predominante do vento era de 1200 (Leste – Sudeste), com
velocidade média de 1,8 ms-1. Isto significa que a estação em Madre de Deus
estava recebendo contribuição de ar limpo da BTS o que contribui para a
redução das concentrações de poluente no local, além da remoção dos
mesmos pela chuva.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
69
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
A partir da remoção dos pares de dados de SO2, identificados acima,
elaborou-se uma nova correlação linear entre os valores medidos e os calculados,
apresentados no gráfico da Figura 6.15, onde se observa um R2 igual a 0,1015, e um
R igual a 0,3186.
Conc. de SO 2 medida, µgm -3
22
18
14
10
6
2
2
6
10
14
18
22
Concentração de SO2 calculada (ISCST3), µgm
-3
Figura 6.15 – Segunda correlação entre as concentrações de
SO2, calculada e medida, em Madre de Deus - Janeiro de 2003
Com o objetivo de avaliar melhor a correlação entre os dados realizou-se a
análise de paridade entre os valores medidos e os calculados apresentados na
Figura 6.16.
25
Conc. de SO 2 (µgm -3)
20
15
10
5
0
1
3
5
7
9
11
13
15
17
19
Núm ero de pares de dados
ISCT3
MEDIDA
Figura 6.16 – Comparação entre as concentrações de SO2, calculada e
medida, em Madre de Deus – sem os outliers - Janeiro de 2003
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
70
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
6.4.2 Análise comparativa de fevereiro
Conc. de SO 2 medida, µgm
-3
Na análise do mês de fevereiro foram utilizados os 18 pares de dados
disponíveis, apresentados na Tabela A.2. Os dados de concentração de SO2
experimental e calculado são apresentados na forma de histogramas, conforme
mostrado nas Figuras A.3 e A.4, tendo uma distribuição próxima da normal. A partir
dos pares de dados de SO2, elaborou-se a correlação linear entre os valores
medidos e os calculados, apresentados na Figura 6.17, onde se observa um
espalhamento entre os pares de dados, refletido no baixo coeficiente de correlação,
R2 igual a 0,0144, e na correlação R igual a 0,1200.
15
14
13
12
11
10
9
8
7
6
5
4
3
2
1
0
0
1
2
3
4
5
6
7
8
9
10 11 12 13 14 15
Concentração de SO2 calculada (ISCST3), µgm -3
Figura 6.17 – Primeira correlação entre as concentrações de
SO2, calculada e medida, em Madre de Deus - Fevereiro de 2003
Para uma melhor avaliação destes pares de dados foi calculado o erro,
considerando o resultado do valor calculado menos o valor medido, cujos resultados
estão representados no gráfico da figura 6.18.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
71
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
13
11
9
ERRO
7
5
3
1
28
24
20
16
12
8
4
0
-1
-3
-5
-7
DIA
Figura 6.18 – Gráfico do erro (valor calculado menos o valor medido) da
concentração de SO2, em Madre de Deus - Fevereiro de 2003
Analisando os pares de pares dentro dos critérios estabelecidos no item 6.4,
foram identificados os seguintes dias com dados duvidosos:
•
10 de fevereiro - O valor medido na estação (0,18 µgm-3) foi 12,5 vezes menor
que o valor calculado pelo modelo ISCST3 (2,26µgm-3). Neste dia registrou-se
a ocorrência de precipitação pluviométrica. Analisando as direções de vento
medidas nas estações de Madre de Deus e da refinaria verificou-se que na
refinaria o vento soprava com direção predominante de 940 (Leste), com uma
velocidade média de 5,1 ms-1. Na estação de Madre de Deus a direção
predominante do vento era de 1340 (Leste – Sudeste), com velocidade média
de 1,7 ms-1. Isto significa que a estação em Madre de Deus estava recebendo
contribuição de ar limpo da BTS o que contribuiria para a redução das
concentrações de poluente no local, além da remoção dos mesmos pela
chuva. Concluiu-se então pela remoção deste par de valores.
•
06 de fevereiro - O valor medido na estação (0,38 µgm-3) foi 12,4 vezes menor
que o valor calculado pelo modelo ISCST3 (4,66 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
960 (Leste), com uma velocidade média de 4,5 ms-1. Na estação de Madre de
Deus a direção predominante do vento era de 1300 (Leste – Sudeste), com
velocidade média de 1,7 ms-1. Isto significa que a estação em Madre de Deus
estava recebendo contribuição de ar limpo da BTS o que contribuiria para a
redução das concentrações de poluente no local. Para avaliar esta
discrepância estimou-se a concentração usando os dados meteorológicos
medidos na estação de Madre de Deus, que resultou numa concentração
média de 0,0 µgm-3. Podemos observar que o regime diferenciado de vento
na região influenciou consideravelmente a dispersão de poluentes no local
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
72
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
implicando na distorção do valor calculado pelo modelo em relação ao
medido. Concluiu-se então pela remoção deste par de valores.
•
07 de fevereiro - O valor medido na estação (1,34 µgm-3) foi 3,9 vezes menor
que o valor calculado pelo modelo ISCST3 (5,21 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
850 (Leste – Nordeste), com uma velocidade média de 5,0 ms-1. Na estação
de Madre de Deus a direção predominante do vento era de 1190 (Leste –
Sudeste), com velocidade média de 1,5 ms-1. Isto significa que a estação em
Madre de Deus estava recebendo contribuição de ar limpo da BTS o que
contribuiria para a redução das concentrações de poluente no local. Para
avaliar esta discrepância estimou-se a concentração usando os dados
meteorológicos medidos na estação de Madre de Deus, que resultou numa
concentração média de 0,46 µgm-3. Concluiu-se então pela remoção deste
par de valores.
•
11 de fevereiro - O valor medido na estação (0,68 µgm-3) foi 4,8 vezes menor
que o valor calculado pelo modelo ISCST3 (3,26 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
810 (Leste – Nordeste), com uma velocidade média de 4,1 ms-1. Na estação
de Madre de Deus a direção predominante do vento era de 1220 (Leste –
Sudeste), com velocidade média de 1,7 ms-1. Isto significa que a estação em
Madre de Deus estava recebendo contribuição de ar limpo da BTS o que
contribuiria para a redução das concentrações de poluente no local. Para
avaliar esta discrepância estimou-se a concentração usando os dados
meteorológicos medidos na estação de Madre de Deus, que resultou numa
concentração média de 0,00 µgm-3. Concluiu-se então pela remoção deste
par de valores.
•
14 de fevereiro - O valor medido na estação (1,29 µgm-3) foi 8,6 vezes menor
que o valor calculado pelo modelo ISCST3 (11,12 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
820 (Leste – Nordeste), com uma velocidade média de 4,1 ms-1. Na estação
de Madre de Deus a direção predominante do vento era de 1120 (Leste –
Sudeste), com velocidade média de 1,6 ms-1. Isto significa que a estação em
Madre de Deus estava recebendo contribuição de ar limpo da BTS o que
contribuiria para a redução das concentrações de poluente no local. Para
avaliar esta discrepância estimou-se a concentração usando os dados
meteorológicos medidos na estação de Madre de Deus, que resultou numa
concentração média de 0,99 µgm-3. Podemos observar que o regime
diferenciado de vento na região influenciou consideravelmente a dispersão de
poluentes no local implicando na distorção do valor calculado pelo modelo em
relação ao medido. Concluiu-se então pela remoção deste par de valores.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
73
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
•
15 de fevereiro - O valor medido na estação (0,46 µgm-3) foi 9,9 vezes menor
que o valor calculado pelo modelo ISCST3 (4,56 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
930 (Leste), com uma velocidade média de 4,2 ms-1. Na estação de Madre de
Deus a direção predominante do vento era de 1310 (Leste – Sudeste), com
velocidade média de 1,8 ms-1. Isto significa que a estação em Madre de Deus
estava recebendo contribuição de ar limpo da BTS o que contribuiria para a
redução das concentrações de poluente no local. Para avaliar esta
discrepância estimou-se a concentração usando os dados meteorológicos
medidos na estação de Madre de Deus, que resultou numa concentração
média de 0,0 µgm-3. Podemos observar que o regime diferenciado de vento
na região influenciou consideravelmente a dispersão de poluentes no local
implicando na distorção do valor calculado pelo modelo em relação ao
medido. Concluiu-se então pela remoção deste par de valores.
•
16 de fevereiro - O valor medido na estação (0,33 µgm-3) foi 42,5 vezes menor
que o valor calculado pelo modelo ISCST3 (14,03 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
940 (Leste), com uma velocidade média de 4,3 ms-1. Na estação de Madre de
Deus a direção predominante do vento era de 1280 (Leste – Sudeste), com
velocidade média de 1,7 ms-1. Isto significa que a estação em Madre de Deus
estava recebendo contribuição de ar limpo da BTS o que contribuiria para a
redução das concentrações de poluente no local. Para avaliar esta
discrepância estimou-se a concentração usando os dados meteorológicos
medidos na estação de Madre de Deus, que resultou numa concentração
média de 0,44 µgm-3. Podemos observar que o regime diferenciado de vento
na região influenciou consideravelmente a dispersão de poluentes no local
implicando na distorção do valor calculado pelo modelo em relação ao
medido. Concluiu-se então pela remoção deste par de valores.
•
17 de fevereiro - O valor medido na estação (2,40 µgm-3) foi 3,2 vezes menor
que o valor calculado pelo modelo ISCST3 (7,61 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
700 (Leste – Nordeste), com uma velocidade média de 4,0 ms-1. Na estação
de Madre de Deus a direção predominante do vento era de 1190 (Leste –
Sudeste), com velocidade média de 1,6 ms-1. Isto significa que a estação em
Madre de Deus estava recebendo contribuição de ar limpo da BTS o que
contribuiria para a redução das concentrações de poluente no local. Para
avaliar esta discrepância estimou-se a concentração usando os dados
meteorológicos medidos na estação de Madre de Deus, que resultou numa
concentração média de 0,0 µgm-3. Concluiu-se então pela remoção deste par
de valores.
•
20 de fevereiro - O valor medido na estação (0,38 µgm-3) foi 24 vezes menor
que o valor calculado pelo modelo ISCST3 (9,25 µgm-3). Analisando as
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
74
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
850 (Leste), com uma velocidade média de 4,7 ms-1. Na estação de Madre de
Deus a direção predominante do vento era de 1280 (Leste – Sudeste), com
velocidade média de 1,8 ms-1. Isto significa que a estação em Madre de Deus
estava recebendo contribuição de ar limpo da BTS o que contribuiria para a
redução das concentrações de poluente no local. Para avaliar esta
discrepância estimou-se a concentração usando os dados meteorológicos
medidos na estação de Madre de Deus, que resultou numa concentração
média de 0,0 µgm-3. Podemos observar que o regime diferenciado de vento
na região influenciou consideravelmente a dispersão de poluentes no local
implicando na distorção do valor calculado pelo modelo em relação ao
medido. Concluiu-se então pela remoção deste par de valores.
•
24 de fevereiro - O valor medido na estação (1,64 µgm-3) foi 3,4 vezes menor
que o valor calculado pelo modelo ISCST3 (5,54 µgm-3). Neste dia registrouse a ocorrência de precipitação pluviométrica. Analisando as direções de
vento medidas nas estações de Madre de Deus e da refinaria verificou-se que
na refinaria o vento soprava com direção predominante de 540 (Nordeste),
com uma velocidade média de 3,0 ms-1. Na estação de Madre de Deus a
direção predominante do vento era de 880 (Leste - Nordeste), com velocidade
média de 1,1 ms-1. Como a principal influência foi a chuva concluiu-se então
pela remoção deste par de valores.
•
25 de fevereiro - O valor medido na estação (0,48 µgm-3) foi 3,1 vezes menor
que o valor calculado pelo modelo ISCST3 (1,48 µgm-3). Neste dia registrouse a ocorrência de precipitação pluviométrica. Analisando as direções de
vento medidas nas estações de Madre de Deus e da refinaria verificou-se que
na refinaria o vento soprava com direção predominante de 950 (Leste Sudeste), com uma velocidade média de 4,4 ms-1. Na estação de Madre de
Deus a direção predominante do vento era de 1180 (Leste - Sudeste), com
velocidade média de 1,3 ms-1. Isto significa que a estação em Madre de Deus
estava recebendo contribuição de ar limpo da BTS o que contribuiria para a
redução das concentrações de poluente no local, além da remoção dos
mesmos pela chuva. Concluiu-se então pela remoção deste par de valores.
•
27 de fevereiro - O valor medido na estação (8,86 µgm-3) foi 3,8 vezes maior
que o valor calculado pelo modelo ISCST3 (2,35 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
740 (Leste – Nordeste), com uma velocidade média de 3,7 ms-1. Na estação
de Madre de Deus a direção predominante do vento era de 1250 (Leste –
Sudeste), com velocidade média de 1,6 ms-1. Isto significa que a estação em
Madre de Deus estava recebendo contribuição de ar limpo da BTS o que
contribuiria para a redução das concentrações de poluente no local. Para
avaliar esta discrepância estimou-se a concentração usando os dados
meteorológicos medidos na estação de Madre de Deus, que resultou numa
concentração média de 0,50 µgm-3. Diante disso como a concentração
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
75
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
medida foi maior em relação à estimada, com duas situações de vento
diferentes, deduziu-se que algum fator localizado na estação deve ter
ocorrido, como por exemplo, emissões de veículos. Concluiu-se então pela
remoção deste par de valores.
A partir da remoção dos pares de dados de SO2, identificados acima,
elaborou-se uma nova correlação linear entre os valores medidos e os calculados,
apresentados no gráfico da Figura 6.19, onde se observa um R2 igual a 0,5204, e um
R igual a 0,7214.
9
Conc. de SO 2 medida, µgm -3
8
7
6
5
4
3
2
1
0
0
1
2
3
4
5
6
7
8
9
Concentração de SO2 calculada (ISCST3), µgm -3
Figura 6.19 – Segunda correlação entre as concentrações de
SO2, calculada e medida, em Madre de Deus - Fevereiro de 2003
Com o objetivo de avaliar melhor a correlação entre os dados realizou-se a
análise de paridade entre os valores medidos e os calculados apresentados na
Figura 6.20.
10
Conc. de SO 2 (µgm -3)
8
6
4
2
0
1
ISCT3
2
MEDIDA
3
4
5
6
Núm ero de pares de dados
Figura 6.20 – Comparação entre as concentrações de SO2, calculada e
Medida, em Madre de Deus – sem os outliers - Fevereiro de 2003.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
76
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
6.4.3 Análise comparativa de março
Na análise do mês de março foram utilizados os 26 pares de dados
disponíveis, apresentados na Tabela A.3. Os dados de concentração de SO2
experimental e calculado são apresentados na forma de histogramas, conforme
mostrado nas Figuras A.5 e A.6, tendo uma distribuição próxima da normal. A partir
dos pares de dados de SO2, elaborou-se a correlação linear entre os valores
medidos e os calculados, apresentados na Figura 6.21, onde se observa um
espalhamento entre os pares de dados, refletido no baixo coeficiente de correlação,
R2 igual a 0,4596, e na correlação R igual a 0,6779.
18
Conc. de SO 2 medida, µg/m 3
16
14
12
10
8
6
4
2
0
0
2
4
6
8
10
12
14
16
Concentração de SO2 calculada (ISCST3), µg/m
18
3
Figura 6.21 - Primeira correlação entre as concentrações de
SO2, calculada e medida, em Madre de Deus - Março de 2003
Para uma melhor avaliação destes pares de dados foi calculado o erro,
considerando o resultado do valor calculado menos o valor medido, cujos resultados
estão representados no gráfico da figura 6.22.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
77
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
14
12
10
ERRO
8
6
4
2
0
31
30
29
28
27
26
25
24
23
22
21
20
19
18
17
16
15
14
13
12
11
10
9
8
7
6
5
4
3
2
1
0
-2
DIA
Figura 6.22 – Gráfico do erro (valor calculado menos o valor medido) da
concentração de SO2, em Madre de Deus - Março de 2003
Analisando os pares de pares dentro dos critérios estabelecidos no item 6.4,
foram identificados os seguintes dias com dados duvidosos:
•
10 de março - O valor medido na estação (0,49 µgm-3) foi 11,2 vezes menor
que o valor calculado pelo modelo ISCST3 (5,52 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
740 (Leste - Nordeste), com uma velocidade média de 4,4 ms-1. Na estação
de Madre de Deus a direção predominante do vento era de 1120 (Leste –
Sudeste), com velocidade média de 1,7 ms-1. Isto significa que a estação em
Madre de Deus estava recebendo contribuição de ar limpo da BTS o que
contribuiria para a redução das concentrações de poluente no local. Para
avaliar esta discrepância estimou-se a concentração usando os dados
meteorológicos medidos na estação de Madre de Deus, que resultou numa
concentração média de 0,0 µgm-3. Podemos observar que o regime
diferenciado de vento na região influenciou consideravelmente a dispersão de
poluentes no local implicando na distorção do valor calculado pelo modelo em
relação ao medido. Concluiu-se então pela remoção deste par de valores.
•
04 de março - O valor medido na estação (1,18 µgm-3) foi 4,7 vezes menor
que o valor calculado pelo modelo ISCST3 (5,50 µgm-3). Neste dia registrouse a ocorrência de precipitação pluviométrica. Analisando as direções de
vento medidas nas estações de Madre de Deus e da refinaria verificou-se que
na refinaria o vento soprava com direção predominante de 830 (Leste –
Nordeste), com uma velocidade média de 4,2 ms-1. Na estação de Madre de
Deus a direção predominante do vento era de 1220 (Leste - Sudeste), com
velocidade média de 1,7 ms-1. Isto significa que a estação em Madre de Deus
estava recebendo contribuição de ar limpo da BTS o que contribuiria para a
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
78
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
redução das concentrações de poluente no local, além da remoção dos
mesmos pela chuva. Concluiu-se então pela remoção deste par de valores.
•
15 de março - O valor medido na estação (0,31 µgm-3) foi 14,8 vezes menor
que o valor calculado pelo modelo ISCST3 (4,52 µgm-3). Neste dia registrouse a ocorrência de precipitação pluviométrica. Analisando as direções de
vento medidas nas estações de Madre de Deus e da refinaria verificou-se que
na refinaria o vento soprava com direção predominante de 870 (Leste Nordeste), com uma velocidade média de 4,6 ms-1. Na estação de Madre de
Deus a direção predominante do vento era de 1200 (Leste – Sudeste), com
velocidade média de 1,6 ms-1. Isto significa que a estação em Madre de Deus
estava recebendo contribuição de ar limpo da BTS o que contribuiria para a
redução das concentrações de poluente no local além da remoção dos
mesmos pela chuva. Concluiu-se então pela remoção deste par de valores.
•
16 de março - O valor medido na estação (4,19 µgm-3) foi 3,0 vezes menor
que o valor calculado pelo modelo ISCST3 (12,52 µgm-3). Neste dia registrouse a ocorrência de precipitação pluviométrica. Analisando as direções de
vento medidas nas estações de Madre de Deus e da refinaria verificou-se que
na refinaria o vento soprava com direção predominante de 810 (Leste Nordeste), com uma velocidade média de 3,3 ms-1. Na estação de Madre de
Deus a direção predominante do vento era de 1260 (Leste – Sudeste), com
velocidade média de 1,2 ms-1. Isto significa que a estação em Madre de Deus
estava recebendo contribuição de ar limpo da BTS o que contribuiria para a
redução das concentrações de poluente no local além da remoção dos
mesmos pela chuva. Concluiu-se então pela remoção deste par de valores.
•
18 de março - O valor medido na estação (3,37 µgm-3) foi 4,2 vezes menor
que o valor calculado pelo modelo ISCST3 (14,17 µgm-3). Neste dia registrouse a ocorrência de precipitação pluviométrica. Analisando as direções de
vento medidas nas estações de Madre de Deus e da refinaria verificou-se que
na refinaria o vento soprava com direção predominante de 500 (Nordeste),
com uma velocidade média de 2,9 ms-1. Na estação de Madre de Deus a
direção predominante do vento era de 700 (Leste – Nordeste), com velocidade
média de 1,2 ms-1. A diferença entre os valores se deve a remoção dos
mesmos pela chuva. Concluiu-se então pela remoção deste par de valores.
•
19 de março - O valor medido na estação (0,81 µgm-3) foi 6,6 vezes menor
que o valor calculado pelo modelo ISCST3 (5,36 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
750 (Leste – Nordeste), com uma velocidade média de 3,9 ms-1. Na estação
de Madre de Deus a direção predominante do vento era de 1190 (Leste Sudeste), com velocidade média de 1,6 ms-1. Isto significa que a estação em
Madre de Deus estava recebendo contribuição de ar limpo da BTS o que
contribuiria para a redução das concentrações de poluente no local. Para
avaliar esta discrepância estimou-se a concentração usando os dados
meteorológicos medidos na estação de Madre de Deus, que resultou numa
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
79
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
concentração média de 0,00 µgm-3. Concluiu-se então pela remoção deste
par de valores.
•
20 de março - O valor medido na estação (1,30 µgm-3) foi 6,6 vezes menor
que o valor calculado pelo modelo ISCST3 (8,59 µgm-3). Neste dia registrouse a ocorrência de precipitação pluviométrica. Analisando as direções de
vento medidas nas estações de Madre de Deus e da refinaria verificou-se que
na refinaria o vento soprava com direção predominante de 600 (Nordeste),
com uma velocidade média de 3,0 ms-1. Na estação de Madre de Deus a
direção predominante do vento era de 1110 (Leste), com velocidade média de
1,1 ms-1. Isto significa que a estação em Madre de Deus estava recebendo
contribuição de ar limpo da BTS o que contribuiria para a redução das
concentrações de poluente no local além da remoção dos mesmos pela
chuva. Concluiu-se então pela remoção deste par de valores.
•
21 de março - O valor medido na estação (0,49 µgm-3) foi 26,8 vezes menor
que o valor calculado pelo modelo ISCST3 (13,16 µgm-3). Neste dia registrouse a ocorrência de precipitação pluviométrica. Analisando as direções de
vento medidas nas estações de Madre de Deus e da refinaria verificou-se que
na refinaria o vento soprava com direção predominante de 450 (Nordeste),
com uma velocidade média de 2,7 ms-1. Na estação de Madre de Deus a
direção predominante do vento era de 1090 (Leste), com velocidade média de
1,3 ms-1. Isto significa que a estação em Madre de Deus estava recebendo
contribuição de ar limpo da BTS o que contribuiria para a redução das
concentrações de poluente no local além da remoção dos mesmos pela
chuva. Concluiu-se então pela remoção deste par de valores.
•
22 de março - O valor medido na estação (4,48 µgm-3) foi 3,9 vezes menor
que o valor calculado pelo modelo ISCST3 (17,69 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
480 (Nordeste), com uma velocidade média de 3,3 ms-1. Na estação de Madre
de Deus a direção predominante do vento era de 840 (Leste – Nordeste), com
velocidade média de 1,4 ms-1. Isto significa que a estação em Madre de Deus
estava recebendo contribuição de ar limpo da BTS o que contribuiria para a
redução das concentrações de poluente no local. Para avaliar esta
discrepância estimou-se a concentração usando os dados meteorológicos
medidos na estação de Madre de Deus, que resultou numa concentração
média de 0,0 µgm-3. Podemos observar que o regime diferenciado de vento
na região influenciou consideravelmente a dispersão de poluentes no local
implicando na distorção do valor calculado pelo modelo em relação ao
medido. Concluiu-se então pela remoção deste par de valores.
•
25 de março - O valor medido na estação (0,10 µgm-3) foi 9,4 vezes menor
que o valor calculado pelo modelo ISCST3 (0,97 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
940 (Leste), com uma velocidade média de 4,4 ms-1. Na estação de Madre de
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
80
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
Deus a direção predominante do vento era de 1290 (Leste – Sudeste), com
velocidade média de 1,6 ms-1. Isto significa que a estação em Madre de Deus
estava recebendo contribuição de ar limpo da BTS o que contribuiria para a
redução das concentrações de poluente no local. Concluiu-se então pela
remoção deste par de valores.
•
26 de março - O valor medido na estação (0,74 µgm-3) foi 6,9 vezes menor
que o valor calculado pelo modelo ISCST3 (5,08 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
1180 (Leste - Sudeste), com uma velocidade média de 4,4 ms-1. Na estação
de Madre de Deus a direção predominante do vento era de 1520 (Sudeste),
com velocidade média de 1,8 ms-1. Isto significa que a estação em Madre de
Deus estava recebendo contribuição de ar limpo da BTS o que contribuiria
para a redução das concentrações de poluente no local. Concluiu-se então
pela remoção deste par de valores.
•
27 de março - O valor medido na estação (1,25 µgm-3) foi 3,1 vezes menor
que o valor calculado pelo modelo ISCST3 (3,85 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
1070 (Leste), com uma velocidade média de 4,4 ms-1. Na estação de Madre
de Deus a direção predominante do vento era de 1520 (Sudeste), com
velocidade média de 1,8 ms-1. Isto significa que a estação em Madre de Deus
estava recebendo contribuição de ar limpo da BTS o que contribuiria para a
redução das concentrações de poluente no local. Concluiu-se então pela
remoção deste par de valores.
•
28 de março - O valor medido na estação (0,65 µgm-3) foi 7,3 vezes maior que
o valor calculado pelo modelo ISCST3 (0,09 µgm-3). Neste dia registrou-se a
ocorrência de precipitação pluviométrica, apesar deste fato o valor medido foi
maior que o calculado. Pela análise das direções do vento o valor medido na
estação deveria ter sido menor, já que o vento medido na estação da refinaria
tinha direção predominante de 1150 e o vento medido na estação de Madre
de Deus tina direção predominante de 1680, ou seja, a estação de Madre de
Deus estava recebendo ar limpo da BTS o que contribuiria para reduzir a
poluição local, além da remoção de poluentes pela chuva. Deduz-se que
algum fator localizado na estação deve ter ocorrido, como por exemplo,
emissões de veículos ou erro de natureza instrumental de medição. Também
podem ter influenciado partidas e paradas de plantas que podem ter
ocasionando algum pico de concentração. Com esta análise concluiu-se pela
remoção deste par de valores.
•
30 de março - O valor medido na estação (0,21 µgm-3) foi 5 vezes menor que
o valor calculado pelo modelo ISCST3 (1,05 µgm-3). Neste dia registrou-se a
ocorrência de precipitação pluviométrica. Analisando as direções de vento
medidas nas estações de Madre de Deus e da refinaria verificou-se que na
refinaria o vento soprava com direção predominante de 1180 (Leste –
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
81
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
Sudeste), com uma velocidade média de 4,5 ms-1. Na estação de Madre de
Deus a direção predominante do vento era de 1540 (Sudeste), com velocidade
média de 1,8 ms-1. Isto significa que a estação em Madre de Deus estava
recebendo contribuição de ar limpo da BTS o que contribuiria para a redução
das concentrações de poluente no local além da remoção dos mesmos pela
chuva. Concluiu-se então pela remoção deste par de valores. A partir da
remoção dos pares de dados de SO2, identificados acima, elaborou-se uma
nova correlação linear entre os valores medidos e os calculados,
apresentados no gráfico da Figura 6.23, onde se observa um R2 igual a
0,8095, e um R igual a 0,8998.
14
Conc. de SO 2 medida, µgm -3
12
10
8
6
4
2
0
0
2
4
6
8
10
12
14
Concentração de SO2 calculada (ISCST3), µgm -3
Figura 6.23 – Segunda correlação entre as concentrações de
SO2, calculada e medida, em Madre de Deus - Março de 2003
Com o objetivo de avaliar melhor a correlação entre os dados realizou-se a
análise de paridade entre os valores medidos e os calculados apresentados na
Figura 6.24.
16
Conc. de SO 2 (µgm -3)
14
12
10
8
6
4
2
0
1
ISCT3
2
3
MEDIDA
4
5
6
7
8
9
10
11
12
Núm ero de pares de dados
Figura 6.24 – Comparação entre as concentrações de SO2, calculada e
Medida, em Madre de Deus – sem os outliers - Março de 2003.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
82
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
6.4.4 Análise comparativa de abril
Na análise do mês de abril foram utilizados os 14 pares de dados disponíveis,
apresentados na Tabela A.4. Os dados de concentração de SO2 experimental e
calculado são apresentados na forma de histogramas, conforme mostrado nas
Figuras A.7 e A.8, tendo uma distribuição próxima da normal. A partir dos pares de
dados de SO2, elaborou-se a correlação linear entre os valores medidos e os
calculados, apresentados na Figura 6.25, onde se observa um espalhamento entre
os pares de dados, refletido no baixo coeficiente de correlação, R2 igual a 0,0903, e
na correlação R igual a 0,3005.
Conc. de SO 2 medida, µg/m 3
12
10
8
6
4
2
0
0
2
4
6
8
10
12
Concentração de SO2 calculada (ISCST3), µg/m 3
Figura 6.25 – Primeira correlação entre as concentrações de
SO2, calculada e medida, em Madre de Deus - Abril de 2003
Para uma melhor avaliação destes pares de dados foi calculado o erro,
considerando o resultado do valor calculado menos o valor medido, cujos resultados
estão representados no gráfico da figura 6.26.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
83
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
13
11
9
7
ERRO
5
3
1
30
27
24
21
18
15
12
9
6
3
0
-1
-3
-5
-7
-9
-11
DIA
Figura 6.26 – Gráfico do erro (valor calculado menos o valor medido) da
concentração de SO2, em Madre de Deus - Abril de 2003
Analisando os pares de pares dentro dos critérios estabelecidos no item 6.4,
foram identificados os seguintes dias com dados duvidosos:
•
10 de abril - O valor medido na estação (0,11 µgm-3) foi 24,3 vezes menor que
o valor calculado pelo modelo ISCST3 (2,59 µgm-3). Analisando as direções
de vento medidas nas estações de Madre de Deus e da refinaria verificou-se
que na refinaria o vento soprava com direção predominante de 790 (Leste Nordeste), com uma velocidade média de 3,7 ms-1. Na estação de Madre de
Deus a direção predominante do vento era de 1350 (Sudeste), com velocidade
média de 1,5 ms-1. Isto significa que a estação em Madre de Deus estava
recebendo contribuição de ar limpo da BTS o que contribuiria para a redução
das concentrações de poluente no local. Para avaliar esta discrepância
estimou-se a concentração usando os dados meteorológicos medidos na
estação de Madre de Deus, que resultou numa concentração média de 0,0
µgm-3. Podemos observar que o regime diferenciado de vento na região
influenciou consideravelmente a dispersão de poluentes no local implicando
na distorção do valor calculado pelo modelo em relação ao medido. Concluiuse então pela remoção deste par de valores.
•
3 de abril - O valor medido na estação (0,47 µgm-3) foi 26,9 vezes menor que
o valor calculado pelo modelo ISCST3 (12,74 µgm-3). Analisando as direções
de vento medidas nas estações de Madre de Deus e da refinaria verificou-se
que na refinaria o vento soprava com direção predominante de 580
(Nordeste), com uma velocidade média de 3,4 ms-1. Na estação de Madre de
Deus a direção predominante do vento era de 1500 (Sudeste), com velocidade
média de 2,1 ms-1. Isto significa que a estação em Madre de Deus estava
recebendo contribuição de ar limpo da BTS o que contribuiria para a redução
das concentrações de poluente no local. Para avaliar esta discrepância
estimou-se a concentração usando os dados meteorológicos medidos na
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
84
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
estação de Madre de Deus, que resultou numa concentração média de 0,0
µgm-3. Podemos observar que o regime diferenciado de vento na região
influenciou consideravelmente a dispersão de poluentes no local implicando
na distorção do valor calculado pelo modelo em relação ao medido. Concluiuse então pela remoção deste par de valores.
•
04 de abril - O valor medido na estação (0,84 µgm-3) foi 9,4 vezes maior que o
valor calculado pelo modelo ISCST3 (0,09 µgm-3). Analisando as direções de
vento medidas nas estações de Madre de Deus e da refinaria verificou-se que
na refinaria o vento soprava com direção predominante de 1070 (Leste), com
uma velocidade média de 4,4 ms-1. Na estação de Madre de Deus a direção
predominante do vento era de 1440 (Sudeste), com velocidade média de 1,9
ms-1. Isto significa que a estação em Madre de Deus estava recebendo
contribuição de ar limpo da BTS o que contribuiria para a redução das
concentrações de poluente no local. Pela análise das direções do vento o
valor medido na estação deveria ter sido menor. Deduz-se que algum fator
localizado na estação deve ter ocorrido, como por exemplo, emissões de
veículos ou erro de natureza instrumental de medição. Também podem ter
influenciado partidas e paradas de plantas que podem ter ocasionando algum
pico de concentração. Com esta análise concluiu-se pela remoção deste par
de valores.
•
05 de abril - O valor medido na estação (10,78 µgm-3) foi 16,8 vezes maior
que o valor calculado pelo modelo ISCST3 (0,64 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
1040 (Leste), com uma velocidade média de 4,6 ms-1. Na estação de Madre
de Deus a direção predominante do vento era de 870 (Leste - Nordeste), com
velocidade média de 1,4 ms-1. Isto significa que a estação em Madre de Deus
estava recebendo contribuição de ar limpo da BTS o que contribuiria para a
redução das concentrações de poluente no local. Pela análise das direções
do vento o valor medido na estação deveria ter sido menor. Deduz-se que
algum fator localizado na estação deve ter ocorrido, como por exemplo,
emissões de veículos ou erro de natureza instrumental de medição. Também
podem ter influenciado partidas e paradas de plantas que podem ter
ocasionando algum pico de concentração. Com esta análise concluiu-se pela
remoção deste par de valores.
•
09 de abril - O valor medido na estação (1,08 µgm-3) foi 12,0 vezes maior que
o valor calculado pelo modelo ISCST3 (0,09 µgm-3). Analisando as direções
de vento medidas nas estações de Madre de Deus e da refinaria verificou-se
que na refinaria o vento soprava com direção predominante de 840 (Leste Nordeste), com uma velocidade média de 3,8 ms-1. Na estação de Madre de
Deus a direção predominante do vento era de 890 (Leste - Nordeste), com
velocidade média de 1,2 ms-1. Isto significa que a estação em Madre de Deus
estava recebendo contribuição de ar limpo da BTS o que contribuiria para a
redução das concentrações de poluente no local. Pela análise das direções
do vento o valor medido na estação deveria ter sido menor. Deduz-se que
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
85
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
algum fator localizado na estação deve ter ocorrido, como por exemplo,
emissões de veículos ou erro de natureza instrumental de medição. Também
podem ter influenciado partidas e paradas de plantas que podem ter
ocasionando algum pico de concentração. Com esta análise concluiu-se pela
remoção deste par de valores.
•
10 de abril - O valor medido na estação (3,97 µgm-3) foi 6,8 vezes maior que o
valor calculado pelo modelo ISCST3 (0,58 µgm-3). Analisando as direções de
vento medidas nas estações de Madre de Deus e da refinaria verificou-se que
na refinaria o vento soprava com direção predominante de 940 (Leste), com
uma velocidade média de 3,4 ms-1. Na estação de Madre de Deus a direção
predominante do vento era de 780 (Leste - Nordeste), com velocidade média
de 1,4 ms-1. Isto significa que a estação em Madre de Deus estava recebendo
contribuição de ar limpo da BTS o que contribuiria para a redução das
concentrações de poluente no local. Pela análise das direções do vento o
valor medido na estação deveria ter sido menor. Deduz-se que algum fator
localizado na estação deve ter ocorrido, como por exemplo, emissões de
veículos ou erro de natureza instrumental de medição. Também podem ter
influenciado partidas e paradas de plantas que podem ter ocasionando algum
pico de concentração. Com esta análise concluiu-se pela remoção deste par
de valores.
•
15 de abril - O valor medido na estação (1,10 µgm-3) foi 5,8 vezes menor que
o valor calculado pelo modelo ISCST3 (6,33 µgm-3). Neste dia registrou-se a
ocorrência de precipitação pluviométrica. Analisando as direções de vento
medidas nas estações de Madre de Deus e da refinaria verificou-se que na
refinaria o vento soprava com direção predominante de 780 (Leste –
Nordeste), com uma velocidade média de 3,3 ms-1. Na estação de Madre de
Deus a direção predominante do vento era de 2180 (Sul - Sudoeste), com
velocidade média de 1,9 ms-1. Isto significa que a estação em Madre de Deus
estava recebendo contribuição de ar limpo da BTS o que contribuiria para a
redução das concentrações de poluente no local, além da remoção dos
mesmos pela chuva. Concluiu-se então pela remoção deste par de valores.
•
18 de abril - O valor medido na estação (0,40 µgm-3) foi 16,3 vezes menor que
o valor calculado pelo modelo ISCST3 (6,55 µgm-3). Neste dia registrou-se a
ocorrência de precipitação pluviométrica. Analisando as direções de vento
medidas nas estações de Madre de Deus e da refinaria verificou-se que na
refinaria o vento soprava com direção predominante de 530 (Nordeste), com
uma velocidade média de 3,5 ms-1. Na estação de Madre de Deus a direção
predominante do vento era de 2030 (Sul - Sudoeste), com velocidade média
de 1,2 ms-1. Isto significa que a estação em Madre de Deus estava recebendo
contribuição de ar limpo da BTS o que contribuiria para a redução das
concentrações de poluente no local, além da remoção dos mesmos pela
chuva. Concluiu-se então pela remoção deste par de valores.
•
25 de abril - O valor medido na estação (0,43 µgm-3) foi 3,4 vezes menor que
o valor calculado pelo modelo ISCST3 (1,45 µgm-3). Neste dia registrou-se a
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
86
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
ocorrência de precipitação pluviométrica. Analisando as direções de vento
medidas nas estações de Madre de Deus e da refinaria verificou-se que na
refinaria o vento soprava com direção predominante de 1290 (Leste –
Sudeste), com uma velocidade média de 4,4 ms-1. Na estação de Madre de
Deus a direção predominante do vento era de 1850 (Sul), com velocidade
média de 1,6 ms-1. Isto significa que a estação em Madre de Deus estava
recebendo contribuição de ar limpo da BTS o que contribuiria para a redução
das concentrações de poluente no local. Apesar da ocorrência de precipitação
pluviométrica o valor medido na estação estava bem próximo do valor
calculado pelo modelo ISCST3. Possivelmente a chuva estava localizada
sobre a refinaria. Concluiu-se então pela remoção deste par de valores.
A partir da remoção dos pares de dados de SO2, identificados acima,
elaborou-se uma nova correlação linear entre os valores medidos e os calculados,
apresentados no gráfico da Figura 6.27, onde se observa um R2 igual a 0,2968, e um
R igual a 0,5448.
Conc. de SO 2 medida, µgm -3
6
5
4
3
2
1
0
1
2
3
4
5
6
Concentração de SO2 calculada (ISCST3), µgm -3
Figura 6.27 – Segunda correlação entre as concentrações de
SO2, calculada e medida, em Madre de Deus - Abril de 2003
Com o objetivo de avaliar melhor a correlação entre os dados realizou-se a
análise de paridade entre os valores medidos e os calculados apresentados na
Figura 6.28.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
87
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
6
Conc. de SO 2 (µgm -3)
5
4
3
2
1
0
1
2
ISCT3
MEDIDA
3
4
5
Núm ero de pares de dados
Figura 6.28 – Comparação entre as concentrações de SO2, calculada e
Medida, em Madre de Deus – sem os outliers - Abril de 2003.
6.4.5 Análise comparativa de maio
Na análise do mês de maio foram utilizados os 13 pares de dados
disponíveis, apresentados na Tabela A.5. Os dados de concentração de SO2
experimental e calculado são apresentados na forma de histogramas, conforme
mostrado nas Figuras A.9 e A.10, tendo uma distribuição próxima da normal.
A partir dos pares de dados de SO2, elaborou-se a correlação linear entre os
valores medidos e os calculados, apresentados na Figura 6.29, onde se observa um
espalhamento entre os pares de dados, refletido no baixo coeficiente de correlação,
R2 igual a 0,0059, e na correlação R igual a 0,0766.
11
Conc. de SO 2 medida, µg/m 3
10
9
8
7
6
5
4
3
2
1
0
0
1
2
3
4
5
6
7
8
9
10
11
Concentração de SO2 calculada (ISCST3), µg/m 3
Figura 6.29 – Primeira correlação entre as concentrações de
SO2, calculada e medida, em Madre de Deus - Maio de 2003
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
88
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
Para uma melhor avaliação destes pares de dados foi calculado o erro,
considerando o resultado do valor calculado menos o valor medido, cujos resultados
estão representados no gráfico da figura 6.30.
10
9
8
7
6
ERRO
5
4
3
2
1
0
30
27
24
21
18
15
12
9
6
3
0
-1
-2
-3
-4
DIA
Figura 6.30 – Gráfico do erro (valor calculado menos o valor medido) da
concentração de SO2, em Madre de Deus - Maio de 2003
Analisando os pares de pares dentro dos critérios estabelecidos no item 6.4,
foram identificados os seguintes dias com dados duvidosos:
•
02 de maio - O valor medido na estação (2,92 µgm-3) foi 3,2 vezes menor que
o valor calculado pelo modelo ISCST3 (9,29 µgm-3). Analisando as direções
de vento medidas nas estações de Madre de Deus e da refinaria verificou-se
que na refinaria o vento soprava com direção predominante de 30 (Norte),
com apenas 5% de frequência, a direção do vento variou bastante ao longo
do dia, com uma velocidade média de 2,8 ms-1. Na estação de Madre de
Deus a direção predominante do vento era de 420 (Norte - Nordeste), com
velocidade média de 1,1 ms-1. Para avaliar esta discrepância estimou-se a
concentração usando os dados meteorológicos medidos na estação de Madre
de Deus, que resultou numa concentração média de 0,08 µgm-3. Concluiu-se
então pela remoção deste par de valores.
•
05 de maio - O valor medido na estação (0,36 µgm-3) foi 13 vezes menor que
o valor calculado pelo modelo ISCST3 (4,64 µgm-3). Neste dia registrou-se a
ocorrência de precipitação pluviométrica. Analisando as direções de vento
medidas nas estações de Madre de Deus e da refinaria verificou-se que na
refinaria o vento soprava com direção predominante de 1450 (Sudeste), com
uma velocidade média de 3,2 ms-1. Na estação de Madre de Deus a direção
predominante do vento era de 1560 (Sudeste), com velocidade média de 1,4
ms-1. Isto significa que a estação em Madre de Deus estava recebendo
contribuição de ar limpo da BTS o que contribuiria para a redução das
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
89
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
concentrações de poluente no local, além da remoção dos mesmos pela
chuva. Concluiu-se então pela remoção deste par de valores.
•
06 de maio - O valor medido na estação (0,17 µgm-3) foi 9,6 vezes menor que
o valor calculado pelo modelo ISCST3 (1,66 µgm-3). Analisando as direções
de vento medidas nas estações de Madre de Deus e da refinaria verificou-se
que na refinaria o vento soprava com direção predominante de 1170 (Leste Sudeste), com uma velocidade média de 3,0 ms-1. Na estação de Madre de
Deus a direção predominante do vento era de 1890 (Sul), com velocidade
média de 1,5 ms-1. Isto significa que a estação em Madre de Deus estava
recebendo contribuição de ar limpo da BTS o que contribuiria para a redução
das concentrações de poluente no local. Para avaliar esta discrepância
estimou-se a concentração usando os dados meteorológicos medidos na
estação de Madre de Deus, que resultou numa concentração média de 0,0
µgm-3. Podemos observar que o regime diferenciado de vento na região
influenciou consideravelmente a dispersão de poluentes no local implicando
na distorção do valor calculado pelo modelo em relação ao medido. Concluiuse então pela remoção deste par de valores.
•
14 de maio - O valor medido na estação (1,97 µgm-3) foi 3,3 vezes maior que
o valor calculado pelo modelo ISCST3 (0,60 µgm-3). Neste dia registrou-se a
ocorrência de precipitação pluviométrica, apesar deste fato o valor medido foi
maior que o calculado. Pela análise das direções do vento o valor medido na
estação deveria ter sido menor, já que o vento medido na estação da refinaria
tinha direção predominante de 1880 (Sul) e o vento medido na estação de
Madre de Deus tinha direção predominante de 2180 (Sul - Sudoeste) ou seja,
a estação de Madre de Deus estava recebendo ar limpo da BTS o que
contribuiria para reduzir a poluição local, além da remoção de poluentes pela
chuva. Deduz-se que algum fator localizado na estação deve ter ocorrido,
como por exemplo, emissões de veículos ou erro de natureza instrumental de
medição. Também podem ter influenciado partidas e paradas de plantas que
podem ter ocasionando algum pico de concentração. Com esta análise
concluiu-se pela remoção deste par de valores.
•
18 de maio - O valor medido na estação (1,50 µgm-3) foi 16,7 vezes maior que
o valor calculado pelo modelo ISCST3 (0,09 µgm-3). Neste dia registrou-se a
ocorrência de precipitação pluviométrica, apesar deste fato o valor medido foi
maior que o calculado. Pela análise das direções do vento o valor medido na
estação deveria ter sido menor, já que o vento medido na estação da refinaria
tinha direção predominante de 2270 (Sudoeste) e o vento medido na estação
de Madre de Deus tinha direção predominante de 2310 (Sudoeste) ou seja, a
estação de Madre de Deus estava recebendo ar limpo da BTS o que
contribuiria para reduzir a poluição local, além da remoção de poluentes pela
chuva. Deduz-se que algum fator localizado na estação deve ter ocorrido,
como por exemplo, emissões de veículos ou erro de natureza instrumental de
medição. Também podem ter influenciado partidas e paradas de plantas que
podem ter ocasionando algum pico de concentração. Com esta análise
concluiu-se pela remoção deste par de valores.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
90
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
•
19 de maio - O valor medido na estação (0,53 µgm-3) foi 5,3 vezes maior que
o valor calculado pelo modelo ISCST3 (0,10 µgm-3). Neste dia registrou-se a
ocorrência de precipitação pluviométrica, apesar deste fato o valor medido foi
maior que o calculado. Pela análise das direções do vento o valor medido na
estação deveria ter sido menor, já que o vento medido na estação da refinaria
tinha direção predominante de 1130 (Leste - Sudeste) e o vento medido na
estação de Madre de Deus tinha direção predominante de 1840 (Sul) ou seja,
a estação de Madre de Deus estava recebendo ar limpo da BTS o que
contribuiria para reduzir a poluição local, além da remoção de poluentes pela
chuva. Deduz-se que algum fator localizado na estação deve ter ocorrido,
como por exemplo, emissões de veículos ou erro de natureza instrumental de
medição. Também podem ter influenciado partidas e paradas de plantas que
podem ter ocasionando algum pico de concentração. Com esta análise
concluiu-se pela remoção deste par de valores.
•
25 de maio - O valor medido na estação (4,87 µgm-3) foi 3,0 vezes maior que
o valor calculado pelo modelo ISCST3 (1,60 µgm-3). Analisando as direções
de vento medidas nas estações de Madre de Deus e da refinaria verificou-se
que na refinaria o vento soprava com direção predominante de 1340
(Sudeste), com uma velocidade média de 4,0 ms-1. Na estação de Madre de
Deus a direção predominante do vento era de 290 (Norte), com velocidade
média de 1,3 ms-1. Para avaliar esta discrepância estimou-se a concentração
usando os dados meteorológicos medidos na estação de Madre de Deus, que
resultou numa concentração média de 0,50 µgm-3. Diante disso como a
concentração medida foi maior em relação à estimada, com duas situações
de vento diferentes, deduziu-se que algum fator localizado na estação deve
ter ocorrido, como por exemplo, emissões de veículos ou erro de natureza
instrumental de medição. Também podem ter influenciado partidas e paradas
de plantas que podem ter ocasionando algum pico de concentração.
Concluiu-se então pela remoção deste par de valores..
•
31 de maio - O valor medido na estação (0,81 µgm-3) foi 13,0 vezes menor
que o valor calculado pelo modelo ISCST3 (10,44 µgm-3). Neste dia registrouse a ocorrência de precipitação pluviométrica. Analisando as direções de
vento medidas nas estações de Madre de Deus e da refinaria verificou-se que
na refinaria o vento soprava com direção predominante de 1130 (Leste Sudeste), com uma velocidade média de 1,6 ms-1. Na estação de Madre de
Deus a direção predominante do vento era de 1500 (Sudeste), com velocidade
média de 1,6 ms-1. Isto significa que a estação em Madre de Deus estava
recebendo contribuição de ar limpo da BTS o que contribuiria para a redução
das concentrações de poluente no local, além da remoção dos mesmos pela
chuva. Concluiu-se então pela remoção deste par de valores.
A partir da remoção dos pares de dados de SO2, identificados acima,
elaborou-se uma nova correlação linear entre os valores medidos e os calculados,
apresentados no gráfico da Figura 6.31, onde se observa um R2 igual a 0,4219, e um
R igual a 0,6495.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
91
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
Conc. de SO 2 medida, µgm -3
6
5
4
3
2
1
0
0
1
2
3
4
5
6
Concentração de SO2 calculada (ISCST3), µgm -3
Figura 6.31 – Segunda correlação entre as concentrações de
SO2, calculada e medida, em Madre de Deus - Maio de 2003
Com o objetivo de avaliar melhor a correlação entre os dados realizou-se a
análise de paridade entre os valores medidos e os calculados apresentados na
Figura 6.32.
7
Conc. de SO 2 (µgm -3)
6
5
4
3
2
1
0
1
ISCT3
2
MEDIDA
3
4
5
Núm ero de pares de dados
Figura 6.32 – Comparação entre as concentrações de SO2, calculada e
Medida, em Madre de Deus – sem os outliers - Maio de 2003.
6.4.6 Análise comparativa de junho
Na análise do mês de junho foram utilizados os 15 pares de dados
disponíveis, apresentados na Tabela A.6. Os dados de concentração de SO2
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
92
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
experimental e calculado são apresentados na forma de histogramas, conforme
mostrado nas Figuras A.11 e A.12, tendo uma distribuição próxima da normal.
A partir dos pares de dados de SO2, elaborou-se a correlação linear entre os
valores medidos e os calculados, apresentados na Figura 6.33, onde se observa um
espalhamento entre os pares de dados, refletido no baixo coeficiente de correlação,
R2 igual a 0,1034, e na correlação R igual a 0,3216.
Conc. de SO 2 medida, µg/m 3
4
3
2
1
0
0
1
2
3
4
Concentração de SO2 calculada (ISCST3), µg/m 3
Figura 6.33 – Primeira correlação entre as concentrações de
SO2, calculada e medida, em Madre de Deus - Junho de 2003
Para uma melhor avaliação destes pares de dados foi calculado o erro,
considerando o resultado do valor calculado menos o valor medido, cujos resultados
estão representados no gráfico da figura 6.34.
4
3
ERRO
2
1
0
30
27
24
21
18
15
12
9
6
3
0
-1
-2
DIA
Figura 6.34 – Gráfico do erro (valor calculado menos o valor medido) da
concentração de SO2, em Madre de Deus - Junho de 2003
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
93
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
Analisando os pares de pares dentro dos critérios estabelecidos no item 6.4,
foram identificados os seguintes dias com dados duvidosos:
•
02 de junho - O valor medido na estação (0,52 µgm-3) foi 4,4 vezes menor que
o valor calculado pelo modelo ISCST3 (2,32 µgm-3). Neste dia registrou-se a
ocorrência de precipitação pluviométrica. Analisando as direções de vento
medidas nas estações de Madre de Deus e da refinaria verificou-se que na
refinaria o vento soprava com direção predominante de 1020 (Leste), com
uma velocidade média de 2,4 ms-1. Na estação de Madre de Deus a direção
predominante do vento era de 1530 (Sudeste), com velocidade média de 0,9
ms-1. Isto significa que a estação em Madre de Deus estava recebendo
contribuição de ar limpo da BTS o que contribuiria para a redução das
concentrações de poluente no local, além da remoção dos mesmos pela
chuva. Concluiu-se então pela remoção deste par de valores.
•
04 de junho - O valor medido na estação (0,72 µgm-3) foi 4,0 vezes menor que
o valor calculado pelo modelo ISCST3 (2,84 µgm-3). Neste dia registrou-se a
ocorrência de precipitação pluviométrica. Analisando as direções de vento
medidas nas estações de Madre de Deus e da refinaria verificou-se que na
refinaria o vento soprava com direção predominante de 640 (Nordeste), com
uma velocidade média de 1,6 ms-1. Na estação de Madre de Deus a direção
predominante do vento era de 1930 (Sul), com velocidade média de 0,9 ms-1.
Isto significa que a estação em Madre de Deus estava recebendo contribuição
de ar limpo da BTS o que contribuiria para a redução das concentrações de
poluente no local, além da remoção dos mesmos pela chuva. Concluiu-se
então pela remoção deste par de valores.
•
05 de junho - O valor medido na estação (0,35 µgm-3) foi 6,1 vezes menor que
o valor calculado pelo modelo ISCST3 (2,16 µgm-3). Neste dia registrou-se a
ocorrência de precipitação pluviométrica. Analisando as direções de vento
medidas nas estações de Madre de Deus e da refinaria verificou-se que na
refinaria o vento soprava com direção predominante de 710 (Leste Nordeste), com uma velocidade média de 2,6 ms-1. Na estação de Madre de
Deus a direção predominante do vento era de 1080 (Leste), com velocidade
média de 1,0 ms-1. Isto significa que a estação em Madre de Deus estava
recebendo contribuição de ar limpo da BTS o que contribuiria para a redução
das concentrações de poluente no local, além da remoção dos mesmos pela
chuva. Concluiu-se então pela remoção deste par de valores.
•
07 de junho - O valor medido na estação (0,74 µgm-3) foi 3,5 vezes menor que
o valor calculado pelo modelo ISCST3 (2,58 µgm-3). Analisando as direções
de vento medidas nas estações de Madre de Deus e da refinaria verificou-se
que na refinaria o vento soprava com direção predominante de 1070 (Leste),
com uma velocidade média de 3,9 ms-1. Na estação de Madre de Deus a
direção predominante do vento era de 1680 (Sul - Sudeste), com velocidade
média de 1,5 ms-1. Isto significa que a estação em Madre de Deus estava
recebendo contribuição de ar limpo da BTS o que contribuiria para a redução
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
94
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
das concentrações de poluente no local. Para avaliar esta discrepância
estimou-se a concentração usando os dados meteorológicos medidos na
estação de Madre de Deus, que resultou numa concentração média de 0,0
µgm-3. Podemos observar que o regime diferenciado de vento na região
influenciou consideravelmente a dispersão de poluentes no local implicando
na distorção do valor calculado pelo modelo em relação ao medido. Concluiuse então pela remoção deste par de valores.
•
08 de junho - O valor medido na estação (0,63 µgm-3) foi 3,9 vezes menor que
o valor calculado pelo modelo ISCST3 (2,47 µgm-3). Neste dia registrou-se a
ocorrência de precipitação pluviométrica. Analisando as direções de vento
medidas nas estações de Madre de Deus e da refinaria verificou-se que na
refinaria o vento soprava com direção predominante de 940 (Leste), com uma
velocidade média de 3,7 ms-1. Na estação de Madre de Deus a direção
predominante do vento era de 1410 (Sudeste), com velocidade média de 1,5
ms-1. Isto significa que a estação em Madre de Deus estava recebendo
contribuição de ar limpo da BTS o que contribuiria para a redução das
concentrações de poluente no local, além da remoção dos mesmos pela
chuva. Concluiu-se então pela remoção deste par de valores.
•
10 de junho - O valor medido na estação (1,34 µgm-3) foi 14,9 vezes maior
que o valor calculado pelo modelo ISCST3 (0,09 µgm-3). Neste dia registrouse a ocorrência de precipitação pluviométrica, apesar deste fato o valor
medido foi maior que o calculado. Pela análise das direções do vento o valor
medido na estação deveria ter sido menor, já que o vento medido na estação
da refinaria tinha direção predominante de 900 (Leste) e o vento medido na
estação de Madre de Deus tinha direção predominante de 1410 (Sudeste) ou
seja, a estação de Madre de Deus estava recebendo ar limpo da BTS o que
contribuiria para reduzir a poluição local, além da remoção de poluentes pela
chuva. Deduz-se que algum fator localizado na estação deve ter ocorrido,
como por exemplo, emissões de veículos ou erro de natureza instrumental de
medição. Também podem ter influenciado partidas e paradas de plantas que
podem ter ocasionando algum pico de concentração. Com esta análise
concluiu-se pela remoção deste par de valores.
•
20 de junho - O valor medido na estação (1,58 µgm-3) foi 3,4 vezes maior que
o valor calculado pelo modelo ISCST3 (0,46 µgm-3). Neste dia registrou-se a
ocorrência de precipitação pluviométrica, apesar deste fato o valor medido foi
maior que o calculado. Pela análise das direções do vento o valor medido na
estação deveria ter sido menor, já que o vento medido na estação da refinaria
tinha direção predominante de 30 (Norte) e o vento medido na estação de
Madre de Deus tinha direção predominante de 2240 (Sudoeste) ou seja, a
estação de Madre de Deus estava recebendo ar limpo da BTS o que
contribuiria para reduzir a poluição local, além da remoção de poluentes pela
chuva. Deduz-se que algum fator localizado na estação deve ter ocorrido,
como por exemplo, emissões de veículos ou erro de natureza instrumental de
medição. Também podem ter influenciado partidas e paradas de plantas que
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
95
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
podem ter ocasionando algum pico de concentração. Com esta análise
concluiu-se pela remoção deste par de valores.
•
29 de junho - O valor medido na estação (0,31 µgm-3) foi 12 vezes menor que
o valor calculado pelo modelo ISCST3 (3,77 µgm-3). Neste dia registrou-se a
ocorrência de precipitação pluviométrica. Analisando as direções de vento
medidas nas estações de Madre de Deus e da refinaria verificou-se que na
refinaria o vento soprava com direção predominante de 120 (Norte), com uma
velocidade média de 2,8 ms-1. Na estação de Madre de Deus a direção
predominante do vento era de 1810 (Sul), com velocidade média de 1,3 ms-1.
Isto significa que a estação em Madre de Deus estava recebendo contribuição
de ar limpo da BTS o que contribuiria para a redução das concentrações de
poluente no local, além da remoção dos mesmos pela chuva. Concluiu-se
então pela remoção deste par de valores.
A partir da remoção dos pares de dados de SO2, identificados acima,
elaborou-se uma nova correlação linear entre os valores medidos e os calculados,
apresentados no gráfico da Figura 6.35, onde se observa um R2 igual a 0,3530, e um
R igual a 0,5941.
Conc. de SO 2 medida, µgm -3
3
2
1
0
0
1
2
Concentração de SO2 calculada (ISCST3), µgm
3
-3
Figura 6.35 – Segunda correlação entre as concentrações de
SO2, calculada e medida, em Madre de Deus - Junho de 2003
Com o objetivo de avaliar melhor a correlação entre os dados realizou-se a
análise de paridade entre os valores medidos e os calculados apresentados na
Figura 6.36.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
96
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
Conc. de SO 2 (µgm -3)
3
2
1
0
1
ISCT3
3
MEDIDA
5
7
Núm ero de pares de dados
Figura 6.36 – Comparação entre as concentrações de SO2, calculada e
medida, em Madre de Deus – sem os outliers - Junho de 2003
6.4.7 Análise comparativa de julho
Na análise do mês de julho foram utilizados os 05 pares de dados disponíveis
(a estação de Madre de Deus teve problemas de manutenção dos equipamentos),
apresentados na Tabela A.7. Os dados de concentração de SO2 experimental e
calculado são apresentados na forma de histogramas, conforme mostrado nas
Figuras A.13 e A.14, tendo uma distribuição próxima da normal.
A partir dos pares de dados de SO2, elaborou-se a correlação linear entre os
valores medidos e os calculados, apresentados na Figura 6.37, onde se observa um
espalhamento entre os pares de dados, refletido no baixo coeficiente de correlação,
R2 igual a 0,2141, e na correlação R igual a 0,4627.
Conc. de SO 2 medida, µg/m 3
3
2
1
0
0
1
2
3
Concentração de SO2 calculada (ISCST3), µg/m 3
Figura 6.37 – Primeira correlação entre as concentrações de
SO2, calculada e medida, em Madre de Deus - Julho de 2003
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
97
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
Para uma melhor avaliação destes pares de dados foi calculado o erro,
considerando o resultado do valor calculado menos o valor medido, cujos resultados
estão representados no gráfico da figura 6.38.
2
1.5
ERRO
1
0.5
0
30
27
24
21
18
15
12
9
6
3
0
-0.5
-1
DIA
Figura 6.38 – Gráfico do erro (valor calculado menos o valor medido) da
concentração de SO2, em Madre de Deus - Julho de 2003
Analisando os pares de pares dentro dos critérios estabelecidos no item 6.4,
foram identificados os seguintes dias com dados duvidosos:
•
03 de julho - O valor medido na estação (0,38 µgm-3) foi 5,9 vezes menor que
o valor calculado pelo modelo ISCST3 (2,21 µgm-3). Analisando as direções
de vento medidas nas estações de Madre de Deus e da refinaria verificou-se
que na refinaria o vento soprava com direção predominante de 360 (Norte Nordeste), com uma velocidade média de 3,0 ms-1. Na estação de Madre de
Deus a direção predominante do vento era de 1920 (Sul), com velocidade
média de 1,8 ms-1. Isto significa que a estação em Madre de Deus estava
recebendo contribuição de ar limpo da BTS o que contribuiria para a redução
das concentrações de poluente no local. Para avaliar esta discrepância
estimou-se a concentração usando os dados meteorológicos medidos na
estação de Madre de Deus, que resultou numa concentração média de 0,0
µgm-3. Podemos observar que o regime diferenciado de vento na região
influenciou consideravelmente a dispersão de poluentes no local implicando
na distorção do valor calculado pelo modelo em relação ao medido. Concluiuse então pela remoção deste par de valores.
Nos dias 23 e 30 de julho apesar da ocorrência de precipitação pluviométrica os
valores estão bem próximos. Concluiu-se então pela manutenção destes pares de
dados.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
98
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
A partir da remoção do par de dados de SO2, identificado acima, elaborou-se
uma nova correlação linear entre os valores medidos e os calculados, apresentados
no gráfico da Figura 6.39, onde se observa um R2 igual a 0,7486, e um R igual a
0,8652.
Conc. de SO 2 medida, µgm -3
3.0
2.0
1.0
0.0
0.0
1.0
2.0
3.0
Concentração de SO2 calculada (ISCST3), µgm -3
Figura 6.39 – Segunda correlação entre as concentrações de
SO2, calculada e medida, em Madre de Deus - Julho de 2003
Com o objetivo de avaliar melhor a correlação entre os dados realizou-se a
análise de paridade entre os valores medidos e os calculados apresentados na
Figura 6.40. Como o número de pares é pequeno a observação fica comprometida.
Conc. de SO 2 (µgm -3)
2
1
0
1
ISCT3
2
MEDIDA
3
4
Núm ero de pares de dados
Figura 6.40 – Comparação entre as concentrações de SO2, calculada e
Medida, em Madre de Deus – sem os outliers - Julho de 2003.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
99
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
6.4.8 Análise comparativa de agosto
Na análise do mês de agosto foram utilizados os 11 pares de dados
disponíveis, apresentados na Tabela A.8. Os dados de concentração de SO2
experimental e calculado são apresentados na forma de histogramas, conforme
mostrado nas Figuras A.15 e A.16, tendo uma distribuição próxima da normal.
A partir dos pares de dados de SO2, elaborou-se a correlação linear entre os
valores medidos e os calculados, apresentados na Figura 6.41, onde se observa um
espalhamento entre os pares de dados, refletido no baixo coeficiente de correlação,
R2 igual a 0,0097, e na correlação R igual a 0,0987.
Conc. de SO 2 medida, µg/m 3
10
8
6
4
2
0
0
2
4
6
8
10
Concentração de SO2 calculada (ISCST3), µg/m 3
Figura 6.41 – Primeira correlação entre as concentrações de
SO2, calculada e medida, em Madre de Deus - Agosto de 2003
Para uma melhor avaliação destes pares de dados foi calculado o erro,
considerando o resultado do valor calculado menos o valor medido, cujos resultados
estão representados no gráfico da figura 6.42.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
100
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
8
6
4
0
30
27
24
21
18
15
12
9
6
3
0
ERRO
2
-2
-4
-6
-8
-10
DIA
Figura 6.42 – Gráfico do erro (valor calculado menos o valor medido) da
concentração de SO2, em Madre de Deus - Agosto de 2003
Analisando os pares de pares dentro dos critérios estabelecidos no item 6.4,
foram identificados os seguintes dias com dados duvidosos:
•
08 de agosto - O valor medido na estação (0,57 µgm-3) foi 5,6 vezes menor
que o valor calculado pelo modelo ISCST3 (3,22 µgm-3). Neste dia registrouse a ocorrência de precipitação pluviométrica. Analisando as direções de
vento medidas nas estações de Madre de Deus e da refinaria verificou-se que
na refinaria o vento soprava com direção predominante de 550 (Nordeste),
com uma velocidade média de 2,5 ms-1. Na estação de Madre de Deus a
direção predominante do vento era de 2490 (Oeste - Sudoeste), com
velocidade média de 1,0 ms-1. Isto significa que a estação em Madre de Deus
estava recebendo contribuição de ar limpo da BTS o que contribuiria para a
redução das concentrações de poluente no local, além da remoção dos
mesmos pela chuva. Concluiu-se então pela remoção deste par de valores.
•
15 de agosto - O valor medido na estação (2,23 µgm-3) foi 13,1 vezes maior
que o valor calculado pelo modelo ISCST3 (0,17 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
1080 (Leste), com uma velocidade média de 2,1 ms-1. Na estação de Madre
de Deus a direção predominante do vento era de 1010 (Leste), com
velocidade média de 1,1 ms-1. Para avaliar esta discrepância estimou-se a
concentração usando os dados meteorológicos medidos na estação de Madre
de Deus, que resultou numa concentração média de 0,00 µgm-3. Diante disso
como a concentração medida foi maior em relação à estimada, com duas
situações de vento diferentes, deduziu-se que algum fator localizado na
estação deve ter ocorrido, como por exemplo, emissões de veículos ou erro
de natureza instrumental de medição. Também podem ter influenciado
partidas e paradas de plantas que podem ter ocasionando algum pico de
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
101
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
concentração. Com esta análise concluiu-se pela remoção deste par de
valores.
•
16 de agosto - O valor medido na estação (3,12 µgm-3) foi 3,2 vezes menor
que o valor calculado pelo modelo ISCST3 (9,99 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
650 (Nordeste), com uma velocidade média de 2,6ms-1. Na estação de Madre
de Deus a direção predominante do vento era de 410 (Norte - Nordeste), com
velocidade média de 1,0 ms-1. Para avaliar esta discrepância estimou-se a
concentração usando os dados meteorológicos medidos na estação de Madre
de Deus, que resultou numa concentração média de 1,19 µgm-3. Podemos
observar que o regime diferenciado de vento na região influenciou
consideravelmente a dispersão de poluentes no local implicando na distorção
do valor calculado pelo modelo em relação ao medido. Concluiu-se então pela
remoção deste par de valores.
•
18 de agosto - O valor medido na estação (9,52 µgm-3) foi 16,4 vezes maior
que o valor calculado pelo modelo ISCST3 (0,58 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
1280 (Leste – Sudeste), com uma velocidade média de 3,0 ms-1. Na estação
de Madre de Deus a direção predominante do vento era de 1240 (Leste –
Sudeste), com velocidade média de 1,5 ms-1. Isto significa que a estação em
Madre de Deus estava recebendo contribuição de ar limpo da BTS o que
contribuiria para a redução das concentrações de poluente no local. Para
avaliar esta discrepância estimou-se a concentração usando os dados
meteorológicos medidos na estação de Madre de Deus, que resultou numa
concentração média de 2,40 µgm-3. Diante disso como a concentração
medida foi maior em relação à estimada, com duas situações de vento
diferentes, deduziu-se que algum fator localizado na estação deve ter
ocorrido, como por exemplo, emissões de veículos ou erro de natureza
instrumental de medição. Também podem ter influenciado partidas e paradas
de plantas que podem ter ocasionando algum pico de concentração. Com
esta análise concluiu-se pela remoção deste par de valores.
A partir da remoção dos pares de dados de SO2, identificados acima,
elaborou-se uma nova correlação linear entre os valores medidos e os calculados,
apresentados no gráfico da Figura 6.43, onde se observa um R2 igual a 0,7441, e um
R igual a 0,8626.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
102
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
Conc. de SO 2 medida, µgm -3
8
6
4
2
0
0
2
4
6
Concentração de SO2 calculada (ISCST3), µgm
8
-3
Figura 6.43 – Segunda correlação entre as concentrações de
SO2, calculada e medida, em Madre de Deus - Agosto de 2003
Com o objetivo de avaliar melhor a correlação entre os dados realizou-se a
análise de paridade entre os valores medidos e os calculados apresentados na
Figura 6.44.
10
Conc. de SO 2 (µgm -3)
8
6
4
2
0
1
ISCT3
3
MEDIDA
5
7
Núm ero de pares de dados
Figura 6.44 – Comparação entre as concentrações de SO2, calculada e
Medida, em Madre de Deus – sem os outliers - Agosto de 2003.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
103
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
6.4.9 Análise comparativa de Setembro
Na análise do mês de setembro foram utilizados os 07 pares de dados
disponíveis (a estação de Madre de Deus teve problemas de manutenção dos
equipamentos), apresentados na Tabela A.9. Os dados de concentração de SO2
experimental e calculado são apresentados na forma de histogramas, conforme
mostrado nas Figuras A.17 e A.18, tendo uma distribuição próxima da normal.
A partir dos pares de dados de SO2, elaborou-se a correlação linear entre os
valores medidos e os calculados, apresentados na Figura 6.45, onde se observa um
espalhamento entre os pares de dados, refletido no baixo coeficiente de correlação,
R2 igual a 0,0449, e na correlação R igual a 0,2118.
Conc. de SO 2 medida, µg/m 3
8
6
4
2
0
0
2
4
6
8
Concentração de SO2 calculada (ISCST3), µg/m 3
Figura 6.45 – Primeira correlação entre as concentrações de
SO2, calculada e medida, em Madre de Deus - Setembro de 2003
Para uma melhor avaliação destes pares de dados foi calculado o erro,
considerando o resultado do valor calculado menos o valor medido, cujos resultados
estão representados no gráfico da figura 6.46.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
104
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
8
6
4
0
30
27
24
21
18
15
12
9
6
3
0
ERRO
2
-2
-4
-6
-8
DIA
Figura 6.46 – Gráfico do erro (valor calculado menos o valor medido) da
concentração de SO2, em Madre de Deus - Setembro de 2003
Analisando os pares de pares dentro dos critérios estabelecidos no item 6.4,
foram identificados os seguintes dias com dados duvidosos:
•
02 de setembro - O valor medido na estação (0,10 µgm-3) foi 62,7 vezes
menor que o valor calculado pelo modelo ISCST3 (6,55 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
1310 (Leste - Sudeste), com uma velocidade média de 4,8 ms-1. Na estação
de Madre de Deus a direção predominante do vento era de 1370 (Sudeste),
com velocidade média de 1,8 ms-1. Isto significa que a estação em Madre de
Deus estava recebendo contribuição de ar limpo da BTS o que contribuiria
para a redução das concentrações de poluente no local. Para avaliar esta
discrepância estimou-se a concentração usando os dados meteorológicos
medidos na estação de Madre de Deus, que resultou numa concentração
média de 0,0 µgm-3. Podemos observar que o regime diferenciado de vento
na região influenciou consideravelmente a dispersão de poluentes no local
implicando na distorção do valor calculado pelo modelo em relação ao
medido. Concluiu-se então pela remoção deste par de valores.
•
13 de setembro - O valor medido na estação (0,64 µgm-3) foi 63,9 vezes maior
que o valor calculado pelo modelo ISCST3 (0,01 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
1330 (Leste - Sudeste), com uma velocidade média de 3,7 ms-1. Na estação
de Madre de Deus a direção predominante do vento era de 1330 (Leste Sudeste), com velocidade média de 1,6 ms-1. Para avaliar esta discrepância
estimou-se a concentração usando os dados meteorológicos medidos na
estação de Madre de Deus, que resultou numa concentração média de 0,00
µgm-3. Diante disso como a concentração medida foi muito maior em relação
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
105
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
à estimada, com duas situações de vento diferentes, deduziu-se que algum
fator localizado na estação deve ter ocorrido, como por exemplo, emissões de
veículos ou erro de natureza instrumental de medição. Também podem ter
influenciado partidas e paradas de plantas que podem ter ocasionando algum
pico de concentração. Com esta análise concluiu-se pela remoção deste par
de valores.
•
16 de setembro - O valor medido na estação (1,94 µgm-3) foi 64,7 vezes maior
que o valor calculado pelo modelo ISCST3 (0,03 µgm-3). Neste dia registrouse a ocorrência de precipitação pluviométrica, apesar deste fato o valor
medido foi maior que o calculado. Pela análise das direções do vento o valor
medido na estação deveria ter sido menor, já que o vento medido na estação
da refinaria tinha direção predominante de 1230 (Leste - Sudeste) e o vento
medido na estação de Madre de Deus tinha direção predominante de 1190
(Leste – Sudeste) ou seja, a estação de Madre de Deus estava recebendo ar
limpo da BTS o que contribuiria para reduzir a poluição local, além da
remoção de poluentes pela chuva. Deduz-se que algum fator localizado na
estação deve ter ocorrido, como por exemplo, emissões de veículos ou erro
de natureza instrumental de medição. Também podem ter influenciado
partidas e paradas de plantas que podem ter ocasionando algum pico de
concentração. Com esta análise concluiu-se pela remoção deste par de
valores.
•
18 de setembro - O valor medido na estação (0,45 µgm-3) foi 7,1 vezes menor
que o valor calculado pelo modelo ISCST3 (3,17 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
1260 (Leste - Sudeste), com uma velocidade média de 3,0 ms-1. Na estação
de Madre de Deus a direção predominante do vento era de 1240 (Leste Sudeste), com velocidade média de 1,1 ms-1. Isto significa que a estação em
Madre de Deus estava recebendo contribuição de ar limpo da BTS o que
contribuiria para a redução das concentrações de poluente no local. Para
avaliar esta discrepância estimou-se a concentração usando os dados
meteorológicos medidos na estação de Madre de Deus, que resultou numa
concentração média de 0,0 µgm-3. Podemos observar que o regime
diferenciado de vento na região influenciou consideravelmente a dispersão de
poluentes no local implicando na distorção do valor calculado pelo modelo em
relação ao medido. Concluiu-se então pela remoção deste par de valores.
•
25 de setembro - O valor medido na estação (7,83 µgm-3) foi 4,7 vezes maior
que o valor calculado pelo modelo ISCST3 (1,65 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
1050 (Leste), com uma velocidade média de 2,4 ms-1. Na estação de Madre
de Deus a direção predominante do vento era de 220 (Norte - Nordeste), com
velocidade média de 0,0 ms-1 (situação de extrema calmaria). Podemos
observar que o regime diferenciado de vento na região influenciou
consideravelmente a dispersão de poluentes no local implicando na distorção
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
106
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
do valor calculado pelo modelo em relação ao medido. Concluiu-se então pela
remoção deste par de valores.
A partir da remoção dos pares de dados de SO2, identificados acima,
elaborou-se uma nova correlação linear entre os valores medidos e os calculados,
apresentados no gráfico da Figura 6.47, onde se observa um R2 igual a 1, e um R
igual a 1.
Conc. de SO 2 medida, µgm -3
2
1
0
0
1
2
Concentração de SO2 calculada (ISCST3), µgm
-3
Figura 6.47 – Segunda correlação entre as concentrações de
SO2, calculada e medida, em Madre de Deus - Setembro de 2003
Com o objetivo de avaliar melhor a correlação entre os dados realizou-se a
análise de paridade entre os valores medidos e os calculados apresentados na
Figura 6.48.
Conc. de SO 2 (µgm -3)
2
0
1
ISCT3
MEDIDA
2
Núm ero de pares de dados
Figura 6.48 – Comparação entre as concentrações de SO2, calculada e
Medida, em Madre de Deus – sem os outliers - Setembro.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
107
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
6.4.10 Análise comparativa de outubro
Na análise do mês de agosto foram utilizados os 09 pares de dados
disponíveis, apresentados na Tabela A.10. Os dados de concentração de SO2
experimental e calculado são apresentados na forma de histogramas, conforme
mostrado nas Figuras A.19 e A.20, tendo uma distribuição próxima da normal.
A partir dos pares de dados de SO2, elaborou-se a correlação linear entre os
valores medidos e os calculados, apresentados na Figura 6.49, onde se observa um
espalhamento entre os pares de dados, refletido no baixo coeficiente de correlação,
R2 igual a 0,0237, e na correlação R igual a 0,1540.
Conc. de SO 2 medida, µg/m 3
12
10
8
6
4
2
0
0
2
4
6
8
10
Concentração de SO2 calculada (ISCST3), µg/m
12
3
Figura 6.49 – Primeira correlação entre as concentrações de
SO2, calculada e medida, em Madre de Deus - Outubro de 2003
Para uma melhor avaliação destes pares de dados foi calculado o erro,
considerando o resultado do valor calculado menos o valor medido, cujos resultados
estão representados no gráfico da figura 6.50.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
108
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
6
4
2
0
ERRO
30
27
24
21
18
15
12
9
6
3
0
-2
-4
-6
-8
-10
DIA
Figura 6.50 – Gráfico do erro (valor calculado menos o valor medido) da
concentração de SO2, em Madre de Deus - Outubro de 2003
Analisando os pares de pares dentro dos critérios estabelecidos no item 6.4,
foram identificados os seguintes dias com dados duvidosos:
•
06 de outubro - O valor medido na estação (0,49 µgm-3) foi 9,2 vezes menor
que o valor calculado pelo modelo ISCST3 (4,56 µgm-3). Neste dia registrouse a ocorrência de precipitação pluviométrica. Analisando as direções de
vento medidas nas estações de Madre de Deus e da refinaria verificou-se que
na refinaria o vento soprava com direção predominante de 1170 (Leste Sudeste), com uma velocidade média de 3,1 ms-1. Na estação de Madre de
Deus a direção predominante do vento era de 1070 (Leste), com velocidade
média de 1,2 ms-1. Isto significa que a estação em Madre de Deus estava
recebendo contribuição de ar limpo da BTS o que contribuiria para a redução
das concentrações de poluente no local, além da remoção dos mesmos pela
chuva. Concluiu-se então pela remoção deste par de valores.
•
08 de outubro - O valor medido na estação (9,29 µgm-3) foi 14,5 vezes maior
que o valor calculado pelo modelo ISCST3 (0,64 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
980 (Leste), com uma velocidade média de 3,5 ms-1. Na estação de Madre de
Deus a direção predominante do vento era de 890 (Leste - Nordeste), com
velocidade média de 1,2 ms-1. Para avaliar esta discrepância estimou-se a
concentração usando os dados meteorológicos medidos na estação de Madre
de Deus, que resultou numa concentração média de 0,48 µgm-3. Diante disso
como a concentração medida foi muito maior em relação à estimada, com
duas situações de vento diferentes, deduziu-se que algum fator localizado na
estação deve ter ocorrido, como por exemplo, emissões de veículos ou erro
de natureza instrumental de medição. Também podem ter influenciado
partidas e paradas de plantas que podem ter ocasionando algum pico de
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
109
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
concentração. Com esta análise concluiu-se pela remoção deste par de
valores.
•
12 de outubro - O valor medido na estação (6,69 µgm-3) foi 27,9 vezes maior
que o valor calculado pelo modelo ISCST3 (0,24 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
1050 (Leste), com uma velocidade média de 3,3 ms-1. Na estação de Madre
de Deus a direção predominante do vento era de 960 (Leste), com velocidade
média de 1,3 ms-1. Para avaliar esta discrepância estimou-se a concentração
usando os dados meteorológicos medidos na estação de Madre de Deus, que
resultou numa concentração média de 0,00 µgm-3. Diante disso como a
concentração medida foi muito maior em relação à estimada, com duas
situações de vento diferentes, deduziu-se que algum fator localizado na
estação deve ter ocorrido, como por exemplo, emissões de veículos ou erro
de natureza instrumental de medição. Também podem ter influenciado
partidas e paradas de plantas que podem ter ocasionando algum pico de
concentração. Com esta análise concluiu-se pela remoção deste par de
valores.
•
13 de outubro - O valor medido na estação (1,74 µgm-3) foi 3,4 vezes menor
que o valor calculado pelo modelo ISCST3 (5,88 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
1350 (Sudeste), com uma velocidade média de 4,9 ms-1. Na estação de Madre
de Deus a direção predominante do vento era de 1420 (Sudeste), com
velocidade média de 1,9 ms-1. Isto significa que a estação em Madre de Deus
estava recebendo contribuição de ar limpo da BTS o que contribuiria para a
redução das concentrações de poluente no local. Para avaliar esta
discrepância estimou-se a concentração usando os dados meteorológicos
medidos na estação de Madre de Deus, que resultou numa concentração
média de 0,0 µgm-3. Podemos observar que o regime diferenciado de vento
na região influenciou consideravelmente a dispersão de poluentes no local
implicando na distorção do valor calculado pelo modelo em relação ao
medido. Concluiu-se então pela remoção deste par de valores.
•
22 de outubro - O valor medido na estação (11,87 µgm-3) foi 3,7 vezes maior
que o valor calculado pelo modelo ISCST3 (3,22 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
780 (Leste - Nordeste), com uma velocidade média de 3,3 ms-1. Na estação
de Madre de Deus a direção predominante do vento era de 810 (Leste Nordeste), com velocidade média de 0,9 ms-1. Para avaliar esta discrepância
estimou-se a concentração usando os dados meteorológicos medidos na
estação de Madre de Deus, que resultou numa concentração média de 0,00
µgm-3. Diante disso como a concentração medida foi maior em relação à
estimada, com duas situações de vento diferentes, deduziu-se que algum
fator localizado na estação deve ter ocorrido, como por exemplo, emissões de
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
110
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
veículos ou erro de natureza instrumental de medição. Também podem ter
influenciado partidas e paradas de plantas que podem ter ocasionando algum
pico de concentração. Com esta análise concluiu-se pela remoção deste par
de valores.
A partir da remoção dos pares de dados de SO2, identificados acima,
elaborou-se uma nova correlação linear entre os valores medidos e os calculados,
apresentados no gráfico da Figura 6.51, onde se observa um R2 igual a 0,8643, e um
R igual a 0,9297.
Conc. de SO 2 medida, µgm -3
4
3
2
1
0
0
1
2
3
4
Concentração de SO2 calculada (ISCST3), µgm -3
Figura 6.51 – Segunda correlação entre as concentrações de
SO2, calculada e medida, em Madre de Deus - Outubro de 2003
Com o objetivo de avaliar melhor a correlação entre os dados realizou-se a
análise de paridade entre os valores medidos e os calculados apresentados na
Figura 6.52.
5
Conc. de SO 2 (µgm -3)
4
4
3
3
2
2
1
1
0
1
ISCT3
2
MEDIDA
3
4
Núm ero de pares de dados
Figura 6.52 – Comparação entre as concentrações de SO2, calculada e
medida, em Madre de Deus – sem os outliers - Outubro de 2003.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
111
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
6.4.11 Análise comparativa de novembro
Na análise do mês de novembro foram utilizados os 14 pares de dados
disponíveis, apresentados na Tabela A.11. Os dados de concentração de SO2
experimental e calculado são apresentados na forma de histogramas, conforme
mostrado nas Figuras A.21 e A.22, tendo uma distribuição próxima da normal.
A partir dos pares de dados de SO2, elaborou-se a correlação linear entre os
valores medidos e os calculados, apresentados na Figura 6.53, onde se observa um
espalhamento entre os pares de dados, refletido no baixo coeficiente de correlação,
R2 igual a 0,0865, e na correlação R igual a 0,2941.
45
Conc. de SO 2 medida, µg/m
3
40
35
30
25
20
15
10
5
0
0
5
10
15
20
25
30
35
40
Concentração de SO2 calculada (ISCST3), µg/m
45
3
Figura 6.53 – Primeira correlação entre as concentrações de
SO2, calculada e medida, em Madre de Deus - Novembro de 2003
Para uma melhor avaliação destes pares de dados foi calculado o erro,
considerando o resultado do valor calculado menos o valor medido, cujos resultados
estão representados no gráfico da figura 6.54.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
112
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
24
19
14
9
4
ERRO
30
27
24
21
18
15
12
9
6
3
-6
0
-1
-11
-16
-21
-26
-31
-36
-41
DIA
Figura 6.54 – Gráfico do erro (valor calculado menos o valor medido) da
concentração de SO2, em Madre de Deus - Novembro de 2003
Analisando os pares de pares dentro dos critérios estabelecidos no item 6.4,
foram identificados os seguintes dias com dados duvidosos:
•
10 de novembro - O valor medido na estação (1,03 µgm-3) foi 4,3 vezes menor
que o valor calculado pelo modelo ISCST3 (4,40 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
1030 (Leste), com uma velocidade média de 2,9 ms-1. Na estação de Madre
de Deus a direção predominante do vento era de 1120 (Leste - Sudeste), com
velocidade média de 0,5 ms-1. Isto significa que a estação em Madre de Deus
estava recebendo contribuição de ar limpo da BTS o que contribuiria para a
redução das concentrações de poluente no local. Para avaliar esta
discrepância estimou-se a concentração usando os dados meteorológicos
medidos na estação de Madre de Deus, que resultou numa concentração
média de 0,0 µgm-3. Podemos observar que o regime diferenciado de vento
na região influenciou consideravelmente a dispersão de poluentes no local
implicando na distorção do valor calculado pelo modelo em relação ao
medido. Concluiu-se então pela remoção deste par de valores.
•
22 de novembro - O valor medido na estação (0,94 µgm-3) foi 15 vezes menor
que o valor calculado pelo modelo ISCST3 (14,10 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
710 (Leste - Nordeste), com uma velocidade média de 2,5 ms-1. Na estação
de Madre de Deus a direção predominante do vento era de 1410 (Sudeste),
com velocidade média de 1,8 ms-1. Isto significa que a estação em Madre de
Deus estava recebendo contribuição de ar limpo da BTS o que contribuiria
para a redução das concentrações de poluente no local. Para avaliar esta
discrepância estimou-se a concentração usando os dados meteorológicos
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
113
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
medidos na estação de Madre de Deus, que resultou numa concentração
média de 1,4 µgm-3. Podemos observar que o regime diferenciado de vento
na região influenciou consideravelmente a dispersão de poluentes no local
implicando na distorção do valor calculado pelo modelo em relação ao
medido. Concluiu-se então pela remoção deste par de valores.
•
24 de novembro - O valor medido na estação (0,46 µgm-3) foi 55,4 vezes
menor que o valor calculado pelo modelo ISCST3 (25,25 µgm-3). Analisando
as direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
670 (Leste - Nordeste), com uma velocidade média de 3,5 ms-1. Na estação
de Madre de Deus a direção predominante do vento era de 1010 (Leste), com
velocidade média de 1,1 ms-1. Isto significa que a estação em Madre de Deus
estava recebendo contribuição de ar limpo da BTS o que contribuiria para a
redução das concentrações de poluente no local. Para avaliar esta
discrepância estimou-se a concentração usando os dados meteorológicos
medidos na estação de Madre de Deus, que resultou numa concentração
média de 0,4 µgm-3. Podemos observar que o regime diferenciado de vento
na região influenciou consideravelmente a dispersão de poluentes no local
implicando na distorção do valor calculado pelo modelo em relação ao
medido. Concluiu-se então pela remoção deste par de valores.
•
30 de novembro - O valor medido na estação (41,72 µgm-3) foi 36,9 vezes
maior que o valor calculado pelo modelo ISCST3 (1,13 µgm-3). Analisando as
direções de vento medidas nas estações de Madre de Deus e da refinaria
verificou-se que na refinaria o vento soprava com direção predominante de
900 (Leste), com uma velocidade média de 3,7 ms-1. Na estação de Madre de
Deus a direção predominante do vento era de 940 (Leste), com velocidade
média de 1,2 ms-1. Para avaliar esta discrepância estimou-se a concentração
usando os dados meteorológicos medidos na estação de Madre de Deus, que
resultou numa concentração média de 0,48 µgm-3. Diante disso como a
concentração medida foi muito maior em relação à estimada, com duas
situações de vento diferentes, deduziu-se que algum fator localizado na
estação deve ter ocorrido, como por exemplo, emissões de veículos ou erro
de natureza instrumental de medição. Também podem ter influenciado
partidas e paradas de plantas que podem ter ocasionando algum pico de
concentração. Com esta análise concluiu-se pela remoção deste par de
valores.
A partir da remoção dos pares de dados de SO2, identificados acima,
elaborou-se uma nova correlação linear entre os valores medidos e os calculados,
apresentados no gráfico da Figura 6.55, onde se observa um R2 igual a 0,4122, e um
R igual a 0,6420.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
114
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
11
Conc. de SO 2 medida, µgm -3
10
9
8
7
6
5
4
3
2
1
0
0
1
2
3
4
5
6
7
8
9
10
Concentração de SO2 calculada (ISCST3), µgm
11
-3
Figura 6.55 – Segunda correlação entre as concentrações de
SO2, calculada e medida, em Madre de Deus - Novembro de 2003
Com o objetivo de avaliar melhor a correlação entre os dados realizou-se a
análise de paridade entre os valores medidos e os calculados apresentados na
Figura 6.56.
Conc. de SO 2 (µgm -3)
12
9
6
3
0
1
ISCT3
3
MEDIDA
5
7
9
Núm ero de pares de dados
Figura 6.56 – Comparação entre as concentrações de SO2, calculada e
Medida, em Madre de Deus – sem os outliers - Novembro de 2003.
6.4.12 Análise comparativa de dezembro
A estação de monitoramento da qualidade do ar, localizada em Madre de Deus
apresentou problemas operacionais em dezembro o que impossibilitou a análise
estatística referente a este mês.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
115
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
6.5 Análise Comparativa Anual dos Dados de Correlação - 2003
Na análise do conjunto de dados do ano de 2003 foram utilizados 163 pares de
dados referentes ao período de janeiro a novembro. O tamanho da amostra igual a
163, as médias e os desvios padrão iguais a 4,68 e 4,35 para o ISCST3; e de 3,65 e
5,08. Embora a concentração média calculada tenha sido maior que a observada ela
apresentou um espalhamento menor dos dados em torno da média. Verificou que o
ISCST3 superestimou 62% das concentrações de SO2 e subestimou 38%, em
relação aos valores medidos na estação de Madre de Deus.
A partir dos pares de dados de SO2, elaborou-se a correlação linear entre os
valores medidos e os calculados, apresentados na Figura 6.57, onde se observa um
espalhamento entre os pares de dados, refletido no baixo coeficiente de correlação,
R2 igual a 0,0114, e na correlação R igual a 0,1067.
45
Conc. de SO 2 medida, µg/m
3
40
35
30
25
20
15
10
5
0
0
5
10
15
20
25
30
35
40
Concentração de SO2 calculada (ISCST3), µg/m 3
45
Figura 6.57 – Primeira correlação entre as concentrações de
SO2, calculada e medida, em Madre de Deus - Ano de 2003
A partir da remoção dos pares de dados de SO2, identificados acima,
elaborou-se uma nova correlação linear entre os valores medidos e os calculados,
apresentados no gráfico da Figura 6.58, onde se observa um R2 igual a 0,4237, e um
R igual a 0,6509.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
116
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
Conc. de SO 2 medida, µgm -3
25
20
15
10
5
0
0
5
10
15
20
Concentração de SO2 calculada (ISCST3), µgm -3
25
Figura 6.58 – Segunda correlação entre as concentrações de
SO2, calculada e medida, em Madre de Deus - Ano de 2003
Com o objetivo de avaliar melhor a correlação entre os dados realizou-se a
análise de paridade entre os valores medidos e os calculados apresentados na
Figura 6.59.
25
Conc. de SO 2 (µgm -3)
20
15
10
5
0
1
ISCT3
11
21
MEDIDA
31
41
51
61
71
81
Núm ero de pares de dados
Figura 6.59 – Comparação entre as concentrações de SO2, calculada e
medida, em Madre de Deus – sem os outliers - Ano de 2003.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
117
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
6.6 Quadros Resumo das Análises Estatísticas
Para uma melhor avaliação dos dados foi calculado o erro anual, antes e
depois da eliminação dos pares discrepantes, cujos resultados estão representados
no gráfico da figura 6.60 e 6.61. O valor máximo do erro antes dos ajustes foi de
40,59. Depois dos ajustes este valor caiu para 10,76.
50
40
30
20
ERRO
10
0
-10
0
50
100
150
-20
-30
-40
-50
DIA
Figura 6.60 – Gráfico do erro (antes dos ajustes) da
concentração de SO2, em Madre de Deus – Ano de 2003
15.00
10.00
ERRO
5.00
0.00
0
20
40
60
80
-5.00
-10.00
-15.00
DIA
Figura 6.61 – Gráfico do erro (depois dos ajustes) da
concentração de SO2, em Madre de Deus – Ano de 2003
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
118
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
Na Tabela 6.6 são mostrados dados do tamanho das amostras, médias
aritméticas, desvios padrão, medianas, máximo, mínimo e coeficientes de correlação
das concentrações, calculadas e medidas, mês a mês e do ano inteiro de 2003,
antes da avaliação dos dados anômalos.
Na Tabela 6.7 observa-se os dados do tamanho da amostra, médias aritméticas
das concentrações, calculadas e medidas, desvio padrão das concentrações,
calculadas e medidas, coeficientes de correlação e fator de distribuição, mês a mês
e do ano inteiro de 2003, depois da exclusão dos dados discrepantes.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
119
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
Tabela 6.6 – Resumo Estatístico antes dos Ajustes
RESUMO DOS DADOS ESTATÍSTICOS ANTES DOS AJUSTES
N
MÉDIA ARITMÉTICA
CALC
MEDIDO
janeiro
31
7,11
7,94
fevereiro
18
5,50
2,13
março
26
6,43
2,14
abril
14
3,00
2,55
maio
13
3,07
2,18
junho
15
1,79
0,96
julho
5
1,31
1,15
agosto
11
2,63
2,45
setembro
7
1,88
1,90
outubro
9
2,32
4,14
novembro
14
6,97
6,58
dezembro
ANO 2003
163
4,68
3,65
R2 = Explicação da variação dos pares de dados
R = Fator de correlação dos dados
N = Tamanho da amostra
DESVPAD
CALC
MEDIDO
4,11
6,08
MEDIANA
CALC
MEDIDO
3,49
4,93
3,47
3,43
1,07
0,53
3,26
2,33
2,06
6,45
2,33
1,84
2,99
1,94
0,55
0,64
2,59
2,68
4,20
10,58
7,01
4,61
5,22
1,91
1,66
2,07
1,07
1,14
1,00
1,88
5,51
4,38
5,08
3,22
7,06
1,32
1,27
1,09
1,50
0,74
1,18
1,75
1,05
1,74
3,43
SEM DADOS
1,73
MÁXIMO
CAL
MEDIDO
MÍNIMO
CALC
MEDIDO
COEF. CORREL
R
R2
13,93
14,03
17,69
12,74
10,44
3,77
2,21
9,99
6,55
5,88
25,25
23,92
8,86
5,99
10,78
5,82
2,04
2,11
9,52
7,83
11,87
41,72
0,50
1,17
0,09
0,09
0,09
0,09
0,92
0,17
0,01
0,24
1,13
0,25
0,18
0,10
0,11
0,17
0,31
0,38
0,46
0,10
0,19
0,46
0,0484
0,1200
0,6779
0,3005
0,0766
0,3216
0,4627
0,0987
0,2118
0,1540
0,2941
0,0023
0,0144
0,4596
0,0903
0,0059
0,1034
0,2141
0,0097
0,0449
0,0237
0,0865
25,25
41,72
0,01
0,10
0,1067
0,0114
Tabela 6.7 – Resumo Estatístico depois dos Ajustes
RESUMO DOS DADOS ESTATÍSTICOS DEPOIS DOS AJUSTES
N
janeiro
fevereiro
março
abril
maio
junho
julho
agosto
setembro
outubro
novembro
dezembro
ANO 2003
MÉDIA ARITMÉTICA
CALC
MEDIDO
20
6
12
5
5
7
4
7
2
4
10
7,47
4,62
5,77
2,19
2,29
1,45
1,08
2,15
0,88
1,59
5,28
8,58
3,33
3,01
3,31
3,04
1,17
1,34
1,64
1,18
1,80
4,80
82
4,40
4,17
DESVPAD
CALC
MEDIDO
3,69
4,57
MEDIANA
CALC
MEDIDO
2,71
4,41
0,98
1,94
0,81
0,17
2,57
0,18
1,44
3,10
1,79
1,90
2,09
2,30
0,60
0,55
1,18
0,18
1,55
3,14
7,30
3,97
4,81
2,36
2,25
1,04
1,05
1,14
0,88
1,19
5,51
3,71
3,85
3,00
8,06
3,55
3,15
2,60
3,64
1,05
1,22
1,74
1,18
1,56
4,51
SEM DADOS
3,38
MÁXIMO
CAL
MEDIDO
MÍNIMO
CALC
MEDIDO
13,26
8,43
13,96
3,40
5,46
2,84
1,32
7,66
1.00
3,52
10,96
21,15
5,46
5,99
5,55
5,82
2,04
2,11
3,81
1,31
3,90
10,10
2,15
1,17
0,57
1,17
0,58
0,69
0,92
0,42
0,75
0,47
1,65
1,76
0,51
0,27
0,84
0,31
0,48
0,81
0,46
1,05
0,19
1,09
0,3186
0,7214
0,8998
0,5448
0,6495
0,5941
0,8652
0,8626
1,0000
0,9297
0,5948
0,1015
0,5204
0,8095
0,2968
0,4219
0,3530
0,7486
0,7441
1,0000
0,8643
0,3538
13,96
21,15
0,42
0,19
0,6509
0,4237
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
120
COEF. CORREL
R
R2
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
6.7 Validação do Modelo
O refinamento da validação final do modelo foi realizado com o método
estatístico consagrado na literatura internacional e conhecido como Kit de Validação
de Modelo matemático de dispersão atmosférica. Os resultados mês a mês mostram
que as concentrações do dióxido de enxofre calculadas pelo modelo concordaram
com o observado em mais de 80% dos 11 meses estudados, quando foram
expurgados os pares de dados discrepantes.
Apesar da incerteza associada aos dados de entrada na modelagem, concluiu-se
que o modelo prevê de forma adequada as concentrações de poluentes na área de
influência da refinaria.
Para a análise de validação do modelo não foram considerados os pares de
dados rejeitados. Na análise dos dados das concentrações, calculadas e
observadas, médias de 24h de SO2, observou-se uma variação do coeficiente de
correlação entre 0,1314 a 0,8130, a depender do mês em análise.
Os resultados da análise estatística utilizada para validação do modelo estão
resumidos na Tabela 6.8, de acordo com os critérios propostos por Hanna (2004).
Observa-se que todos os parâmetros se encontram dentro das faixas
estatisticamente esperadas entre os valores previstos e os calculados, exceto para o
mês de setembro que não tem representatividade já que foram usados apenas dois
pares de dados e que apresentou um coeficiente de correlação linear R = (-0.5005).
Os demais meses apresentaram resultados significativos, apesar das interferências
micrometeorológicas (cujos efeitos fogem do controle da medição e simulação), em
cada mês e os possíveis fatores aleatórios sobre os dados nos locais de medições.
Com relação a média anual, (quando se remove a interferência sazonal), obtém-se
um coeficiente de correlação R igual a 0,6092.
Para uma melhor avaliação dos dados encontrados foi feita a comparação dos
resultados obtidos no presente trabalho com os obtidos por Hanna (2004) em
laboratório. Os dados são apresentados na Tabela 6.9.
Os resultados obtidos demonstram que o modelo está validado com os dados
experimentais de 2003, sendo capaz de prever a concentração de SO2 em Madre de
Deus com um erro aceitável.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
121
Capítulo VI – Resultados
Paulo Sérgio F. de Menezes
Tabela 6.8 – Resultados de Validação do Modelo.
Parâmetro
Estatístico
Intervalo de
Validação
Janeiro
Fevereiro
Março
Abril
Maio
Junho
Julho
Agosto
Setembro
Outubro
Novembro
Dezembro
ANUAL
VG
FB
MG
NMSE
FAC2
R
≤ 1.6
± 2/3
0.5 - 2.0
0,5
0.5≤Cp/Co≤ 2.0
0≤ R≤1.0
1,0013
1,3641
1,2898
1,0258
1,0229
1,1362
1,0260
1,0019
1,0983
1,0010
1,0213
0,0522
-0,5161
-0,6183
0,2562
0,0529
-0,3699
0,2106
-0,2670
0,2997
0,1246
-0,0260
1,0361
0,5728
0,6038
1,1729
1,1622
0,6995
1,1739
0,9571
1,3583
1,0322
0,8647
0,9492
1,6955
1,8949
0,7729
0,9485
1,4539
0,8095
1,3081
0,7393
0,8827
1,0264
0,1314
0,1808
0,8130
0,4477
0,5706
0,7439
0,6489
0,7394
-0,5005
0.6973
0,5707
1,0118
-0,1006
0,8975
1,1059
0,6092
0,0027
0,2853
0,4227
0,0667
0,0028
0,1417
0,0448
0,0726
0,0919
0,0156
0,0007
SEM DADOS
0,0101
Tabela 6.9 – Comparação dos dados obtidos com os de Hanna.
Comparação
Parâmetros
Média
Presente Hanna,
Trabalho 2004.*
Cp/Co (média)
1,11
0,86
Cp(max)/Co(max)
1,166
1,22
FB
-0,1
0,18
NMSE
0,0101
0,29
MG
0,8975
1,32
VG
1,012
1,28
Intervalo de variação
Presente
Hanna,
Trabalho
2004.*
0,77 a 1,89
0,61 a 2,33
-0,026 a 0,29
0,0007a 0,42
0,57 a 1,35
1,00 a 1,36
0,47 a 1,0
0,56 a 2,56
-0,32 a 0,60
0,07 a 2,03
0,35 a 2,63
1,07 a 1,0
Intervalo
de validação
0,5≤ Cp/Co ≤ 2
± 0,67 (2/3)
0,5 a 2,0
0,5
0,5 a 2,0
≤ 1,6
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
122
Capítulo VII – Conclusões
Paulo Sérgio F. de Menezes
CAPÍTULO VII:CONCLUSÕES
7.1 Conclusões
A utilização de dados atualizados das taxas de emissões de SO2, dados
meteorológicos do local de estudo; dados de medição, em tempo real, de
concentrações de dióxido de enxofre na estação de monitoramento da qualidade do
ar, localizada em Madre de Deus, foram importantes para uma melhor avaliação da
limitação do modelo associada a incerteza dos dados de entrada.
A análise dos dados meteorológicos da estação da refinaria e da estação de
Madre de Deus demonstrou que a região de estudo tem um microclima com regimes
de ventos e índices pluviométricos bastante diferenciados apesar da proximidade
das duas estações. A análise do regime de ventos demonstrou uma sazonalidade
muito grande tanto ao longo do dia como ao longo das estações.
A comparação dos dados, feita mensalmente, mostrou uma influência da
sazonalidade dos fatores climáticos como direção e velocidade do vento,
precipitação pluviométrica, de fatores operacionais localizados na fonte de emissão,
de contaminações locais na estação de monitoramento da qualidade do ar e
problemas de calibração dos equipamentos de medição, na correlação entre os
dados medidos e os calculados.
Verificou-se a limitação do modelo ISCST3 que não considera a variação de
carga (modulação e sazonalidade na emissão de poluentes), mantendo constante o
valor de emissão do poluente. Na prática o resultado medido é variável captando
variações das cargas das fontes.
A análise estatística mensal das concentrações de SO2 calculadas e das
medidas mostrou que os dados calculados seguem a uma distribuição Normal,
confirmando a coerência com a direção do vento na dispersão atmosférica que
segue também uma distribuição normal.
Neste trabalho não foram consideradas as concentrações de fundovi, em função
do município de Madre está localizado na Baía de Todos os Santos e da sua
posição geográfica em relação às fontes de emissão da refinaria.
A análise estatística para aferir a validação do modelo discutidas no capítulo VI,
foram definidas por Chang and Hanna (2004) baseadas em extensivas experiências
de campo usando longas séries de dados, que são a referência de comparação com
os diversos modelos matemáticos de dispersão. Nestes trabalhos foi concluído que
na aceitabilidade de um modelo seria esperado ter no mínimo 50% dos dados
previstos dentro de um fator de dois sobre o total de observações; e que a média
das bias (tendenciosidade – erro sistemático) dentro de ± 30%.
vi
São os níveis de concentração do ar "limpo" que chega a uma fonte ou conjunto de fontes.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
123
Capítulo VII – Conclusões
Paulo Sérgio F. de Menezes
Mesmo se levando em conta as incertezas de fatores aleatórios associados que
ocorrem no mundo real e a limitação das variáveis utilizadas nos modelos, os
resultados obtidos no presente trabalho permitem afirmar que o uso do ISCST3, na
região metropolitana de Salvador, é uma boa ferramenta para:
•
•
•
Avaliar as condições de dispersão atmosférica visando evitar condições
críticas de poluição do ar, minimizando o impacto e os danos ao meio
ambiente, através da otimização operacional da refinaria;
Projetos de planejamento da prevenção da poluição do ar;
Minimização de custos do dimensionamento das ações de implementação de
tecnologias limpas para melhoria do meio ambiente e da qualidade de vida
dos receptores humanos.
Para o SO2 existem dois padrões primários que devem ser cumpridos
simultaneamente, e correspondem a dois períodos diferentes. O primeiro‚ para a
concentração máxima de 24 horas, sendo o valor máximo aceitável de 365 µgm-3.
Ressalta-se que a maior concentração do ano pode atingir qualquer valor. O
segundo destina-se á média aritmética anual cujo valor é de 80 µgm-3.
Em relação às concentrações de SO2 não foi encontrado nenhum valor acima
dos limites estabelecidos pela legislação brasileira. Isso se deve ao fato das boas
condições de dispersão atmosféricas encontradas na área de estudo.
A concentração máxima, média de 24h, de SO2, no receptor discreto foi de 27,0
µgm-3, conforme pode ser visto na figura 7.1.
Figura 7.1 – Mapa de isoconcentrações de SO2 média 24 horas
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
124
Capítulo VII – Conclusões
Paulo Sérgio F. de Menezes
A concentração máxima, média anual de SO2, no receptor discreto foi de 3,0
µgm conforme pode ser visto na figura 7.2.
-3
Figura 7.2 – Mapa de isoconcentrações de SO2 média anual
7.2 Sugestões para trabalhos futuros
A utilização dos dados das quatro estações de monitoramento da qualidade do ar
para poder estabelecer uma correlação matricial entre os parâmetros meteorológicos
e a dispersão dos poluentes.
Fazer uma análise da sensibilidade paramétrica dos dados meteorológicos para
verificar as variáveis mais importantes na dispersão de poluentes.
Considerar um experimento de campo de medições simultâneas incorporando os
dados de emissões reais durante a operação da refinaria; os dados de qualidade do
ar das quaro estações automáticas e das observações meteorológicas de campo e
os dados meteorológicos medidos pela rede automática na área definida para o
experimento.
Validar os dados medidos nas estações de monitoramento com a manutenção e
calibração adequada dos medidores de SO2
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
125
Capítulo VIII – Referências Bibliográficas
Paulo Sérgio F. de Menezes
CAPÍTULOVIII: REFERÊNCIAS BIBLIOGRÁFICAS
ARPEL - Associação Regional de Empresas de Petróleo e Gás Natural da América
Latina e Caribe. ANO 2000
Benkley, C. W. and L. L. Schulman, 1978: An Operational Scheme For Estimating
Hourly Mixing Depths, For Presentation at the 71st Annual Meeting of the Air Pollution
Control Association. June 25-30, 1978. Houston, Texas, USA.
Beychok, M.R., "Fundamentals of Stack Gas Dispersion", published by author, Irvine,
California, USA, Third Edition, 1994a. 193p.
Beychok, M. R. “How accurate are dispersion estimates?”, Hydrocarbon Processing,
October 1994b.
Boubel, Richard W. et all, 1994, Fundamentals of air pollution, Academic Press, San
Diego, CA, pp 296-299.
Brian Burdor and Vijay Gudivaka – The Role of meteorology in Air Dispersion
Modeling of Offshore Emission Sources. Trinity Consultants, Inc. “In The Role of
Meteorology in Managing the Environment in the 90s. Proceedings of an
International Specialty Conference Scottsdale, Arizona January 1993”.
Brusasca, G., Tinarelli, G. and Anfossi, D. Particle model simulation of diffusion in
low wind speed stable condictions. Atmospheric Environment , 26A, 707-723, 1992.
Carvalho, J.C: Um estudo numérico da dispersão de poluentes na camada limite
convectiva. Dissertação de mestrado, IAG-USP, 1996.
Castells, M.: La Question Urbaine, Editions Grammonte, S.A., Lausanne, 1979.
Chang, J. C., Hanna, S.R., 2004. Air quality model performance evaluation. Meteorol.
Atmos. Phys., to appear in
Clemente, Daniela de Amorim - Estudo do impacto ambiental das fontes industriais
de poluição do ar no município de Paulínia – S.P.- Empregando o modelo ISCST3 –
– Dissertação de mestrado – Faculdade de Engenharia Química – Universidade
Estadual de Campinas – Setembro/2000.
CONDER – Companhia de Desenvolvimento da Região Metropolitana de Salvador –
Sistema Cartográfico da Região Metropolitana de Salvador, 2000.
Constituição Federal 1998 – Capítulo IV – Meio Ambiente – Artigo 225. Indica o
direito ao meio ambiente ecologicamente equilibrado. Estabelece a competência da
União, Estados e Municípios de “proteger o meio ambiente e combater a poluição
em qualquer de suas formas”.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
126
Capítulo VIII – Referências Bibliográficas
Paulo Sérgio F. de Menezes
Decreto Nº 7.967 de 05 de junho de 2001, publicado no D.O.E, em 06/06/2001,
Aprova o Regulamento da Lei nº 7.799, de 07 de fevereiro e 2001, que institui a
Política Estadual de Administração de Recursos Ambientais e dá outras
providências.
DEFRA - Department for Environment, Food and Rural Affairs, U.K. - Encyclopedia
of the Atmospheric Environment, acessado em 15/11/2005, às 14:48h.
(www.doc.mmu.ac.uk/aric/eae/Air/Quality).
Downing, D. and Clark, J. Estatística Aplicada. Tradução de Alfredo Alves Faria – 2
ed. – São Paulo: Saraiva 2003
Environnement, 2001 - Manual Técnico do Analisador de SO2 AF21M.
EPA – U.S. Environmental Protection Agency - Guidelines on Air Quality Models
(Revised) and Supplement A. EPA-450/2-78-027R. Research Triangle Park, NC,
1987.
EPA – U.S. Environmental Protection Agency - Office of Communications, Education
and Public Affairs Editorial Services Division, april de 1994.
EPA - U.S. Environmental Protection Agency, Addendum – User’s Guide for the
Industrial Source Complex (ISC3). Dispersion Models (Revised), Volume1. EPA454/B-95-003, Research Triangle Park, NC, 1995a.
EPA – U.S. Environmental Protection Agency - User’s guide for the Industrial Source
(ISC3) Dispersion Model. Vol. I, User instructions. EPA-454/B-95-003a, U.S.
Environmental Protection Agency, 320 pp. [NTIS PB95-222741], 1995b.
EPA – U.S. Environmental Protection Agency - Compilation of air pollutant emission
factors, AP-42. 5. ed. V. 2. Stationary Point and Area Sources, Chapter 5: Petroleum
Industry. [s.l.]: USEPA, 1995c.
EPA – U.S. Environmental Protection Agency - Screening Procedures for Estimating
The Air Quality Impact of Stationary Sources, 1995d.
EPA - U.S. Environmental Protection Agency - User’s Guide for the Industrial Source
Complex (ISC3) Dispersion Models Volume II – Description of Model Algorithms.
U.S. Environmental Protection Agency (USEPA), Office of Air Quality Planning and
Standards Emissions, Monitoring, and Analysis Division Research Triangle Park, NC
27711 September 1995e,
EPA – U.S. Environmental Protection Agency - Improvements to the EPA Industrial
Source Complex Dispersion Model Issn: 1520-0450 Journal: Journal of Applied
Meteorology Volume: 36 Issue: 8 Pages: 1088-1095, Authors: Atkinson, Dennis G.,
Bailey, Desmond T., Irwin, John S., Touma, Jawad S., 1996.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
127
Capítulo VIII – Referências Bibliográficas
Paulo Sérgio F. de Menezes
EPA – U.S. Environmental Protection Agency - PCRAMMET USER'S GUIDE U.S. Office of Air Quality Planning and Standards Emissions, Monitoring, and Analysis
Division Research Triangle Park, NC 27711, july 1999.
EPA – U.S. Environmental Protection Agency – Federal Primary and Secondary
Ambient Air Quality Standards, 40 CFR, §50, july de 2002.
EPA – U.S. Environmental Protection Agency – Revision to the Guideline on Air
Quality Models: Adoption of a Preferred General Purpose (Flat and Complex Terrain)
Dispersion Model and Other Revisions – Federal Register – 40 CFR Part 51 –
November 9, 2005.
Gifford, F. A. Jr.: An Outline of Theories of Diffusion in Lower Layers of the
Atmosphere, in D. H. Slade (editor), “Meteorology an Atomic Energy 1968”, U. S.
Atomic Energy Comission, Oak Ridge, Tenn., 1968.
Goldemberg, José e Moreira, José Roberto – Revista de Estudos Avançados,
número 19, página 55 - 2005
Hanna, S. R., Briggs, G. A. and Hosker J. R, and R. P. Handbook on Atmospheric
Diffusion. U. S. Department of Energy, 1982.
Hanna, S.R., at. al., Hazard Response Modeling Uncertainty (A Quantitative Method)
Vol.I.User’s Guide for Software for Evaluating Hazardous Gas Dispersion Models.
American Petroleum Institute Final Report, 1991.
Hanna, S.R., at al., FLACS CFD air quality model performance evaluation with Kit
Fox, Praire Grass, and EMU observations . Atmospheric Environmental 38 (2004)
4675 – 4687.
Holzworth, G.C., 1972: Mixing Heights, Wind Speeds, and Potential for Urban Air
Pollution Throughout the Contiguous United States, Environmental Protection
Agency, Publication No. AP-101, Division of Meteorology, Research Triangle Park,
NC27711.
Lapa, Márcio Roberto Lorega e Silva, Silvio Chagas da - Simulação da dispersão de
poluentes na atmosfera –– novembro de 1973 - Dissertação – Instituto de Pesquisas
Espaciais – INPE- São José dos Campos – SP.
Lei Federal no 6938, de 31 de agosto de 1981 – Dispõe sobre a Política Nacional do
Meio Ambiente, seus fins e mecanismos de formulação e aplicação, e dá outras
providências.
Lei Federal no 9.605, de 12 de fevereiro de 1998 - Lei dos crimes ambientais. "Dispõe sobre as sanções penais e administrativas derivadas de condutas e
atividades lesivas ao meio ambiente, e dá outras providências" .
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
128
Capítulo VIII – Referências Bibliográficas
Paulo Sérgio F. de Menezes
Machado, Cristiane Osório - Modelagem e medições – comparação de dados de
SO2 para uma refinaria, Dissertação de Mestrado, 1995 – USP, pp 28
Monin, A. S., and A. M. Obukhov (1954): “Basic Regularity in Turbulent Mixing in the
Surface Layer of the Atmosphere, ´Tr. Geofiz. Inst. Akad. Nauk., SSSR, Sb. Statei,
vol 24, pp. 163-167. “In Schnelle K. B. at all., Atmospheric Dispersion Modeling
Compliance Guide. McGraw-Hill Companies, Inc. N.Y.,(2000), pp 5-7”.
Moraes, Marcelo Romero de - Implementação de uma Ferramenta para a Previsão
de Ventos e Dispersão de Poluentes na Micro-Escala Atmosférica, 2004.
Negri, Jean Cesare Modelo Preditivo da Emissão e Dispersão do NOx Gerado em
Usinas Termoelétricas como Instrumento de Análise de Inserção e Capacidade de
Suporte Regional da Qualidade do Ar. São Paulo, 2002. p.234 Tese (Doutorado) –
Escola Politécnica da Universidade de São Paulo. Departamento de Engenharia
Mecânica.
O.G. Sutton, "Micrometeorology": A Study of Physical Processes in the Lowest
Layers of the Earth's Atmosphere." McGraw-Hill New York, 1953.
Olesen, H. R., The model validation kit exercise at Mol: Overview of Results. Int.
J.Environments and Pollution, Vol. 5 Nos. 4 – 6, 1995.
Olesen, H.R. Model Validation Kit for the Workshop on Operational Short-Range
Atmospheric Dispersion Models for Environmental Impact Assement in Europe.
National Environmental Research Institute, Denmark, 1994. P.O., Box 358, DK-4000
Roskilde, Denmark.
Oliveira, S., 1983, Análise do fluxo do vento visando o transporte de poluentes na
região da grande São Paulo. Congresso Brasileiro de Engenharia Sanitária – ABES
– Camboriú SC.
Painter, D. E. Air Pollution Technology. Restopn Publishing Company, Virginia, USA.
1974.
Pasquill, F., 1961: The estimation of the dispersion of windborne material. Meteorol.
Mag., 90, (1063): 33-49.
Piironen, Antti K. - Atmospheric Boundary Layer Studies - University of Wisconsin-Madison Space Science and Engineering Center 1225 West Dayton Street Madison,
WI 53706, USA August 1, 1994
Resolução CONAMA no 003 de 28 de junho de 1990 - Dispõe sobre padrões de
qualidade do ar, previstos no PRONAR" – CONAMA, 1990a.
Resolução CONAMA no 008, de 06 de dezembro de 1990 - "Dispõe sobre padrões
de qualidade do ar, previstos no PRONAR" – CONAMA 1990b.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
129
Capítulo VIII – Referências Bibliográficas
Paulo Sérgio F. de Menezes
Resolução CONAMA n.º 008, de 31 de agosto de 1993. Publicada no DOU,
31/12/93, pp.21.536. "Dispõe sobre padrões de qualidade do ar, previstos no
PRONAR" - Data da legislação: 06/12/1990 - Publicação DOU: 28/12/1990
Resolução CONAMA no 001, de 23 de janeiro de 1986. Estabelece a definição de
impacto ambiental e procedimentos para elaboração do EIA/RIMA.
Resolução CONAMA no 005/87. Estabelece o programa nacional de controle da
poluição do ar.
Resolução Conama no 237, de 19 de dezembro de 1997. Estabelece procedimentos
administrativos sobre licenciamento ambiental.
Resolução 41/2002, de 09 de dezembro de 2002 – Secretária Estadual de Meio
Ambiente do Paraná (SEMA).
RLAM - Relatório Técnico Interno No. 01 - Inventário das Emissões Atmosféricas da
RLAM – Projeto da Rede de Monitoramento da RLAM. Mataripe, dezembro de
1999a.
RLAM - Relatório Técnico Interno No 03 - Levantamento e Análise do Microclima na
Área de Influência da RLAM – Projeto da Rede de Monitoramento da RLAM.
Mataripe, dezembro de 1999b.
RLAM - Relatório Técnico Interno No 04 - Levantamento e Análise da Topografia da
Região de Influência da RLAM - Projeto da Rede de Monitoramento da RLAM.
Mataripe, dezembro de 1999c.
RLAM - Relatório Técnico Interno No 05 – Dimensionamento da Rede de
Monitoramento do Ar da RLAM – Projeto da Rede de Monitoramento da RLAM.
Mataripe, dezembro de 1999d.
RLAM - Relatório Técnico Interno - Inventário das emissões atmosféricas da RLAM.
Mataripe, 2004a.
RLAM - Auto Avaliação para o Licenciamento Ambiental – ALA Renovação da
Licença de Operação da RLAM. Mataripe, 2004b.
RLAM – Relatório Anual de 2003 da Rede de Monitoramento da Qualidade do Ar –
Mataripe, 2004c.
Rocha, Júlio César et al – Introdução à química ambiental, 2004.
Schechtman, R.; Szklo, A. e Sala, J. CO2 Emissions Inventory based on the Bottom
Up Approach. Technical report prepared for Project BRA/95/G31 – Enabling Brazil to
Fulfill its Commitments to the UN Framework Convention on Climate Change. Rio de
Janeiro, COPPE/ UFRJ, 1999, 300 pp.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
130
Capítulo VIII – Referências Bibliográficas
Paulo Sérgio F. de Menezes
Schenelle, Karl B., Jr., and Rey, Partha R., Atmospheric Dispersion Modeling
Compliance Guide, 1999, McGraw-Hill Inc., New York, NY, pp 6-6.
Seinfeld, John.H; Pandis, Spyros N., Atmospheric Chemistry And Physics: From Air
Pollution to Climate Change. John Wiley & Sons, Inc., New York, 1998.
Seinfeld, John.H; 1986, Atmospheric Gases
Seinfeld, John H. Air Pollution: Physical and Chemical Fundamentals. McGraw-Hill
Book Company, New York, 1975.
Stern, A. C. et al., Fundamentals of Air pollution. Academic Press, Inc., 2a. Edition
New York. 1984. p 212.
Sogabe, Milton Norio – Tradução do: Air & Waste Management Association - Seção
Brasil - Plano de Trabalho para Avaliação de Risco Atmosférico - Tri-State
Geographic Initiative Air Risk Assessment Work Plan , maio de 2000.
Thé, Jesse L. at all, 2004, Windows Interface for the U. S. EPA ISCST3, AERMOD,
and ISC-PRIME Air Dispersion Models.
Turner, D.B., Workbook of Atmospheric Dispersion Estimates, U.S. Department of
Health, Education, and Welfare, Revised. 1970
Turner, D.B., Workbook of Atmospheric Dispersion Estimates: An Introduction to
Dispersion Modeling, Second Edition - Consultant, Chapel Hill, North Carolina, USA,
1994
PNUMA, 2005 – Instituto Brasil PNUMA - acessado em 03/09/2005 às 14:43h.
www.brasilpnuma.org.br/pordentro/saibamais_ozonio.htm,
The Atmosphere, 8th edition, Lutgens and
www.ux1.eiu.edu/~cfjps/1400/circulation.html.
Tarbuck,
8th
edition,
2001.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
131
Apêndice
Paulo Sérgio F. de Menezes
APÊNDICE – DADOS
Este Apêndice apresenta as tabelas e gráficos dos dados das concentrações de
SO2, calculadas e medidas, utilizados na avaliação do modelo ISCST3.
A.1 – Dados do Mês de Janeiro de 2003
Dados de concentração de SO2 calculadas pelo modelo ISCST3 e medidas e Madre
de Deus e dados meteorológicos na refinaria, no mês de janeiro de 2003.
Tabela A.1 – Dados para análise de correlação janeiro 2003
DATA
1-Jan
2-Jan
3-Jan
4-Jan
5-Jan
6-Jan
7-Jan
8-Jan
9-Jan
10-Jan
11-Jan
12-Jan
13-Jan
14-Jan
15-Jan
16-Jan
17-Jan
18-Jan
19-Jan
20-Jan
21-Jan
22-Jan
23-Jan
24-Jan
25-Jan
26-Jan
27-Jan
28-Jan
29-Jan
30-Jan
31-Jan
Máximo
Mínimo
Média
Mediana
DesvPad
0
N dados
CONCENTRAÇÕES
(ug/m3)
ISCST3
MEDIDO
7.44
6.06
13.93
11.97
3.66
3.35
5.07
0.50
8.07
12.90
1.44
13.23
10.69
7.01
11.28
10.39
13.78
7.62
3.36
6.33
11.63
7.15
2.15
6.97
2.24
11.31
6.12
2.29
7.74
2.25
2.33
13.93
0.50
7.11
7.01
4.11
31
16.79
14.12
2.87
10.10
8.51
12.89
5.61
16.87
0.94
4.88
12.60
8.50
9.85
23.92
7.06
21.15
1.54
11.65
5.86
7.62
8.56
8.60
4.74
1.03
0.25
1.34
5.65
6.64
3.95
1.76
0.41
23.92
0.25
7.94
7.06
6.08
Estação RLAM
DIREÇÃO Frequência Velocidade Calmaria
DEG
média
FROM
%
m/s
%
33
49
3.90
0.00
17
46
4.33
0.00
43
53
4.29
0.00
45
66
3.80
0.00
43
59
4.50
0.00
30
54
3.94
0.00
41
56
4.67
0.00
67
48
4.37
4.17
83
95
4.16
0.00
54
42
3.73
0.00
30
38
3.69
0.00
33
41
4.46
0.00
52
53
4.33
0.00
37
71
4.74
0.00
42
62
4.42
0.00
53
57
3.97
0.00
63
67
3.69
0.00
61
50
3.69
0.00
13
40
4.20
0.00
36
50
4.03
0.00
49
68
4.35
0.00
82
63
4.16
0.00
78
51
3.26
0.00
96
83
4.97
0.00
107
75
4.65
0.00
83
67
3.56
0.00
50
75
4.24
0.00
18
55
4.03
0.00
50
61
3.97
0.00
77
70
4.46
0.00
82
94
4.93
0.00
56
55
4,18
0,0
Chuva
mm
0.00
0.00
0.00
0.00
0.00
0.00
0.00
0.00
0.00
0.00
0.00
0.00
0.00
0.00
0.00
0.00
0.00
0.00
0.00
0.00
0.00
0.00
2.00
0.00
0.00
1.40
0.00
0.00
0.00
0.50
0.70
0,15
Estação Madre de Deus
DIREÇÃOFrequênciaVelocidade Calmaria
DEG
média
FROM
%
m/s
%
62
35
1.66
0.00
64
56
1.65
4.17
81
56
1.65
0.00
76
52
1.67
0.00
62
54
1.63
0.00
50
49
1.74
0.00
79
51
1.84
0.00
105
51
1.63
0.00
127
84
1.43
4.17
83
31
1.64
0.00
66
38
1.67
4.17
72
37
1.82
0.00
73
44
1.71
0.00
79
71
1.99
0.00
84
56
1.71
0.00
99
52
1.67
0.00
89
46
1.41
4.17
106
47
1.64
0.00
49
44
1.65
0.00
68
37
1.62
0.00
90
62
1.69
0.00
116
50
1.71
0.00
107
28
1.26
4.17
133
87
1.82
0.00
157
85
1.86
0.00
130
66
1.67
0.00
82
57
1.56
4.17
65
49
1.54
0.00
90
55
1.54
0.00
124
63
1.75
4.17
120
91
1.80
0.00
94
48
1.67
0.94
Verifica-se que em 52% dos casos o modelo superestimou os valores medidos e que
em 48% o modelo subestimou os valores medidos.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
132
Apêndice
Paulo Sérgio F. de Menezes
8
Número de dados observados
7
6
5
4
3
2
1
0
-4
0
4
8
12
16
20
24
28
SO2 MEDIDO (ug/m3)
Figura A1 – Histograma dos dados de SO2 medidos em janeiro.
10
9
Número de observações
8
7
6
5
4
3
2
1
0
-2
0
2
4
6
8
10
12
14
16
ISCST3 - SO2 (ug/m3)
Figura A2 – Histograma dos dados de SO2 calculados em janeiro
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
133
Apêndice
Paulo Sérgio F. de Menezes
A.2 – Dados do Mês de Fevereiro de 2003
Tabela A.2 – Dados para análise de correlação fevereiro 2003
CONCENTRAÇÕES
Estação RLAM
(ug/m3)
DIREÇÃO Frequência Velocidade Calmaria
ISCST3 MEDIDO
DEG
média
FROM
%
m/s
%
1-Feb
2.26
0.18
94
96
5.06
0.00
6-Feb
4.66
0.38
96
81
4.52
0.00
7-Feb
5.21
1.34
85
90
4.99
0.00
11-Feb
3.26
0.68
81
60
4.12
0.00
12-Feb
4.52
3.53
74
78
3.69
0.00
14-Feb
11.12
1.29
82
80
4.07
0.00
15-Feb
4.56
0.46
93
86
4.20
0.00
16-Feb
14.03
0.33
94
83
4.31
0.00
17-Feb
7.61
2.40
70
49
4.01
0.00
18-Feb
8.43
5.46
59
48
4.33
0.00
19-Feb
3.04
4.78
81
48
4.01
0.00
20-Feb
9.25
0.38
85
92
4.72
0.00
22-Feb
1.17
0.51
93
51
4.07
0.00
24-Feb
5.54
1.64
54
74
3.00
0.00
25-Feb
1.48
0.48
95
63
4.37
0.00
26-Feb
3.42
2.15
63
56
4.07
0.00
27-Feb
2.35
8.86
74
47
3.69
0.00
28-Feb
7.15
3.56
68
80
4.24
0.00
Máximo
14.03
8.86
Mínimo
1.17
0.18
Média
5.50
2.13
86
73
4.43
0.3
Mediana
4.61
1.32
DesvPad
3.49
2.33
o
N Dados
18
Estação Madre de Deus
DIREÇÃO FrequênciaVelocidade Calmaria
FROM
média
DEG
%
m/s
%
134
82
1.75
0.00
130
57
1.66
8.33
119
77
1.47
12.50
122
47
1.67
0.00
108
62
1.33
0.00
112
63
1.62
0.00
131
87
1.76
0.00
128
74
1.73
4.17
119
45
1.64
4.17
90
40
1.66
0.00
111
43
1.77
0.00
128
93
1.78
0.00
147
52
1.69
8.33
88
52
1.13
8.33
118
34
1.29
37.50
105
45
1.66
0.00
125
42
1.62
0.00
112
77
1.58
0.00
DATA
Chuva
mm
0.20
0.00
0.00
0.00
0.40
0.00
0.00
0.00
0.00
0.00
0.00
0.00
0.20
0.50
0.60
0.00
0.00
0.00
0.11
126
67
1.65
4.76
Verifica-se que em 89% dos casos o modelo superestimou os valores medidos e que
em 11% o modelo subestimou os valores medidos.
9
8
Número de dados observados
7
6
5
4
3
2
1
0
-1
0
1
2
3
4
5
6
7
8
9
10
SO2 Medido (ug/m3)
Figura A.3 – Histograma dos dados de SO2 medidos em fevereiro
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
134
Apêndice
Paulo Sérgio F. de Menezes
6
Número de dados observados
5
4
3
2
1
0
-2
0
2
4
6
8
10
12
14
16
ISCST3 SO2 - (ug/m3)
Figura A.4 – Histograma dos dados de SO2 calculados em fevereiro
A.3 - Dados do Mês de Março de 2003
Tabela A.3 – Dados para análise de correlação março 2003
DATA
CONCENTRAÇÕES
Estação RLAM
DIREÇÃO Frequência Velocidade Calmaria
(ug/m3)
DEG
média
ISCT3
MEDIDO
FROM
%
m/s
%
1-Mar
5.52
0.49
74
74
4.42
0.00
4-Mar
5.50
1.18
83
90
4.20
0.00
5-Mar
0.57
0.74
92
92
5.10
0.00
6-Mar
5.02
3.87
64
84
4.20
0.00
7-Mar
12.16
5.27
48
76
4.12
0.00
8-Mar
4.39
3.22
58
48
3.99
0.00
10-Mar
6.68
3.56
79
78
3.64
0.00
11-Mar
10.00
5.99
37
89
2.14
4.17
12-Mar
0.59
0.27
93
30
3.69
0.00
13-Mar
13.96
5.16
71
61
2.87
0.00
14-Mar
2.80
0.86
65
81
4.20
0.00
15-Mar
4.52
0.31
87
95
4.59
0.00
16-Mar
12.52
4.19
81
54
3.26
0.00
17-Mar
1.37
1.46
30
37
3.43
0.00
18-Mar
14.17
3.37
50
59
2.92
0.00
19-Mar
5.36
0.81
75
63
3.94
0.00
20-Mar
8.59
1.30
60
71
3.04
4.17
21-Mar
13.16
0.49
45
45
2.66
0.00
22-Mar
17.69
4.48
48
68
3.30
0.00
23-Mar
7.05
2.60
45
65
3.22
0.00
24-Mar
4.59
3.08
68
60
3.34
0.00
25-Mar
0.97
0.10
94
90
4.37
0.00
26-Mar
5.08
0.74
118
44
4.37
0.00
27-Mar
3.85
1.25
107
25
4.12
0.00
28-Mar
0.09
0.65
115
83
4.46
0.00
30-Mar
1.05
0.21
118
49
4.52
0.00
Máximo
17.69
5.99
Mínimo
0.09
0.10
Média
6.43
2.14
76
62
3.86
0.54
Mediana
5.22
1.27
DesvPad
4.93
1.84
No Dados
26
Chuva
mm
0.00
2.20
0.00
0.00
0.00
0.00
0.70
4.10
0.00
0.00
0.00
0.10
4.40
0.00
1.20
0.00
0.30
0.90
0.00
0.00
0.40
0.00
0.00
0.00
4.60
0.70
0.75
Estação Madre de Deus
DIREÇÃO FrequênciaVelocidade Calmaria
FROM
média
DEG
%
m/s
%
112
59
1.77
0.00
122
73
1.71
0.00
133
72
1.90
4.17
99
88
1.52
0.00
88
61
1.12
12.50
111
45
1.71
0.00
131
77
1.52
0.00
29
53
0.67
33.33
159
33
1.45
8.33
105
45
1.13
16.67
102
59
1.31
8.33
120
94
1.58
4.17
126
55
1.17
8.33
68
25
1.32
0.00
70
46
1.20
0.00
119
37
1.56
0.00
111
39
1.13
12.50
109
34
1.26
0.00
84
64
1.41
4.17
77
54
1.21
4.17
112
49
1.36
0.00
129
71
1.64
0.00
152
46
1.80
0.00
189
56
1.69
12.50
168
76
1.71
4.17
154
54
1.77
0.00
122
51
1.50
4.97
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
135
Apêndice
Paulo Sérgio F. de Menezes
Verifica-se que em 85% dos casos o modelo superestimou os valores medidos e que
em 15% o modelo subestimou os valores medidos.
7
6
Número de observações
5
4
3
2
1
0
-0.5
0.5
1.5
2.5
3.5
4.5
5.5
6.5
SO2 medido (ug/m3)
Figura A.5 – Histograma dos dados de SO2 medidos em março
9
8
Número de observações
7
6
5
4
3
2
1
0
-2
0
2
4
6
8
10
12
14
16
18
20
ISCST3 - SO2 - (ug/m3)
Figura A.6 – Histograma dos dados de SO2 calculados em março.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
136
Apêndice
Paulo Sérgio F. de Menezes
A.4 - Dados do Mês de Abril de 2003
Tabela A.4 – Dados para análise de correlação abril 2003
DATA
CONCENTRAÇÕES
Estação RLAM
DIREÇÃO Frequência Velocidade Calmaria
(ug/m3)
DEG
média
ISCT3
MEDIDO
FROM
%
m/s
%
1-Apr
2.59
0.11
79
61
3.73
12.50
3-Apr
12.74
0.47
58
61
3.39
0.00
4-Apr
0.09
0.84
107
78
4.42
0.00
5-Apr
0.64
10.78
104
69
4.63
0.00
6-Apr
2.80
5.55
85
62
3.13
0.00
7-Apr
3.40
2.60
94
49
3.77
0.00
8-Apr
1.17
2.13
113
50
3.73
0.00
9-Apr
0.09
1.08
84
65
3.77
0.00
10-Apr
0.58
3.97
94
43
3.43
0.00
15-Apr
6.33
1.10
78
63
3.30
0.00
16-Apr
1.22
0.84
48
40
3.39
0.00
17-Apr
2.36
5.42
31
38
3.26
4.17
18-Apr
6.55
0.40
53
48
3.47
0.00
25-Apr
1.45
0.43
129
49
4.42
0.00
Máximo
12.74
10.78
Mínimo
0.09
0.11
Média
3.00
2.55
112
36
4.14
0.97
Mediana
1.91
1.09
DesvPad
3.47
2.99
o
N Dados
14
Chuva
mm
0.00
0.00
0.00
0.00
0.00
0.00
0.00
0.00
0.00
9.30
17.50
1.00
10.30
0.80
Estação Madre de Deus
DIREÇÃO FrequênciaVelocidade Calmaria
DEG
média
FROM
%
m/s
%
135
65
1.53
4.17
150
94
2.06
0.00
144
94
1.89
4.17
87
20
1.41
0.00
25
28
1.38
0.00
42
31
1.49
0.00
149
15
1.49
4.17
89
75
1.24
12.50
78
17
1.38
8.33
218
96
1.91
0.00
219
97
1.76
0.00
234
71
1.22
4.17
203
83
1.19
0.00
185
66
1.56
0.00
2.78
160
42
1.47
7.78
Verificou-se que em 50% dos casos o modelo superestimou os valores medidos e
que em 50% o modelo subestimou os valores medidos.
7
6
Número de observações
5
4
3
2
1
0
-1
0
1
2
3
4
5
6
7
8
9
10
11
12
SO2 medido (ug/m3)
Figura A.7 – Histograma dos dados de SO2 medidos em abril.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
137
Apêndice
Paulo Sérgio F. de Menezes
8
7
Número de observações
6
5
4
3
2
1
0
-2
0
2
4
6
8
10
12
14
16
ISCST3 - SO2 (ug/m3)
Figura A.8 – Histograma dos dados de SO2 calculados em abril.
A.5 – Dados do Mês de Maio de 2003
Tabela A.5 – Dados para análise de correlação maio 2003
CONCENTRAÇÕES
Estação RLAM
(ug/m3)
DIREÇÃO Frequência Velocidade Calmaria
DEG
média
ISCT3
MEDIDA
FROM
%
m/s
%
2-May
9.29
2.92
3
5
2.79
8.33
5-May
4.64
0.36
145
14
3.22
0.00
6-May
1.66
0.17
117
37
2.96
0.00
7-May
2.25
3.64
6
16
2.62
0.00
8-May
2.28
5.82
60
37
3.13
0.00
9-May
5.46
4.35
90
79
4.07
0.00
10-May
0.58
0.31
128
37
3.56
0.00
14-May
0.60
1.97
188
40
1.89
4.17
18-May
0.09
1.50
227
43
3.26
0.00
19-May
0.10
0.53
113
63
2.19
4.17
25-May
1.60
4.87
134
33
3.99
0.00
27-May
0.87
1.06
234
41
2.74
0.00
31-May
10.44
0.81
113
86
1.63
0.00
Máximo
10.44
5.82
Mínimo
0.09
0.17
Média
3.07
2.18
138
49
3.37
0.94
Mediana
1.66
1.50
DesvPad
3.43
1.94
o
N Dados
13
DATA
Chuva
mm
0.00
0.30
0.00
0.80
0.00
0
6.9
1.7
5.8
2.6
0
1
7.1
2.02
Estação Madre de Deus
DIREÇÃO FrequênciaVelocidade Calmaria
DEG
média
FROM
%
m/s
%
42
17
1.06
8.33
156
61
1.41
8.33
189
38
1.52
0.00
14
11
1.21
4.17
14
20
1.21
8.33
116
13
1.26
0.00
193
77
2.19
0.00
218
46
1.19
8.33
231
54
1.51
0.00
184
49
1.54
0.00
29
42
1.34
0.00
163
64
1.30
4.17
150
74
1.56
0.00
172
39
1.59
5.78
Verifica-se que em 46% dos casos o modelo superestimou os valores medidos e que
em 54% o modelo subestimou os valores medidos.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
138
Apêndice
Paulo Sérgio F. de Menezes
4
Número de observações
3
2
1
0
-0.5
0.0
0.5
1.0
1.5
2.0
2.5
3.0
3.5
4.0
4.5
5.0
5.5
6.0
6.5
SO2 medido (ug/m3)
Figura A.9 – Histograma dos dados de SO2 medidos em maio.
6
Número de observações
5
4
3
2
1
0
-1
0
1
2
3
4
5
6
7
8
9
10
11
12
ISCST3 - SO2 (ug/m3)
Figura A.10 – Histograma dos dados de SO2 calculados em maio.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
139
Apêndice
Paulo Sérgio F. de Menezes
A.6 – Dados do Mês de Junho de 2003
Tabela A.6 – Dados para análise de correlação junho 2003
CONCENTRAÇÕES
Estação RLAM
(ug/m3)
DIREÇÃO Frequência Velocidade Calmaria
DEG
média
ISCT3
MEDIDA
FROM
%
m/s
%
2-Jun
2.32
0.52
102
82
2.40
0.00
3-Jun
2.07
1.05
96
78
3.82
0.00
4-Jun
2.84
0.72
64
40
1.59
8.33
5-Jun
2.16
0.35
71
74
2.57
12.50
6-Jun
1.82
1.30
66
34
2.74
20.83
7-Jun
2.58
0.74
107
91
3.90
4.17
8-Jun
2.47
0.63
94
79
3.69
0.00
10-Jun
0.09
1.34
90
74
4.16
4.17
19-Jun
0.77
0.91
31
12
2.87
0.00
20-Jun
0.46
1.58
3
36
1.80
16.67
21-Jun
0.69
0.57
137
32
1.93
25.00
24-Jun
0.90
1.84
92
19
3.04
4.17
25-Jun
2.84
2.04
10
20
1.80
4.17
29-Jun
3.77
0.31
12
5
2.79
0.00
30-Jun
1.04
0.48
36
23
2.87
0.00
Máximo
3.77
2.04
Mínimo
0.09
0.31
Média
1.79
0.96
109
44
3.06
4.31
Mediana
2.07
0.74
DesvPad
1.07
0.55
o
N Dados
15
DATA
Chuva
mm
0.70
0.00
2.40
1.10
0.00
0.00
1.50
0.20
3.40
0.10
0.00
1.30
1.20
0.4
0.5
Estação Madre de Deus
DIREÇÃO FrequênciaVelocidade Calmaria
DEG
média
FROM
%
m/s
%
153
73
0.94
33.33
164
46
1.38
12.50
193
41
0.95
16.67
108
52
0.99
12.50
206
25
1.49
0.00
168
75
1.54
4.17
141
71
1.51
8.33
141
55
1.49
4.17
192
48
1.25
8.33
224
30
0.95
8.33
225
18
1.31
8.33
206
45
1.32
4.17
222
31
0.96
20.83
181
48
1.28
8.33
182
41
2.12
12.50
0.85
176
51
1.44
10.56
Verificou-se que em 73% dos casos o modelo superestimou os valores medidos e
que em 27% o modelo subestimou os valores medidos.
4
Número de observações
3
2
1
0
0.0
0.2
0.4
0.6
0.8
1.0
1.2
1.4
1.6
1.8
2.0
2.2
2.4
SO2 medido (ug/m3 )
Figura A.11 – Histograma dos dados de SO2 medidos em junho.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
140
Apêndice
Paulo Sérgio F. de Menezes
5
Número de observações
4
3
2
1
0
-0.5
0.0
0.5
1.0
1.5
2.0
2.5
3.0
3.5
4.0
4.5
ISCST3 - SO2 (ug/m3 )
Figura A.12 – Histograma dos dados de SO2 calculados em junho.
A.7 - Dados do Mês de Julho de 2003
Tabela A.7 – Dados para análise de correlação julho 2003
DATA
CONCENTRAÇÕES
Estação RLAM
DIREÇÃO Frequência Velocidade Calmaria
(ug/m3)
DEG
média
ISCT3
MEDIDA
FROM
%
m/s
%
3-Jul
2.21
0.38
36
35
3.00
4.17
4-Jul
1.07
1.26
75
69
3.69
0.00
5-Jul
1.32
2.11
87
37
3.77
0.00
23-Jul
1.02
0.81
126
91
3.47
0.00
30-Jul
0.92
1.18
57
26
1.67
8.33
Máximo
2.21
2.11
Mínimo
0.92
0.38
Média
1.31
1.15
142
57
4.43
1.08
Mediana
1.07
1.18
DesvPad
0.53
0.64
o
N Dados
5
Chuva
mm
0.00
0.00
0.00
0.10
2.80
0.58
Estação Madre de Deus
DIREÇÃO FrequênciaVelocidade Calmaria
DEG
média
FROM
%
m/s
%
192
48
1.75
4.17
155
30
1.32
20.83
258
14
1.00
16.67
120
69
1.26
8.33
212
37
1.09
12.5
157
51
1.45
13.31
Verificou-se que em 40% dos casos o modelo superestimou os valores medidos e
que em 60% o modelo subestimou os valores medidos.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
141
Apêndice
Paulo Sérgio F. de Menezes
Número de observações
2
1
0
0.2
0.4
0.6
0.8
1.0
1.2
1.4
1.6
1.8
2.0
2.2
2.4
SO2 medido (ug/m3 )
Figura A.13 – Histograma dos dados de SO2 medidos em julho.
Número de observações
3
2
1
0
0.6
0.8
1.0
1.2
1.4
1.6
1.8
2.0
2.2
2.4
ISCST3 - SO2 (ug/m3 )
Figura A.14 – Histograma dos dados de SO2 calculados em julho.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
142
Apêndice
Paulo Sérgio F. de Menezes
A.8 - Dados do Mês de Agosto de 2003
Tabela A.8 – Dados para análise de correlação agosto 2003
DATA
CONCENTRAÇÕES
Estação RLAM
DIREÇÃO Frequência Velocidade Calmaria
(ug/m3)
DEG
média
ISCT3
MEDIDA
FROM
%
m/s
%
1-Aug
0.42
0.62
128
44
3.07
0.00
5-Aug
2.96
1.75
98
63
3.52
4.17
8-Aug
3.22
0.57
55
31
2.49
33.33
15-Aug
0.17
2.23
108
59
2.06
8.33
16-Aug
9.99
3.12
65
77
2.62
8.33
17-Aug
7.66
3.81
58
49
2.57
4.17
18-Aug
0.58
9.52
128
93
3.04
12.50
25-Aug
0.60
0.77
121
89
1.33
16.67
26-Aug
1.21
2.33
94
68
2.19
29.17
28-Aug
1.03
0.46
114
91
2.19
16.67
29-Aug
1.14
1.74
135
71
2.36
29.17
Máximo
9.99
9.52
Mínimo
0.17
0.46
Média
2.63
2.45
130
64
3.36
10.35
Mediana
1.14
1.75
DesvPad
3.26
2.59
o
N Dados
11
Chuva
mm
0.00
0.30
0.20
0.00
0.00
0.00
0.00
2.70
0.00
0.30
0.00
Estação Madre de Deus
DIREÇÃO FrequênciaVelocidade Calmaria
DEG
média
FROM
%
m/s
%
161
38
1.39
8.33
116
47
1.25
16.67
249
15
0.98
37.50
101
12
1.06
25.00
41
31
1.02
12.50
52
20
1.21
4.17
124
86
1.47
0.00
121
31
0.95
12.50
23
20
1.17
12.50
95
60
0.91
20.83
113
32
1.13
20.83
0.32
145
46
1.46
10.22
Verificou-se que em 45% dos casos o modelo superestimou os valores medidos e
que em 55% o modelo subestimou os valores medidos.
5
Número de observações
4
3
2
1
0
-1
0
1
2
3
4
5
6
7
8
9
10
11
SO2 medido (ug/m3)
Figura A.15 – Histograma dos dados de SO2 medidos em agosto.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
143
Apêndice
Paulo Sérgio F. de Menezes
5
Número de observações
4
3
2
1
0
-1
0
1
2
3
4
5
6
7
8
9
10
11
ISCST3 - SO2 (ug/m3)
Figura A.16 – Histograma dos dados de SO2 calculados em agosto.
A.9 - Dados do Mês de Setembro de 2003
Tabela A.9 – Dados para análise de correlação setembro 2003
DATA
CONCENTRAÇÕES
Estação RLAM
DIREÇÃO Frequência Velocidade Calmaria
(ug/m3)
DEG
média
ISCT3
MEDIDA
FROM
%
m/s
%
2-Sep
6.55
0.10
131
93
4.80
0.00
8-Sep
1.00
1.05
123
82
3.90
0.00
13-Sep
0.01
0.64
133
90
3.73
4.17
14-Sep
0.75
1.31
122
44
2.07
29.17
16-Sep
0.03
1.94
123
90
2.57
25.00
18-Sep
3.17
0.45
126
82
2.96
4.17
25-Sep
1.65
7.83
105
60
2.36
29.17
Máximo
6.55
7.83
Mínimo
0.01
0.10
Média
1.88
1.90
124
80
3.7
11.53
Mediana
1.00
1.05
DesvPad
2.33
2.68
o
N Dados
7
Chuva
mm
0.00
0.00
0.00
0.00
0.50
0.00
0.00
0.07
Estação Madre de Deus
DIREÇÃO FrequênciaVelocidade Calmaria
DEG
média
FROM
%
m/s
%
137
95
1.77
4.17
120
51
1.19
16.67
133
81
1.56
4.17
148
29
1.36
0.00
119
76
1.08
12.50
124
65
1.13
20.83
22
100
0.00
100.00
118
41
1.15
31.94
Verificou-se que em 29% dos casos o modelo superestimou os valores medidos e
que em 71% o modelo subestimou os valores medidos.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
144
Apêndice
Paulo Sérgio F. de Menezes
4
Número de observações
3
2
1
0
-1
0
1
2
3
4
5
6
7
8
9
SO2 medido (ug/m3)
Figura A.17 – Histograma dos dados de SO2 medidos em setembro.
4
Número de observações
3
2
1
0
-1
0
1
2
3
4
5
6
7
8
ISCST3 - SO2 (ug/m3)
Figura A.18 – Histograma dos dados de SO2 calculados em setembro.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
145
Apêndice
Paulo Sérgio F. de Menezes
A.10 - Dados do Mês de Outubro de 2003
Tabela A.10 – Dados para análise de correlação outubro 2003
DATA
CONCENTRAÇÕES
Estação RLAM
DIREÇÃO Frequência Velocidade Calmaria
(ug/m3)
DEG
média
ISCT3
MEDIDA
FROM
%
m/s
%
6-Oct
4.56
0.49
117
71
3.09
8.33
8-Oct
0.64
9.29
98
89
3.47
8.33
12-Oct
0.24
6.69
105
59
3.30
8.33
13-Oct
5.88
1.74
135
68
4.93
0.00
20-Oct
0.50
1.44
158
25
2.70
0.00
21-Oct
3.52
3.90
100
67
2.36
16.67
22-Oct
3.22
11.87
78
82
3.34
4.17
28-Oct
1.88
1.69
115
80
3.99
4.17
30-Oct
0.47
0.19
109
55
2.83
20.83
Máximo
5.88
11.87
Mínimo
0.24
0.19
Média
2.32
4.14
126
73
3.75
6.72
Mediana
1.88
1.74
DesvPad
2.06
4.20
o
N Dados
9
Chuva
mm
0.90
0.00
0.00
0.00
0.00
0.00
0.00
0.40
0.00
0.14
Estação Madre de Deus
DIREÇÃO Frequ Velocidade Calmaria
DEG
média
FROM
%
m/s
%
107
57
1.17
8.33
89
83
1.25
12.50
96
40
1.27
8.33
142
59
1.92
8.33
177
40
1.36
16.67
79
23
1.26
12.50
81
68
0.92
37.50
113
62
1.23
16.67
114
37
1.19
8.33
122
60
1.50
14.38
Verificou-se que em 44% dos casos o modelo superestimou os valores medidos e
que em 56% o modelo subestimou os valores medidos.
4
Número de observações
3
2
1
0
-1
1
3
5
7
9
11
13
SO2 medido (ug/m3)
Figura A.19 – Histograma dos dados de SO2 medidos em outubro.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
146
Apêndice
Paulo Sérgio F. de Menezes
Número de observações
3
2
1
0
-0.5
0.0
0.5
1.0
1.5
2.0
2.5
3.0
3.5
4.0
4.5
5.0
5.5
6.0
6.5
ISCST3 - SO2 (ug/m3)
Figura A.20 – Histograma dos dados de SO2 calculados em outubro.
A.11 - DADOS DO MÊS DE NOVEMBRO DE 2003
Tabela A.11 – Dados para análise de correlação novembro 2003
CONCENTRAÇÕES
Estação RLAM
(ug/m3)
DIREÇÃO Frequência Velocidade Calmaria
DEG
média
ISCT3
MEDIDA
FROM
%
m/s
%
1-Nov
1.65
2.35
119
74
2.70
29.17
2-Nov
8.33
9.75
93
60
3.00
16.67
8-Nov
6.28
2.76
123
55
2.27
8.33
10-Nov
4.40
1.03
103
67
2.87
8.33
11-Nov
1.65
1.09
117
84
4.20
4.17
14-Nov
4.73
4.10
69
63
3.39
0.00
18-Nov
3.31
1.73
114
94
3.47
0.00
22-Nov
14.10
0.94
71
72
2.49
4.17
24-Nov
25.25
0.46
67
62
3.52
0.00
25-Nov
10.96
5.00
78
51
4.07
0.00
27-Nov
6.92
6.22
102
72
3.64
0.00
28-Nov
6.62
10.10
80
55
2.87
8.33
29-Nov
2.30
4.93
98
60
3.73
0.00
30-Nov
1.13
41.72
90
71
3.71
16.67
Máximo
25.25
41.72
Mínimo
1.13
0.46
Média
6.97
6.58
110
61
3.81
7.5
Mediana
5.51
3.43
DesvPad
6.45
10.58
o
N Dados
14
DATA
Chuva
mm
0.00
0.00
0.20
0.00
0.30
0.00
0.00
0.00
0.00
0.00
0.00
0.00
0.00
0.00
0.04
Estação Madre de Deus
DIREÇÃO FrequênciaVelocidade Calmaria
DEG
média
FROM
%
m/s
%
84
22
1.30
8.33
60
30
1.19
12.50
127
63
0.91
29.17
112
98
0.51
62.50
109
61
1.23
8.33
102
95
0.47
66.67
104
84
1.17
12.50
141
90
1.82
0.00
101
80
1.11
20.83
81
70
1.12
16.67
108
55
1.27
4.17
77
80
1.14
4.17
93
56
1.25
8.33
94
55
1.21
12.50
117
63
1.26
18.75
Verificou-se que em 64% dos casos o modelo superestimou os valores medidos e
que em 36% o modelo subestimou os valores medidos.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
147
Apêndice
Paulo Sérgio F. de Menezes
12
10
Número de observações
8
6
4
2
0
-5
0
5
10
15
20
25
30
35
40
45
50
SO2 medido (ug/m3)
Figura A.21 – Histograma dos dados de SO2 medidos em novembro.
4
Número de observações
3
2
1
0
-2
2
6
10
14
18
22
26
ISCST3 - SO2 (ug/m3)
Figura A.22 – Histograma dos dados de SO2 calculados em novembro.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
148
Apêndice
Paulo Sérgio F. de Menezes
A. 12 - Dados do Ano de 2003
Foram utilizados 163 pares de dados (calculados x medidos), onde se verificou que
o ISCST3 superestimou 62% das concentrações de SO2 e subestimou 38%, em
relação aos valores medidos na estação de Madre de Deus.
Tabela A.12 – Dados para análise de correlação do ano de 2003
DATA
CONCENTRAÇÕES
Estação RLAM
DIREÇÃO FrequênciaVelocidade Calmaria
(ug/m3)
DEG
média
ISCT3
MEDIDA
FROM
%
m/s
%
Máximo
25.25
41.72
Mínimo
0.01
0.10
Média
4.68
3.65
108
52
3.79
4.03
Mediana
3.22
1.73
DesvPad
4.38
5.08
o
N Dados
163
Chuva
mm
Estação Madre de Deus
DIREÇÃO FrequênciaVelocidade Calmaria
DEG
média
FROM
%
m/s
%
0.71
136
47
1.40
14.53
140
120
Número de observações
100
80
60
40
20
0
-5
0
5
10
15
20
25
30
35
40
45
50
SO2 medido (ug/m3)
Figura A.23 – Histograma dos dados de SO2 medidos em 2003.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
149
Apêndice
Paulo Sérgio F. de Menezes
120
Número de observações
100
80
60
40
20
0
-5
0
5
10
15
20
25
30
ISCST3 - SO2 (ug/m3)
Figura A.24 – Histograma dos dados de SO2 calculados em 2003.
Validação do Modelo Matemático ISCST3 de Dispersão Atmosférica a Partir das Emissões de SO2 de uma Refinaria
150
UFBA
UNIVERSIDADE FEDERAL DA BAHIA
ESCOLA POLITÉCNICA
DEPTº DE ENGENHARIA AMBIENTAL - DEA
MESTRADO PROFISSIONAL EM GERENCIAMENTO E
TECNOLOGIAS
AMBIENTAIS NO PROCESSO PRODUTIVO
Rua Aristides Novis, 02, 4º andar, Federação, Salvador BA
CEP: 40.210-630
Tels: (71) 3235-4436 / 3203-9798
Fax: (71) 3203-9892
E-mail: [email protected] / [email protected]
Home page: http://www.teclim.ufba.br