Oferecido por
Todas as manhãs, despachantes de companhias aéreas, operadores de redes elétricas e agricultores ao redor do mundo tomam decisões com base na mesma coisa: a previsão do tempo.
Embora a maioria das pessoas passe apenas dois segundos olhando para elas, as previsões influenciam decisões estratégicas importantes em diversos setores, nos quais estão em jogo dinheiro de verdade, meios de subsistência e até mesmo vidas. Agricultores as utilizam para determinar qual variedade de cultura plantar, quando aplicar fertilizantes, quanto investir em infraestrutura de irrigação e por quanto tempo o gado deve pastar. Empresas de serviços públicos as utilizam para decidir onde construir usinas solares e eólicas, bem como para definir os preços da eletricidade no mercado atacadista. As previsões são usadas para alertar as pessoas sobre eventos climáticos extremos e acionar medidas de resposta a emergências. Mais recentemente, elas se tornaram relevantes para um setor emergente: os mercados de previsão, nos quais as pessoas apostam dinheiro em todo tipo de acontecimento do mundo real, incluindo o clima.
No entanto, a tentação de manipular dados meteorológicos para obter vantagem nesses mercados, combinada a um movimento coletivo em direção à previsão meteorológica baseada em dados e Inteligência Artificial, começa a colocar em risco a precisão delas. Por enquanto, está relativamente administrável, mas, como especialistas na área, conseguimos antever cenários em que as ameaças se ampliam e se transformam em problemas muito maiores e mais sistêmicos.
Para desenvolver previsões meteorológicas, precisamos de observações precisas das condições atuais. Esses dados são coletados de diversas fontes, incluindo estações meteorológicas localizadas em aeroportos e mantidas por empresas de serviços públicos ou de transporte. Sistemas operacionais tradicionais, como o modelo Weather Research and Forecasting, ou o Integrated Forecasting System, do Centro Europeu de Previsões Meteorológicas de Médio Prazo, combinam essas observações com aproximações numéricas para estimar os padrões meteorológicos futuros.
Às vezes, as estações meteorológicas apresentam problemas devido, por exemplo, a falhas nos instrumentos ou a atualizações dos equipamentos. Essas questões podem ser identificadas em tempo real, por meio de verificação e correção, ou retroativamente. Os sistemas tradicionais de previsão também contam com uma salvaguarda integrada chamada assimilação de dados: cada nova medição é ponderada em relação ao que o modelo físico indica que deveria estar acontecendo e às leituras de estações próximas.
Juntos, esses mecanismos ajudam a manter as observações meteorológicas confiáveis e as previsões robustas. No entanto, novas ameaças estão colocando em risco a precisão das observações. No início deste ano, veículos de imprensa noticiaram que a estação meteorológica do Aeroporto Charles de Gaulle, em Paris, na França, havia sido manipulada para registrar picos de temperatura suspeitos nos dias 6 e 15 de abril. As autoridades especulam que um secador de cabelo portátil ou um isqueiro possa ter sido usado. De qualquer forma, isso resultou em grandes pagamentos nos mercados de previsão on-line para aqueles que haviam apostado que a temperatura chegaria a 22 °C em dias nos quais a média real ficou em torno de 18 °C. Uma pessoa ganhou 20 mil dólares (cerca de 100 mil reais).
Felizmente, a adulteração de uma única estação como essa geralmente pode ser detectada por meio do monitoramento humano ou dos métodos estatísticos atuais. Nesse caso, integrantes de uma associação francesa sem fins lucrativos dedicada ao clima perceberam as anomalias por acaso e deram o alerta.
Mas e se não houver sistemas de monitoramento humano em funcionamento? E quanto a outros tipos de manipulação? E se, em vez de adulterar uma única estação, alguém alterasse remotamente as leituras de várias estações ao mesmo tempo, fazendo com que cada mudança fosse pequena o bastante para parecer plausível isoladamente? Os controles de qualidade existentes têm dificuldade para detectar esse tipo de ação coordenada. E o tempo joga contra nós. Verificações cuidadosas de dados e metadados levam horas ou dias, mas as previsões precisam ser divulgadas dentro do cronograma, independentemente das condições meteorológicas.
A transição para a Inteligência Artificial na previsão meteorológica aumenta os riscos. Esses métodos dependem ainda mais de observações precisas e confiáveis. Na verdade, são conhecidos como “modelos orientados por dados”. Por exemplo, pesquisadores estão investigando se é possível produzir previsões meteorológicas de alta qualidade diretamente a partir de observações brutas, eliminando a etapa de assimilação que atualmente funciona como um filtro de qualidade. Outros estão dando um passo além, combinando dados geoespaciais, incluindo os de estações meteorológicas, com grandes modelos de linguagem e IA agêntica para apoiar a tomada de decisões autônoma e em tempo real durante eventos extremos.
Entre os possíveis benefícios estão melhorias na precisão, na eficiência e na velocidade. Mas retirar os seres humanos desse processo introduz uma ampla gama de novos riscos.
Na extremidade inferior da escala de risco, um especulador individual manipula uma estação meteorológica para obter ganhos pessoais, como no caso citado. Um nível acima, um grupo de operadores poderia se coordenar para distorcer as previsões de geração de energia renovável, movimentando os preços da eletricidade no mercado atacadista e fazendo com que a parte do outro lado da negociação arque com o prejuízo. Na extremidade mais grave, um agente estatal ou sabotador poderia manipular uma ou várias estações para acionar um sistema de alerta precoce ou até mesmo mantê-lo em silêncio quando deveria soar. Passo a passo, o risco aumenta, passando de fraude para comprometimento da preparação para desastres e, por fim, para uma questão de segurança nacional.
Enquanto houver incentivos financeiros, ou de outra natureza, para manipular dados de observação, os adversários buscarão novas oportunidades, e cabe a nós permanecer um passo à frente. Veja três maneiras de fazer isso.
1. Monitore as estações. Os controles de qualidade dos dados devem incluir a segurança das estações, a detecção e correção de anomalias e a supervisão humana. As estações meteorológicas devem ser monitoradas continuamente para desencorajar adulterações. Os métodos de homogeneização de dados que corrigem os registros meteorológicos também precisam se tornar mais rápidos, com o objetivo de detectar problemas em tempo real. Isso se tornará cada vez mais importante à medida que sistemas de IA agêntica utilizarem esses dados para tomar decisões em tempo real. Por fim, a supervisão humana é necessária para sinalizar dados e resultados de modelos que sejam questionáveis. Afinal, foram seres humanos que detectaram a manipulação no Aeroporto Charles de Gaulle.
2. Proteja os dados para salvaguardar a IA. Mecanismos de defesa de dados devem ser implementados em todo o pipeline de IA. Ferramentas de explicabilidade (quando um sistema detalha de forma compreensível os dados e critérios que usou para chegar a uma decisão específica) e de robustez adversarial podem nos ajudar a compreender os dados subjacentes e os resultados dos modelos, de forma a identificar problemas e, potencialmente, a aumentar nossa resiliência a ataques adversariais (tipo de ataque que manipula intencionalmente os dados de entrada de modelos).
3. Garanta a responsabilização contínua ao longo da cadeia. Os dados de observação passam por muitas mãos: os operadores responsáveis pelas estações, os serviços meteorológicos nacionais que administram os registros e os centros de previsão que os transformam em previsões. Nenhum deles consegue proteger sozinho a integridade dos dados. Cada um protege seu próprio elo, e qualquer anomalia precisa ser comunicada ao longo de toda a cadeia, dos operadores das estações às pessoas que tomam decisões com base na previsão.
É uma sorte que a situação no Aeroporto Charles de Gaulle tenha sido detectada, mas ela deve servir como um alerta. À medida que aumenta o papel dos dados de observação na previsão meteorológica, precisamos nos adaptar às ameaças em evolução. Isso significa proteger nossos dados e modelos, fortalecendo as estruturas existentes de supervisão e responsabilização e melhorando a coordenação entre os principais parceiros.
Monique Kuglitsch, Jesper Dramsch, Franz G. Kuglitsch, Andrea Toreti
