O MongoDB oferece uma plataforma dimensionável para sistemas de medição inteligente, o que possibilita a coleta de dados em tempo real, análise de séries temporais e detecção de anomalias.
Casos de uso: IoT, Análise orientada por aplicativos, Visão única
Setores: Manufatura e mobilidade, energia e meio Ambiente
Produtos e ferramentas: MongoDB Atlas, Atlas Charts, Change Streams, Coleções de Séries Temporais, MongoDB Query API
Parceiros: Cedalo
Visão Geral da Solução
Com a adoção de medidores inteligentes prevista para alcançar 90% nos EUA e no Canadá até 2027, o MongoDB oferece uma plataforma completa para gerenciar e analisar dados de série temporal de medidores inteligentes em grande escala. A solução permite que as empresas de serviços públicos coletem leituras de medidores de alta frequência, processem dados de streaming em tempo real e armazenem dados históricos de maneira eficiente usando as coleções de séries temporais do MongoDB. Pipelines de agregação poderosos e fluxos de alterações permitem a detecção sofisticada de anomalias, ajudando as empresas de serviços públicos a identificar rapidamente possíveis problemas, como picos de tensão, interrupções de energia ou padrões de consumo incomuns.
À medida que o consumo de energia aumenta no mundo todo, aumentam também os dados gerados por medidores inteligentes. A nossa solução utiliza a integração do MongoDB com protocolos de mensagens IoT, como o MQTT, para ingerir dados das unidades head-end dos medidores inteligentes com confiabilidade, enquanto o suporte nativo a séries temporais do MongoDB Atlas armazena e faz queries dos dados temporais com eficiência. As empresas de serviços públicos podem aumentar a escala de milhares para milhões de medidores conectados enquanto mantêm o desempenho e a acessibilidade dos dados. Recursos avançados como o escalonamento de dados e o Atlas Online Archive ajudam a gerenciar dados históricos de maneira econômica, enquanto as funcionalidades analíticas integradas permitem fazer monitoramento em tempo real e gerar insights operacionais em dashboards e relatórios personalizáveis.
Arquiteturas de referência
Existem dois componentes principais nessa solução.
Armazenamento de dados de medidores inteligentes
Para utilizar a medição inteligente, as empresas de serviços públicos de energia precisam implantar um ecossistema central de medição inteligente que inclua os próprios medidores inteligentes, a rede de coleta de dados dos medidores, o sistema de head-end (HES) e o sistema de gerenciamento de dados dos medidores (MDMS). Os medidores inteligentes coletam dados dos consumidores finais e os transmitem ao agregador de dados por meio da rede local (Local Area Network - LAN). A frequência de transmissão pode ser ajustada para 15 minutos, 30 minutos ou a cada hora, dependendo dos requisitos de demanda de dados. O agregador recupera os dados e depois os transmite para o sistema de head-end. O sistema de head-end analisa os dados e os envia para o MDMS. O caminho inicial de comunicação é bidirecional: sinais ou comandos podem ser enviados diretamente para os medidores, a instalação do cliente ou o dispositivo de distribuição.
Em nossa solução, o MongoDB é o banco de dados de backend para o sistema MDMS. Assim que os dados chegam ao HES, eles são transmitidos para o MongoDB usando um provedor MQTT. Os principais provedores de broker MQTT (como HiveMQ, EMQX e Cedalo) desenvolveram integrações com o MongoDB que permitem a perfeita transferência de dados e o eficiente gerenciamento das informações coletadas de medidores inteligentes.
Esta solução utiliza o broker Cedalo Pro Mosquitto MQTT para facilitar a transmissão eficaz de mensagens. Ao utilizar a ponte MongoDB, cria-se uma excelente conexão com o MongoDB, garantindo um fluxo contínuo e eficiente de dados entre os dois sistemas.
Posteriormente, o MongoDB armazena os dados do medidor inteligente, que incluem informações como ID, data e hora e medições (energia, corrente, tensão etc.).
Sistema de gerenciamento de dados de medição de última geração com MongoDB
Depois que os dados do medidor inteligente são armazenados no MongoDB Atlas, eles podem ser analisados em busca de anomalias e insights. Essa solução usa três recursos importantes do MongoDB para criar um MDMS de última geração: fluxos de alterações, coleções de séries temporais e a poderosa API MongoDB Query.
Os fluxos de alterações do MongoDB permitem a captura e o processamento em tempo real de mudanças no banco de dados, como operações de inserção, o que gera insights imediatos sobre padrões de consumo de energia, anomalias do sistema e possíveis falhas. Essa capacidade em tempo real é crucial para sistemas de medidores inteligentes, pois permite uma análise oportuna pelo framework de agregação do MongoDB, detectando anomalias e despesas relacionadas a danos e interrupções no serviço.
Os dados analisados são armazenados em coleções de séries temporais. Essas coleções especializadas oferecem alta compactação, melhoram o desempenho de consultas de dados de séries temporais e possibilitam operações rápidas.
Figura 1. Arquitetura de sistema de gerenciamento de medidores inteligentes de ponta a ponta
Abordagem do modelo de dados
A solução utiliza dois modelos de dados de série temporal distintos. O primeiro modelo é projetado para dados brutos de medidores inteligentes com meter_id como metaField.
{ "_id": "668cb56d3830323642e562d9" , "timestamp": { "$date": "1720497517183" }, "power_factor": 0.89 , "power": 220.1 , "frequency": 49.85, "meter_id": 1, "energy": 0.22, "current": 1, "voltage": 219.38 }
O segundo conjunto de dados inclui anomalias detectadas em várias medições com base em critérios predefinidos. Neste exemplo, as anomalias são definidas como as leituras que estão mais de três desvios-padrão acima dos valores médios. Estamos usando meter_id como metaField aqui.
{ "_id": "668d4a023819ef77d3fc84d8", "timestamp": { "$date": "1720535553856" }, "meter_id": 3, "data": { "voltage": 190.06, "current": 18.13, "power": 3445.67, "energy": 3.45, "power_factor": 0.76, "frequency": 49.92 }, "anomalies": ["voltage", "current"] }
Construindo a Solução
Esta solução de gerenciamento de dados de medidores inteligentes demonstra uma arquitetura que utiliza o broker MQTT e o MongoDB Atlas para enfrentar os complexos desafios da coleção e análise de dados da infraestrutura energética moderna. Embora a implementação de referência exiba o MQTT Broker da Cedalo, a solução foi projetada para compatível com qualquer broker e oferece suporte à integração com vários provedores de MQTT.
Principais componentes da solução
Broker MQTT (camada de ingestão de dados)
Configure seu broker MQTT para um tratamento confiável de mensagens.
Configure a integração do broker com o MongoDB.
Estabeleça pipelines seguros para streaming de dados.
Habilite a coleção de dados em tempo real de medidores inteligentes.
Implemente o gerenciamento e o monitoramento de brokers.
Configuração do banco de dados (camada de processamento de dados)
Crie um banco de dados do MongoDB com as coleções necessárias.
Configure coleções de séries temporais para:
Anomalies data.
Dados de métricas.
Dados transformados.
Configure pipelines de transformação de dados.
Ative as funcionalidades de processamento de dados em tempo real.
Para uma implementação prática e completa, confira o repositório detalhado.
Principais Aprendizados
Gerenciamento de dados é crucial: medidores inteligentes geram volumes massivos de dados de série temporal, o que apresenta desafios significativos de interoperabilidade, privacidade e processamento eficiente. Soluções eficazes requerem bancos de dados flexíveis e dimensionáveis, capazes de lidar com fluxos de dados complexos e de alta frequência.
O MQTT permite comunicação eficiente de IoT: o protocolo leve de publicação e inscrição é crucial para ecossistemas de medidores inteligentes, pois fornece transmissão de dados eficiente, segura e confiável entre dispositivos de IoT, agregadores e sistemas de gerenciamento.
O MongoDB oferece soluções abrangentes para dados de IoT: com recursos como coleções de séries temporais, fluxos de mudanças, frameworks de agregação e o document model flexível, o MongoDB enfrenta desafios importantes no gerenciamento de dados de medidores inteligentes, incluindo a detecção de anomalias, análises em tempo real e armazenamento de dados dimensionável.
Abordagem integrada é fundamental: implementações bem-sucedidas de medidores inteligentes requerem uma solução holística que combine protocolos de mensagens robustos (como MQTT), tecnologias avançadas de banco de dados e funcionalidades analíticas abrangentes para transformar dados brutos dos medidores em perspicácias acionáveis para as empresas de serviços públicos.
Tecnologias e produtos utilizados
Plataforma de dados para desenvolvedores MongoDB
Tecnologias de parceiros
Plataforma Cedalo MQTT
Autores
Dr. Humza Akhtar, MongoDB
Rami Pinto, MongoDB
Sebastian Rojas Arbulu, MongoDB
Diego Canales, MongoDB