Compete 2030
Automaise Sustainable AI Platform
Automaise Sustainable AI Platform:
Descrição do Projeto
Automaise Sustainable AI Platform:
Green LLM Engine
Projeto Automaise Sustainable AI Platform
Quando pensamos em Inteligência Artificial, imaginamos máquinas que aprendem, assistentes que respondem em segundos, sistemas que tomam decisões mais rápidas do que qualquer humano. O que raramente imaginamos é a fatura energética que existe por trás de tudo isso.
Treinar um modelo de linguagem de grande dimensão (LLMs), como os que alimentam os assistentes de voz e os chatbots modernos, pode emitir até 285 toneladas de CO₂. Para ter uma referência: um carro, durante toda a sua vida útil, emite cerca de 58 toneladas. Um único modelo de IA pode, portanto, equivaler a cinco carros em emissões, e isso antes de sequer ser colocado em produção.
É perante este cenário que estamos a desenvolver o Green LLM Engine: um módulo inovador que coloca a eficiência energética no centro do processo de desenvolvimento de soluções de IA.
O que é o Green LLM Engine?
O LLM Engine é o motor central da nossa plataforma. É ele que seleciona, treina e otimiza os modelos de linguagem utilizados nas soluções desenvolvidas para os nossos clientes, desde assistentes de voz em contact centers até sistemas de helpdesk interno.
O Green LLM Engine é uma evolução profunda desse motor. A diferença fundamental: as emissões de carbono passam a ser um critério de otimização, a par da precisão e do desempenho.
Na prática, isto significa que, quando o sistema está a escolher o melhor modelo para um determinado caso de uso, passa também a perguntar: qual o custo ambiental desta escolha? E ajusta automaticamente a decisão para minimizar esse impacto, sem sacrificar a qualidade da solução.
Como funciona?
O Green LLM Engine atua em três momentos-chave do ciclo de vida de um modelo de IA:
Pré-treino — A fase em que o modelo aprende a partir de grandes volumes de dados. É a mais exigente computacionalmente e, por isso, a que mais emissões gera. O Green LLM Engine introduz mecanismos para reduzir esta dependência, nomeadamente através de técnicas de meta-learning que permitem ao sistema aprender mais com menos dados.
Fine-tuning — O processo de afinar o modelo para um contexto específico (por exemplo, o vocabulário e os processos de uma empresa de seguros). Técnicas como LoRA e QLoRA permitem fazer este ajuste de forma muito mais eficiente do ponto de vista computacional.
Inferência — O momento em que o modelo está em produção e responde a pedidos em tempo real. Cerca de 80% da energia consumida por um modelo de IA ao longo da sua vida ocorre nesta fase. O Green LLM Engine reduz a complexidade dos modelos (o seu número de parâmetros) tornando-os mais rápidos e menos dispendiosos a operar.
O que esperamos alcançar?
O objetivo é ambicioso mas concreto:
Redução de pelo menos 40% nas emissões de carbono associadas ao pré-treino, fine-tuning e inferência dos modelos LLM na nossa plataforma.
Redução de pelo menos 30% na complexidade dos modelos, o que se traduz em menor latência e custos de infraestrutura mais baixos.
Redução de pelo menos 20% no tempo de resposta dos modelos, um fator crítico para aplicações de voz em tempo real.
Para os nossos clientes, isto significa soluções mais rápidas, mais baratas de operar e com uma pegada carbónica significativamente menor.
Porque é que isto importa agora?
O mercado global de IA deverá atingir 422 mil milhões de dólares em 2028. Se esta expansão continuar a ser alimentada por modelos cada vez maiores e mais exigentes, o impacto ambiental será considerável. A comunidade científica e os reguladores europeus já estão a levantar esta questão, e as empresas que anteciparem a transição para uma IA mais eficiente estarão melhor posicionadas no mercado.
O Green LLM Engine não é apenas uma aposta na sustentabilidade. É uma vantagem competitiva real.
O Green LLM Engine é um dos três módulos do projeto Automaise Sustainable AI Platform, co-financiado pelo Portugal 2030 e pela União Europeia através do programa COMPETE 2030. Nos próximos artigos, apresentamos o Data-Centric Sampler e o AI Carbon Emissions Calculator.
Automaise Sustainable AI Platform:
Data-Centric Sampler
Projeto Automaise Sustainable AI Platform
Durante anos, o mundo da Inteligência Artificial funcionou com uma crença quase religiosa: quanto mais dados, melhor. Mais dados de treino significavam modelos mais precisos, mais robustos, mais capazes. Era uma regra não escrita que impulsionou investimentos massivos em infraestrutura, armazenamento e poder computacional.
O problema? Esta regra está a ser contestada pela própria ciência.
Estudos recentes têm demonstrado que, em muitos contextos, a qualidade dos dados supera a quantidade. Um conjunto de dados menor, mas mais representativo e bem selecionado, pode produzir resultados comparáveis, ou superiores, a um conjunto massivo e ruidoso. É esta ideia que está na base do movimento data-centric AI, e é também o princípio que guia o desenvolvimento do Data-Centric Sampler.
O que é o Data-Centric Sampler?
O Data-Centric Sampler é um módulo que estamos a integrar na nossa plataforma com um objetivo claro: criar amostras eficientes de dados para treino de modelos de IA, reduzindo drasticamente a quantidade de dados necessária sem comprometer a qualidade dos resultados.
Em termos simples, em vez de treinar um modelo com 100% dos dados disponíveis, o Data-Centric Sampler identifica os exemplos mais informativos, aqueles que realmente ensinam algo ao modelo, e constrói uma amostra otimizada. O modelo aprende mais, com menos.
A inovação: meta-learning aplicado à amostragem
O que torna o Data-Centric Sampler verdadeiramente inovador é a abordagem técnica que lhe está subjacente: o meta-learning.
O meta-learning, ou "aprender a aprender", é um ramo da IA em que os sistemas desenvolvem a capacidade de adaptar estratégias de aprendizagem com base em experiências anteriores. Aplicado à amostragem de dados, permite ao sistema compreender, a partir de múltiplos conjuntos de dados e casos de uso, que tipo de exemplos são mais valiosos para treinar um determinado modelo numa determinada tarefa.
Estamos numa posição privilegiada para desenvolver esta tecnologia. A nossa plataforma processa dados de clientes em setores muito diversificados, como contact centers, seguradoras, retalho, energia e banca, o que gera um efeito de rede valioso: quanto mais casos de uso são processados, mais o sistema aprende sobre que dados fazem realmente a diferença.
Esta é uma investigação que dificilmente poderia ser conduzida em contexto puramente académico, precisamente porque os dados industriais, mais ruidosos, maiores e mais complexos do que os dados de investigação open-source, são o ambiente onde estas técnicas precisam de ser testadas e validadas.
O que esperamos alcançar?
Os objetivos do Data-Centric Sampler são quantificados e verificáveis:
Redução de pelo menos 40% no tamanho do conjunto de dados necessário para treinar modelos de IA com desempenho equivalente.
Redução de pelo menos 30% na complexidade dos modelos resultantes, graças a uma melhor qualidade dos dados de treino.
Menor custo computacional no desenvolvimento e manutenção de soluções, com poupanças estimadas de pelo menos 30% nos custos de infraestrutura cloud.
O impacto no mundo real
Para um cliente que desenvolve um assistente virtual na nossa plataforma, isto traduz-se em experiências concretas:
Menos tempo de experimentação. O processo de fine-tuning torna-se mais rápido porque o sistema já sabe que dados usar.
Menos dependência de GPUs caras. Treinar modelos com menos dados reduz a necessidade de infraestrutura de alto custo. Um servidor com GPU Nvidia A100 custa cerca de 2.200€ por mês em plataformas cloud como a Azure ou a Google Cloud. Reduzir o tempo de treino significa reduzir diretamente este custo.
Menor pegada de carbono. Menos computação significa menos emissões. O Data-Centric Sampler é, por isso, também uma ferramenta de sustentabilidade.
Um contributo para a comunidade
Comprometemo-nos a lançar o Data-Centric Sampler como uma biblioteca Python de código aberto, compatível com a popular biblioteca Pandas. Isto significa que qualquer equipa de ciência de dados, em qualquer parte do mundo, poderá beneficiar desta investigação, sem barreiras de acesso.
Acreditamos que tornar a IA mais eficiente é um bem público. E que partilhar o conhecimento desenvolvido é parte integrante desta missão.
O Data-Centric Sampler é um dos três módulos do projeto Automaise Sustainable AI Platform, co-financiado pelo Portugal 2030 e pela União Europeia através do programa COMPETE 2030. No próximo artigo, apresentamos o AI Carbon Emissions Calculator, a ferramenta que mede a pegada carbónica das soluções de IA antes mesmo de estas serem desenvolvidas.
Automaise Sustainable AI Platform:
AI Carbon Emissions Calculator
Projeto Automaise Sustainable AI Platform
Imagine que está prestes a construir uma casa. Antes de colocar um único tijolo, o arquiteto consegue calcular com precisão quanto vai consumir em energia, água e materiais, e propõe ajustes no projeto para reduzir esse impacto. Só depois é que a construção começa.
Agora imagine o mesmo princípio aplicado à Inteligência Artificial.
É exatamente isto que estamos a desenvolver com o AI Carbon Emissions Calculator: uma ferramenta capaz de estimar a pegada carbónica de uma solução de IA antes de ela ser criada, e de a monitorizar ao longo de todo o seu ciclo de vida.
O problema que ninguém quer ver
Em 2019, investigadores da Universidade de Massachusetts Amherst publicaram um estudo que surpreendeu a comunidade tecnológica: treinar um modelo de linguagem de grande dimensão pode emitir até 285 toneladas de CO₂, mais do que cinco carros durante toda a sua vida útil.
O que é ainda mais preocupante: a maioria desta emissão não acontece durante o treino inicial. A NVIDIA estima que cerca de 80% da energia consumida por um modelo de IA ocorre na fase de inferência, ou seja, quando o modelo já está em produção e responde a pedidos em tempo real, dia após dia, mês após mês.
Apesar desta realidade, as ferramentas disponíveis para medir e gerir estas emissões são ainda muito limitadas. As poucas que existem focam-se na medição de modelos já desenvolvidos e têm aplicabilidade restrita em contextos industriais. Nenhuma permite estimar o impacto antes de a solução ser construída. É precisamente esta lacuna que o AI Carbon Emissions Calculator vem preencher.
O que faz o AI Carbon Emissions Calculator?
O módulo tem duas capacidades centrais:
Estimar emissões antes do desenvolvimento
Antes de uma equipa começar a treinar um modelo, o AI Carbon Emissions Calculator analisa os parâmetros do projeto, como o tipo de modelo, volume de dados, hardware previsto, localização geográfica do servidor e duração estimada do treino, e produz uma estimativa da pegada carbónica associada. Isto permite tomar decisões informadas logo à partida: escolher uma arquitetura mais eficiente, optar por um servidor numa região com energia mais limpa, ou ajustar o âmbito do projeto para reduzir o impacto ambiental.
Medir e monitorizar emissões em tempo real
Uma vez em produção, o módulo integra-se com os fornecedores de cloud utilizados na nossa plataforma e recolhe dados reais sobre consumo energético e emissões de carbono. Estes dados são apresentados num dashboard intuitivo, acessível tanto às equipas técnicas como aos decisores de negócio.
Porque é que a localização geográfica importa?
Um aspeto que muitos não consideram: a pegada carbónica de um modelo de IA não depende apenas do seu tamanho ou da quantidade de dados com que foi treinado. Depende também de onde o servidor está fisicamente localizado.
Um servidor em Portugal, abastecido por uma rede elétrica com alta penetração de renováveis, emite muito menos CO₂ do que o mesmo servidor a operar com energia predominantemente fóssil. O AI Carbon Emissions Calculator incorpora esta variável na sua estimativa, tornando-a muito mais precisa e relevante para empresas com preocupações reais de sustentabilidade.
O que esperamos alcançar?
Com a integração do AI Carbon Emissions Calculator na nossa plataforma, os clientes e parceiros poderão:
Medir a pegada carbónica de qualquer solução de IA desenvolvida na plataforma, em tempo real.
Estimar emissões futuras antes de iniciar o desenvolvimento, permitindo escolhas mais conscientes desde o primeiro dia.
Documentar e reportar as emissões das suas soluções de IA, uma capacidade cada vez mais relevante face às exigências de reporte de sustentabilidade no contexto do Pacto Ecológico Europeu.
O objetivo global do projeto é uma redução de 40% nas emissões de carbono associadas ao desenvolvimento e operação de soluções de IA na nossa plataforma.
Rumo a uma IA mais responsável
A adoção de IA está a crescer a um ritmo sem precedentes. O mercado global deverá atingir 422 mil milhões de dólares em 2028. Esta expansão é, em grande medida, positiva, mas só será sustentável se as ferramentas que a suportam forem desenhadas com consciência do seu impacto ambiental.
O AI Carbon Emissions Calculator é a nossa resposta a este desafio: dar às organizações a visibilidade e o controlo de que precisam para desenvolver IA de forma mais responsável. Tal como os outros módulos do projeto, será disponibilizado como uma biblioteca Python de código aberto, para que qualquer equipa de desenvolvimento de IA possa beneficiar desta ferramenta, independentemente da plataforma que utiliza.
O AI Carbon Emissions Calculator é um dos três módulos do projeto Automaise Sustainable AI Platform, co-financiado pelo Portugal 2030 e pela União Europeia através do programa COMPETE 2030. Os outros dois módulos, o Green LLM Engine e o Data-Centric Sampler, foram apresentados nos artigos anteriores desta série.
Automaise Sustainable AI Platform:
Na imprensa
A Automaise Sustainable AI Platform chegou às páginas de vários meios de comunicação nacionais e internacionais, do SAPO ao Jornal Económico, da Ambiente Magazine ao Grande Consumo, com edições em português e em espanhol. É um sinal que nos orgulha, e que queremos partilhar.
O que os meios disseram
A cobertura foi consistente num ponto central: a ideia de que a IA precisa de aprender a gastar menos.
O Jornal Económico, o SAPO, o GreenSavers, o Empreendedor e a Ambiente Magazine destacaram o apoio do Portugal 2030 e a ambição do projeto: desenvolver uma plataforma de IA que mede, reduz e monitoriza as emissões de carbono associadas ao desenvolvimento de soluções de inteligência artificial. O Grande Consumo foi mais longe e levou a notícia a Espanha, reconhecendo o potencial de impacto além-fronteiras.
Para além da visibilidade, esta cobertura sinaliza que o tema da IA sustentável saiu do papel e chegou ao debate público.
Porque é que este projeto existe
Estamos a construir três módulos que vão transformar a forma como se desenvolvem soluções de IA na nossa plataforma.
O Green LLM Engine integra as emissões de carbono na equação de otimização dos modelos, garantindo que a escolha do modelo certo tem também em conta o impacto ambiental. O Data-Centric Sampler reduz em pelo menos 40% os dados necessários para treinar um modelo, tornando o processo mais eficiente e menos dispendioso. O AI Carbon Emissions Calculator estima a pegada carbónica de uma solução antes de ela ser desenvolvida, uma capacidade que as ferramentas atualmente disponíveis no mercado ainda não oferecem.
Juntos, estes três módulos visam uma redução de 40% nas emissões de carbono associadas ao desenvolvimento de IA na nossa plataforma. Este é um objetivo quantificado, com metodologia definida e métricas verificáveis.
Para onde vamos a seguir
O projeto arrancou em abril de 2024 e termina em março de 2026. Nos próximos meses, os três módulos entrarão em fase de integração e validação em projetos piloto com os nossos clientes.
Os resultados serão partilhados em código aberto, na forma de bibliotecas Python disponíveis para qualquer equipa de desenvolvimento de IA. Porque acreditamos que tornar a IA mais eficiente é um bem público, e que a melhor forma de ter impacto é não guardar o conhecimento para nós.
A cobertura mediática do projeto Automaise Sustainable AI Platform inclui artigos no SAPO, GreenSavers, Digital Inside, Jornal Económico, Empreendedor, Ambiente Magazine e Grande Consumo (PT e ES). O projeto é co-financiado pelo Portugal 2030 e pela União Europeia através do programa COMPETE 2030.