A evolução da infraestrutura de IA na saúde brasileira

À medida que a Inteligência Artificial (IA) continua a transformar as operações em diversas empresas, novos desafios sobre armazenamento de dados surgem. Modelos avançados dependem do acesso rápido, seguro e confiável a grandes volumes de informações. Sem uma infraestrutura de dados adequada, sistemas de IA podem sofrer com lentidão, fragmentação ou pipelines ineficientes, comprometendo seu desempenho.

Este tema foi central no primeiro dia do evento VB Transform, onde uma sessão especial abordou inovações em IA para imagens médicas. As empresas PEAK:AIO e Solidigm, junto com o projeto Medical Open Network for AI (MONAI), um framework de código aberto, apresentaram soluções. Eles estão redefinindo como a infraestrutura de dados suporta inferência e treinamento em tempo real em hospitais.

Essa colaboração visa aprimorar desde diagnósticos até pesquisas avançadas e casos de uso operacionais, garantindo que a IA funcione de forma fluida. O desempenho de qualquer sistema de IA está diretamente ligado à sua capacidade de lidar com dados de forma eficiente. Por isso, a escolha e configuração da infraestrutura de armazenamento são aspectos cruciais para o sucesso da implementação de tecnologias de IA em larga escala.

Novas Abordagens na Infraestrutura de IA em Saúde

A sessão no VB Transform foi moderada por Michael Stewart, da M12 (fundo de venture capital da Microsoft), e contou com a participação de Roger Cummings, CEO da PEAK:AIO, e Greg Matson, chefe de produtos e marketing da Solidigm. A conversa explorou como as arquiteturas de armazenamento de alta capacidade e próxima geração estão abrindo portas para a IA médica.

Essas novas soluções oferecem a velocidade, segurança e escalabilidade necessárias para lidar com grandes conjuntos de dados em ambientes clínicos. Tanto PEAK:AIO quanto Solidigm estão envolvidas com o MONAI desde o início, contribuindo para seu desenvolvimento. O MONAI, criado em parceria com o King’s College London, é feito para construir e usar modelos de IA em imagens médicas.

Essa ferramenta de código aberto tem um conjunto de recursos que atendem às exigências únicas da área da saúde, incluindo suporte DICOM e processamento de imagens 3D. Ele também oferece ferramentas para pré-treinamento de modelos, ajudando pesquisadores a criar sistemas para segmentação de tumores ou classificação de órgãos.

Um dos objetivos principais do MONAI é permitir a instalação em servidores locais, dando aos hospitais controle total sobre os dados sensíveis dos pacientes. Ao mesmo tempo, ele aproveita servidores GPU padrão para treinamento e inferência. Essa abordagem faz com que o desempenho do framework dependa bastante da infraestrutura de dados, exigindo sistemas de armazenamento rápidos e escaláveis.

A necessidade de sistemas que possam processar um fluxo constante de informações em alta velocidade é evidente. É neste ponto que Solidigm e PEAK:AIO entram em cena, oferecendo soluções que otimizam o fluxo de trabalho. A Solidigm contribui com armazenamento flash de alta densidade, enquanto a PEAK:AIO desenvolve sistemas de armazenamento feitos especificamente para cargas de trabalho de IA, garantindo que os dados estejam onde precisam estar, com a velocidade certa.

Demandas de Armazenamento para IA na Saúde

Matson destacou que há uma clara distinção no hardware de armazenamento, com soluções otimizadas para diferentes fases do fluxo de dados de IA. Para usos como o MONAI e outras aplicações de IA em locais específicos, como hospitais, e também para alimentar clusters de treinamento, o armazenamento solid-state de alta capacidade é muito importante.

Isso ocorre porque esses locais geralmente têm espaço e energia limitados, mas precisam de acesso rápido a grandes volumes de dados. Por exemplo, o MONAI conseguiu guardar mais de dois milhões de exames de tomografia computadorizada de corpo inteiro em um único node dentro da infraestrutura de TI de um hospital. “O armazenamento de alta capacidade, com restrições de espaço e energia, permitiu resultados notáveis”, disse Matson.

Essa eficiência muda o jogo para a IA em saúde, permitindo que instituições rodem modelos avançados localmente. Tudo isso sem comprometer o desempenho, a escalabilidade ou a segurança de AI dos dados. Por outro lado, tarefas que envolvem inferência em tempo real e treinamento de modelos ativos exigem outro tipo de armazenamento. Essas atividades precisam de soluções que entreguem um número muito alto de operações de entrada/saída por segundo (IOPS).

O objetivo é manter o ritmo com a necessidade de dados da memória de alta largura de banda (HBM) e garantir que as GPUs sejam usadas ao máximo. A solução da PEAK:AIO, com sua camada de armazenamento definida por software, combinada com os SSDs de alto desempenho da Solidigm, atende a ambas as necessidades. Essa combinação oferece a capacidade, eficiência e velocidade necessárias para todo o processo da IA, desde o armazenamento inicial até o processamento final.

Software e Dados na Ponta

Cummings explicou que a tecnologia de armazenamento de IA definida por software da PEAK:AIO, quando usada com os SSDs de alta performance da Solidigm, permite que o MONAI leia, grave e archive grandes volumes de dados na velocidade que a IA clínica exige. Essa combinação acelera o treinamento de modelos e melhora a precisão em gestão de dados médicos nos hospitais, tudo dentro de um framework de código aberto feito para ambientes de saúde.

“Nós oferecemos uma camada definida por software que pode ser instalada em qualquer servidor comum, transformando-o em um sistema de alto desempenho para cargas de trabalho de IA ou HPC”, afirmou Cummings. Ele acrescentou que, em ambientes de ponta, essa mesma capacidade é reduzida a um único node, levando a inferência para mais perto de onde os dados estão, otimizando o acesso e processamento.

Uma capacidade importante é como a PEAK:AIO ajuda a eliminar problemas de memória ao integrá-la diretamente na infraestrutura de IA. “Nós tratamos a memória como parte da infraestrutura em si – algo que é frequentemente esquecido. Nossa solução não escala apenas o armazenamento, mas também o espaço de trabalho da memória e os metadados associados”, disse Cummings. Isso faz uma grande diferença para clientes que não podem arcar com o custo ou espaço de rodar modelos grandes várias vezes.

Manter os tokens residentes na memória ativos e acessíveis permite uma inferência localizada e eficiente, sem a necessidade de recálculos constantes. Para casos de uso onde há grande volume de imagens, como na geração de imagens por IA ou notificações de câmeras de segurança, essa otimização é essencial.

Aproximando a Inteligência dos Dados

Cummings enfatizou que as empresas precisarão de uma abordagem mais estratégica para gerenciar as cargas de trabalho de IA. “Você não pode ser apenas um destino. Você precisa entender as cargas de trabalho. Fazemos uma tecnologia incrível com a Solidigm e sua infraestrutura para ser mais inteligente sobre como esses dados são processados, começando por como obter desempenho de um único node”, explicou Cummings.

Com a inferência sendo um grande foco, os profissionais estão se especializando cada vez mais. “Estamos levando o trabalho que fizemos de um único node para mais perto dos dados, para ser mais eficiente. Queremos dados mais inteligentes, certo? A única maneira de fazer isso é se aproximar desses dados”, destacou. Além disso, a relevância de empresas como a NVIDIA para o processamento de dados também cresce exponencialmente, visto seu papel central na melhora da qualidade de imagens em jogos.

Algumas tendências claras estão surgindo com grandes implementações de IA, especialmente em novos data centers construídos do zero. Essas instalações são projetadas com arquiteturas de hardware especializadas que aproximam os dados das GPUs o máximo possível. Para isso, eles dependem muito de armazenamento all solid-state – especificamente SSDs de ultra-alta capacidade – feitos para entregar armazenamento em escala de petabytes com a velocidade e acessibilidade necessárias para manter as GPUs sempre alimentadas com dados em alta taxa de transferência.

“Agora, essa mesma tecnologia está acontecendo em um microcosmo, na borda, na empresa”, explicou Cummings. “Assim, está se tornando crucial para os compradores de sistemas de IA determinar como selecionar seu fornecedor de hardware e sistema, para garantir que, se você quiser obter o máximo desempenho de seu sistema, esteja rodando em all solid-state. Isso permite que você traga grandes quantidades de dados, como o exemplo do MONAI – foram mais de 15.000.000 de imagens, em um único sistema. Isso possibilita um poder de processamento incrível, ali mesmo, em um pequeno sistema na ponta.”

Este conteúdo foi auxiliado por Inteligência Artificial, mas escrito e revisado por um humano.