Nova abordagem na infraestrutura de IA melhora processamento de dados na saúde

A nova realidade da infraestrutura de IA está mudando o jogo: em vez de levar os dados para o processamento, agora é o processamento que vai até os dados. Essa abordagem é crucial para o desempenho da inteligência artificial em diversas áreas. Garante que os sistemas de IA acessem grandes volumes de informação de forma rápida, segura e confiável, evitando gargalos que podem comprometer a eficiência das operações.

Desafios da Infraestrutura de IA na Saúde

A inteligência artificial está transformando a forma como as empresas operam em muitos setores. Contudo, desafios significativos surgem na área de armazenamento de dados. Mesmo os modelos de IA mais avançados dependem de um acesso veloz e seguro a grandes volumes de informações para funcionar bem.

Sem uma infraestrutura de dados adequada, até os sistemas de IA mais potentes podem ter seu desempenho drasticamente reduzido. Isso acontece devido a lentidão, fragmentação ou ineficiência nos fluxos de dados, que impedem o processamento em tempo real.

Essa questão foi um dos temas centrais do evento VB Transform, com um debate focado em inovações de IA para imagens médicas. Empresas como PEAK:AIO e Solidigm, junto ao projeto Medical Open Network for AI (MONAI), um framework de código aberto, estão repensando a infraestrutura de dados.

O foco é otimizar o suporte para inferência e treinamento em tempo real em ambientes hospitalares. O objetivo principal é aprimorar diagnósticos e impulsionar pesquisas e casos de uso operacionais, garantindo que a IA na saúde funcione de maneira fluida e eficiente.

Inovação no Armazenamento para IA Clínica

A sessão, mediada por Michael Stewart da M12, fundo de capital de risco da Microsoft, contou com a participação de Roger Cummings, CEO da PEAK:AIO, e Greg Matson, chefe de produtos e marketing da Solidigm. Eles discutiram como as novas arquiteturas de armazenamento de alta capacidade estão abrindo caminhos para a IA médica.

Essas soluções oferecem a velocidade, segurança e escalabilidade necessárias para lidar com enormes conjuntos de dados em ambientes clínicos. A capacidade de processar e armazenar informações de forma eficiente é essencial para o avanço da inteligência artificial na área da saúde.

As duas empresas, Solidigm e PEAK:AIO, têm um envolvimento profundo com o projeto MONAI desde o seu início. Desenvolvido em parceria com o King’s College London, o MONAI é projetado para criar e implementar modelos de IA em exames de imagens médicas.

O framework de código aberto oferece um conjunto de ferramentas, incluindo suporte para DICOM, processamento de imagens 3D e pré-treinamento de modelos. Isso permite que pesquisadores e profissionais de saúde desenvolvam modelos de alto desempenho para tarefas como a segmentação de tumores e classificação de órgãos.

Um objetivo essencial do MONAI foi permitir a implantação local, para que os hospitais pudessem manter controle total sobre dados sensíveis de pacientes, utilizando servidores GPU padrão para treinamento e inferência. O desempenho do framework depende diretamente da infraestrutura de dados subjacente, exigindo sistemas de armazenamento rápidos e escaláveis.

Atendendo Demandas Duplas de Armazenamento

Greg Matson, da Solidigm, observou uma clara divisão no hardware de armazenamento, com soluções específicas para diferentes etapas do fluxo de dados da IA. Para casos como o MONAI e outras aplicações de IA de ponta, incluindo a alimentação de clusters de treinamento, o armazenamento solid-state de ultra-alta capacidade é fundamental.

Esses ambientes geralmente são limitados em espaço e energia, mas precisam de acesso local a grandes volumes de dados. Por exemplo, o MONAI conseguiu guardar mais de dois milhões de tomografias de corpo inteiro em um único nó, dentro da infraestrutura de TI já existente de um hospital.

Essa eficiência muda o cenário para a IA de ponta na saúde, permitindo que as instituições utilizem modelos avançados de IA no local, sem comprometer desempenho, escalabilidade ou segurança dos dados. Esse modelo é fundamental para avanços na medicina. Por exemplo, a plataforma de IA da Stanford já está revolucionando a gestão de dados médicos em hospitais.

Em contraste, tarefas de inferência em tempo real e treinamento ativo de modelos exigem muito do sistema. Essas operações precisam de soluções de armazenamento com altíssimas taxas de operações de entrada/saída por segundo (IOPS), para acompanhar o fluxo de dados necessário para a memória de alta largura de banda (HBM).

O objetivo é garantir que as GPUs sejam totalmente utilizadas. A solução da PEAK:AIO, que consiste em uma camada de armazenamento definida por software, combinada com os SSDs de alto desempenho da Solidigm, atende a ambos os lados dessa demanda, entregando capacidade, eficiência e velocidade em todo o processo de IA.

Camada de Software para Cargas de Trabalho de IA Clínica

Roger Cummings explicou que a tecnologia de armazenamento de IA definida por software da PEAK:AIO, em conjunto com os SSDs de alto desempenho da Solidigm, permite ao MONAI ler, gravar e arquivar grandes volumes de dados na velocidade que a IA clínica demanda. Essa combinação agiliza o treinamento de modelos e aumenta a precisão em imagens médicas.

Tudo isso funciona dentro de um framework de código aberto feito para ambientes de saúde. “Nós oferecemos uma camada definida por software que pode ser instalada em qualquer servidor comum, transformando-o em um sistema de alto desempenho para cargas de trabalho de IA ou HPC”, disse Cummings.

“Em ambientes de borda, levamos essa mesma capacidade e a reduzimos para um único nó, aproximando a inferência de onde os dados estão”, completou. Isso significa que o processamento pode acontecer mais perto da fonte dos dados, resultando em maior eficiência e menor latência. É uma forma de otimizar a gestão de dados, assim como a Palantir está se destacando em software de análise de dados.

Uma capacidade importante é como a PEAK:AIO ajuda a eliminar os gargalos de memória tradicionais. Ela faz isso integrando a memória de forma mais direta na infraestrutura de IA. “Tratamos a memória como parte da própria infraestrutura, algo que frequentemente é ignorado. Nossa solução aumenta não apenas o armazenamento, mas também o espaço de trabalho da memória e os metadados relacionados a ela”, explicou Cummings.

Aproximando a Inteligência dos Dados

Cummings ressaltou que as empresas precisarão adotar uma abordagem mais estratégica para gerenciar as cargas de trabalho de IA. “Não se pode ser apenas um destino. É preciso compreender as cargas de trabalho. Fazemos uma tecnologia incrível com a Solidigm e sua infraestrutura para sermos mais inteligentes sobre como esses dados são processados.”

Isso começa com a obtenção de desempenho a partir de um único nó. “Como a inferência é um grande impulso, estamos vendo os generalistas se tornarem mais especializados. E agora estamos levando o trabalho que fizemos a partir de um único nó e o aproximando dos dados para sermos mais eficientes. Queremos dados mais inteligentes, certo? A única maneira de fazer isso é se aproximar desses dados”, afirmou.

Algumas tendências claras estão surgindo em implementações de IA de grande escala, especialmente em data centers construídos do zero. Essas instalações são projetadas com arquiteturas de hardware altamente especializadas, que aproximam os dados das GPUs o máximo possível.

Para isso, dependem muito do armazenamento totalmente solid-state, mais especificamente de SSDs de ultra-alta capacidade. Eles são projetados para oferecer armazenamento em escala de petabytes, com a velocidade e acessibilidade necessárias para manter as GPUs continuamente alimentadas com dados em alta vazão.

“Agora, essa mesma tecnologia está basicamente acontecendo em um microcosmo, na borda, na empresa”, explicou Cummings. “Portanto, está se tornando crucial para os compradores de sistemas de IA determinar como selecionar seu hardware e fornecedor de sistema, para garantir que, se você deseja obter o máximo desempenho de seu sistema, esteja utilizando solid-state.”

Isso permite trazer enormes volumes de dados, como o exemplo do MONAI, que processou mais de 15 milhões de imagens em um único sistema. Essa capacidade possibilita um poder de processamento incrível, direto em um sistema compacto na extremidade da rede.

Este conteúdo foi auxiliado por Inteligência Artificiado, mas escrito e revisado por um humano.