Este minúsculo chip de IA destrói rival do Google em uma métrica crucial

Kneron, uma startup da Califórnia, apresentou sua nova unidade de processamento neural (NPU) para aplicações de IA de ponta.

O KL720 NPU promete habilitar aplicativos sofisticados com IA que não usam a nuvem, de modo que o chip tem mais potência de computação a bordo do que os concorrentes e consome menos energia.

Hoje, existem inúmeras plataformas de IA habilitadas para nuvem, como Siri da Apple e Alexa da Amazon, que enviam dados para centros de dados para processamento e interpretação. Enviar dados para a nuvem leva tempo e energia – para não mencionar questões de privacidade e segurança – mas o processamento e interpretação de dados localmente nem sempre é possível devido às limitações de desempenho e energia.

O KL720 da Kneron promete oferecer desempenho suficiente na borda da rede para permitir o processamento e a interpretação locais.

IA no limite

O Kneron KL720 é um pequeno SoC que contém um NPU de 700 MHz, acompanhado por um DSP de cadência de 500 MHz que atua como um coprocessador e um núcleo Arm Cortex-M4 de 400 MHz para controle do sistema.

O SoC possui 128 MB de RAM LPDDR4 e oferece suporte a interfaces, incluindo MIPI-CSI-2, USB, SPI, SDIO e UART, entre outros. O chip virá em um fator de forma de 9×9 mm (modo companheiro) ou 11×11 mm (modo host), dependendo da aplicação de destino.

O KL720 da Kneron pode processar imagens com resolução de até 4K e vídeos com resolução de até 2K – e o chip também suporta processamento de linguagem natural completo.

Kneron diz que o KL720 AI oferece desempenho de cerca de 1,5 TOPS a 1,2 W (consumo médio de energia). Em contraste, a solução Coral Edge AI do Google oferece 4TOPS a 2W.

Enquanto isso, Kneron afirma que o KL720 é quatro vezes mais eficiente do que a vantagem Coral do Google no benchmark MobileNetV2, possivelmente devido à excelência do software da empresa.

A empresa também diz que um drone DJI alimentado por chips Movidius da Intel dobraria sua vida útil da bateria se mudado para o KL720.

“KL720 combina potência com eficiência energética incomparável e algoritmos de IA líderes da indústria da Kneron para permitir uma nova era para dispositivos inteligentes”, disse Albert Liu, fundador e CEO da Kneron.

“Seu baixo custo permite que ainda mais dispositivos aproveitem os benefícios da IA ​​de ponta, protegendo a privacidade do usuário em uma extensão que os concorrentes não podem igualar. Combinado com nosso KL520 existente, temos o orgulho de oferecer o conjunto mais abrangente de chips de IA e software para dispositivos do mercado. ”

O KL720 da Kneron começará a amostragem em breve, então espere que ele ligue os dispositivos reais no próximo ano.