A Microsoft está expandindo as capacidades de inteligência artificial (IA) em seus PCs Copilot+ ao introduzir os modelos DeepSeek 7B e 14B. Essa integração permite que desenvolvedores criem aplicativos inovadores, aproveitando o poder computacional dos novos processadores. O objetivo é oferecer um desempenho de IA otimizado e eficiente, com menor impacto na vida útil da bateria dos dispositivos.
A Microsoft anunciou a disponibilidade dos modelos DeepSeek R1 7B e 14B para PCs Copilot+ através do Azure AI Foundry. Essa novidade permite que os desenvolvedores criem novos tipos de aplicativos alimentados por IA, que antes não eram possíveis. Essa capacidade de rodar modelos localmente promete revolucionar a experiência do usuário e abrir novas fronteiras para a inovação em software.
Modelos AI para Copilot e o Desempenho Aprimorado
A capacidade de executar modelos de 7B e 14B localmente em PCs Copilot+ é um avanço significativo. Com isso, os usuários podem esperar um poder computacional de IA sustentado, sem comprometer a duração da bateria ou o desempenho térmico de seus dispositivos. Além disso, a CPU e a GPU ficam livres para executar outras tarefas, otimizando ainda mais a experiência do usuário.
A Microsoft utilizou o Aqua, uma ferramenta interna de quantização automática, para quantizar todas as variantes do modelo DeepSeek para pesos int4. Essa técnica permite que os modelos sejam executados de forma mais eficiente em hardware com capacidade limitada. A Microsoft está trabalhando em otimizações adicionais para aumentar a velocidade, e espera-se que o impacto desses modelos nos PCs Copilot+ cresça significativamente.
Detalhes Técnicos e Otimizações
Apesar dos avanços, a velocidade do token do modelo ainda é relativamente baixa. A Microsoft reporta apenas 8 tok/sec no modelo 14B e cerca de 40 tok/sec no modelo 1.5B. A empresa está focada em otimizar ainda mais o desempenho, visando aumentar a velocidade de processamento e a eficiência energética.
Leia também:
Os desenvolvedores interessados já podem baixar e executar as variantes 1.5B, 7B e 14B dos modelos DeepSeek nos PCs Copilot+ através da extensão AI Toolkit VS Code. O modelo DeepSeek é otimizado no formato ONNX QDQ e é baixado diretamente do Azure AI Foundry. Além disso, a Microsoft planeja disponibilizar esses modelos em PCs Copilot+ equipados com processadores Intel Core Ultra 200V e AMD Ryzen no futuro.
Implicações e Futuro da IA em Dispositivos
Essa iniciativa da Microsoft sinaliza um movimento em direção a capacidades de IA mais poderosas e integradas diretamente nos dispositivos. Os modelos Modelos AI para Copilot abrem novas possibilidades para aplicativos orientados por IA, oferecendo maior privacidade, menor latência e a capacidade de operar mesmo sem conexão com a internet.
A Microsoft continua a investir em tecnologias que permitam a execução de modelos de IA diretamente nos dispositivos, impulsionando a inovação e a criação de experiências de usuário mais inteligentes e personalizadas. Essa tendência promete transformar a forma como interagimos com nossos computadores e dispositivos móveis, abrindo um leque de novas oportunidades para desenvolvedores e usuários.
Este conteúdo foi auxiliado por Inteligência Artificiado, mas escrito e revisado por um humano.
Via Neowin