▲
- Dario Amodei, CEO da Anthropic, admitiu que o funcionamento da inteligência artificial é um mistério.
- Se você está preocupado com o uso da IA, saiba que os criadores também não compreendem totalmente sua operação.
- A incerteza sobre o funcionamento da IA acende alertas quanto aos riscos e possíveis consequências.
- A empresa planeja desenvolver uma forma de entender melhor como a IA decide, visando mitigar riscos.
A inteligência artificial transformou negócios e vidas nos últimos anos, mas um detalhe intrigante permanece: ninguém realmente entende como ela funciona. E quando dizemos ninguém, é ninguém mesmo. Dario Amodei, CEO da Anthropic, uma das principais empresas do setor e concorrente direta da OpenAI, admitiu em um ensaio publicado em seu site que muito sobre IA ainda é um mistério.
O que sabemos (e o que não sabemos) sobre IA
Amodei anunciou planos para desenvolver uma espécie de “ressonância magnética da IA” na próxima década. O objetivo não é apenas descobrir como a tecnologia funciona, mas também prevenir riscos imprevistos associados à sua natureza enigmática. “Quando um sistema de IA generativa faz algo, como resumir um documento financeiro, não temos ideia específica de por que ele faz certas escolhas”, explica o executivo.
O CEO da Anthropic reconhece que pode ser surpreendente para quem está fora do mundo da tecnologia saber que seus criadores não entendem plenamente seu funcionamento. “Qualquer pessoa alarmada por essa ignorância tem razão para se preocupar”, afirma Amodei, destacando que essa falta de compreensão é algo inédito na história da tecnologia.
Os riscos da tecnologia desconhecida
Nos últimos meses, a Anthropic começou a focar não apenas em direcionar a IA para benefícios humanos, mas também na possibilidade de descobrir sua interpretabilidade antes que os modelos atinjam um nível de poder preocupante. Essa abordagem reflete a crescente preocupação com os impactos imprevistos da IA em diversas áreas.
Enquanto empresas como a Samsung implementam IA em dispositivos móveis, a Anthropic busca desvendar os mecanismos por trás dessa tecnologia. A empresa espera que, ao entender melhor como a IA toma decisões, seja possível evitar consequências indesejadas e garantir um desenvolvimento mais seguro.
Leia também:
O desafio é significativo, considerando que mesmo os sistemas atuais já apresentam comportamentos complexos. A evolução rápida dos modelos de IA torna essa busca por compreensão ainda mais urgente, especialmente quando falamos de aplicações críticas em áreas como saúde, finanças e segurança.
Este conteúdo foi auxiliado por Inteligência Artificial, mas escrito e revisado por um humano.
Via Época Negócios
