Amazon lança TorchNeuron para levar aplicações de IA feitas em PyTorch aos seus chips e desafiar a Nvidia

A Amazon lançou uma ferramenta para facilitar a execução de aplicações de inteligência artificial (IA) em seus próprios chips e disputar espaço com a Nvidia. Batizado de TorchNeuron, o recurso permite que desenvolvedores levem aplicações criadas com PyTorch para os processadores Trainium, da Amazon Web Services (AWS), com apenas uma alteração de configuração e sem reescrever o código, segundo o Olhar Digital, com base em entrevista ao TechCrunch.

Por que isso importa

O PyTorch é um framework gratuito e de código aberto usado para desenvolver, treinar e executar modelos de IA. Segundo a Amazon, cerca de 85% das aplicações de IA são desenvolvidas com ele. A Nvidia consolidou sua liderança com anos de investimento no CUDA, plataforma de software que roda aplicações de IA em suas placas, e grande parte dos programas feitos em PyTorch já vem adaptada ao hardware da empresa. O TorchNeuron tenta reduzir essa dependência.

Desenvolvedores já conseguem adaptar aplicações do PyTorch para placas da AMD e chips da Apple com mudanças relativamente simples. O diferencial defendido pela Amazon é a integração com toda a infraestrutura de nuvem da AWS, para que empresas desenvolvam, treinem e coloquem modelos em produção no mesmo ecossistema.

“Você está construindo na AWS. Não está apostando em um provedor de computação de finalidade única e correndo para construir todo o resto ao redor dele”, afirmou Colin Brace, vice-presidente de software da Annapurna Labs, unidade da Amazon que desenvolve os chips.

Caso de uso

Como exemplo, a Amazon cita a Deepgram, especializada em IA para processamento de voz. Segundo Brace, a empresa passou a usar os chips Trainium e conseguiu processar 70% mais áudio por dólar, mantendo a precisão exigida. A Amazon também pretende contribuir com mudanças no projeto principal do PyTorch para reduzir a associação automática do framework a fabricantes específicos.

A empresa ainda precisa mostrar que a facilidade prometida se traduz em ganhos práticos para diferentes aplicações, já que a Nvidia sustenta sua posição não só com o desempenho dos chips, mas também com software, ferramentas e a familiaridade dos desenvolvedores. “A verdadeira história é eliminar o aprisionamento que impedia os desenvolvedores de ter uma escolha real”, disse Brace.

Com informações do Olhar Digital e do TechCrunch.