Qualcomm e Meta desenvolvem modelos de IA fora da nuvem
A Meta e a Qualcomm Technologies estão trabalhando para otimizar a execução dos modelos de large language (LLMs) Llama 2 da Meta diretamente no dispositivo, sem depender do uso exclusivo de serviços em nuvem. A capacidade de executar modelos generativos de IA como o Llama 2 em dispositivos como smartphones, PCs, headsets VR/AR e veículos permite que os desenvolvedores economizem nos custos da nuvem e forneçam aos usuários experiências privadas, mais confiáveis e personalizadas.
Como resultado, a Qualcomm Technologies planeja disponibilizar implementações de IA baseadas em Llama 2 on-device para permitir a criação de novos aplicativos de IA. Isso permitirá que clientes, parceiros e desenvolvedores criem casos de uso, como assistentes virtuais inteligentes, aplicativos de produtividade, ferramentas de criação de conteúdo, entretenimento e mais. Essas novas experiências de IA no dispositivo, com tecnologia Snapdragon, podem funcionar em áreas sem conectividade ou até mesmo no modo avião.
“Celebramos a abordagem da Meta para IA aberta e responsável e estamos comprometidos em impulsionar a inovação e reduzir as barreiras de entrada para desenvolvedores de qualquer tamanho, trazendo IA generativa on-device”, disse Durga Malladi, senior vice president and general manager of technology, Qualcomm Technologies, Inc. “Para levar efetivamente a IA generativa para o mainstream, a IA precisará ser executada tanto na nuvem quanto em dispositivos na borda, como smartphones, laptops, veículos e dispositivos IoT.”
A colaboração atual das empresas para apoiar o ecossistema Llama abrange esforços de pesquisa e engenharia de produto. A liderança da Qualcomm Technologies em IA on-device a posiciona de maneira única para oferecer suporte ao ecossistema Llama. A empresa tem um footprint inigualável na borda – com bilhões de smartphones, veículos, fones de ouvido e óculos XR, PCs, IoT e muito mais, sendo alimentado por suas soluções de hardware e software de IA líderes do setor – permitindo a oportunidade de escalar a IA generativa.
(assessoria de imprensa)
Artigos sugeridos
