Brawerman: O poder da IA a serviço dos dispositivos pessoais

Por: Joel Brawerman*

A Inteligência Artificial (IA) é uma das tecnologias mais disruptivas e de maior crescimento atualmente. A nuvem tem sido o cenário principal para a IA mostrar todo o seu potencial, oferecendo soluções inovadoras e eficientes para diversos setores e atividades. No entanto, este não é o único lugar onde a IA pode se destacar. Cada vez mais, a tecnologia está se tornando presente nos dispositivos de computação pessoal, como laptops, desktops, smartphones e tablets, abrindo novas possibilidades e vantagens para os usuários. Em relação ao futuro, a IA na borda (Edge) é a principal promessa.

Desbloqueando o potencial da IA nas organizações

No estudo “Innovation Index”, publicado pela Dell Technologies em 2023, foram identificados diversos obstáculos que precisam ser superados para que a IA alcance todo seu potencial nas organizações. No que diz respeito ao uso e à experiência nos dispositivos pessoais para o trabalho, foram identificados alguns pontos de melhoria. Por exemplo, 61% dos diretores de TI (ITDM) admitem que poderiam fornecer tecnologia mais inteligente e responsiva para melhorar a experiência de trabalho, enquanto 74% dizem carecer de tecnologias adaptáveis às necessidades e preferências individuais e também de software e aplicativos de colaboração de última geração. 76% dos entrevistados ainda revelaram a necessidade de melhorias que impulsionem uma maior colaboração, privacidade e conectividade.

Ao aprofundar o desafio da segurança, à medida que os ambientes de trabalho evoluem com o tempo, os funcionários, dispositivos e dados se distribuem cada vez mais, aumentando os riscos de segurança paralelamente. Nos dias de hoje, quase metade (45%) dos executivos ouvidos pelo estudo não tem confiança de que as pessoas possam trabalhar de forma segura de qualquer lugar.

A evolução do processamento de IA da nuvem para a borda é um conceito revolucionário pronto para redefinir como as empresas interagem e se beneficiam dessa poderosa tecnologia para inovar e adicionar valor aos seus negócios. Este novo paradigma envolve a implementação e execução de Inteligência Artificial diretamente no dispositivo de computação local do usuário, resultando em capacidades de processamento massivas e permitindo que ele aproveite do poder da tecnologia sem depender da infraestrutura de computação na nuvem. Essa adaptação, portanto, tornará os dispositivos conectados mais poderosos e úteis.

Vantagens do processamento local de IA

Segurança e Privacidade: Anteriormente, os dados gerados pela IA costumavam ser transferidos de nuvem para nuvem. Embora isso facilitasse a conveniência e a conectividade, também levantava preocupações com a privacidade e a segurança. A IA em dispositivos de uso pessoal representa uma mudança fundamental para um mundo digital mais seguro. O processamento local significa que informações pessoais identificáveis (PII) e propriedade intelectual não estão mais expostas a possíveis ameaças na nuvem. O consentimento do usuário e a proteção da PII são inerentes ao nível local, e a IA em dispositivos pessoais promete facilitar a supervisão da privacidade e a conformidade regulatória.
Velocidade e Eficiência: A velocidade é crucial no mercado digital. A IA em dispositivos pessoais oferece resultados quase instantâneos. Desde ajudar a organizar arquivos até melhorar as capacidades da
câmera, ela tem o potencial de fornecer resultados rápidos sem sobrecarregar as capacidades de processamento do dispositivo.
Eficiência de Custos: Em relação aos dados, cada byte tem um custo associado. Mover dados na nuvem é caro. Embora esses custos de transferência e armazenamento de dados possam parecer insignificantes individualmente, podem se acumular em grande escala. O processamento local minimiza a necessidade de transferências de dados, reduzindo o custo dos recursos de computação na nuvem.

Desenvolvimento de dispositivos conectados mais inteligentes

Um dos principais objetivos da IA em dispositivos para o usuário final é permitir a execução de modelos de linguagem abrangentes em smartphones e outros dispositivos móveis, os quais, quando habilitados com IA, representam uma mudança radical para consumidores e desenvolvedores. Uma nova geração de PCs inteligentes, que possui a potência de processamento necessária para viabilizar a IA no cliente, já está disponível, utilizando a tecnologia para otimizar a experiência do usuário em aspectos-chave de interação, vida útil da bateria, áudio e desempenho.

Os avanços técnicos que impulsionam a IA em dispositivos para o usuário final têm o potencial de transferir a implementação de modelos de IA massivos da nuvem para dispositivos pessoais. Isso oferece a capacidade de executar algoritmos de aprendizado de máquina complexos em um laptop ou smartphone em tempo real. Executar um modelo de linguagem grande com 7 bilhões de parâmetros em uma única GPU em uma estação de trabalho pode ser lento e computacionalmente caro. A opção de executar esses grandes modelos de linguagem por meio da IA em dispositivos móveis, por exemplo, revoluciona a forma como os usuários interagem com seus dispositivos.

É claro que a IA em dispositivos para o consumidor final complementará, não substituirá, o processamento na nuvem. A nuvem possui suas vantagens, como escalabilidade, facilidade de acesso e desempenho. No entanto, o processamento de IA em dispositivos locais superará algumas limitações como privacidade, custos de transferência de dados e latência. Conforme os dispositivos com IA evoluírem, os usuários poderão alternar entre o processamento baseado na nuvem e local, de acordo com as necessidades específicas da carga de trabalho.

IA além do software

Tornar a IA uma realidade em dispositivos para o usuário final também exige novos frameworks de software e plataformas que facilitem o desenvolvimento do processamento de IA localmente. Avanços contínuos na potência de processamento dos chips podem ser vistos na próxima geração de plataformas e ecossistemas de dispositivos, nos quais o processamento de IA é distribuído em periféricos, pontos finais, bordas e na nuvem. As Unidades de Processamento Neural (NPU) adicionam um recurso de aceleração de IA dedicado que executa tarefas específicas, liberando a CPU e a GPU para processar outras. Isso proporciona uma experiência mais responsiva e melhora o desempenho, a segurança, a autonomia da bateria e a produtividade dos usuários.

O desenvolvimento de plataformas de dispositivos com silício projetado para lidar com o processamento de IA desbloqueará uma ampla gama de novas aplicações, que vão desde reuniões remotas colaborativas até soluções de segurança inteligentes. As experiências de IA generativa, como interfaces de usuário adaptativas e suporte automatizado, serão parte do futuro da computação pessoal. Essa convergência da nuvem com a computação local permitirá a personalização impulsionada pela IA, a otimização do sistema e ações preditivas que proporcionarão experiências de usuário mais fluidas e aprimoradas.

Essas experiências representam apenas o começo do futuro da computação pessoal. À medida que hardwares que permitem a aceleração de algoritmos de aprendizado de máquina forem introduzidos, os modelos de IA serão mais eficientes e poderão ser executados em dispositivos conectados convencionais. Isso contribuirá para superar os obstáculos existentes hoje nas organizações e redefinir a forma de trabalhar.

* Joel Brawerman é vice-presidente de Pré-Vendas da Dell Technologies para América Latina