A MediaTeK anunciou que está trabalhando com a Meta para o uso do Llama 2, Large Language Model de código aberto de próxima geração da empresa. Utilizando a plataforma, bem como as mais recentes APUs da MediaTek e a plataforma NeuroPilot AI, a MediaTek pretende construir um ecossistema completo de computação de borda projetado para acelerar o desenvolvimento de aplicações de IA para smartphones, dispositivos de IoT, automóveis, casa inteligente e outros dispositivos.
Atualmente, a maior parte do processamento de IA generativa é realizada por meio de computação em nuvem. O uso de modelos Llama 2 pela MediaTek permitirá que os aplicativos de inteligência artificial generativa também sejam executados localmente, diretamente no dispositivo.
Isso oferece várias vantagens para desenvolvedores e usuários, incluindo performance constante, maior privacidade, melhor segurança e confiabilidade, menor latência, capacidade de trabalhar em áreas com pouca ou nenhuma conectividade e menor custo de operação.
Para tirar proveito da tecnologia de IA generativa no dispositivo de forma completa, os fabricantes de dispositivos de borda precisarão adotar processadores de IA de alta computação, baixo consumo de energia e conectividade mais rápida e confiável, para aprimorar os recursos de computação. Todos os SoCs de smartphones 5G com tecnologia MediaTek fornecidos hoje são equipados com APUs projetadas para executar uma ampla variedade de recursos de IA generativa, como AI Noise Reduction, AI Super Resolution, AI MEMC e muito mais.
O novo chipset flagship da MediaTek, que será lançado no final deste ano, contará com um software otimizado para executar o Llama 2, bem como um upgrade de APU com aceleração de backbone Transformer, menor espaço ocupado e largura de banda DRAM, melhorando ainda mais o desempenho do LLM e de AIGC. Esses avanços facilitam um ritmo acelerado para a criação de casos de uso para IA generativa nos dispositivos.
"A crescente popularidade da IA generativa é uma tendência significativa na transformação digital, e nossa visão é fornecer à comunidade de desenvolvedores e usuários do Llama 2 as ferramentas necessárias para inovar totalmente no espaço da IA", disse JC Hsu, vice-presidente e gerente geral da unidade de negócios de comunicações sem fio da MediaTek. "Por meio de nossa parceria com a Meta, podemos fornecer hardware e software com muito mais capacidade de computação de borda."
A MediaTek espera que aplicações de IA baseadas no Llama 2 estejam disponíveis para smartphones equipados com a próxima geração de seu SoC para dispositivos flagship até o final do ano.
