A inteligência artificial em constante aprendizado continua expandindo o mercado de semicondutores de armazenamento.

Apesar das discussões sobre a desaceleração da IA, a aprendizagem contínua da IA continua a expandir o mercado de semicondutores de memória1/ Apesar das recentes opiniões de que o desenvolvimento da IA deveria ser desacelerado, a tecnologia de aprendizagem contínua, que permite à inteligência artificial aprender constantemente novas informações, tornou-se uma nova força motriz para o crescimento do mercado de semicondutores de memória.2/ O banco de investimento global Citi prevê que, no próximo ano, a demanda global por HBM, em termos de bits, crescerá 62% em relação a este ano, atingindo 75,2 bilhões de Gb.3/ O Citi aponta a aprendizagem contínua como um dos principais fatores para o aumento repentino da procura por HBM e analisa que, com o treino e a inferência sendo realizados repetidamente, não apenas o HBM, mas também a procura por DRAM para servidores e SSDs empresariais crescerão em paralelo.4/ Atualmente, a maioria das IA generativas utiliza o método de treinar previamente e depois responder, sem que novas informações sejam automaticamente incorporadas ao conhecimento de longo prazo, o que leva a problemas de eficiência.5/ Na aprendizagem contínua, a fronteira entre treino e inferência fica mais difusa; o objetivo é que a IA possa aprender novos dados e experiências durante o próprio processo de prestação de serviços, integrando-os ao conhecimento existente.6/ Ao aprender continuamente novas informações, é necessário também aceder a grandes volumes de dados já existentes, o que exige maior capacidade de armazenamento. Além do HBM, a utilização de DRAM para servidores e eSSD baseados em NAND também ganha importância.7/ Como a aprendizagem ocorre inclusive durante o processo de inferência, apenas aumentar a largura de banda não é suficiente para resolver os gargalos, aumentando assim a procura por tecnologias como PIM, que realizam computação próxima à memória.8/ A Samsung Electronics apresentou o zHBM, que empilha diretamente o HBM sobre o acelerador de IA, enquanto a SK hynix introduziu estruturas como PIM, SALT-KV e HBF, numa tentativa de superar as limitações existentes da arquitetura GPU-HBM.