Mercado fechará em 4 h 15 min
  • BOVESPA

    113.874,01
    -1.188,53 (-1,03%)
     
  • MERVAL

    38.390,84
    +233,89 (+0,61%)
     
  • MXX

    52.192,33
    +377,16 (+0,73%)
     
  • PETROLEO CRU

    72,01
    -0,60 (-0,83%)
     
  • OURO

    1.753,90
    -40,90 (-2,28%)
     
  • BTC-USD

    47.940,64
    -286,07 (-0,59%)
     
  • CMC Crypto 200

    1.232,11
    -1,18 (-0,10%)
     
  • S&P500

    4.451,81
    -28,89 (-0,64%)
     
  • DOW JONES

    34.607,70
    -206,69 (-0,59%)
     
  • FTSE

    7.030,96
    +14,47 (+0,21%)
     
  • HANG SENG

    24.667,85
    -365,36 (-1,46%)
     
  • NIKKEI

    30.323,34
    -188,37 (-0,62%)
     
  • NASDAQ

    15.383,75
    -120,25 (-0,78%)
     
  • BATS 1000 Index

    0,0000
    0,0000 (0,00%)
     
  • EURO/R$

    6,1791
    -0,0169 (-0,27%)
     

Samsung demonstra tecnologia de processamento em memórias HBM2, DDR4 e GDDR6

·6 minuto de leitura

Acontece nesta semana a HotChips 33, grande feira em que as principais fabricantes de semicondutores do mundo revelam algumas das novidades que estão sendo preparada para os próximos meses. A AMD foi uma das companhias a demonstrar novidades, com a revelação de mais detalhes do 3D V-Cache, tecnologia que empilha cache em processadores para atingir ganhos de até 15% de desempenho.

A Samsung também está entre as anunciantes, tendo revelado mais informações do seu módulo de RAM DDR5 com 512 GB de capacidade e desempenho até 40% maior que módulos DDR4. Nesta quarta-feira (25), a gigante sul-coreana trouxe novos detalhes de mais uma tecnologia de peso: a Processing-in-Memory (Processamento em Memória), ou PIM, que promete acelerar o processamento de IA e reduzir o consumo de maneira significativa

PIM, Aquabolt XL e a meta de substituir memórias HBM2

A tecnologia PIM foi anunciada pela Samsung em fevereiro de 2021 com a missão de revolucionar a maneira pela qual cargas de trabalho de Inteligência Artificial são processadas. Para isso, uma espécie de miniprocessador, o Programmable Computing Unit (PCU), ou Unidade de Processamento Programável em tradução livre, é aplicado em cada um dos bancos de memória dos chips, totalizando 32 PCUs por die.

Rodando a 300 MHz, esses PCUs são capazes de realizar cálculos em FP16 e entregariam até 1,2 TFLOPs de processamento, curiosamente aumentando o desempenho do sistema em até 2 vezes, ao mesmo tempo em que reduzem o consumo em até 70%, tomando como base os módulos HBM2 Aquabolt já vendidos pela Samsung.

A tecnologia PIM da Samsung aplica as PCUs para realizar processamento diretamente das memórias (Imagem: Divulgação/Samsung)
A tecnologia PIM da Samsung aplica as PCUs para realizar processamento diretamente das memórias (Imagem: Divulgação/Samsung)

Um dos pontos mais interessantes é que nenhuma adaptação precisaria ser feita para que servidores e computadores sejam compatíveis com os módulos PIM, já que esses componentes utilizam os comandos padrão da indústria e conseguem se comunicar com qualquer controlador tradicional de memória certificado pela JEDEC, o órgão responsável por padronizar tecnologias de microeletrônicos.

Na apresentação de hoje (25), a Samsung demonstrou em prática os benefícios do Aquabolt XL, nome pelo qual se chamará comercialmente o módulo de memória HBM2 da empresa munida da tecnologia PIM. A empresa substituiu seus módulos tradicionais de HBM2 pelo Aquabolt XL em uma FPGA Alveo da Xilinx, uma placa de circuitos integrados que permite ao usuário configurar as funções a serem realizadas.

Apenas substituindo memórias HBM2 por HBM2-PIM em um FPGA, a Samsung conseguiu aumentar o desempenho em 2,5x e reduzir o consumo em 62% (Imagem: Divulgação/Samsung)
Apenas substituindo memórias HBM2 por HBM2-PIM em um FPGA, a Samsung conseguiu aumentar o desempenho em 2,5x e reduzir o consumo em 62% (Imagem: Divulgação/Samsung)

Sem qualquer modificação na placa, exceto a adição da nova memória, a gigante sul-coreana indicou ganhos de desempenho de 2,5 vezes, com uma redução de 62% no consumo de energia. A expectativa é que futuras otimizações feitas por fabricantes de CPUs melhorem ainda mais esse cenário — na realidade, uma das gigantes já está trabalhando para isso, mas não foi anunciada até o momento.

Ao que se sabe, as possíveis parceiras que poderiam já estar lidando com otimizações para o uso do Aquabolt XL incluiriam a Intel em seus processadores Sapphire Rapids, a AMD com a família EPYC Genoa ou ainda a ARM, com o chip Neoverse, considerando que todas utilizam memória HBM2 para aceleração de processamento.

A Aquabolt XL, nome comercial da memória HBM2-PIM, é compatível com os sistemas atuais, o que deve facilitar sua implementação (Imagem: Divulgação/Samsung)
A Aquabolt XL, nome comercial da memória HBM2-PIM, é compatível com os sistemas atuais, o que deve facilitar sua implementação (Imagem: Divulgação/Samsung)

Infelizmente, um ponto negativo da adoção dos PCUs nos chips de memória é a redução da capacidade total pela metade — um die de 8 GB, por exemplo, passaria a ter apenas 4 GB com o uso da tecnologia PIM. No entanto, a Samsung já confirmou que está trabalhando nessa limitação e pretende eliminá-la com os módulos HBM3.

AXDIMM e tecnologia PIM em memórias para GPUs, notebooks e celulares

Durante o anúncio da tecnologia PIM em fevereiro, a Samsung disse não ter previsão de trazer a novidade para os consumidores comuns tão cedo, já que a ideia era acelerar o processamento de dados de servidores e data centers. Isso acaba de mudar com o anúncio de hoje, de que a PIM também pode ser aplicada em memórias de formato mais tradicional, como DDR4, GDDR6 e LPDDR5X.

Essas memórias são comuns em desktops, placas de vídeo e notebooks e smartphones, respectivamente, e também tiveram versões com processamento embutido demonstrados pela companhia. A primeira delas chegou na forma do AXDIMM, módulo de memória que pode substituir memórias DDR4 nos formatos LRDIMM e UDIMM de qualquer servidor comum.

O módulo AXDIMM é equivalente a módulos DDR4 tradicionais, mas entrega os benefícios da tecnologia PIM (Imagem: Divulgação/Samsung)
O módulo AXDIMM é equivalente a módulos DDR4 tradicionais, mas entrega os benefícios da tecnologia PIM (Imagem: Divulgação/Samsung)

Assim como o Aquabolt XL, o AXDIMM também suporta processamento em FP16 utilizando códigos em TensorFlow e Python, com a promessa de que mais linguagens serão suportadas futuramente.

Para exibir a capacidade do novo módulo, a Samsung executou cargas de trabalho de IA do Facebook, obtendo desempenho 1,8 vez melhor, 42,6% de redução no consumo de energia e 70% na redução de latência. Os números impressionam quando consideramos que nenhuma modificação foi feita no sistema testado, e ainda há margem para melhorias com futuras otimizações.

A Samsung também trabalha em memórias LPDDR5X-PIM, que devem acelerar IA em celulares e notebooks futuramente (Imagem: Divulgação/Samsung)
A Samsung também trabalha em memórias LPDDR5X-PIM, que devem acelerar IA em celulares e notebooks futuramente (Imagem: Divulgação/Samsung)

Outro teste realizado pela empresa teorizou módulos LPDDR5X com a PIM em simulações, reforçando a possibilidade de que a tecnologia pode se popularizar mesmo entre consumidores comuns. Com clock de 6.400 MHz, a memória simulada promete entregar 2,3 vezes mais desempenho em reconhecimento de fala, melhorias de até 2,4 vezes em geração de texto pela IA GPT-2 e mais, consumindo até 4 vezes menos.

Por fim, a gigante sul-coreana discutiu a intenção de aplicar o processamento em memórias GDDR6, ainda que não tenha demonstrado a aplicação no momento. Com o avanço de recursos avançados de IA em placas de vídeo, como o DLSS da Nvidia e o recente XeSS da Intel, há muita margem para aprimorar de maneira significativa o desempenho de GPUs em games e outros programas que tirem proveito de Inteligência Artificial.

HBM3 em desenvolvimento sem perda de capacidade

O último grande anúncio da Samsung refere-se às memórias HBM3, próxima geração das memórias de alta velocidade e largura de banda pensadas para processamento pesado de dados. Ainda não foram divulgados detalhes sobre as especificações desses novos módulos, que seguem em desenvolvimento, mas a fabricante confirmou duas novidades importantes para o novo formato.

A gigante sul-coreana trabalha ainda em memórias HBM3-PIM, que eliminarão as limitações atuais e melhoraram o consumo e a velocidade (Imagem: Divulgação/Samsung)
A gigante sul-coreana trabalha ainda em memórias HBM3-PIM, que eliminarão as limitações atuais e melhoraram o consumo e a velocidade (Imagem: Divulgação/Samsung)

A primeira delas é que, com a chegada da nova geração, a limitação de redução de capacidade da tecnologia PIM será eliminada, ou seja, adotar o processamento nas novas memórias não reduzirá mais a capacidade pela metade. A outra notícia se refere ao formato de cálculo que será realizado nos módulos HBM3 — sai o FP16 SIMD para dar lugar ao FP64, de maior precisão.

Fonte: Canaltech

Trending no Canaltech:

Nosso objetivo é criar um lugar seguro e atraente onde usuários possam se conectar uns com os outros baseados em interesses e paixões. Para melhorar a experiência de participantes da comunidade, estamos suspendendo temporariamente os comentários de artigos