web counter Broadcom e OpenAI apresentam processador de inferência personalizado Jalapeño — Primeiro chip da OpenAI é um ASIC de tamanho reticulado, desenvolvido em um ágil ciclo de nove meses - Super Select
Home » Broadcom e OpenAI apresentam processador de inferência personalizado Jalapeño — Primeiro chip da OpenAI é um ASIC de tamanho reticulado, desenvolvido em um ágil ciclo de nove meses
Tecnologia, Hardware e PC

Broadcom e OpenAI apresentam processador de inferência personalizado Jalapeño — Primeiro chip da OpenAI é um ASIC de tamanho reticulado, desenvolvido em um ágil ciclo de nove meses

A OpenAI e a Broadcom apresentaram o Jalapeño, um processador de inferência projetado especificamente para modelos de linguagem grandes e para demandas futuras de IA com capacidade de agência. Esse novo processador promete oferecer um desempenho por watt superior ao das melhores tecnologias atuais. Para a OpenAI, esse projeto de hardware é considerado estratégico, e o Jalapeño é visto como a primeira geração do seu hardware de inferência.

Mais do que um acelerador de IA

A OpenAI enfatiza que o Jalapeño é um ASIC de inferência feito sob medida, e não um acelerador de treinamento reaproveitado ou um processador de IA de propósito geral. Segundo a empresa, a arquitetura do Jalapeño foi desenvolvida com base na análise do comportamento dos LLMs e tem como objetivo eliminar gargalos práticos na inferência em grande escala, como a movimentação de dados custosa, o equilíbrio entre recursos computacionais e de memória, a eficiência de rede e o comportamento geral. O design também busca unir alta taxa de transferência com baixa latência, utilizando um chiplet de computação maior e memória HBM, ao invés de tipos mais baratos de DRAM, como muitos outros aceleradores de inferência, o que será especialmente útil para trabalhos de raciocínio e demanda de agência.

Membro da Super Select:

Marcelo Vangrey

A minha jornada como Vangrey no universo dos games começou em 1994 com um Mega Drive e o incrivel Mortal Kombat 2! Seguida pelo Super Nintendo no universo dos lendários cartuchos 16in1 com Top Gear e companhia! Em 1998, conquistou seu primeiro PLAY 1 novamente com Mortal Kombat, dessa vez o MK4, e a partir daí, continuou explorando diversas plataformas. Comprando e vendendo, já passei por: Game Boy Color, PS2, PSP, PS3, Nintendo DS, 3DS, Xbox 360, PS4, PS4 Pro, PS5, Nintendo Switch 1 e 2, e pra finalizar - o Steam Deck =)

Adicionar comentário

Clique aqui para postar um comentário