Cerebras Systems, una empresa amb seu als Estats Units, va llançar el xip més gran que integrava més de 1,2 bilions de transistors i tenia una mida de 46.225 mil·límetres quadrats. El nou xip Cerebras Wafer Scale Engine (WSE) està optimitzat per a IA i és 56,7 vegades més gran que la unitat de processament de gràfics més gran que mesura 815 mil·límetres quadrats i conté 21.100 milions de transistors. El nou Cerebras Wafer Scale Engine (WSE) proporciona 3.000 vegades més velocitat de memòria en xip i ve amb 10.000 vegades més amplada de banda de memòria. La mida més gran del xip garanteix que la informació es pugui processar amb més rapidesa i fins i tot pot reduir el temps d’informació, o “temps d’entrenament” que permet als investigadors provar més idees, utilitzar més dades i resoldre nous problemes.
El Cerebras WSE està dissenyat per a la IA i conté innovacions fonamentals que fan avançar l’estat de la tècnica resolent desafiaments tècnics de dècades que tenen una mida de xip limitada, com ara connectivitat de retícules creuades, rendiment, subministrament d’energia i embalatge. El WSE pot accelerar els càlculs i les comunicacions, cosa que redueix el temps d’entrenament. El WSE té 56,7 vegades més àrea de silici que la unitat de processament de gràfics més gran. A més, el WSE pot proporcionar més nuclis per fer més càlculs i compta amb més memòria més a prop dels nuclis, de manera que els nuclis puguin funcionar de manera eficient. Tota la comunicació es manté en el propi silici a causa de la seva àmplia gamma de nuclis i la memòria està incrustada en un sol xip.
El xip CEREBRAS WSE conté 46.225 mm2 de silici i alberga 400.000 nuclis de càlcul optimitzats per AI, sense memòria cau, sense sobrecàrregues i 18 gigabytes de memòria SRAM local, distribuïda i super ràpida. El xip ve amb 9 petabytes per segon d’amplada de banda de memòria, on els nuclis s’uneixen amb una xarxa de comunicació de malla de gra fi, tot maquinari, connectada a la xarxa que proporciona un ample de banda agregat de 100 petabits per segon. Això significa que l’amplada de banda de comunicació de baixa latència de WSE és extremadament gran, cosa que fa que els grups de nuclis col·laborin amb la màxima eficiència i l’amplada de banda de memòria ja no sigui un coll d’ampolla. Més memòria local, més nuclis i un teixit d'alt ample de banda de baixa latència combinats formen l'arquitectura òptima per accelerar el treball de la IA.
Les característiques del xip WSE Cerebras:
- Nuclis augmentats: el WSE integra 400.000 nuclis de càlcul optimitzats per AI anomenats SLAC (Sparse Linear Algebra Cores), que són programables, flexibles i optimitzats per a l’àlgebra lineal escassa que sustenta tota la computació de xarxes neuronals. La funció de programabilitat de SLAC garanteix que els nuclis puguin executar fàcilment tots els algoritmes de xarxa neuronal en un camp d'aprenentatge automàtic que canvia. Els nuclis WSE incorporen tecnologia de collita d’esparsitat inventada per Cerebras que accelera el rendiment computacional en càrregues de treball escasses (càrregues de treball que contenen zeros) com l’aprenentatge profund.
- Memòria millorada: el Cerebras WSE integra més memòria local juntament amb més nuclis que és més que qualsevol xip que permet un càlcul flexible i ràpid a menor latència i amb menys energia. El WSE inclou 18 GB (gigabytes) de memòria on-chip accessible pel seu nucli en un cicle de rellotge. Aquesta col·lecció de memòria local bàsica fa que el WSE proporcioni un total de 9 petabytes per segon d’amplada de banda de memòria, que és 10.000 X més d’amplada de banda de memòria i 3.000 X