El chip más grande del mundo es más grande que un iPad y ayudará a entrenar la IA

Categoría: Informática Al corriente 20 de agosto

El nuevo semiconductor de Cerebras Systems cuenta con 1,2 billones de transistores y potenciará las aplicaciones de IA.

Las noticias: En la conferencia Hot Chips en Silicon Valley esta semana, Cerebras presenta el motor de escala de obleas de Cerebras. El chip es casi 57 veces más grande que la unidad de procesamiento general más grande de Nvidia, o GPU, y cuenta con 3000 veces más memoria en el chip. Las GPU son caballos de batalla de silicio que impulsan muchas de las aplicaciones de IA actuales, procesando los datos necesarios para entrenar modelos de IA.

¿Importa el tamaño? Las empresas de semiconductores del mundo han pasado décadas desarrollando chips cada vez más pequeños. Estos se pueden agrupar para crear procesadores súper potentes, entonces, ¿por qué crear un megachip de IA independiente?

La respuesta, según Cerebras, es que conectar muchos chips pequeños crea latencias que ralentizan el entrenamiento de los modelos de IA, un gran cuello de botella en la industria. El chip de la empresa cuenta con 400.000 núcleos, o partes que manejan el procesamiento, estrechamente vinculados entre sí para acelerar el procesamiento de datos. También puede cambiar los datos entre el procesamiento y la memoria increíblemente rápido.

Tolerancia a fallos: Pero si este monstruoso chip va a conquistar el mundo de la IA, tendrá que demostrar que puede superar grandes obstáculos. Uno de ellos es en la fabricación. Si las impurezas se cuelan en una oblea que se usa para hacer muchos chips pequeños, es posible que algunos de estos no se vean afectados; pero si solo hay un megachip en una oblea, es posible que deba desecharse todo. Cerebras afirma que ha encontrado formas innovadoras de garantizar que las impurezas no pongan en peligro un chip completo, pero aún no sabemos si funcionarán en la producción en masa.

Juego de poder: Otro desafío es la eficiencia energética. Los chips de IA son notoriamente hambrientos de energía, lo que tiene implicaciones tanto económicas como ambientales. Cambiar datos entre muchos pequeños chips de IA es una gran pérdida de energía, por lo que Cerebras debería tener una ventaja aquí. Si puede ayudar a superar este desafío energético, entonces el chip de la startup podría demostrar que, para la IA, el silicio grande es realmente hermoso.