• “Los mecanismos de la inteligencia artificial proporcionan una toma de decisiones rápida en tiempo real basada en el análisis de grandes cantidades de información, lo que brinda enormes ventajas en calidad y efectividad… Si alguien puede hacerse con el monopolio en el campo de la inteligencia artificial, entonces las consecuencias serán claras para todos: él gobernará el mundo. ” - Vladimir Putin

La IA es la Snitch en el juego geopolítico de Quidditch. Controla la Snitch, controla el juego. Como señala Putin, la IA ofrece un potencial infinito; Ambos, buenos y malos.

No busque más. Se trata de China, quien comprometió $ 150 mil millones en su esfuerzo por liderar el mundo en tecnología de inteligencia artificial.

Abishur Prakash de Scientific American lo expresó sin rodeos (el énfasis es mío):

“Mientras las naciones compiten en torno a la IA, son parte de la batalla más grande por el poder global desde la Segunda Guerra Mundial. Excepto que esta batalla no se trata de tierras o recursos. Se trata de datos, defensa y economía. Y, en última instancia, cómo estas variables le dan a una nación más control sobre el mundo”.

Los semiconductores son el componente básico de cualquier aplicación de inteligencia artificial. Estas pequeñas piezas de hardware permiten que los algoritmos de IA almacenen, ejecuten y prueben más datos.

El auge de la IA ha transformado a la industria de los semiconductores de un sector cíclico a una potencia de crecimiento a largo plazo o secular. Algunas estadísticas apuntan a esta historia de crecimiento secular:

• Los semiconductores basados en IA crecerán un 18% al año durante los próximos 3 años o más (5 veces más que los chips que no son de IA).
• Los chips de memoria específicos de AI tienen precios un 300% más altos que los chips de memoria estándar.
• Para 2025, la tecnología de semiconductores relacionada con la inteligencia artificial representará el 20% de los ingresos totales.

Las empresas de semiconductores sacarán provecho de estas tendencias capturando más tecnología de inteligencia artificial. Bajo los cambios tecnológicos anteriores (teléfonos inteligentes, computación en la nube, etc.), los semiconductores tomaron porciones más pequeñas del pastel de ingresos (10-20% en la mayoría de los casos).

Aquí está lo más importante: McKinsey estima que en un ciclo de crecimiento liderado por IA, los semiconductores pueden capturar entre el 40 y el 50% del pastel de ingresos. Recuerde, la tecnología basada en inteligencia artificial representará aproximadamente el 20% de todos los ingresos para 2025. Este porcentaje debería aumentar con el tiempo. Eso significa que los semiconductores generarán entre el 40 y el 50% de un TAM mucho más grande.

Este ensayo cubrirá tres temas:

• El almacenamiento de tecnología de inteligencia artificial y el posicionamiento de semiconductores
• Cómo la IA está cambiando la demanda de hardware de semiconductores y algunos ejemplos
• Por qué debería importarle a los inversores

Vamos allá.

El almacenamiento de tecnología de IA: los semiconductores tendrán una mayor participación

Hay nueve capas en el almacenamiento de tecnología de IA (ver a la derecha). Los semiconductores viven en la parte inferior de la capa de hardware. Tradicionalmente, esta capa significaba productos mercantilizados, menores márgenes y menor rentabilidad.

De todos modos, estas nueve capas se fijan en dos objetivos:

• Datos del tren.
• Haga inferencias a partir de esos datos.

Los semiconductores se centran en dos partes del almacenamiento: nodos principales y aceleradores. Estas son las neuronas y sinopsis del cerebro de la red neuronal.

Su obstáculo es nuestra oportunidad

Según McKinsey, los nodos principales y los aceleradores son el principal problema de cuello de botella para los desarrolladores de inteligencia artificial que desean mejorar sus programas (el énfasis es mío):

“Cuando los desarrolladores intentan mejorar la capacitación y la inferencia, a menudo se encuentran con obstáculos relacionados con la capa de hardware, que incluye almacenamiento, memoria, lógica y redes”.

No puede ejecutar programas de IA sin estos dos componentes. Es como un cerebro humano. No importa la cantidad de datos si no tienes suficientes sinopsis (nodos) para transmitir información al cerebro (acelerador).

Esta es la razón exacta por la que los semiconductores cambiarán de un producto básico a una pieza de hardware diferenciada. Las empresas pagarán más por hardware especializado y específico de IA que hace que sus programas se ejecuten de manera más eficiente con menos datos y potencia informática.

¿Por qué? Porque ahí es donde está el obstáculo. No es a nivel de software ni en ningún otro punto de la pila de tecnología de IA. El desarrollador con el mejor hardware gana.

Para comprender la dinámica de la demanda de hardware, veamos los componentes reales involucrados en estos programas de IA.

Los cuatro tipos de chips de IA

Los desarrolladores de IA generalmente tienen cuatro tipos de chips a su disposición:

• Circuitos integrados de aplicaciones específicas (ASIC)
• Unidades centrales de procesamiento (CPU)
• Unidades de procesamiento de gráficos (GPU)
• Matriz de puerta programable en campo (FPGA)

Los algoritmos de IA están aumentando la demanda de chips ASIC en comparación con todos los demás.

Esto es algo a lo que queremos prestar atención. ¿Por qué sucede esto? Allerin ofrece algunas razones (el énfasis es mío)

“Un chip ASIC es un chip diseñado para realizar operaciones informáticas específicas. Por lo tanto, ahora se están desarrollando chips ASIC para probar y entrenar específicamente algoritmos de IA. Los ASIC se pueden utilizar para ejecutar una función de algoritmo de IA específica y estrecha. Los chips pueden manejar la carga de trabajo en paralelo. Por lo tanto, los algoritmos de IA se pueden acelerar más rápido en un chip ASIC. El único gigante tecnológico importante que invierte en chips ASIC es Google. Google anunció sus chips ASIC de segunda generación llamados Tensor Processing Unit (TPU), basados en TensorFlow. Los TPU están diseñados y optimizados solo para tareas de inteligencia artificial, aprendizaje automático y deep learning”.

El aumento de la demanda permitirá a las empresas de semiconductores aventurarse con la tecnología a medida que construyen chips ASIC personalizables para sus socios OEM. Cubriremos eso con más detalle en la siguiente sección.

Ahora que sabemos qué es el almacenamiento de tecnología de IA y dónde se encuentran los semiconductores en esa pila, es hora de examinar cómo la IA está remodelando la demanda de hardware de semiconductores para esa última capa tan importante.

Cómo la IA está remodelando la demanda de hardware de semiconductores

El contenido de Gavin Baker estaba en la parte superior de mi lista de lectura cuando comencé mi investigación de semiconductores / IA. La entrevista de Baker con Market NZZ ofrece pistas sobre el futuro de los semiconductores, la importancia de la IA y los impactos de la demanda.

Gavin mencionó tres choques de demanda separados en el mercado de semiconductores:

• La virtualización ayudó a utilizar los servidores de manera más eficiente.
• Cloud Computing aumentó aún más la utilización del servidor.
• Los teléfonos inteligentes “canibalizaron” el crecimiento del mercado de PC.

Ahora, gracias a la inteligencia artificial, los semiconductores finalmente están experimentando un impacto positivo en la demanda. Esta es la opinión de Gavin (el énfasis es mío):

“Ahora, tenemos un impacto de demanda positivo en forma de inteligencia artificial … porque la cantidad de datos es tan importante para la calidad, es mucho más intensiva en semiconductores”.

Más tarde amplía este pensamiento y dice (el énfasis es mío): “La inteligencia artificial como un impulsor de la demanda está empezando. Cuando los humanos escriben software, comprenden que queremos limitar la cantidad de recursos computacionales. Escriben software de formas muy elegantes para minimizar el cálculo y la memoria. La inteligencia artificial no es nada de eso. La IA tiene que ver con la fuerza bruta de los semiconductores.”

Fuerza bruta de semiconductores. A la IA no le importan los recursos computacionales. Se preocupa por maximizar y optimizar su algoritmo para tomar mejores decisiones. ¿Qué se necesita en ese entorno? Más almacenamiento, más capacidad y mayores anchos de banda de memoria.

La investigación de semiconductores / IA de McKinsey reafirma los pensamientos de Gavin. En su artículo, Hardware de inteligencia artificial: nuevas oportunidades para las empresas de semiconductores, McKinsey señala cuánto almacenamiento de datos requerirán las aplicaciones de inteligencia artificial (énfasis mío):

“Las aplicaciones de IA generan grandes volúmenes de datos, alrededor de 80 exabytes por año , que se espera aumente a 845 exabytes para 2025. Además, los desarrolladores ahora están utilizando más datos en el entrenamiento de IA y DL, lo que también aumenta los requisitos de almacenamiento. Estos cambios podrían conducir a un crecimiento anual del 25 al 30 por ciento de 2017 a 2025 para el almacenamiento, la tasa más alta de todos los segmentos que examinamos”.

El aprendizaje profundo y las redes neuronales están impulsando la mayor parte de la demanda de datos. McKinsey explica, diciendo (el énfasis es mío), “las aplicaciones de IA tienen altos requisitos de ancho de banda de memoria, ya que las capas de computación dentro de las redes neuronales profundas deben pasar datos de entrada a miles de núcleos lo más rápido posible.”

Los cambios en los impulsores de la demanda afectan principalmente a cuatro categorías dentro del espacio de los semiconductores: computación, memoria, almacenamiento y redes. Veamos cómo será el futuro para estas categorías en un mundo en el que la IA es lo primero (datos de McKinsey).

Computación: el aprendizaje profundo se comparte en los centros de datos y el perímetro

Hay dos áreas que debemos considerar al analizar el espacio informático:

• Centros de datos
• El edge

Ambos espacios han experimentado un tremendo crecimiento en hardware de inferencia y entrenamiento. Esto tiene sentido ya que todo ML / DL necesita entrenar y probar sus algoritmos. Los centros de datos verán el doble de demanda de capacitación y entre 4 y 5 veces la demanda de hardware de inferencia.

El edge plantea necesidades de demanda aún mayores. En 2017, los mercados de capacitación e inferencia de Edge se combinaron para hacer un total de <$ 0.3B. ¡Para el 2025, esos mercados crecerán a una suma combinada de $ 5- $ 6B! Ese es el poder de las crisis de demanda impulsadas por la inteligencia artificial.

Los chips ASIC parecen listos para satisfacer esta mayor demanda. McKinsey estima que para 2025, los chips ASIC controlarán el 50% del uso del centro de datos y el 70% del uso de las aplicaciones de edge.

Memoria: Dominará el alto ancho de banda y el chip

La IA está desplazando la demanda de memoria DRAM (memoria dinámica de acceso aleatorio) a otras dos fuentes:

• Memoria de gran ancho de banda (HBM)
• Memoria en chip (OCM)

HBM permite que los algoritmos de IA procesen más datos, más rápido. Esta solución obvia llevó a dos de las empresas de tecnología más grandes (NVDA y GOOGL) a cambiar su preferencia por HBM frente a DRAM. Ese cambio tiene un costo ya que HBM es 3 veces más caro que DRAM. Pero de nuevo, en un mundo basado en inteligencia artificial, estos chips se convierten en diferenciadores, no en productos básicos.

La IA también está cambiando la forma en que se almacena la memoria en el edge. Más empresas están cambiando a dispositivos de memoria en chip como una forma de ahorrar espacio y dinero. Considere la TPU de GOOGL. El desarrollo de ese ASIC le ahorró a la empresa miles de millones de dólares en la apertura de nuevas unidades de almacenamiento de centros de datos.

Ahora que es más fácil almacenar memoria para que los dispositivos de edge generen inferencias, ha provocado un aumento en los proyectos de inferencia basados en edge. Paul McClellan, escritor de SemiEngineering.com escribo sobre este fenómeno (el énfasis es mío):

“A medida que los algoritmos de IA se trasladaron a dispositivos periféricos como teléfonos inteligentes y altavoces inteligentes, surgió el deseo de hacer más inferencias en el extremo. El poder y la demora inherentes a la carga de todos los datos sin procesar en la nube fueron un problema, al igual que los problemas de privacidad. Pero la inferencia en edge requiere órdenes de magnitud menos de energía que un servidor de centro de datos o una gran GPU. A su vez, eso ha llevado a una proliferación de proyectos de chips de inferencia de edge “.

De 5 a 10 años, el chip debería dominar un porcentaje mucho más alto del mercado total de memoria a medida que más empresas se mueven hacia la computación / inferencia de edge.

Almacenamiento: la capacitación dominará las necesidades de almacenamiento

Cuando entrena un algoritmo, necesita todos los datos que pueda obtener. Sin embargo, a nivel de inferencia, los requisitos de datos disminuyen significativamente.

Esta fluidez en las necesidades de almacenamiento crea una oportunidad para nuevas tecnologías de almacenamiento. Específicamente, nuevas formas de memoria no volátil (NVM). Piense en la NVM como una memoria a largo plazo. Son los aniversarios, cumpleaños y cotizaciones de sus acciones con peor desempeño.

McKinsey prevé que la demanda de almacenamiento aumentará entre un 25% y un 30% anual durante los próximos cinco años a medida que los programas basados en IA consuman más datos en edge y en los centros de datos.

Networking: Speed Kills - Evite los cuellos de botella

La creación de redes es extremadamente importante en un mundo donde la IA es lo primero. Las redes conectan varios servidores entre sí para realizar la importante tarea de entrenar un modelo. Las velocidades de red lentas reducen la capacidad de la IA para entrenar su modelo.

Esto puede tener efectos devastadores en la conducción autónoma, donde los programas de vanguardia deben tomar decisiones en tiempo real. Siguiendo con la conducción autónoma, McKinsey estima que se necesitan aproximadamente 140 servidores para alcanzar el 97% de precisión en la detección de obstáculos. La velocidad de la red podría significar la diferencia entre un vehículo golpeando una barandilla o regresar a casa ileso.

McKinsey ve dos opciones viables para posibles problemas de redes de IA:

• Interruptores programables para enrutar los datos en diferentes direcciones (como el ™ CS8500 director HDR Mellanox Quantum Cambiar Serie s )
• Uso de interconexiones de mayor velocidad en servidores de datos

IA en acción: lo que nos entusiasma

Ahora sabemos algunas cosas sobre la IA. Sabemos cómo se ve la pila de tecnología. Sabemos dónde encajan los semiconductores en esa pila y cómo la IA está remodelando el ciclo de demanda de hardware. También conocemos las cuatro áreas principales del hardware de semiconductores que verán la disrupción y la innovación de las tecnologías basadas en IA.

Cubramos algunas áreas de la vida real en las que estamos entusiasmados con el futuro de la aplicación de IA.

Los siguientes casos de uso se tomaron de este artículo de devprojournal.

Aplicación 1: Educación

La inteligencia artificial tiene muchas aplicaciones en la industria de la educación con poco rendimiento. La IA puede abordar la mayoría de las tareas monótonas que realiza un profesor. Esto deja al maestro libre para hacer lo que mejor sabe hacer, enseñar a los niños.

También hay oportunidades para tutorías habilitadas por IA. Empresas como Content Technologies utilizan IA para convertir libros de texto grandes y complicados en tarjetas, paquetes de notas y exámenes de práctica fáciles de leer.

La COVID-19 también ha acelerado el papel que juega el aprendizaje en línea en la educación de una persona. La Universidad Carnegie desarrolló su propio software para proporcionar clases de recuperación a los estudiantes de primer y segundo año que ingresan, lo que ahorra miles de millones de dólares en tasas de matrícula.

Aplicación 2: Salud

La atención médica es posiblemente el espacio más popular para las intervenciones basadas en IA. Hay algunos que nos emocionan:

• Diagnóstico de tumor / enfermedad
• Verificadores de síntomas
• Ventanas emergentes de estudios clínicos basados en resultados de imágenes de radiología
• Rastreadores de medicamentos

Puede encontrar 28 ejemplos más de IA en la atención médica aquí.

Aplicación 3: Finanzas

Las empresas financieras que ganen durante los próximos 5 a 10 años emplearán modelos de negocio basados en la IA. Las aplicaciones varían desde detección de fraude, procesamiento de préstamos, evaluaciones de riesgo crediticio y publicidad.

Cardlytics (CDLX) hace precisamente eso. Mediante el uso de la inteligencia artificial para examinar millones de transacciones bancarias o de tarjetas, CDLX puede ofrecer a los especialistas en marketing canales publicitarios y a los consumidores ofertas de socios de marca.

Estas tres aplicaciones nos llevan a nuestra sección final: por qué debería importarle.

¿Por qué deberíamos preocuparnos por los semiconductores?

Los semiconductores y la IA se encuentran en las primeras etapas de una tendencia de crecimiento exponencial a largo plazo. No sabemos qué empresas ganarán al final. Pero lo que sí sabemos es que este es uno de los mejores lugares para pescar durante la próxima década.

¿Por qué? El mercado es pésimo al fijar los precios del crecimiento exponencial a largo plazo. Está demasiado orientado para ver la formación de la próxima ola de todo un océano. Mr. Market está enfocado en el próximo trimestre y el próximo año. No en los cambios importantes que ocurrirán durante los próximos cinco años.

La ignorancia del Sr. Market es nuestra oportunidad. Su cortoplacismo nuestro alfa. Al comprender los catalizadores de esta tendencia de crecimiento secular a largo plazo, podemos posicionarnos para invertir en estas áreas ahora.

McKinsey estima que el mercado de semiconductores impulsado por IA crecerá ~ 18% / año durante los próximos cinco años (ver a la derecha). Las cosas mejoran cuando se observan áreas específicas como el almacenamiento, que crecerá cerca de un 30% anual durante los próximos cinco años.

La tesis alcista es simple:

• Las tecnologías basadas en IA representarán porciones cada vez mayores de los ingresos totales de semiconductores.
• Los semiconductores deberían obtener entre el 40 y el 50% de esta creciente base de ingresos específicos de la IA (en contraposición al 10-20% en otros ciclos).
• El cambio del crecimiento cíclico al secular dará como resultado ingresos y ganancias más suaves, lo que conducirá a múltiplos más altos.

La semana que viene exploraremos estos espacios de semiconductores de alto crecimiento con mayor detalle. Revelaremos por qué industrias como el almacenamiento están listas para aparecer y en qué empresas deberíamos invertir para capturar esas tendencias.

Estamos entusiasmados con este espacio y las perspectivas de crecimiento a largo plazo. Además, algunos de los gráficos a largo plazo de estas empresas de semiconductores se están preparando para ver precios mucho más altos. Y tenemos nuestros ojos puestos en empresas que pasan desapercibidas y que aprovechan estas nuevas tecnologías con modelos comerciales interesantes.

¡Te veo la próxima semana!