My actual Study (basic explanation)

¡Buenos días lector! Soy Gabri y, como ya sabrás, estudio ingeniería informática. Actualmente estoy en mi cuarta semana de universidad de mi cuarto año. Mi estudio actual es el estudio High-throughput real-time processes ML inference in CPU provider (HLT2).

Te debes haber quedado igual, así que te voy a explicar un par de pinceladas sobre qué es esto. A día de hoy en el CERN hay 4 experimentos de gran magnitud (hay más de 4), cada experimento tiene un detector que analiza el choque de partículas de una forma distinta. En el que yo estoy trabajando es el LHCb detector, analiza las colisiones de partículas de una forma muy particular comparada con algunos de los otros detectores. En este caso, los datos que se recogen son de una forma angular donde solo se analiza un ángulo de salida de la colisión.

Actual detector LHCb

Como puedes haber intuido, la acción de colisionar nubes de partículas conlleva analizar un gran número de parámetros, es por eso que el detector está dividido por sub-detectores, que toman los datos de diferentes formas. Un ejemplo sería el de un horno, la acción interna del horno es la misma (cocinar una magdalena) pero la toma de diferentes datos nos da más información, como el tiempo y la temperatura.

Después de ver que tenemos un gran número de datos, se tiene que analizar, y no tenemos toda la vida para hacerlo, hay que hacerlo bien y rápido. ¿Por qué rápido? Porque en tu iPhone 12 tienes 126 GB para tus fotos de gatitos, pero el LHCb solo tiene 15 PetaBytes de almacenamiento. Aunque suene a mucho, es poco.

Es por eso que los algoritmos internos que analizan estos datos requieren que sean rápidos. Todos estos programas pasan por lo que le llamamos un pipeline (un túnel), en este caso en el LHCb hay dos partes significativas conceptualmente. Una parte analiza los datos más recientes que llegan primero y lo hacen con una granja de GPU (HLT2). La segunda parte, al llegarle los datos más filtrados y a menor frecuencia, tenemos una granja de CPU (HLT2).

Pipeline actual de LHCb

A este punto de la lectura, por fin vemos una similitud del título de mi estudio con el tema de la línea anterior, HLT2. Si analizamos el título de una forma menos técnica, se refiere al estudio del throughput de la inferencia de Redes Neuronales en los algoritmos actuales de HLT2. Actualmente todos los códigos que hay ejecutándose en HLT2 son picados línea a línea, con eso me refiero a que el analisis y la comparación de lo que hace el algoritmo es bastante tedioso. Gracias a estos algoritmos se pueden programar otro tipo de algoritmos llamados Redes Neuronales, que lo que hacen es una vez se han entrenado, solo hace falta multiplicar su input por las diferentes capas llenas de perceptrones. Esto permite que el proceso sea mucho más rápido.

Habiendo visto que una red neuronal bien entrenada es mucho más rápida que un código que hace la misma función, la tentación de pensar sobre la sustitución de los actuales algoritmos de reconstrucción por redes neuronales es bastante grande. Es por eso que este estudio que estoy realizando, puede conllevar una reducción exponencial del tiempo de análisis del experimento.

Qué conlleva la reducción del throughput de un algoritmo?

1 — Menor tiempo de análisis por colisión 2 — Poder analizar más datos 3 — Mejorar el porcentaje de accuracy del algoritmo actual 4 — Reducción del tiempo de ejecución = reducción energética

¿Cómo se puede implementar?

• Comparar qué tipos de red neuronal se asocia más al tipo de algoritmo de reconstrucción
• Integrando de una forma óptima los modelos dentro del pipeline.
• Importación de librerías externas dentro del entorno de desarrollo (actualmente es la limitación que hay para hacerlo). Podéis consultar mi artículo de uso de librerías externas dentro del stack.
• Uso de ONNX Runtime en la inferencia de las ML