Regularized machine learning model for particle jet classification

Abstract

Particle physics research helps to understand some of the most fundamental parts of the universe. Many of the elementary particles do not exist in normal conditions but can be artificially created and studied using particle accelerators like the Large Hadron Collider (LHC) of the European Organization for Nuclear Physics (CERN). The future upgrade will increase the luminosity of the LHC, meaning vast amounts of data will be produced. In order to select only a small fraction of interesting data for further analysis, trigger algorithms are utilized. The triggers utilize custom electronics like Field-Programmable Gate Arrays (FPGAs) that enable fast decision-making but have restricted hardware capabilities. This study utilizes regularization, quantization, pruning, and hyperparameter optimization to implement a machine learning model for trigger-level jet classification on an FPGA platform. The results indicate that with the multi-objective hyperparameter optimization method, it is possible to retain the performance achieved with a baseline 4-layer multilayer perceptron model, with significantly reduced model resource usage.

Hiukkasfysiikan tutkimus auttaa ymmärtämään maailmankaikkeutta ja sen perusteita. Monet alkeishiukkaset eivät esiinny normaaleissa olosuhteissa, mutta niitä voidaan luoda keinotekoisesti ja tutkia käyttämällä hiukkaskiihdyttimiä kuten Euroopan hiukkasfysiikan tutkimuskeskuksen (CERN) suurta hiukkastörmäytintä (Large Hadron Collider, LHC). Tuleva kiihdyttimen päivitys kasvattaa LHC:n luminositeettia, mikä tarkoittaa suurempaa määrää tuotettua dataa. Kiinnostavan datan karsiminen jatkoanalyysia varten voidaan suorittaa liipaisinalgoritmeilla. Nämä käyttävät tarkoitukseen suunniteltua elektroniikkaa kuten ohjelmoitavia porttimatriiseja, jotka mahdollistavat nopean päätöksenteon, mutta joihin liittyy omia laitteistorajoituksia. Tässä tutkimuksessa hyödynnetään koneoppimismallin regularisointia, kvantisointia, karsimista, ja hyperparametrien optimointia. Näiden avulla luodaan regularisoitu koneoppimismalli hiukkassuihkujen luokitteluun porttimatriisialustalla. Saadut tulokset osoittavat, että hyödyntämällä monitavoiteoptimointia, on mahdollista säilyttää perinteisellä neljän kerroksen monikerrosneuroverkolla saavutettu tarkkuus, ja samalla merkittävästi pienentää mallin resurssienkulutusta.