OMXH25 trend prediction : evaluating the impact of principal component analysis on LSTM and random forest models

Abstract

This thesis evaluates whether Principal Component Analysis (PCA) preprocessing improves machine learning performance for next day directional prediction of the OMX Helsinki 25 (OMXH25) index. A 2×2 comparative design crosses Long Short-Term Memory (LSTM) networks and Random Forest (RF) ensembles with raw and PCA-transformed features, yielding four variants. 15 technical features engineered from approximately ten years of daily OMXH25 data (2015 to 2025) are evaluated within an expanding-window scheme that fixes an initial 70 per cent training block and then evaluates 10 non-overlapping test folds across the rest of the sample, with all principal components retained to isolate orthogonal decorrelation from information loss. Performance is assessed using accuracy, balanced accuracy, macro F1, ROC-AUC, MCC, Cohen’s Kappa, generalisation gap, and pairwise McNemar's tests.

Out-of-sample accuracy across all four variants ranges from 50.76 to 53.08 per cent, and all pairwise McNemar's tests are non-significant, so PCA preprocessing yields no statistically significant accuracy improvement. The observed effects on classification quality and generalisation are nonetheless architecture dependent. For the LSTM, PCA raises accuracy by 1.90 percentage points and macro F1 by 3.97 percentage points by reducing pronounced majority-class bias, whereas it lowers RF accuracy by 2.32 percentage points. Both RF variants attain moderate training accuracy (82 to 89 per cent) and out-of-bag accuracy near chance, indicating an absence of exploitable signal.

PCA-LSTM and the RF emerge as the strongest variants, each leading on a different subset of metrics, so preprocessing-architecture interactions warrant explicit consideration in model design.

Tämä tutkielma arvioi, parantaako pääkomponenttianalyysiin (PCA) perustuva esikäsittely koneoppimismallien suorituskykyä OMX Helsinki 25 -indeksin (OMXH25) seuraavan päivän suunnan ennustamista. Tutkimuksessa sovelletaan 2×2-vertailuasetelmaa, jossa Long Short-Term Memory (LSTM) -verkot ja Random Forest (RF) mallit yhdistetään sekä alkuperäisiin, että PCA-muunnettuihin muuttujiin. Viisitoista muuttujaa, jotka on johdettu OMXH25-indeksin noin kymmenen vuoden aineistosta päivittäisestä aineistosta, arvioidaan laajenevan ikkunan menettelyllä, jossa kiinteää 70 prosentin opetusjaksoa seuraa kymmenen erillistä testijaksoa viimeisellä 30 prosentilla. Kaikki pääkomponentit säilytetään, jotta ortogonaalisen dekorrelaation vaikutus voidaan erottaa informaation menetyksestä. Suorituskykyä arvioidaan tarkkuuden, tasapainotetun tarkkuuden, makro-F1-luvun, ROC-AUC-arvon, Matthewsin korrelaatiokertoimen (MCC), Cohen’s Kappan, yleistyskuilun sekä McNemarin testien avulla.

Testihavaintojen tarkkuus on eri varianteissa 50.76–53.08 prosentin välillä. McNemarin testit osoittavat, että PCA esikäsittely ei tuota tilastollisesti merkitsevää tarkkuuden paranemista. LSTM-mallissa PCA nostaa tarkkuutta 1,90 prosenttiyksikköä ja makro-F1-arvoa 3,97 prosenttiyksikköä, vähentäen voimakasta luokkavinoumaa, kun taas RF-mallissa se laskee tarkkuutta 2,32 prosenttiyksikköä. Molempien RF-varianttien opetustarkkuus on kohtalainen (82–89 %), ja niiden out-of-bag tarkkuus on lähellä sattuman tasoa, mikä viittaa hyödynnettävän signaalin puuttumiseen. PCA-LSTM ja RF ovat vahvimmat variantit, ja koska kumpikin on paras eri mittareilla, esikäsittelyn ja malliarkkitehtuurin vuorovaikutus on otettava nimenomaisesti huomioon mallinnuksessa.