Esta dissertação examina o uso de técnicas de machine learning para melhorar estratégias de negociação nos mercados financeiros. O estudo avalia a eficácia de deep learning , reinforcement learning e métodos tradicionais de machine learning para o melhoramento de negociação usando vários indicadores técnicos. Este est udo avaliou várias técnicas de negociação, incluindo Moving Average Convergence Divergence (MACD), Média Móvel Simples, Relative Strength Index (RSI), Bollinger Bands e Stochastic Oscillator . A metodologia inclui pré processamento de dados, feature engineering e avaliação de modelos. Foram realizadas avaliações comparativas de Support Vector Classifiers, Árvores de Decisão, Random Forests , redes neuronais profundas e agentes de aprendizagem por reforço. A pesquisa examina várias representações de entrada e transformações de saída, avaliando a sua influência na eficácia do modelo. Os resultados deste estudo demonstram que modelos de aprendizado profundo superou frequentemente métodos convencionais de machine learning. A aprendizagem por reforço é promissora, especialmente ao integrar indicadores técnicos, embora tipicamente não exceda o desempenho da aprendizagem profunda. O estudo indica que variações de preço fornecem geralmente melhores resultados que preços em vários designs de modelo. Esta pesquisa avança na área de finanças computacionais ao ilustrar a eficácia das redes neuronais na melhoria de estratégias de negociação, destacando a importância do pré processamento de dados na modelagem financeira e oferecendo insights sobre as vantagens relativas de várias estruturas de aprendizado de máquina na negociação Os resultados desafiam paradigmas atuais em negociação algorítmica e fornecem base para futuras investigações sobre algoritmos de negociação adaptativos usando métodos avançados de machine learning.

This dissertation examines the use of machine learning techniques to improve algorithmic trading strategies inside financial markets. The study evaluates the efficacy of deep learning, reinforcement learning, and traditional machine learning methods in enhancing trading performance using various technical indicators. This study used four years of minute by minute Volatility Index (VIX) data to assess several trading techniques, including Moving Average Convergence Divergence (MACD), Simple Moving Average, Relative Strength Index (RSI), Bollinger Bands, and Stochastic Oscillator. The methodology includes data preprocessing, feature engineering, and extensive model evaluation. Comparative assessments of Support Vector Classifiers, Decision Trees, Random Forests, deep neural networks, and reinforcement learning agents were performed. The research examines several input representations and output transformations, evaluating their influence on model efficacy. The findings of this study demonstrate that deep learning models frequently surpass conventional machine learning methods . Reinforcement learning is promise, especially when integrating technical indications, although typically does not exceed the performance of deep learning. The study indicates that relative price inputs often provide better out comes than absolute prices across various model designs. This research advances computational finance by illustrating the efficacy of neural networks in improving trading strategies, highlighting the significance of data preprocessing in financial modeling , and offering insights into the relative advantages of various machine learning frameworks in algorithmic trading. The results challenge current paradigms in algorithmic trading and provide the groundwork for future investigations into adaptive trading algorithms using sophisticated machine learning methods. This research has significance for both professionals and academics in finance and artificial intelligence.