http://repositorio.unb.br/handle/10482/53204| File | Size | Format | |
|---|---|---|---|
| JoaoPauloCostaESouza_DISSERT.pdf | 7,74 MB | Adobe PDF | View/Open |
| Title: | Using AI for forecasting and trading in markets : a study of deep learning and deep reinforcement learning in finance |
| Other Titles: | Usando IA para previsão e negociação em mercados : um estudo de aprendizagem profunda e aprendizagem por reforço profundo em finanças |
| Authors: | Souza, João Paulo Costa e |
| Orientador(es):: | Rocha Filho, Geraldo Pereira |
| Assunto:: | Rainbow DQN Aprendizado por reforço Aprendizado por reforço profundo Previsão de preço Criptomoedas Finanças |
| Issue Date: | 24-Nov-2025 |
| Data de defesa:: | 28-Feb-2025 |
| Citation: | SOUZA, João Paulo Costa e. Using AI for Forecasting and Trading in Markets: a Study of Deep Learning and Deep Reinforcement Learning in Finance. 2025. 133 f. Dissertação (Mestrado em Informática) — Universidade de Brasília, Brasília, 2025. |
| Abstract: | No contexto de negociação financeira, a identificação de tendências e estratégias de tomada de decisão são componentes cruciais para atingir lucratividade consistente e minimizar riscos. Dada a importância desses dois desafios, este projeto propõe uma solução que combina várias técnicas avançadas para aprimorar a precisão preditiva e o desempenho de negociação. A abordagem proposta incorpora Autoencoders para engenharia de recursos, permitindo redução efetiva de dimensionalidade e extração de padrões significativos de indicadores técnicos. Para identificação de tendências, o modelo alavanca uma combinação de Redes Neurais Convolucionais (CNNs) e Redes de Memória de Longo e Curto Prazo Bidirecionais (BiLSTMs), juntamente com rotulagem baseada em regressão linear para definir tendências de mercado com maior precisão. Na fase de tomada de decisão, o sistema emprega o algoritmo Rainbow DQN, aprimorado com um buffer de memória, para otimizar estratégias de negociação e maximizar a lucratividade no mercado de criptomoedas. Para avaliar rigorosamente a eficácia da estrutura proposta, o desempenho de identificação de tendências é avaliado usando as métricas precision, recall e acurácia, enquanto o desempenho de negociação é medido por meio do retorno, sua média e desvio padrão. Os resultados experimentais demonstram que o modelo supera supera a perspectiva aleatória na previsão de tendências, validando a eficácia dos componentes de engenharia de características e aprendizado profundo. Além disso, apesar de experimentar flutuações significativas nos retornos de negociação, o agente obteve um lucro médio positivo, destacando o potencial da abordagem proposta no desenvolvimento de uma estratégia de negociação adaptável e orientada a dados. |
| Abstract: | In the context of financial trading, trend identification and decision-making strategies are crucial components for achieving consistent profitability and minimizing risk. Given the importance of these two challenges, this project proposes a solution that combines multiple advanced techniques to enhance both predictive accuracy and trading performance. The proposed approach incorporates Autoencoders for feature engineering, enabling effective dimensionality reduction and the extraction of meaningful patterns from technical indicators. For trend identification, the model leverages a combination of Convolutional Neural Networks (CNNs) and Bidirectional Long Short-Term Memory Networks (BiLSTMs), alongside linear regression-based labeling to define market trends with greater precision. In the decision-making phase, the system employs the Rainbow DQN algorithm, enhanced with a memory buffer, to optimize trading strategies and maximize profitability in the cryptocurrency market. To rigorously evaluate the effectiveness of the proposed framework, trend identification performance is assessed using accuracy, precision, and recall, while trading performance is measured through return, its mean, and standard deviation. The experimental results demonstrate that the model outperforms a random baseline in trend prediction, validating the effectiveness of the feature engineering and deep learning components. Additionally, despite experiencing significant fluctuations in trading returns, the agent achieved a positive average profit, highlighting the potential of the proposed approach in developing an adaptive and data-driven trading strategy. |
| metadata.dc.description.unidade: | Instituto de Ciências Exatas (IE) Departamento de Ciência da Computação (IE CIC) |
| Description: | Dissertação (mestrado)—Universidade de Brasília, Instituto de Ciências Exatas, Departamento de Ciência da Computação, Programa de Pós-Graduação em Informática, 2025. |
| metadata.dc.description.ppg: | Programa de Pós-Graduação em Informática |
| Licença:: | A concessão da licença deste item refere-se ao termo de autorização impresso assinado pelo autor com as seguintes condições: Na qualidade de titular dos direitos de autor da publicação, autorizo a Universidade de Brasília e o IBICT a disponibilizar por meio dos sites www.unb.br, www.ibict.br, www.ndltd.org sem ressarcimento dos direitos autorais, de acordo com a Lei nº 9610/98, o texto integral da obra supracitada, conforme permissões assinaladas, para fins de leitura, impressão e/ou download, a título de divulgação da produção científica brasileira, a partir desta data. |
| Agência financiadora: | Coordenação de Aperfeiçoamento de Pessoal de Nível Superior (CAPES). |
| Appears in Collections: | Teses, dissertações e produtos pós-doutorado |
Items in DSpace are protected by copyright, with all rights reserved, unless otherwise indicated.