Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS

One of the main research fields under Artificial Intelligence, on the context of Digital Games, is the study of Real-Time Strategy Games (RTS), which are commonly considered the successors of classic strategy games such as Checkers, Chess, Backgammon and Go, and impose great challenges to this ar...

ver descrição completa

Na minha lista:
Detalhes bibliográficos
Autor principal: Araújo, Marco Antônio Silva e
Outros Autores: Madeira, Charles Andrye Galvão
Formato: Dissertação
Idioma:pt_BR
Publicado em: Universidade Federal do Rio Grande do Norte
Assuntos:
Endereço do item:https://repositorio.ufrn.br/handle/123456789/32142
Tags: Adicionar Tag
Sem tags, seja o primeiro a adicionar uma tag!
id ri-123456789-32142
record_format dspace
institution Repositório Institucional
collection RI - UFRN
language pt_BR
topic Generalização
Aprendizado por reforço
StarCraft
spellingShingle Generalização
Aprendizado por reforço
StarCraft
Araújo, Marco Antônio Silva e
Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS
description One of the main research fields under Artificial Intelligence, on the context of Digital Games, is the study of Real-Time Strategy Games (RTS), which are commonly considered the successors of classic strategy games such as Checkers, Chess, Backgammon and Go, and impose great challenges to this area’s researchers due to the great complexity involved. Currently, the field aims to study the RTS using StarCraft I and II as stage of experimentation. The main feature sought in artificial agents developed to this kind of game is high performance, having as its main objective to defeat specialist human players. On this context it is inserted the generalization problematic, that is the capacity of an artificial agent of reusing previous experiences, from different contexts, to a new environment. Generalization is a very studied field by the scientific community, but still poorly explored on the context of RTS. By this reason, this work proposes the Beyond Star model, which consists in an architecture to generically represent the state-space of Real-Time Strategy Games, using as base deep reinforcement learning techniques aiming to learn effective strategies to be applied in several RTS environments. As a basis to the architecture, it was developed a platform titled URNAI, a tool that integrates several machine learning algorithms and several different game environments, such as StarCraft II and DeepRTS. To analyse if the solution is capable of allowing agent generalization, tests were carried out in DeepRTS and StarCraft II. The results demonstrate that the trained agents were capable of generalizing their knowledge from one environment to the other, showing a promising result that allows to validate this work’s proposal.
author2 Madeira, Charles Andrye Galvão
author_facet Madeira, Charles Andrye Galvão
Araújo, Marco Antônio Silva e
format masterThesis
author Araújo, Marco Antônio Silva e
author_sort Araújo, Marco Antônio Silva e
title Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS
title_short Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS
title_full Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS
title_fullStr Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS
title_full_unstemmed Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS
title_sort beyond star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos rts
publisher Universidade Federal do Rio Grande do Norte
publishDate 2021
url https://repositorio.ufrn.br/handle/123456789/32142
work_keys_str_mv AT araujomarcoantoniosilvae beyondstarummodelodearquiteturadeaprendizadoparageneralizacaodeestrategiasemjogosrts
AT araujomarcoantoniosilvae beyondstaralearningarchitecturalmodeltothegeneralizationofstrategiesinrtsgames
_version_ 1773960800737689600
spelling ri-123456789-321422021-04-11T09:06:21Z Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS Beyond Star: a learning architectural model to the generalization of strategies in RTS games Araújo, Marco Antônio Silva e Madeira, Charles Andrye Galvão http://lattes.cnpq.br/7760631139812468 http://lattes.cnpq.br/2381782879955327 Ramalho, Geber Lisboa http://lattes.cnpq.br/9783292465422902 Bezerra, Leonardo César Teonácio http://lattes.cnpq.br/0664132257054306 Generalização Aprendizado por reforço StarCraft One of the main research fields under Artificial Intelligence, on the context of Digital Games, is the study of Real-Time Strategy Games (RTS), which are commonly considered the successors of classic strategy games such as Checkers, Chess, Backgammon and Go, and impose great challenges to this area’s researchers due to the great complexity involved. Currently, the field aims to study the RTS using StarCraft I and II as stage of experimentation. The main feature sought in artificial agents developed to this kind of game is high performance, having as its main objective to defeat specialist human players. On this context it is inserted the generalization problematic, that is the capacity of an artificial agent of reusing previous experiences, from different contexts, to a new environment. Generalization is a very studied field by the scientific community, but still poorly explored on the context of RTS. By this reason, this work proposes the Beyond Star model, which consists in an architecture to generically represent the state-space of Real-Time Strategy Games, using as base deep reinforcement learning techniques aiming to learn effective strategies to be applied in several RTS environments. As a basis to the architecture, it was developed a platform titled URNAI, a tool that integrates several machine learning algorithms and several different game environments, such as StarCraft II and DeepRTS. To analyse if the solution is capable of allowing agent generalization, tests were carried out in DeepRTS and StarCraft II. The results demonstrate that the trained agents were capable of generalizing their knowledge from one environment to the other, showing a promising result that allows to validate this work’s proposal. Um dos principais campos de pesquisa em Inteligência Artificial, no contexto dos jogos digitais, consiste no estudo dos Jogos de Estratégia em Tempo Real (RTS), que são comumente considerados sucessores dos jogos de estratégia clássicos tais como Damas, Xadrez, Gamão e Go, e impõem grandes desafios aos pesquisadores da área devido à grande complexidade envolvida. Atualmente, a área procura estudar os RTS utilizando os jogos StarCraft I e StarCraft II como palco para experimentação. A principal característica procurada nos agentes artificiais desenvolvidos para este tipo de jogo é o alto desempenho, tendo como objetivo derrotar jogadores humanos especialistas. Neste contexto se insere a problemática da generalização, que é a capacidade de um agente artificial reaproveitar experiências anteriores, oriundas de ambientes diferentes, para um novo ambiente. A generalização é um campo bastante estudado pela comunidade científica, mas ainda pouco explorado no contexto dos RTS. Por esta razão, este trabalho propõe o modelo Beyond Star, que consiste em uma arquitetura para representação genérica do espaço de estados e ações de jogos de estratégia de tempo real, usando como base técnicas de aprendizado por reforço profundo com o intuito de aprender estratégias eficazes nos mais variados ambientes de jogos RTS. Como base para a arquitetura, foi desenvolvida uma plataforma intitulada URNAI, ferramenta que integra diversos algoritmos de aprendizado de máquina e diversos ambientes diferentes de jogos, como StarCraft II e DeepRTS. Para analisar se a solução é capaz de permitir a generalização de agentes, experimentos foram realizados com StarCraft II e DeepRTS. Os resultados demonstram que os agentes treinados foram capazes de generalizar seu conhecimento de um ambiente para outro, demonstrando um resultado promissor que permite validar a proposta deste trabalho. 2021-04-09T19:44:02Z 2021-04-09T19:44:02Z 2020-12-16 masterThesis ARAÚJO, Marco Antônio Silva e. Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS. 2020. 132f. Dissertação (Mestrado Profissional em Tecnologia da Informação) - Instituto Metrópole Digital, Universidade Federal do Rio Grande do Norte, Natal, 2020. https://repositorio.ufrn.br/handle/123456789/32142 pt_BR Acesso Aberto application/pdf Universidade Federal do Rio Grande do Norte Brasil UFRN PROGRAMA DE PÓS-GRADUAÇÃO EM TECNOLOGIA DA INFORMAÇÃO