Python para Pré-processamento e Extracção de Características a partir de Texto Português

Abstract

O processamento de linguagem natural é uma área que tem aplicações muito vastas, que vão desde resumo de texto automatizado à tradução automática e criação de agentes conversacionais. Para a criação destas aplicações é necessário utilizar diversas ferramentas complexas que permitam processar grandes quantidades de informação. Actualmente, a maioria opera principalmente sobre a língua inglesa, e embora possam ser treinadas para a língua portuguesa podem ser amplamente melhoradas, para mais se determinadas nuances da língua forem consideradas. Justifica-se por esse motivo a necessidade de criar ferramentas que operem especificamente sobre a língua portuguesa e assim obter melhores resultados.O presente trabalho propõe o desenvolvimento de ferramentas que permitam processar texto em português e posteriormente transformá-lo em formatos sobre os quais agentes conversacionais consigam operar.Para isso, foram estudadas ferramentas de processamento de linguagem natural já existentes, e após este estudo iniciaram-se adaptações de modo a tentar obter melhores resultados para língua portuguesa. Este trabalho continuará com a integração de ferramentas que permitam extrair informação e culminará com uma demonstração da sua aplicação à geração de pares de perguntas e respostas, o que poderá ser útil para aplicações como agentes conversacionais.Neste trabalho foi desenvolvida e disponibilizada ao público uma nova cadeia de PLN para a língua portuguesa, utilizando a linguagem de programação Python.

Natural Language Processing is an area that has very extensive applications, that range from automated text summarization to automatic translation and conversational agents' creation. In order to create these applications, it is necessary to use several complex tools that allow to process large amounts of information. Nowadays, most of these tools operate mainly on the English language and, even though they can be trained to operate in the Portuguese language, they can be vastly improved, especially if some language nuances are considered. This justifies the need to create tools that can operate specifically on the Portuguese language and thus get better results.The work presented in this document proposes the development of tools that allow text processing in Portuguese and later its' transformation into formats on which conversational agents can operate. In order to achieve this, the existing natural language processing tools were studied and, after this study, some adaptations were made in order to try to obtain better results for the Portuguese language. The previously mentioned work continues with the integration of tools that allow you to extract information and culminates with a demonstration of its application to the generation of pairs of questions and answers, which may be useful to applications such as conversational agents and chatbots. In this work a new Natural Language Processing pipeline for the Portuguese language was assembled, using the Python programming language.