Segmentação Automática de Cromossomas em Imagens Microscópicas de Cariótipos

Abstract

Since the study of the karyotype entails the examination of a person's unique set of chromosomes, conventional cytogenetics plays a significant part in the diagnosis and prognosis of several types of cancer as well as in the surveillance of residual diseases.The automated karyotype analysis seeks to create a karyogram that is properly annotated and prepared for the expert's review. The chromosomal detection method can be automated to increase speed and accuracy of karyotyping. Due to the difficulties in segmenting chromosomal clusters, chromosome segmentation has not yet been widely used in clinical settings. Additionally, a barrier to automating this procedure is the lack of clinical datasets or photorealistic synthetic datasets.This research proposes an algorithm to perform the segmentation of chromosomes in microphotographies of chromosomes exhibiting a G-band pattern. By means of a "Cut, Paste, and Learn" procedure a method to generate synthetic images with great morphological variability is described, while still being based on actual cell structures of the cytogenetic clinic. The algorithm YOLOv5 was used to detect chromosomes with a G-band pattern in real images.A dataset of real cell structures was produced during the “Cut” phase, including 115896 chromosomes, 180 nucleoli and 6024 noisy objects. Using a proposed blending technique for smoothing the overlapping of cell structures, 10795 synthetic images were created during the “Paste” phase. During the “Learn” phase a value of mAP$@0.5$ equal to 0.989 was obtained for the validation group, which included 1080 synthetic cell images. The LCG-FMUC dataset, which consists of 171 microphotographs of cells with prophase or metaphase chromosomes, was used to test the YOLOv5 model. Overall, from the 7861 chromosomes that were contained in the experimental dataset, 7708 chromosomes were correctly segmented which accounts for 98.05% of success in chromosome segmentation.This project proposes a tool that automates the generation of synthetic photorealistic images. Additionally, the developed algorithm can quickly and accurately identify prophase or metaphase chromosomes in microphotographs of cells.

O estudo do cariótipo representa a análise do conjunto de cromossomas de um indivíduo, conferindo à citogenética convencional um papel crucial para o diagnóstico e prognóstico de diferentes tipos de cancro, assim como para a monitorização de doenças residuais. A automação da análise do cariótipo tem como objetivo produzir um cariograma devidamente anotado e pronto para ser examinado pelo especialista. Desenvolver uma solução automática para detetar os cromossomas permite tornar o processo de cariotipagem mais rápido e exato. A segmentação de cromossomas ainda não foi aplicada em larga escala a nível clínico devido aos desafios da segmentação de clusters de cromossomas. Além disso, a falta de volume de datasets clínicos ou datasets sintéticos fotorrealistas é um obstáculo à automatização deste processo.Este projeto propõe a automatização da segmentação de cromossomas em imagens celulares de cromossomas com padrão de bandas G. Utilizando um procedimento “Cut, Paste and Learn”, é apresentada uma ferramenta para gerar imagens sintéticas com elevada variedade morfológica, ainda que baseadas em estruturas celulares reais da clínica citogenética. Foi usado o algoritmo YOLOv5 para a deteção de cromossomas com padrão de bandas G em imagens reais.Na fase “Cut}”, foi obtido um dataset de estruturas celulares reais, composto por 115896 cromossomas, 180 nucléolos e 6024 objetos ruidosos. Na fase “Paste”, foram obtidas 10795 imagens sintéticas, utilizando-se um método de blending proposto para a suavização das sobreposições das estruturas celulares. Na fase “Learn”, obteve-se um valor de mAP@0.5 igual a 0.989 para o grupo de validação, composto por 1080 imagens celulares sintéticas. Este modelo foi testado no dataset do LCG-FMUC, constituído por 171 microfotografias de células de cromossomas em prófase ou metáfase. No total, foram segmentados 7708 cromossomas dos 7861 cromossomas existentes no dataset real, representando um sucesso de 98.05% na segmentação de cromossomas. O trabalho desenvolvido disponibiliza uma ferramenta que automatiza a aquisição de imagens sintéticas fotorrealistas. Além disso, o algoritmo obtido é capaz de detetar cromossomas em microfotografias de células de cromossomas em prófase ou metáfase com alta exatidão e velocidade.