Automatic segmentation of retinal layers in optical coherence tomography images: a flexible model for multiple animal models and acquisition systems

Abstract

The retina can be used as a window to the brain and is accessible through optical methods. As such, the analysis of changes detected in retinal images allows for the non-invasive diagnosis of neurodegenerative diseases, which remains complex and challenging. Advanced medical image analysis processes, such as deep learning (DL), are growing rapidly and have enabled the development of various retinal segmentation methods. However, these solutions are created based on a specific type of data and/or acquisition system. The creation of a flexible and versatile segmentation model that is capable of segmenting images of retinas from different disease models and acquisition systems is important, especially for applications such as the individual analysis of retinal layers and the measurement of their thickness, which help in the diagnosis and monitoring of various diseases.The aim of the work proposed here is to segment optical coherence tomography (OCT) images for application in the retinas of multiple animal models of neurodegenerative diseases and multiple acquisition systems, using DL algorithms. For this purpose, two convolution neural networks were created, the Attention-Res-U-Net and the Teacher-Student Generative Adversarial Network (GAN), which were trained on a set of B-scans obtained in mice, controls and models of Alzheimer's disease, with the Phoenix OCT imaging system. In the test set, with the same types of controls and disease models, a mean absolute error (MAE) of 0.57 µm was achieved for the Attention-Res-U-Net and an MAE of 0.34 µm for the Teacher-Student GAN, these values being the distances between the automatic segmentation and the previously existing segmentations. Due to resource management, the remaining tests were only carried out with the Attention-Res-U-Net. Thus, another test was carried out, this time with a dataset of animal models of diabetes, where the network achieved an MAE of 6.07 µm. In the last phase, transfer learning was applied to the trained Attention-Res-U-Net model, with the goal of applying it to systems other than the one used for training, in this case, the Bioptigen. This new model was also tested with B-scans obtained from the new system, and successfully segmented the intended layers, according to expert evaluation. In general, the developed segmentation algorithm was able to successfully segment the retinal layers in the images of the different animal models, in both acquisition systems.

A retina pode ser utilizada como uma janela para o cérebro e é acessível através de métodos óticos. Como tal, a análise de alterações detetadas em imagens da retina permite o diagnóstico não invasivo de doenças neurodegenerativas, o qual continua a ser complexo e desafiante. Processos avançados de análise de imagens médicas, como o deep learning (DL), estão em franco crescimento e têm permitido o desenvolvimento de diversos métodos de segmentação da retina. No entanto, estas soluções são criadas com base num tipo específico de dados e/ou sistema de aquisição. A criação de um modelo de segmentação flexível e versátil que seja capaz de segmentar imagens de retinas de diferentes modelos de doença e sistemas de aquisição, é importante, especialmente para aplicações como a análise individual das camadas da retina e a medição da sua espessura, que ajudam no diagnóstico e monitorizaçáo de diversas doenças.O trabalho aqui proposto tem como finalidade a segmentação de imagens de tomografia de coerência ótica (OCT) para aplicação em retinas de múltiplos modelos animais de doenças neurodegenerativa e múltiplos sistemas de aquisição, através algoritmos DL. Para tal, foram criadas duas redes neuronais de convolução, a Attention-Res-U-Net e a Teacher-Student Generative Adversarial Network, as quais foram treinadas num conjunto de B-scans obtidos em murganhos, controlos e modelos da doença de Alzheimer, com o sistema de imagem Phoenix OCT. No conjunto de teste, com os mesmos tipos de controlos e modelos de doença, foi atingido um mean absolute error (MAE) de 0.57 µm para a Attention-Res-U-Net e um MAE de 0.34 µm para a Teacher-Student GAN, sendo estes valores as distâncias entre a segmentação automática e as segmentações previamente existentes. Devido a uma gestão de recursos, os restantes testes foram realizados apenas com a Attention-Res-U-Net. Assim, outro teste foi realizado, desta vez com um dataset de modelo animal diabético, onde a rede atingiu um MAE de 6.07 µm. Numa última fase, foi aplicado transfer learning ao modelo Attention-Res-U-Net treinado, com vista à sua aplicação a sistemas distintos do usado no treino, neste caso o Bioptigen. Este novo modelo foi também testado com B-scans obtidos no novo sistema, tendo segmentado com sucesso as camadas pretendidas, de acordo com avaliação de experts. Em geral, o algoritmo de segmentação desenvolvido foi capaz de segmentar com sucesso as camadas da retina nas imagens dos diferentes modelos animais, em ambos os sistemas de aquisição.