Open-World Active Learning in Self-Driving Cars

Abstract

Os carros autónomos estão inseridos num ambiente com muitos objetos diferentes, sendo que, para cada um destes objetos, o agente inteligente capaz de conduzir o carro tem de receber muitas imagens exemplo. Ter alguém constantemente a etiquetar cada objeto é um processo caro e demorado e mesmo na eventualidade de se conseguir etiquetar todos os objetos, existem alguns para os quais é dificil de conseguir exemplos, como é o caso de mercadoria perdida por um camião. Um agente deste tipo, para se ajustar a este ambiente e ser capaz de executar a ação mais segura para um conjunto de condições, provocando o menor dano possivel, tem de ser capaz de detetar e aprender estes objetos/classes que nunca viu, tornando-se assim num modelo de aprendizagem em mundo aberto. É de notar que por vezes o agente pode estar em contacto com diferentes classes desconhecidas, tendo este então de conseguir identificar essa quantidade de classes.Neste projeto, implementamos um modelo capaz de não só detetar amostras pertencentes a classes desconhecidas como também detetar o número de classes escondidas nestas amostras. Este modelo consiste em treinar quatro Redes Neural Convolucional (RNCs), de modo a se conseguir criar uma rede capaz de classificar corretamente a maioria das amostras, e, posteriormente, usá-las em conjunto com o algoritmo OpenMax para se conseguir detetar amostras pertencentes a classes desconhecidas. Finalmente, as amostras detetadas pelo OpenMax são utilizadas no algoritmo Agrupamento Espacial Baseado em Densidade de Aplicações com Ruído (AEBDAR) para se obter o número de classes desconhecidas. Para medir a qualidade do modelo, calculamos a percentagem de cada classe por grupo criado pelo algoritmo AEBDAR. Desta forma, conseguimos perceber se cada classe desconhecida detetada está bem representada e as suas amostras podem ser utilizadas para treino.Os nossos resultados mostram que, embora se consiga obter o número de grupos igual ao verdadeiro número de classes desconhecidas, as amostras de cada grupo não representam exatamente uma classe apenas, isto é, cada grupo pode conter mais do que uma das verdadeiras classes desconhecidas. Por exemplos, para um dos conjuntos de dados de teste com 8 classes desconhecidas, um dos grupos contém 5 destas. De qualquer das formas, este método provou ser capaz de resolver, uma vez que, em algumas situações, conseguiu distinguir algumas classes e agrupou classes semelhantes.

Self-driving cars are placed in an environment with many different objects, where for each of these objects, the intelligent agent driving the car has to receive many example images. Having someone constantly labeling each object is an expensive and time-consuming process, and even in the unlikely event that all objects are labeled, there are some for which it is difficult to get examples, such as goods lost by a truck. In order to adjust to this environment and be able to perform the safest action for a set of conditions, causing the least damage, an agent of this type must be able to detect and learn these objects/classes that it has never seen, thus becoming an open-world learning model. It should be noted that sometimes the agent may be in contact with different unknown classes, and it then has to be able to identify that many classes. It should be noted that sometimes the agent may be exposed to different unknown classes at once, therefore it has to be able to identify that many classes.In this project, we implemented a model capable of not only detecting samples belonging to unknown classes, but also identifying the number of classes hidden in these samples. This model consists in training four \acrfull{cnn}, in order to create a network capable of correctly classifying most samples, and then use them together with the OpenMax algorithm to detect samples belonging to unknown classes. Finally, the samples detected by OpenMax are used in the \acrfull{dbscan} algorithm to obtain the number of unknown classes. To measure the quality of the model, we calculated the percentage of each class per group created by the \acrshort{dbscan} algorithm. This way, we can see whether each detected unknown class is well represented and if its samples can be used for training.Our results show that, although we can get the number of groups equal to the true number of unknown classes, the samples from each group do not represent exactly one class, i.e. each group may contain more than one of the true unknown classes. For example, for one of the test data sets with 8 unknown classes, one of the groups contains 5 of these. Nevertheless, this method proved to be capable of solving, since in some situations it was able to distinguish some classes and group similar classes together.