Self-Supervised Learning for Early Preamble Collision Detection in Cellular IoT Networks - Casas-Velasco, Daniela M.; Cunha, Diogo M. da; Guerra, Marco A.; Cardenas, Giancarlo M.; Astudillo, Carlos A.; Fonseca, Nelson L. S. da (Anais do Workshop de Inteligência Artificial para Redes de Computadores (WIARC); 2026: Anais do I Workshop de Inteligência Artificial para Redes de Computadores, 2026)
Cenários de Massive Machine-Type Communications (mMTC) em redes Cellular Internet of Things (CIoT) podem gerar picos de tentativas simultâneas de acesso, tornando o procedimento de acesso aleatório (random access, RA) um gargalo crítico. Nessas condições, colisões de preâmbulos aumentam a contenção, as retransmissões e o atraso de acesso. Abordagens supervisionadas recentes baseadas em características do power-delay profile (PDP) têm apresentado resultados promissores para detecção antecipada de colisão de preâmbulos, mas dependem de conjuntos de dados rotulados. Nesse domínio, dados rotulados são custosos e podem não estar disponíveis (e.g., em novas implantações de rede), uma vez que os rótulos de colisão exigem simulação detalhada e verificação em nível de protocolo. Este artigo investiga o uso de self-supervised learning (SSL) para reduzir a dependência de rótulos e, ao mesmo tempo, melhorar a classificação de colisão na tarefa downstream e a robustez entre cenários. Um codificador baseado em Transformer é pré-treinado com sequências de PDP não rotuladas, e as representações aprendidas são então transferidas por meio de fine-tuning com um pequeno subconjunto rotulado, empregando um classificador simples do tipo multilayer perceptron (MLP) como cabeça de predição. Duas tarefas de pré-texto baseadas em mascaramento são avaliadas, a saber, random token masking e contiguous masked-span prediction, utilizando conjuntos de dados com características distintas, como tipo de canal, velocidade e raio de cobertura. Os resultados de simulação mostram que o SSL melhora o desempenho da tarefa downstream em todas as avaliações no mesmo cenário e em cinco dos seis pares de transferência entre cenários, com os maiores ganhos observados sob desajuste de domínio. Esses resultados indicam que o SSL reduz a dependência de dados rotulados ao mesmo tempo em que melhora a transferibilidade entre diferentes condições de canal de rádio.