Zero-Shot Spam Email Classification Using Pre-trained Large Language Models
Rojas-Galeano, S. (2024). Zero-shot spam email classification using pre-trained large language models. arXiv. https://arxiv.org/abs/2405.15936
Este artículo explora el uso de modelos de lenguaje preentrenados para la detección de correos electrónicos no deseados mediante un enfoque de aprendizaje zero-shot, con el fin de clasificar mensajes como spam o no spam sin requerir entrenamiento específico sobre un conjunto de datos determinado. La metodología se basa en la utilización de modelos de lenguaje de gran escala, como GPT, aprovechando sus capacidades de comprensión contextual para realizar tareas de clasificación directamente a partir de instrucciones en lenguaje natural. El enfoque fue evaluado en distintos tipos de correos spam y en escenarios que incluyen patrones previamente desconocidos, permitiendo analizar su capacidad de generalización frente a amenazas emergentes. Los resultados demuestran que los modelos de lenguaje pueden identificar eficazmente mensajes de spam sin necesidad de datasets etiquetados ni procesos adicionales de entrenamiento, mostrando un desempeño particularmente favorable en la detección de nuevos patrones de ataque. Entre las principales ventajas del método se destaca su flexibilidad y la reducción de los costos asociados a la recopilación y etiquetado de datos. Sin embargo, los autores señalan que la precisión puede variar según las características de los correos analizados y las capacidades del modelo preentrenado utilizado. Finalmente, el estudio concluye que la clasificación zero-shot constituye una alternativa viable a los enfoques tradicionales de aprendizaje supervisado y propone como trabajo futuro su evaluación en conjuntos de datos más amplios y reales, la optimización de prompts, la comparación directa con modelos supervisados y su aplicación a sistemas de clasificación de texto y detección en tiempo real.
