Sigmoide

La función Sigmoide es una popular función de activación utilizada en aprendizaje automático (ML) y aprendizaje profundo (DL). Es una función matemática que produce una curva característica con forma de "S", o sigmoidal. Su propósito principal es tomar cualquier número de valor real y "comprimirlo" en un rango entre 0 y 1. Esta salida se interpreta a menudo como una probabilidad, lo que hace que Sigmoide sea especialmente útil en modelos donde el objetivo es predecir la probabilidad de un resultado. Al introducir no linealidad en una red neuronal (NN), permite que el modelo aprenda patrones complejos de los datos que de otro modo serían imposibles con transformaciones lineales simples.

Rol y aplicaciones

La capacidad de la función Sigmoide para mapear entradas a una salida similar a una probabilidad la convierte en una piedra angular para ciertos tipos de tareas. Si bien se ha vuelto menos común en las capas ocultas de las redes neuronales profundas modernas, sigue siendo una opción estándar para la capa de salida en escenarios específicos.

Aplicaciones clave

• Clasificación Binaria: En los problemas de clasificación binaria, el objetivo es categorizar una entrada en una de dos clases (por ejemplo, spam o no spam, enfermedad presente o ausente). Una función sigmoide en la capa de salida proporciona un único valor entre 0 y 1, que representa la probabilidad de que la entrada pertenezca a la clase positiva. Por ejemplo, un modelo de análisis de imágenes médicas podría usar Sigmoide para generar una probabilidad de 0.9, lo que indica una probabilidad del 90% de que un tumor sea maligno.
• Clasificación multi-etiqueta: A diferencia de la clasificación multi-clase, donde una entrada pertenece a una sola clase, las tareas multi-etiqueta permiten que una entrada se asocie con múltiples etiquetas simultáneamente. Por ejemplo, un modelo de detección de objetos como Ultralytics YOLO podría analizar una imagen e identificar un "coche", un "peatón" y un "semáforo" a la vez. En este caso, se aplica una función sigmoide a cada neurona de salida de forma independiente, dando la probabilidad para cada etiqueta posible. Puede obtener más información sobre la evolución de la detección de objetos.
• Mecanismos de Compuerta en RNNs: Las funciones Sigmoide son un componente central en los mecanismos de compuerta de las Redes Neuronales Recurrentes (RNNs), como la Memoria a Corto Plazo Larga (LSTM) y las Unidades Recurrentes Compuertas (GRU). Estas compuertas utilizan Sigmoide para controlar el flujo de información, decidiendo qué datos conservar o descartar en cada paso. Este mecanismo es crucial para aprender dependencias a largo plazo en datos secuenciales, como se explica en esta publicación de blog detallada sobre la comprensión de las LSTM.

Comparación con Otras Funciones de Activación

Es importante distinguir la función sigmoide de otras funciones de activación para comprender cuándo usarla.

• Softmax: La función Softmax se utiliza normalmente para problemas de clasificación multiclase, donde cada entrada pertenece exactamente a una de varias clases posibles. A diferencia de Sigmoid, que calcula probabilidades independientes para cada salida, Softmax calcula una distribución de probabilidad entre todas las clases que suma 1. Por ejemplo, un modelo que clasifica dígitos escritos a mano del conjunto de datos MNIST utilizaría Softmax para asignar una única probabilidad a cada dígito del 0 al 9.
• ReLU (Unidad Lineal Rectificada): ReLU se ha convertido en el estándar de facto para las capas ocultas en redes profundas. Es computacionalmente más eficiente y ayuda a mitigar el problema del gradiente que se desvanece (vanishing gradient), un problema significativo con Sigmoid donde los gradientes se vuelven extremadamente pequeños durante la retropropagación (backpropagation), ralentizando o deteniendo el proceso de aprendizaje. Puede leer más sobre los desafíos de los gradientes en este artículo de DeepLearning.AI.
• SiLU (Sigmoid Linear Unit): También conocida como Swish, SiLU es una función de activación más moderna derivada de Sigmoid. A menudo funciona mejor que ReLU en modelos más profundos, incluyendo arquitecturas avanzadas de visión artificial. Los modelos de Ultralytics a menudo aprovechan las funciones de activación avanzadas para lograr un mejor equilibrio entre velocidad y precisión.

Uso y disponibilidad modernos

Aunque hoy en día es menos común en las capas ocultas, Sigmoid sigue siendo una opción estándar para las capas de salida en tareas de clasificación binaria y multietiqueta. También forma un componente central en los mecanismos de gating dentro de arquitecturas complejas que manejan datos secuenciales.

La función sigmoide está disponible en todas las principales frameworks de aprendizaje profundo, incluyendo PyTorch (como torch.sigmoid) y TensorFlow (como tf.keras.activations.sigmoid). Plataformas como Ultralytics HUB son compatibles con modelos que utilizan varias funciones de activación, lo que permite a los usuarios entrenar y deploy soluciones sofisticadas de visión artificial.