Tanh (Tangente Hiperbólica)

A função Tanh (tangente hiperbólica) é uma função de ativação matemática amplamente utilizada nas camadas ocultas das redes neurais artificiais. Ela transforma os valores de entrada num intervalo de saída entre -1 e 1, criando uma curva em forma de S semelhante à função sigmoide, mas centrada em zero. Essa propriedade de centralização em zero é crucial porque permite que o modelo aprenda de forma mais eficiente, normalizando a saída dos neurónios e garantindo que os dados que fluem pela rede tenham uma média mais próxima de zero. Ao lidar explicitamente com valores negativos, a Tanh ajuda as redes neurais a capturar padrões e relações mais complexos dentro dos dados.

O mecanismo do Tanh no Deep Learning

Na arquitetura dos modelos de aprendizagem profunda, as funções de ativação introduzem não linearidade, permitindo que a rede aprenda limites complexos entre diferentes classes de dados. Sem funções como Tanh, uma rede neural se comportaria como um modelo de regressão linear simples, independentemente de quantas camadas ela tivesse. A função Tanh é particularmente eficaz em redes neurais recorrentes (RNN) e certos tipos de redes feed-forward, nas quais manter uma distribuição de ativação equilibrada e centrada em zero ajuda a evitar o problema do gradiente desaparecido durante a retropropagação.

Quando as entradas são mapeadas para o intervalo de -1 a 1, entradas fortemente negativas resultam em saídas negativas, e entradas fortemente positivas resultam em saídas positivas. Isso difere da função sigmoidal, que comprime valores entre 0 e 1. Como as saídas Tanh são simétricas em torno de zero, o processo de descida de gradiente geralmente converge mais rapidamente, já que os pesos nas camadas subsequentes não se movem consistentemente em uma única direção (um fenómeno conhecido como caminho "ziguezague" na otimização).

Aplicações no Mundo Real

O Tanh continua a desempenhar um papel vital em arquiteturas e casos de uso específicos, particularmente onde o processamento de sequências e a estimativa contínua de valores são necessários.

• Processamento de Linguagem Natural (NLP): Em arquiteturas como redes Long Short-Term Memory (LSTM) e Unidades Recorrentes Comportadas (GRU), o Tanh é usado como a ativação primária para regular o fluxo de informação. Por exemplo, em tarefas de tradução automática, nas quais um modelo traduz texto do English o francês, o Tanh ajuda os comportamentos internos do LSTM a decidir quanto do contexto anterior (memória) deve ser retido ou esquecido. Isso permite que o modelo lide com dependências de longo prazo nas estruturas das frases .
• Redes Adversárias Generativas (GANs): No componente gerador de muitas Redes Adversárias Generativas, o Tanh é frequentemente usado como a função de ativação final para a camada de saída. Como as imagens são frequentemente normalizadas para um intervalo de -1 a 1 durante o pré-processamento, o uso do Tanh garante que o gerador produza valores de pixel dentro do mesmo intervalo válido. Essa técnica ajuda na síntese de imagens realistas para aplicações como geração de texto para imagem.

Comparação: Tanh vs. Sigmoid vs. ReLU

É útil distinguir a função Tanh de outras funções comuns para entender quando utilizá-la.

• Tanh vs. Sigmoid: Ambas são curvas em forma de S. No entanto, a Sigmoid produz valores entre 0 e 1, o que pode fazer com que os gradientes desapareçam mais rapidamente do que a Tanh. A Sigmoid é normalmente reservada para a camada de saída final de problemas de classificação binária (previsão de probabilidade), enquanto que a Tanh é preferida para camadas ocultas em RNNs.
• Tanh vs. ReLU (Unidade Linear Retificada): Em redes neurais convolucionais modernas (CNNs), como YOLO26, ReLU e suas variantes (como SiLU) são geralmente preferidas em relação a Tanh para camadas ocultas. Isso ocorre porque ReLU evita o problema do gradiente desaparecido de forma mais eficaz para redes muito profundas e é computacionalmente mais barato de calcular. Tanh é computacionalmente mais caro devido aos cálculos exponenciais envolvidos.

Implementando ativações no PyTorch

Embora modelos de alto nível como o YOLO26 lidem com definições de ativação internamente nos seus ficheiros de configuração, compreender como aplicar o Tanh usando o PyTorch é útil para a construção de modelos personalizados.

import torch
import torch.nn as nn

# Define a sample input tensor with positive and negative values
input_data = torch.tensor([-2.0, -0.5, 0.0, 0.5, 2.0])

# Initialize the Tanh activation function
tanh = nn.Tanh()

# Apply Tanh to the input data
output = tanh(input_data)

# Print results to see values squashed between -1 and 1
print(f"Input: {input_data}")
print(f"Output: {output}")

Para utilizadores interessados em treinar arquiteturas personalizadas ou gerenciar conjuntos de dados de forma eficaz, a Ultralytics oferece um ambiente simplificado para experimentar diferentes hiperparâmetros de modelo, visualizar métricas de treino e implementar soluções sem a necessidade de codificar manualmente cada camada da rede neural.