Recurrent Neural Network (RNN)

リカレントニューラルネットワーク (RNN) は、テキスト、ゲノム、手書き文字、あるいは話し言葉などのデータ系列内のパターンを認識するために特別に設計された 人工ニューラルネットワーク の一種です。すべての入力（および出力）が互いに独立していると仮定する従来のフィードフォワードネットワークとは異なり、RNNは一種の記憶を保持します。この内部メモリによって、以前の情報を理解しながら入力を処理できるため、文脈や時系列の順序が重要となるタスクに最適です。このアーキテクチャは、人間が情報を処理する方法を模倣しています。例えば、文章を読む際、現在の単語を理解するために以前の単語を記憶しておく必要があります。

Link to this sectionRNNの仕組み#

RNNの核心的な革新は、そのループ構造にあります。標準的な フィードフォワードネットワーク では、情報は入力から出力へという一方向にのみ流れます。対照的に、RNNには情報を保持できるフィードバックループが存在します。ネットワークが系列を処理する際、ネットワークの短期記憶として機能するベクトルである「隠れ状態」を維持します。RNNは各タイムステップで、現在の入力と以前の隠れ状態を受け取り、出力を生成し、次のステップのために隠れ状態を更新します。

この系列処理能力は、自然言語処理 (NLP) や 時系列解析 に不可欠です。しかし、標準的なRNNは、系列が長くなるにつれて以前の入力を忘れてしまう 勾配消失 問題のため、長い系列の処理に苦労することがあります。この制限により、長短期記憶 (LSTM) ネットワークや ゲート付きリカレントユニット (GRU) といった、より長い期間にわたって情報の流れをより適切に制御するメカニズムを導入した高度なバリアントが開発されました。

Link to this section実社会での応用#

リカレントニューラルネットワークは、機械が系列データを理解できるようにすることで多くの業界を変革しました。以下に2つの顕著な例を挙げます。

1. 機械翻訳: Google 翻訳のようなサービスは、当初、テキストをある言語から別の言語に変換するために、RNNベースのアーキテクチャ（具体的には 系列変換モデル）に大きく依存していました。ネットワークは入力文全体（例：英語）を読み込んでコンテキストベクトルを構築し、それを使用して翻訳された出力（例：フランス語）を単語ごとに生成し、文法的な整合性を確保します。

2. 予測入力とオートコレクト: スマートフォンで文字を入力する際、キーボードは次に続く可能性の高い単語を提案します。これは多くの場合、RNNで学習された言語モデルによって実現されています。このモデルは、すでにタイプした単語の系列を分析して、次に続く可能性が最も高い単語を予測し、ユーザーの入力速度と精度を向上させます。同様のロジックは、話し言葉の音声をテキストに書き起こす 音声認識 システムにも適用されています。

Link to this sectionRNN対CNNおよびTransformer#

RNNを他の主要なアーキテクチャと区別すると理解しやすくなります。畳み込みニューラルネットワーク (CNN) は、主に画像などの空間データ用に設計されており、ピクセルグリッドを処理して形状や物体を識別します。例えば、Ultralytics YOLO26 は、リアルタイムの 物体検出 に強力なCNNバックボーンを使用しています。CNNが「この画像には何が写っているか？」に優れているのに対し、RNNは「このビデオでは次に何が起こるか？」の分析に優れています。

より最近では、Transformer アーキテクチャが多くの複雑なNLPタスクにおいて、RNNに取って代わるようになりました。Transformerは 注意機構 を使用して、系列を順番ではなく並列に処理します。しかし、RNNは特定の低レイテンシかつリソース制限のあるストリーミングアプリケーションにおいて依然として非常に効率的であり、単純な時系列予測のためにエッジデバイスにデプロイする際にもよりシンプルです。

Link to this sectionPyTorch 実装の例#

現代のコンピュータビジョンタスクではCNNに依存することが多いですが、ハイブリッドモデルでは、ビデオフレームから抽出された時間的特徴を分析するためにRNNが使用されることがあります。以下は、PyTorch を使用して、データ系列を処理する基本的なRNNレイヤーを作成するシンプルな実行可能な例です。

import torch
import torch.nn as nn

# Define a basic RNN layer
# input_size: number of features in the input (e.g., 10 features per time step)
# hidden_size: number of features in the hidden state (memory)
# batch_first: input shape will be (batch, seq, feature)
rnn = nn.RNN(input_size=10, hidden_size=20, num_layers=1, batch_first=True)

# Create a dummy input: Batch size 1, Sequence length 5, Features 10
input_seq = torch.randn(1, 5, 10)

# Forward pass through the RNN
# output contains the hidden state for every time step
# hn contains the final hidden state
output, hn = rnn(input_seq)

print(f"Output shape: {output.shape}")  # Expected: torch.Size([1, 5, 20])
print(f"Final hidden state shape: {hn.shape}")  # Expected: torch.Size([1, 1, 20])

Link to this section課題と将来の展望#

RNNは有用ですが、計算上の課題にも直面しています。系列処理は並列化を阻害するため、GPU 上ではTransformerに比べて学習が遅くなります。さらに、勾配爆発 問題を管理するには、慎重な ハイパーパラメータチューニング や勾配クリッピングのような手法が必要になります。

それにもかかわらず、RNNは ディープラーニング (DL) における基本的な概念であり続けています。RNNは 人工知能 (AI) の進化を理解する上で不可欠であり、IoTセンサー用の単純な 異常検知 システムでも広く使用されています。ビジョンモデルと系列予測器を組み合わせるなど、複雑なパイプラインを構築する開発者にとって、データセットと学習ワークフローの管理は極めて重要です。Ultralytics Platform はこのプロセスを簡素化し、さまざまな環境間で効率的にデータを管理し、モデルをデプロイするためのツールを提供します。