Edge Computing

La computación perimetral consiste en ejecutar procesos y almacenar datos cerca de donde se producen o se utilizan, ya sea en dispositivos, servidores y pasarelas locales o pequeños centros de datos en el borde de las redes de telecomunicaciones, en lugar de enviarlo todo a una región de nube distante. Procesar los datos cerca de su origen reduce el tiempo de respuesta, el ancho de banda necesario para transferir datos sin procesar, mantiene los datos sensibles en las instalaciones y permite que los sistemas sigan funcionando cuando se interrumpe la red. La idea surgió de las redes de distribución de contenidos, que almacenaban en caché páginas web cerca de los usuarios a finales de los años noventa. En 2009, investigadores dirigidos por Mahadev Satyanarayanan propusieron los «cloudlets» cercanos para dispositivos móviles; Cisco introdujo el término computación en la niebla en 2012, y el organismo europeo de normalización ETSI empezó a estandarizar la computación perimetral multiacceso para redes móviles en 2014. La ejecución de modelos de aprendizaje automático en esta infraestructura se denomina IA en el borde.

Niveles del borde#

«El borde» abarca varias capas entre un sensor y la nube:

• Borde del dispositivo: Cámaras, teléfonos, drones, robots y vehículos que procesan los datos en sus propios procesadores, a menudo con aceleradores integrados.
• Borde local: Pasarelas y servidores compactos dentro de una fábrica, tienda, hospital o granja que agregan datos de muchos dispositivos, como un único equipo con GPU que analiza decenas de flujos de cámaras.
• Borde de red: Servidores en estaciones base de telecomunicaciones o puntos de presencia regionales, a pocos milisegundos de los usuarios móviles, que ejecutan cargas de trabajo para dispositivos demasiado pequeños para procesarlas localmente.
• Nube: Regiones centrales que entrenan modelos, almacenan datos a largo plazo y gestionan el conjunto de dispositivos perimetrales.

Por qué procesar los datos en el borde#

La latencia es el primer motivo. La luz viaja por la fibra óptica a unos 200 kilómetros por milisegundo, por lo que un centro de datos a 1000 km añade al menos 10 ms de ida y vuelta antes de contar el enrutamiento, las colas o el procesamiento. Por eso, los vehículos autónomos y los robots que deben reaccionar en milisegundos ejecutan inferencia en tiempo real a bordo. El segundo motivo es el ancho de banda: un flujo de cámara H.264 de 1080p necesita varios megabits por segundo, así que un sitio con 100 cámaras subiría continuamente cientos de megabits, mientras que un evento de detección enviado como JSON ocupa unos pocos kilobytes. Procesar los datos en las instalaciones también mantiene allí las imágenes sin procesar de las personas, de modo que solo salen del edificio los recuentos, las alertas o los resultados anonimizados; esto simplifica las obligaciones de privacidad de datos y permite que los sistemas sigan funcionando durante las interrupciones de red en granjas, barcos, minas e infraestructuras remotas.

En la práctica, el borde y la nube forman un ciclo. Los dispositivos procesan localmente cada fotograma y solo envían eventos y muestras seleccionadas, mientras que la nube utiliza esas muestras para volver a entrenar los modelos y distribuir versiones mejoradas:

Este patrón se aplica a la inspección de calidad en líneas de producción, donde hay que retirar una pieza defectuosa antes de que llegue la siguiente; a la monitorización de cultivos y ganado en campos con poca conectividad; y a los sistemas de gestión del tráfico que ajustan los semáforos a partir de cámaras en intersecciones.

Computación perimetral frente a términos relacionados#

La computación en la nube centraliza una capacidad elástica en grandes centros de datos, y la computación perimetral extiende el procesamiento desde allí hacia el exterior, por lo que la mayoría de los sistemas usan ambas. La IA en el borde es la parte de la computación perimetral que ejecuta modelos de IA. Computación en la niebla, el término de Cisco, describe la capa de pasarelas y servidores locales entre los dispositivos y la nube, y es en gran medida sinónimo de los niveles local y de red. El Internet de las cosas (IoT) es la red de sensores y dispositivos conectados, y la computación perimetral es el lugar donde se procesa buena parte de los datos que generan.

Implementación de modelos en dispositivos perimetrales#

El hardware perimetral dispone de una fracción de la memoria, la capacidad de cálculo y el consumo energético de una GPU de centro de datos: desde microcontroladores que consumen milivatios hasta módulos NVIDIA Jetson y placas Raspberry Pi. Los modelos se hacen más pequeños y rápidos mediante cuantización de modelos a enteros de 8 bits, poda y destilación de conocimiento; después, se compilan para el entorno de ejecución y el acelerador de destino, como TensorRT en GPU NVIDIA, OpenVINO en CPU y NPU Intel, LiteRT en Android o Core ML en dispositivos Apple. El modo de exportación de Ultralytics YOLO genera estos formatos a partir de un mismo modelo entrenado. Este ejemplo exporta YOLO26 a NCNN, el framework de inferencia de Tencent para móviles y CPU ARM, y ejecuta el modelo exportado:

from ultralytics import YOLO

# Export YOLO26n to NCNN, a lightweight runtime for ARM CPUs and mobile devices
model = YOLO("yolo26n.pt")
ncnn_path = model.export(format="ncnn")  # writes the yolo26n_ncnn_model folder

# Load the exported model and run it on this machine's CPU
ncnn_model = YOLO(ncnn_path)
results = ncnn_model("https://ultralytics.com/images/bus.jpg")
print(f"Inference: {results[0].speed['inference']:.1f} ms")

La exportación crea una carpeta yolo26n_ncnn_model que contiene model.ncnn.param para la estructura de la red, model.ncnn.bin para los pesos y metadata.yaml para los nombres de las clases y el tamaño de entrada. El tiempo que se muestra es la latencia de inferencia por imagen en el equipo que la ejecuta, el dato que determina si un modelo se ajusta al presupuesto de frecuencia de fotogramas de una aplicación perimetral.