31 de enero de 2024
Descubre el kit de herramientas de compresión de modelos (MCT) de Sony en YOLO VISION 2023. Supera los retos de la IA de vanguardia, desmitifica la cuantización y explora la implementación en tiempo real. Acompáñanos en el viaje de la investigación a la implementación.
El evento YOLO VISION 2023 (YV23), celebrado en el campus de Google for Startups de Madrid, contó con un nutrido grupo de ponentes seleccionados entre la comunidad de la IA. Entre ellos se encontraba Amir Servi, director de producto de aprendizaje profundo Edge de Sony, que ofreció una presentación muy perspicaz sobre la reducción de la brecha entre la investigación de IA y el borde en tiempo real, en la que desveló las maravillas del kit de herramientas de compresión de modelos (MCT) de Sony.
La experiencia de Amir Servi en IA y tecnología brilla, preparando el escenario para una exploración esclarecedora de la compresión de modelos y las técnicas de cuantificación adaptadas para una implementación eficiente en el Edge.
Amir ahondó en los retos que plantea el despliegue de modelos de IA en dispositivos periféricos, haciendo hincapié en los obstáculos que plantean los recursos limitados y las restricciones de hardware. Durante su charla, presentó Model Compression Toolkit (MCT) de Sony, una herramienta de código abierto perfectamente integrada en PyTorch y TensorFlow.
Amir reveló las impresionantes características de MCT. Desde la cuantificación consciente del hardware hasta los algoritmos de última generación y la automatización de la búsqueda de parámetros, MCT surgió como un conjunto de herramientas versátil listo para abordar las complejidades de la implementación de la IA en el mundo real.
Amir desmitificó las técnicas de cuantificación, ofreciendo una visión del mundo de PTQ, GPTQ y sus impactantes resultados. El público se maravilló ante el éxito de PTQ con precisión mixta y las notables tasas de compresión logradas por los Ultralytics YOLOv8 de Ultralytics.
En pocas palabras, la charla de Amir iluminó el camino entre la investigación en IA y la aplicación en tiempo real. La colaboración profundizó nuestra comprensión y nos dejó inspirados por las posibilidades que el MCT aporta al campo en constante evolución del aprendizaje automático mediante modelos YOLO .
¡Mantente atento para más actualizaciones interesantes a medida que continuamos desentrañando los misterios de la IA con líderes de la industria como Amir Servi!
¿Quiere saber más? Vea la charla completa aquí!
