MCT da Sony: a ligar a investigação em IA à execução em tempo real na borda
Destaques da palestra de Amir Servi no YOLO Vision 2023 sobre o Model Compression Toolkit (MCT) da Sony, quantização e implantação do Ultralytics YOLOv8 na borda.
Nuvola Ladi2 min de leitura
O evento YOLO Vision 2023 (YV23), realizado no Google for Startups Campus, em Madrid, contou com uma programação de palestrantes de vários pontos da comunidade de IA. Entre eles estava Amir Servi, gerente de produtos de aprendizado profundo de borda da Sony, que fez uma apresentação sobre como reduzir a distância entre a pesquisa em IA e a computação de borda em tempo real, na qual apresentou o Model Compression Toolkit (MCT) da Sony.
Conhece Amir Servi: aproximar a investigação da IA em tempo real#
A palestra de Amir abordou técnicas de compressão e quantização de modelos voltadas à implantação eficiente de IA de borda.
Explorar os desafios da IA de periferia com o MCT#
Amir discutiu os desafios da implantação de modelos de IA em dispositivos de borda, destacando os obstáculos impostos pelos recursos limitados e pelas restrições de hardware. Durante a palestra, apresentou o Model Compression Toolkit (MCT) da Sony, uma ferramenta de código aberto compatível com modelos PyTorch e TensorFlow. O MCT também é usado na exportação para Sony IMX500 da Ultralytics.
Descobrir o potencial do MCT#
Amir apresentou os principais recursos do MCT, desde a quantização consciente do hardware até algoritmos de última geração e busca automatizada de parâmetros, que fazem dele um kit de ferramentas versátil para a implantação de IA em cenários reais.
Fig. 1. Amir Servi apresentando no YOLO Vision 2023, no Google for Startups Campus, em Madrid.
Técnicas de quantização explicadas: os resultados falam por si#
Amir explicou técnicas de quantização, como a quantização pós-treinamento (PTQ) e o GPTQ, e compartilhou os resultados, incluindo a alta precisão da PTQ com precisão mista e altas taxas de compressão do modelo Ultralytics YOLOv8.
Encerramento#
A palestra de Amir mostrou como ferramentas como o MCT ajudam a reduzir a distância entre a pesquisa em IA e a implementação em tempo real, especialmente para modelos YOLO executados em dispositivos de borda.
Queres saber mais? Assiste à palestra completa sobre o Sony MCT.
Escrito por
Gerente de conteúdo digital · Ultralytics
Comentários
Faça uma pergunta, compartilhe seus resultados ou ajude alguém.
