Tensor cores são blocos de hardware especializados de uma GPU. Eles foram introduzidos pela primeira vez pela NVIDIA na arquitetura Volta. Devido ao alto desempenho e aceleração do processo, os tensor cores tornaram-se uma parte importante de várias formas de processamento de dados e algoritmos de aprendizado de máquina.
A mecânica dos núcleos tensores
Os Kernels realizam multiplicação e acumulação de matrizes de precisão mista. Simplificando, isso significa realizar vários cálculos ao mesmo tempo. Essa capacidade é uma vantagem para Inteligência artificial (IA), aprendizado profundo e treinamento de redes neurais, onde o processamento de dados rápido e eficiente é de suma importância.
Comparação de kernels tensores e tradicionais
- Processamento paralelo. Ao contrário dos kernels tradicionais que executam uma operação por vez, os kernels tensores podem executar centenas de operações simultaneamente.
- Cálculos com precisão mista. Os kernels tensores são capazes de trabalhar com cálculos de precisão mista. Esse recurso não está disponível nos núcleos tradicionais.
- Otimizado para IA. Os Tensor cores são projetados especificamente para acelerar tarefas de IA e deep learning, ao contrário dos núcleos tradicionais.
Aplicação de núcleos tensores
Acelerar o aprendizado e o processamento de redes neurais complexas, acelerando as operações matriciais, contribuiu para avanços em vários campos da inteligência artificial, incluindo processamento de linguagem natural, reconhecimento de imagens e veículos autônomos.