Informações administrativas
| Titulo | Estruturas de hardware e software para a aprendizagem profunda |
| Duração | 60 minutos |
| Módulo | B |
| Tipo de aula | Palestra |
| Foco | Técnico — Aprendizagem Aprofundada |
| Tópico | Gráficos computacionais |
Palavras-chave
aprendizagem profunda, software, hardware, infraestrutura GPU,
Objetivos de aprendizagem
- Familiarizar-se com as estruturas de hardware e software para sistemas de aprendizagem profunda
Preparação prevista
Eventos de aprendizagem a serem concluídos antes
Obrigatório para os Estudantes
Nenhuma.
Facultativo para Estudantes
Nenhuma.
Referências e antecedentes para estudantes
Nenhuma.
Recomendado para professores
Nenhuma.
Materiais das aulas
Instruções para os professores
O objetivo desta palestra é mostrar aos alunos que arquiteturas de hardware e software ajudam a treinar e implementar soluções de aprendizagem profunda. Temos de reconhecer que estes componentes de hardware e software são soluções técnicas brilhantes que nos permitem dimensionar a formação e a inferência. Além do hardware, as GPUs NVIDIA e as TPUs do Google são as melhores escolhas hoje em dia porque implementam algoritmos de aprendizagem profunda otimizados com controladores rápidos e de alta qualidade.
Para a aprendizagem profunda, usamos muito mais software do que as estruturas de aprendizagem profunda sozinhos. Utilizamos a configuração, a programação, a orquestração e muitas outras ferramentas. A breve introdução nesta palestra apenas arranha a superfície.
Na última parte da palestra, mostramos como o treinamento multi-GPU pode ser realizado com Horovod. O objetivo não é ter um mergulho profundo em formações multi-GPU, mas mostrar que não é tão difícil implementar uma solução básica.
Abrir os sites dos fabricantes de hardware e dos fornecedores de software pode ajudar os alunos a ter alguma experiência prática.
Esboço
- soluções de hardware — do desktop ao nível do servidor
- estruturas de software de aprendizagem profunda
- softwares adicionais para soluções de aprendizagem profunda
| Duração (Min) | Descrição |
|---|---|
| 5 | A necessidade de computação paralela na aprendizagem profunda |
| 15 | Soluções de hardware |
| 5 | Como comparar hardware diferente para a aprendizagem profunda |
| 10 | Arquitetura de software de aprendizagem profunda |
| 10 | Quadros de aprendizagem profunda |
| 10 | Componentes de software adicionais |
Agradecimentos
Balint Gyires-Tóth (Universidade Tecnológica e Económica de Budapeste)
O programa de mestrado em IA centrado no ser humano foi cofinanciado pelo Mecanismo Interligar a Europa da União Europeia ao abrigo de subvenções CEF-TC-2020-1 Competências Digitais 2020-EU-IA-0068.