Introducción a BERT, el algoritmo de NLP más avanzado de Google

• Conocer a BERT, el algoritmo más avanzado de NLP de Google

• Bienvenido a nuestro curso de BERT

• Bienvenidos a BERT

• Currículum del curso, herramientas y conjuntos de datos

• Cómo sacarle el máximo partido al curso

• La comunidad de Discord para Aprender con Amigos

• Toma notas de tu curso en tiempo real en Frogames Formación

• NOTA: Actualización a Python 3.10.12: Tu Curso en la Última Versión - Agosto 2023

BERT - Teoría

• ¿Qué es BERT?

• Embedding

• Aprendizaje por Transferencia y BERT

• Cómo se resolvían problemas seq2seq

• Idea General de Transformer

• La atención

• Arquitectura de BERT

• Pre entrenamiento (Masked Language Model y Next Sentence Prediction)

• La teoría de BERT

Aplicación: utilizar el tokenizador de BERT

• La teoría de las Redes Neuronales Convolucionales

• Teoría de las RNC

• Introducción

• Dependencias

• Carga de Ficheros

• Limpieza de los datos

• Tokenización and [SEP]]

• Creación del Dataset

• Entrenamiento

• Evaluación

Aplicación: Utilizar BERT como método de embedding

• Entradas

• Los resultados del modelo

Aplicación: Ajustar BERT para crear un sistema de respuestas automáticas

• Introducción

• Dependencias

• Pre procesado de datos

• Capa de Squad (Stanford Question Answering Dataset)

• Modelo al completo

• Compilar la IA

• Entrenamiento

• Preparación de la Evaluación

• Creación de la Evaluación

• Resultado de la Evaluación

• Predicción casera

Bonus por ser estudiante de Frogames Formación

• Bonus 1 - Conoce BERT, el algoritmo de NLP de Google

• Bonus 2 - BERT, el algoritmo sin ningún rival

• Bonus 3 - Creación del embedder de oraciones

• Bonus 3 - Entrenamiento y evaluación