Descenso de gradiente estocástico (SGD)

Concepto y definición

Descenso de gradiente estocástico (SGD)

¿Qué es Descenso de gradiente estocástico (SGD)?

El "Descenso de Gradiente Estocástico" (en inglés, Stochastic Gradient Descent, SGD) es un algoritmo de optimización utilizado en el entrenamiento de modelos de aprendizaje automático.

La idea principal detrás del descenso de gradiente estocástico es minimizar una función de costo al ajustar los parámetros del modelo de manera iterativa en función de la retroalimentación que se obtiene del conjunto de datos de entrenamiento. En lugar de actualizar los parámetros del modelo de manera exhaustiva con todos los datos de entrenamiento en cada iteración (como ocurre en el descenso de gradiente regular), el descenso de gradiente estocástico utiliza pequeñas muestras aleatorias de los datos de entrenamiento (conocidas como "minilotes" o "batches") en cada iteración para actualizar los parámetros del modelo.

El descenso de gradiente estocástico es especialmente útil cuando el conjunto de datos de entrenamiento es muy grande, ya que permite que el modelo se entrene de manera más eficiente al procesar pequeñas muestras de los datos a la vez. Además, el descenso de gradiente estocástico puede ayudar a evitar que el modelo se quede atrapado en óptimos locales y a converger más rápido hacia un óptimo global.

El descenso de gradiente estocástico es un algoritmo ampliamente utilizado en la optimización de modelos de aprendizaje profundo, y es esencial para el entrenamiento de grandes redes neuronales que requieren grandes conjuntos de datos de entrenamiento.

« Volver al glosario

¿Quieres ponerte en contacto?

¡Nos encantaría saber de ti! Contáctanos completando el formulario que aparece a continuación y estaremos encantados de ayudarte.
Rellena el formulario
Compartir:
Retail Future, una mirada al futuro del Retail, dónde la Inteligencia Artificial no pudo faltar

Hace unos días pudimos asistir a un evento pionero en el mundo del Retail, la feria Retail Future 2022. En su quinta edición, y bajo el lema “Reta [...]

Leer más »
¿Qué es un ERP ? Funciones y por qué una empresa debería tenerlo

Las siglas ERP significan Enterprise Resource Planning y se trata de un sistema de planificación informático y gestión empresarial capaz de integra [...]

Leer más »
¿A qué empresas puede ayudar la Inteligencia Artificial?

La Inteligencia Artificial está transformando la forma en la cual las empresas se relacionan con sus clientes, cómo se gestiona el trabajo, el talen [...]

Leer más »
Clustering para analizar el dato

Los métodos de clustering, o agrupamiento, son una pieza fundamental en el proceso de análisis de los datos, pues permiten una segmentación automá [...]

Leer más »
Ver más entradas
© Gamco 2021, All Rights Reserved - Aviso legal - Privacidad - Cookies