Descenso de gradiente estocástico (SGD)

Concepto y definición

Descenso de gradiente estocástico (SGD)

¿Qué es Descenso de gradiente estocástico (SGD)?

El "Descenso de Gradiente Estocástico" (en inglés, Stochastic Gradient Descent, SGD) es un algoritmo de optimización utilizado en el entrenamiento de modelos de aprendizaje automático.

La idea principal detrás del descenso de gradiente estocástico es minimizar una función de costo al ajustar los parámetros del modelo de manera iterativa en función de la retroalimentación que se obtiene del conjunto de datos de entrenamiento. En lugar de actualizar los parámetros del modelo de manera exhaustiva con todos los datos de entrenamiento en cada iteración (como ocurre en el descenso de gradiente regular), el descenso de gradiente estocástico utiliza pequeñas muestras aleatorias de los datos de entrenamiento (conocidas como "minilotes" o "batches") en cada iteración para actualizar los parámetros del modelo.

El descenso de gradiente estocástico es especialmente útil cuando el conjunto de datos de entrenamiento es muy grande, ya que permite que el modelo se entrene de manera más eficiente al procesar pequeñas muestras de los datos a la vez. Además, el descenso de gradiente estocástico puede ayudar a evitar que el modelo se quede atrapado en óptimos locales y a converger más rápido hacia un óptimo global.

El descenso de gradiente estocástico es un algoritmo ampliamente utilizado en la optimización de modelos de aprendizaje profundo, y es esencial para el entrenamiento de grandes redes neuronales que requieren grandes conjuntos de datos de entrenamiento.

« Volver al glosario

¿Quieres ponerte en contacto?

¡Nos encantaría saber de ti! Contáctanos completando el formulario que aparece a continuación y estaremos encantados de ayudarte.
Rellena el formulario
Compartir:
El futuro de la automatización gracias al Machine Learning

Si alguna vez te has preguntado cómo Spotify te recomienda canciones que te gustan o cómo Siri y Alexa pueden entender lo que les dices… la respue [...]

Leer más »
Experiencia con datos reales

Ya tienes todo lo necesario para ponerte manos a la obra y empezar a trabajar con los datos de la empresa. Tras sortear los primeros obstáculos de ma [...]

Leer más »
5 ejemplos de IA donde se aplica en tu vida diaria

Muchas veces nos preguntamos qué ejemplos de IA nos podemos encontrar en nuestro entorno y es que, la inteligencia artificial es un concepto que engl [...]

Leer más »
La Ley de Inteligencia Artificial: una breve explicación

Desde 2008, varios países han promulgado leyes que reconocen la importancia de integrar la inteligencia artificial (IA) en ámbitos clave de la vida [...]

Leer más »
Ver más entradas
© Gamco 2021, All Rights Reserved - Aviso legal - Privacidad - Cookies