Método de Monte Carlo basado en cadenas de Markov

Cuando aplicamos modelos probabilísticos a los datos normalmente es necesario integrar distribuciones de probabilidad complejas. El ejemplo más sencillo lo tenemos en el cálculo del valor esperado. En ocasiones estas integrales no se pueden calcular analíticamente y se usan métodos numéricos de muestreo para aproximar la integral. El conocido método de Monte Carlo genera muestras... Seguir leyendo →

Teoría de la Información en Deep Learning

Cuando hablábamos sobre información relevante y suficiente en machine learning describíamos el método del cuello de botella de la información (information bottleneck method) de Tishby. El método calcula cuánto resumir o reducir la variable X preservando la máxima información sobre la variable relevante objetivo Y usando la información mutua. En los últimos años Tishby y... Seguir leyendo →

Importancia de las representaciones distribuidas

Una de las claves del éxito del Deep Learning ha sido la capacidad de las redes neuronales con muchas capas de extraer representaciones distribuidas de los datos y de esa forma facilitar el proceso de entrenamiento y aprendizaje. Estas representaciones distribuidas permiten captar la estructura estadística y los factores que explican la variación de los... Seguir leyendo →

Por qué el deep learning funciona tan bien?

En los últimos años hemos visto un gran desarrollo y éxito del deep learning en el aprendizaje automático y la inteligencia artificial. El deep learning utiliza redes neuronales con muchas capas en las que cada capa extrae información de la capa anterior formando una jerarquía de representaciones. Como hemos comentado en otras entradas, el éxito... Seguir leyendo →

Algoritmos discriminativos y generativos de aprendizaje

Una pregunta que siempre nos planteamos en aprendizaje automático (machine learning) es la diferencia entre algoritmos discriminativos y generativos y cuál escoger para un problema concreto. Los algoritmos discriminativos modelan la dependencia de una variable objetivo Y  en función de una variable observada X.  De esta forma se puede predecir la variable Y  a partir... Seguir leyendo →

Machine learning en ciberseguridad

El aprendizaje automático (machine learning) está teniendo muchas aplicaciones en el campo de la ciberseguridad. Se está creando un auténtico ecosistema de nuevas startups (p.e. Darktrace) que están trasladando los beneficios del machine learning a la industria pujante y necesaria de la ciberseguridad. Uno de los aspectos más discutidos es el uso de técnicas de... Seguir leyendo →

Blog de WordPress.com.

Subir ↑