Aprendizaje automático: escribir poemas

8

Soy un estudiante de aprendizaje automático, y en estos días estaba tratando de aprender a usar la biblioteca TensorFlow. He revisado varios tutoriales y pruebas y errores con Tensorflow, y pensé que la mejor forma de aprenderlo de verdad sería utilizarlo en un pequeño proyecto propio.

He decidido que debería intentar hacer un programa que escriba poemas. No estoy apuntando a un programa de calidad superior; para mi primer modelo, estaría contento con solo una cadena de grupos de palabras sin sentido juntas en formato de poema. El problema es que tengo problemas para buscar libros o videos sobre programas de aprendizaje automático que se ocupan de escribir estructuras de oraciones.

¿Puede hacer alguna sugerencia sobre lo que podría buscar (incluso las palabras clave de Google están bien) para obtener los programas de muestra y los conocimientos básicos que necesito?

Gracias.

Daniel
fuente
2
He usado una cadena de Markov para generar nombres con algún sentido antes, ¿probablemente sería una buena estrategia para los poemas?
Mephy

Respuestas:

5

Este es solo el comentario de Emre expandido, pero sí, debe buscar redes neuronales recurrentes para generar texto al estilo de un corpus dado. RNN y LSTM funcionan realmente bastante bien para esto.

El artículo publicado en http://karpathy.github.io/2015/05/21/rnn-effectiveness/ es ampliamente citado y, a su pregunta, muestra cómo es bastante fácil generar algo como esto, dado el texto de las obras de Shakespeare:

PÁNDARO: Por desgracia, creo que se le acercará y el día en que se logre que el pequeño srain nunca sea alimentado, y que no es más que una cadena y sujetos de su muerte, no debería dormir.

Segundo senador: están lejos de estas miserias, producidas en mi alma, que se rompen y deben ser enterradas fuertemente, cuando perezco La tierra y los pensamientos de muchos estados.

Si sigue https://github.com/jcjohnson/torch-rnn, también puede ejecutar esto fácilmente en su GPU local para generar texto a partir de la poesía de entrada que desee. He tenido resultados bastante buenos con un abandono de 0.1-0.5, 2 capas, capas de tamaño 512-1024.

Sean Owen
fuente