¿Se puede obligar a Keras con el backend de Tensorflow a usar CPU o GPU a voluntad?

Tengo Keras instalado con el backend de Tensorflow y CUDA. A veces me gustaría obligar a Keras a usar la CPU a pedido. ¿Se puede hacer esto sin instalar un Tensorflow solo para CPU en un entorno virtual? ¿Si es así, cómo? Si el backend fuera Theano, las banderas podrían establecerse, pero no he oído hablar de las banderas de Tensorflow accesibles a través de Keras.

Si quieres forzar a Keras a usar la CPU

Camino 1

import os
os.environ["CUDA_DEVICE_ORDER"] = "PCI_BUS_ID"   # see issue #152
os.environ["CUDA_VISIBLE_DEVICES"] = ""

antes de que se importe Keras / Tensorflow.

Camino 2

Ejecute su script como

$ CUDA_VISIBLE_DEVICES="" ./your_keras_code.py

Ver también

1. https://github.com/keras-team/keras/issues/152
2. https://github.com/fchollet/keras/issues/4613

Una forma bastante separable de hacer esto es usar

import tensorflow as tf
from keras import backend as K

num_cores = 4

if GPU:
    num_GPU = 1
    num_CPU = 1
if CPU:
    num_CPU = 1
    num_GPU = 0

config = tf.ConfigProto(intra_op_parallelism_threads=num_cores,
                        inter_op_parallelism_threads=num_cores, 
                        allow_soft_placement=True,
                        device_count = {'CPU' : num_CPU,
                                        'GPU' : num_GPU}
                       )

session = tf.Session(config=config)
K.set_session(session)

Aquí, con booleans GPUy CPU, indicamos si nos gustaría ejecutar nuestro código con la GPU o la CPU definiendo rígidamente la cantidad de GPU y CPU a las que se permite acceder a la sesión de Tensorflow. Las variables num_GPUy num_CPUdefinen este valor. num_coresluego establece el número de núcleos de CPU disponibles para su uso mediante intra_op_parallelism_threadsyinter_op_parallelism_threads .

La intra_op_parallelism_threadsvariable dicta el número de subprocesos que se permite utilizar (intra) una operación paralela en un solo nodo en el gráfico de cálculo. Mientras que la inter_ops_parallelism_threadsvariable define el número de subprocesos accesibles para operaciones paralelas a través de los nodos del gráfico de cálculo (inter).

allow_soft_placement permite que se ejecuten operaciones en la CPU si se cumple alguno de los siguientes criterios:

1. no hay implementación de GPU para la operación

2. no hay dispositivos GPU conocidos o registrados

3. existe la necesidad de coubicar con otras entradas de la CPU

Todo esto se ejecuta en el constructor de mi clase antes que cualquier otra operación, y es completamente separable de cualquier modelo u otro código que utilice.

Nota: Esto requiere tensorflow-gpuy cuda/cudnn para ser instalado porque se da la opción de usar una GPU.

Refs:

• ¿Qué significan las opciones en ConfigProto como allow_soft_placement y log_device_placement?

• Significado de inter_op_parallelism_threads e intra_op_parallelism_threads

Esto funcionó para mí (win10), coloque antes de importar keras:

import os
os.environ['CUDA_VISIBLE_DEVICES'] = '-1'

Simplemente importe tensortflow y use keras, es así de fácil.

import tensorflow as tf
# your code here
with tf.device('/gpu:0'):
    model.fit(X, y, epochs=20, batch_size=128, callbacks=callbacks_list)

Según el tutorial de Keras , simplemente puede usar el mismo tf.devicealcance que en tensorflow regular:

with tf.device('/gpu:0'):
    x = tf.placeholder(tf.float32, shape=(None, 20, 64))
    y = LSTM(32)(x)  # all ops in the LSTM layer will live on GPU:0

with tf.device('/cpu:0'):
    x = tf.placeholder(tf.float32, shape=(None, 20, 64))
    y = LSTM(32)(x)  # all ops in the LSTM layer will live on CPU:0

Pasé un tiempo resolviéndolo. La respuesta de Thoma no es completa. Digamos que su programa es test.py, desea usar gpu0 para ejecutar este programa y mantener otros gpus libres.

Deberías escribir CUDA_VISIBLE_DEVICES=0 python test.py

Note que DEVICESno esDEVICE

Para las personas que trabajan en PyCharm y para forzar la CPU, puede agregar la siguiente línea en la configuración Ejecutar / Depurar, en Variables de entorno:

<OTHER_ENVIRONMENT_VARIABLES>;CUDA_VISIBLE_DEVICES=-1