InnoDB: E / S de escritura de disco alta en el archivo ibdata1 e ib_logfile0

8

Especificación del servidor: VPS con la siguiente información

model name  : Intel(R) Xeon(R) CPU           E5649  @ 2.53GHz
MemTotal:      2058776 kB
MemFree:        244436 kB

Estamos ejecutando IP.Board de Invision Power Services, estamos usando innodb_file_per_tabley hemos recargado la base de datos para reducir el tamaño de ibdata1. Sin embargo, todavía tenemos problemas de uso elevado de CPU y E / S últimamente a pesar del ibdata1tamaño reducido .

Según mi inspección, creo que se debe a un alto uso de E / S en ibdata1. A continuación se muestran los datos que obtuve usando pt-ioprofile -cell sizes(en Percona ToolKit). Básicamente, es la cantidad total de E / S recolectada en el período de 30 segundos.

# pt-ioprofile -cell sizes
Fri Jul 20 10:22:23 ICT 2012
Tracing process ID 8581
     total      pread       read     pwrite      fsync       open      close   getdents      lseek      fcntl filename
   6995968          0          0    6995968          0          0          0          0          0          0 /db/mysql/ibdata1
   1019904          0          0    1019904          0          0          0          0          0          0 /db/mysql/ib_logfile0
    204800     204800          0          0          0          0          0          0          0          0 /db/mysql/admin_phpbb3forum/phpbb_posts.ibd
     49152      49152          0          0          0          0          0          0          0          0 /db/mysql/admin_ips/ips_reputation_cache.ibd
     32768      32768          0          0          0          0          0          0          0          0 /db/mysql/admin_ips/ips_reputation_totals.ibd
     29808          0          0          0          0          0          0      29808          0          0 /db/mysql/admin_ips/
... (other trivial I/O records truncated)

Corro iotopy veo DISK WRITE:sube y baja alrededor 2M/sy200K/s

Mi pregunta es, ¿por qué tenemos O de escritura de alta E / sobre ibdata1y ib_logfileXmientras tenemos solamente cerca de 5-10 pequeña actualización por segundo en nuestras mesas de sesiones, que también son MEMORYtabla (sólo unos 300K de tamaño)? Me desconcierta porque tampoco hay E / S de escritura equivalente en ningún otro archivo de tabla, lo que indica que la E / S de escritura no es causada por UPDATE/INSERT/DELETE.

Tenga en cuenta que solo soy un programador que, por casualidad, tengo el deber de mantener esto, así que no dude en solicitar más información. Le he hecho muchas cosas a este servidor, pero no asumas que ya hice algo que ya debería haber hecho.

Información adicional:

# ls -l /db/mysql/ib*
-rw-rw---- 1 mysql mysql  18874368 Jul 21 01:26 /db/mysql/ibdata1
-rw-rw---- 1 mysql mysql 134217728 Jul 21 01:26 /db/mysql/ib_logfile0
-rw-rw---- 1 mysql mysql 134217728 Jul 21 01:26 /db/mysql/ib_logfile1

y

mysql> SHOW VARIABLES LIKE 'innodb%';
+-------------------------------------------+------------------------+
| Variable_name                             | Value                  |
+-------------------------------------------+------------------------+
| innodb_adaptive_flushing                  | ON                     |
| innodb_adaptive_flushing_method           | estimate               |
| innodb_adaptive_hash_index                | ON                     |
| innodb_adaptive_hash_index_partitions     | 1                      |
| innodb_additional_mem_pool_size           | 20971520               |
| innodb_autoextend_increment               | 8                      |
| innodb_autoinc_lock_mode                  | 1                      |
| innodb_blocking_buffer_pool_restore       | OFF                    |
| innodb_buffer_pool_instances              | 1                      |
| innodb_buffer_pool_restore_at_startup     | 0                      |
| innodb_buffer_pool_shm_checksum           | ON                     |
| innodb_buffer_pool_shm_key                | 0                      |
| innodb_buffer_pool_size                   | 402653184              |
| innodb_change_buffering                   | all                    |
| innodb_checkpoint_age_target              | 0                      |
| innodb_checksums                          | ON                     |
| innodb_commit_concurrency                 | 0                      |
| innodb_concurrency_tickets                | 500                    |
| innodb_corrupt_table_action               | assert                 |
| innodb_data_file_path                     | ibdata1:10M:autoextend |
| innodb_data_home_dir                      |                        |
| innodb_dict_size_limit                    | 0                      |
| innodb_doublewrite                        | ON                     |
| innodb_doublewrite_file                   |                        |
| innodb_fake_changes                       | OFF                    |
| innodb_fast_checksum                      | OFF                    |
| innodb_fast_shutdown                      | 1                      |
| innodb_file_format                        | Barracuda              |
| innodb_file_format_check                  | ON                     |
| innodb_file_format_max                    | Barracuda              |
| innodb_file_per_table                     | ON                     |
| innodb_flush_log_at_trx_commit            | 2                      |
| innodb_flush_method                       | O_DIRECT               |
| innodb_flush_neighbor_pages               | 0                      |
| innodb_force_load_corrupted               | OFF                    |
| innodb_force_recovery                     | 0                      |
| innodb_ibuf_accel_rate                    | 100                    |
| innodb_ibuf_active_contract               | 1                      |
| innodb_ibuf_max_size                      | 201310208              |
| innodb_import_table_from_xtrabackup       | 0                      |
| innodb_io_capacity                        | 4000                   |
| innodb_kill_idle_transaction              | 0                      |
| innodb_large_prefix                       | OFF                    |
| innodb_lazy_drop_table                    | 0                      |
| innodb_lock_wait_timeout                  | 50                     |
| innodb_locks_unsafe_for_binlog            | OFF                    |
| innodb_log_block_size                     | 4096                   |
| innodb_log_buffer_size                    | 4194304                |
| innodb_log_file_size                      | 134217728              |
| innodb_log_files_in_group                 | 2                      |
| innodb_log_group_home_dir                 | ./                     |
| innodb_max_dirty_pages_pct                | 75                     |
| innodb_max_purge_lag                      | 0                      |
| innodb_mirrored_log_groups                | 1                      |
| innodb_old_blocks_pct                     | 37                     |
| innodb_old_blocks_time                    | 0                      |
| innodb_open_files                         | 300                    |
| innodb_page_size                          | 16384                  |
| innodb_purge_batch_size                   | 20                     |
| innodb_purge_threads                      | 1                      |
| innodb_random_read_ahead                  | OFF                    |
| innodb_read_ahead                         | linear                 |
| innodb_read_ahead_threshold               | 56                     |
| innodb_read_io_threads                    | 24                     |
| innodb_recovery_stats                     | OFF                    |
| innodb_recovery_update_relay_log          | OFF                    |
| innodb_replication_delay                  | 0                      |
| innodb_rollback_on_timeout                | OFF                    |
| innodb_rollback_segments                  | 128                    |
| innodb_show_locks_held                    | 10                     |
| innodb_show_verbose_locks                 | 0                      |
| innodb_spin_wait_delay                    | 6                      |
| innodb_stats_auto_update                  | 0                      |
| innodb_stats_method                       | nulls_equal            |
| innodb_stats_on_metadata                  | OFF                    |
| innodb_stats_sample_pages                 | 8                      |
| innodb_stats_update_need_lock             | 1                      |
| innodb_strict_mode                        | OFF                    |
| innodb_support_xa                         | ON                     |
| innodb_sync_spin_loops                    | 30                     |
| innodb_table_locks                        | ON                     |
| innodb_thread_concurrency                 | 0                      |
| innodb_thread_concurrency_timer_based     | OFF                    |
| innodb_thread_sleep_delay                 | 10000                  |
| innodb_use_global_flush_log_at_trx_commit | ON                     |
| innodb_use_native_aio                     | ON                     |
| innodb_use_sys_malloc                     | ON                     |
| innodb_use_sys_stats_table                | OFF                    |
| innodb_version                            | 1.1.8-rel27.1          |
| innodb_write_io_threads                   | 24                     |
+-------------------------------------------+------------------------+
90 rows in set (0.00 sec)

De @RolandoMySQLDBA: Ejecute esto

SET @TimeInterval = 300;
SELECT variable_value INTO @num1 FROM information_schema.global_status
WHERE variable_name = 'Innodb_os_log_written';
SELECT SLEEP(@TimeInterval);
SELECT variable_value INTO @num2 FROM information_schema.global_status
WHERE variable_name = 'Innodb_os_log_written';
SET @ByteWrittenToLog = @num2 - @num1;
SET @KB_WL = @ByteWrittenToLog / POWER(1024,1) * 3600 / @TimeInterval;
SET @MB_WL = @ByteWrittenToLog / POWER(1024,2) * 3600 / @TimeInterval;
SET @GB_WL = @ByteWrittenToLog / POWER(1024,3) * 3600 / @TimeInterval;
SELECT @KB_WL,@MB_WL,@GB_WL;

y muestra la salida. Esto le indicará cuántos bytes por hora se escriben en ib_logfile0 / ib_logfile1 en función de los próximos 5 minutos.

Resultado de la consulta anterior de SQL (a las 8 a.m. hora local, mientras que los miembros en línea representan aproximadamente el 25% de la estadística durante el día):

mysql> SELECT @KB_WL,@MB_WL,@GB_WL;
+--------+----------+-------------------+
| @KB_WL | @MB_WL   | @GB_WL            |
+--------+----------+-------------------+
|  95328 | 93.09375 | 0.090911865234375 |
+--------+----------+-------------------+
1 row in set (0.00 sec)
tia
fuente
Ejecute lo siguiente ls -l /var/lib/mysql/ib*Quiero ver los tamaños de archivo. También necesito saber qué versión de MySQL está ejecutando y si todos sus datos son InnoDB.
RolandoMySQLDBA
Ejecute esto: SHOW VARIABLES LIKE 'innodb%';y muestre eso en su pregunta !!!
RolandoMySQLDBA
@RolandoMySQLDBA Gracias por su interés. La pregunta ahora se actualizó con los tamaños de archivo y las variables innodb.
tia
¿Cuánta RAM en el servidor DB?
RolandoMySQLDBA
@RolandoMySQLDBA Tiene 2GB. He actualizado la pregunta en consecuencia.
tia

Respuestas:

7

Aquí hay algunas cosas que podrías cambiar

  • innodb_log_buffer_size : Tienes 4M. El valor predeterminado es 8M. Intenta elevarlo a 8M.
  • innodb_log_file_size : tienes 128M. Dada la siguiente información que proporcionó
    • escribe en promedio 93 MB por hora en los archivos de registro innodb, en función del 25% de la estadística
    • la hora pico sería de unos 372 MB por hora
    • la mitad son 186 MB redondeados a 192 MB
    • establezca innodb_log_file_size en 192M
  • innodb_io_capacity parece un poco alto, que sea 200 o 300 (dependiendo del hardware)
  • innodb_read_io_threads e innodb_write_io_threads deben maximizarse en 64. A veces, menos es mejor en un entorno de escritura pesada. Use 8 o 16 en tales casos.

Para cambiar innodb_log_file_size a 192M, agregue esto a /etc/my.cnf

[mysqld]
innodb_log_buffer_size=8M
innodb_log_file_size=192M
innodb_open_files=300
innodb_read_io_threads=64
innodb_write_io_threads=64

entonces haz lo siguiente

mysql -u... -p... -e"FLUSH TABLES;"
service mysql stop
mv /var/lib/mysql/ib_logfile0 /var/lib/mysql/ib_logfile0000
mv /var/lib/mysql/ib_logfile1 /var/lib/mysql/ib_logfile0001
service mysql start

Pruebe esto durante tiempos lentos y vea si esto mejora las cosas

ACTUALIZACIÓN 2012-10-19 12:31 EDT

Para poner su situación en perspectiva, piense en cuáles son los propósitos de ibdata1 e ib_logfile0 / 1. En lugar de reescribir todo, lea mi publicación más reciente sobre ibdata1 e InnoDB Log Files: ¿Qué son exactamente los archivos iblog en mysql?

Una vez que haya leído mi otra publicación, ahora considere esto: ¿Qué aumentaría la E / S en estos archivos?

  • Actualización de índices secundarios en el búfer de inserción de ibdata1
  • Limpieza de los segmentos de reversión / espacio de deshacer

En mi humilde opinión, aumentaría el InnoDB Buffer Pool de 384M a 1G.

También recomendaría actualizar RAM a 8G

RolandoMySQLDBA
fuente