MySQL: tuning markdown

This commit is contained in:
Jérémy Lecour 2016-11-01 23:37:14 +01:00
parent 48f7fc2c5b
commit 1d89794411

View file

@ -1,17 +1,20 @@
[[PageOutline]]
Documentation officielle : http://dev.mysql.com/doc/refman/5.5/en/
---
title: Howto MySQL
---
Documentation officielle : <http://dev.mysql.com/doc/refman/5.5/en/>
# Installation
Sous Debian Wheezy et Jessie, on trouve par défaut la version 5.5 :
~~~
# apt install mysql-server
~~~
On vérifie ensuite que tout s'est bien passé :
~~~
# mysql
Welcome to the MySQL monitor. Commands end with ; or \g.
Your MySQL connection id is 777329
@ -26,38 +29,37 @@ On vérifie ensuite que tout s'est bien passé :
Type 'help;' or '\h' for help. Type '\c' to clear the current input statement.
mysql>
~~~
Il est ensuite fortement conseillé de créer un administrateur pour la base de données
(par exemple "adminmysql", car "root" peut prêter à confusion) :
~~~
mysql> GRANT ALL PRIVILEGES ON *.* TO adminmysql@localhost IDENTIFIED BY 'XXX' WITH GRANT OPTION;
mysql> DELETE FROM mysql.user where User='root';
~~~
On notera sous Debian la présence d'un utilisateur `debian-sys-maint` qui sert à certains scripts Debian :
il ne doit pas être supprimé ! Au niveau sécurité, le mot de passe est généré à l'installation
(stocké dans `/etc/mysql/debian.cnf` qui doit évidemment n'être lisible que par `root`) par la commande :
~~~
perl -e 'print map{("a".."z","A".."Z",0..9)[int(rand(62))]}(1..16)'
~~~
Enfin, on peut utiliser un fichier `.my.cnf` pour conserver les login/pass. Par exemple pour root, dans `/root/.my.cnf` :
Enfin, on peut utiliser un fichier `.my.cnf` pour conserver les login/pass.
# cat /root/.my.cnf
~~~{.ini}
[client]
user = adminmysql
password = XXX
~~~
Pour changer le mot de passe, on fera simplement :
~~~
# mysqladmin password <nouveau-pass-pour-adminmysql>
~~~
# Configuration
@ -69,16 +71,16 @@ Les `binlogs` (trace de toutes les requêtes executées) sont dans `/var/log/mys
Par défaut, MySQL écoute en TCP/IP sur `127.0.0.1`. Pour activer les connexions réseau
à distance, il suffit de modifier la ligne suivante dans le fichier `my.cnf` :
~~~{.ini}
bind-address = 0.0.0.0
~~~
Selon les ressources de la machine, il faut optimiser les directives dans `my.cnf` (par défaut, la configuration est adaptée… pour un petit serveur !).
Sous Debian, on trouvera quelques exemples dans le répertoire `/usr/share/doc/mysql-server-5.0/examples/`
Voici les paramètres essentiels :
~~~{.ini}
[mysqld]
###### Connexions
@ -136,12 +138,11 @@ Voici les paramètres essentiels :
###### Misc
# charset utf8 par defaut
default-character-set=utf8
~~~
Après quelques temps d'utilisation, il est très intéressant de regarder les résultats du script `mysqltuner.pl` téléchargeable sur http://mysqltuner.pl/
Après quelques temps d'utilisation, il est très intéressant de regarder les résultats du script
`mysqltuner.pl` téléchargeable sur http://mysqltuner.pl/
~~~
perl mysqltuner.pl
>> MySQLTuner 1.0.1 - Major Hayden <major@mhtx.net>
@ -194,12 +195,11 @@ Après quelques temps d'utilisation, il est très intéressant de regarder les r
join_buffer_size (> 128.0K, or always use indexes with joins)
table_cache (> 64)
innodb_buffer_pool_size (>= 34M)
~~~
Il y a aussi tunning-prime qui est plus verbeux, et il se complète bien avec mysql-tuner. Dispo [ici](https://launchpad.net/mysql-tuning-primer/trunk).
~~~
-- MYSQL PERFORMANCE TUNING PRIMER --
- By: Matthew Montgomery -
@ -337,7 +337,7 @@ Il y a aussi tunning-prime qui est plus verbeux, et il se complète bien avec my
frequent updates consider setting 'low_priority_updates=1'
If you have a high concurrency of inserts on Dynamic row-length tables
consider setting 'concurrent_insert=2'.
~~~
## Activer le support des large pages
@ -347,21 +347,21 @@ des cas a priori.
Pour l'activer, il faudra vérifier que le kernel supporte les _large pages_ :
~~~
# cat /proc/meminfo | grep -i huge
HugePages_Total: 0
HugePages_Free: 0
HugePages_Rsvd: 0
HugePages_Surp: 0
Hugepagesize: 2048 kB
~~~
Si cela ne renvoie rien c'est que le support des _large pages_ est désactivé.
(options `CONFIG_HUGETLBFS` et `CONFIG_HUGETLB_PAGE` du noyau).
Pour l'activer, on fera les opérations suivantes :
~~~
# Set the number of pages to be used.
# Each page is normally 2MB, so a value of 20 = 40MB.
# This command actually allocates memory, so this much
@ -379,19 +379,19 @@ Pour l'activer, on fera les opérations suivantes :
# (900M in this case).
# echo 943718400 > /proc/sys/kernel/shmmax
~~~
Ajouter dans le `/etc/security/limits.conf` :
~~~
ulimit -l unlimited
~~~
Enfin dans la partie `[mysqld]` de `my.cf` ajouter :
~~~
large-pages
~~~
Mais encore une fois, cela n'est pas nécessaire dans la plupart des cas.
@ -411,26 +411,27 @@ Il semblerait que contrairement à PostgreSQL, il ne soit pas nécessaire d'augm
Récupérer les fichiers de sql-bench avec bazar :
~~~
$ bzr branch lp:sql-bench
~~~
Installer quelques outils nécessaire pour le benchmark :
~~~
# aptitude install libclass-dbi-perl libdbd-mysql-perl mysql-client-5.1
~~~
Créer une base de données de test :
~~~
# mysqladmin create test
# mysql
mysql> GRANT ALL PRIVILEGES ON test.* TO 'test'@localhost IDENTIFIED BY 'test';
~~~
Résultat du benchmark :
~~~
~/mysql-5.5.12/sql-bench/sql-bench# perl run-all-tests --user='test' --password='test'
Benchmark DBD suite: 2.15
Date of test: 2011-05-19 14:01:18
@ -453,38 +454,36 @@ Résultat du benchmark :
transactions: Test skipped because the database doesn't support transactions
wisconsin: Total time: 5 wallclock secs ( 1.93 usr 0.47 sys + 0.00 cusr 0.00 csys = 2.40 CPU)
TOTALS 788.00 244.02 30.97 274.99 2913950
~~~
# Administration
On crée une base de données et un utilisateur associé :
~~~
# mysqladmin create NOM_BASE
# mysql
mysql> GRANT ALL PRIVILEGES ON NOM_BASE.* TO 'USER_BASE'@localhost IDENTIFIED BY 'XXX';
~~~
Cette opération revient à insérer des lignes brutes dans les tables `mysql.user` et `mysql.db` ainsi (
# mysql
~~~
mysql> INSERT INTO user VALUES ('localhost','USER_BASE',password('XXX'),'N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N',_,'','','',0,0,0,0,_,NULL);
mysql> INSERT INTO db VALUES ('localhost','NOM_BASE','USER_BASE','Y','Y','Y','Y','Y','Y','N','Y','Y','Y','Y','Y','Y','Y','Y','Y','Y');
mysql> FLUSH PRIVILEGES;
~~~
Note : sous Debian 6, les valeurs dans `mysql.user` avait 3 colonnes de moins : Create_tablespace_priv, plugin et authentication_string :
**Note** : sous Debian 6, les valeurs dans `mysql.user` avait 3 colonnes de moins : Create_tablespace_priv, plugin et authentication_string :
(par défaut, pour migrer on ajoutera donc 'N' en 32ème position + '' et NULL à la fin) :
~~~
mysql> INSERT INTO user VALUES ('localhost','USER_BASE',password('XXX'),'N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N',_,'','',_,0,0,0,0);
~~~
On pourra ainsi régler finement les droits d'un utilisateurs en connaissant la signification de chaque colonne :
~~~
mysql> desc user;
+------------------------+-----------------------------------+------+-----+---------+-------+
| Field | Type | Null | Key | Default | Extra |
@ -533,149 +532,160 @@ On pourra ainsi régler finement les droits d'un utilisateurs en connaissant la
| authentication_string | text | YES | | NULL | |
+------------------------+-----------------------------------+------+-----+---------+-------+
42 rows in set (0.00 sec)
~~~
Par exemple, pour permettre à un utilisateur (ici `debian-sys-maint`) de faire des "SHOW VIEW" :
~~~
mysql> UPDATE user SET Show_view_priv='Y' WHERE User='debian-sys-maint';
mysql> FLUSH PRIVILEGES;
~~~
… que l'on peut aussi faire via :
~~~
mysql> GRANT SHOW VIEW on *.* to `debian-sys-maint`@localhost;
~~~
Pour créer un utilisateur sans droit particulier, par exemple pour du monitoring :
~~~
mysql> create user nagios@localhost identified by 'XXX';
~~~
On peut aussi gérer des droits sur les tables :
~~~
mysql> GRANT Select,Insert,Update ON BASE.TABLE TO 'USER_BASE'@localhost;
~~~
Pour révoquer des droits sur une table, on utilisera REVOKE :
~~~
mysql> REVOKE ALL PRIVILEGES ON BASE.TABLE FROM 'USER_BASE'@localhost;
~~~
Un droit est particulier : pour utiliser LOAD DATA INFILE ou SELECT INTO OUTFILE, il faut avoir le droit FILE … mais il est global (et dangereux) !
On le positionnera ainsi :
~~~
mysql> GRANT FILE ON *.* TO 'USER_BASE'@localhost;
~~~
Pour vérifier et réparer toutes les tables (une sorte de `fsck` pour les tables),
on lancera la commande suivante :
~~~
# mysqlcheck --auto-repair --check --all-databases
~~~
On peut aussi réparer qu'une base en particulier :
~~~
# mysqlcheck --auto-repair --check mabase
~~~
Note : ceci est à faire en général en cas d'arrêt inopiné du serveur.
On pourra également ajouter l'option *--optimize* pour ajouter une optimisation des tables :
~~~
# mysqlcheck --auto-repair --check --optimize --all-databases
~~~
Pour réparer une seule table :
~~~
mysql> CHECK TABLE mabase.matable;
mysql> REPAIR TABLE mabase.matable;
mysql> OPTIMIZE TABLE mabase.matable;
~~~
Dans le cas des tables MyISAM, si le REPAIR échoue, une réparation est aussi possible via `myisamchk`… à faire avec
le service MySQL arrêté :
~~~
# myisamchk -r -q /var/lib/mysql/BASE/TABLE.MYD
~~~
En cas d'echec (segfault par exemple), on peut tenter :
~~~
# myisamchk --safe-recover -v -f --key_buffer_size=512M --sort_buffer_size=512M --read_buffer_size=4M --write_buffer_size=4M /var/lib/mysql/BASE/TABLE.MYD
~~~
## Problème de definer avec les vues
## Problème de _definer_ avec les vues
Un problème classique qui peut arriver suite à une migration d'une base de données contenant des vues. Si l'utilisateur qui a créé la vue (le _definer_) n'existe pas sur le nouveau serveur, la vue sera inutilisable :
~~~
mysql> SELECT * FROM myview;
MySQL ERROR 1449 (HY000) : The user specified as a definer ('root'@'localhost') does not exist
~~~
Il faut donc soit faire un sed dans le dump MySQL pour remplacer le definer si on est à l'étape de préparation de la migration.
Si la migration a déjà été faite et qu'il n'est plus possible de réinjecter un dump, il faut modifier la vue via `ALTER VIEW`, mais il est nécessaire d'indiquer la définition complète de la vue. Pour la connaitre :
~~~
mysql> SHOW CREATE VIEW myview;
~~~
Copier ensuite la définition complète, en remplaçant `CREATE` par `ALTER`, et bien sûr le definer de la vue par un utilisateur existant qui aura les droits sur la vue.
Pour lister les vues dans une base :
~~~
mysql> SHOW FULL TABLES IN mydb WHERE TABLE_TYPE LIKE 'VIEW';
~~~
# Sauvegarde MySQL
Pour sauvegarder une base de données (sans et avec compression) :
~~~
# mysqldump NOM_BASE > NOM_FICHIER
# mysqldump NOM_BASE | gzip > NOM_FICHIER
~~~
Pour restaurer une base de données (sans et avec compression) :
~~~
# mysqladmin create NOM_BASE
# mysql NOM_BASE < NOM_FICHIER
# gunzip < NOM_FICHIER | mysql NOM_BASE
~~~
Sauvegarder toutes les bases :
~~~
# mysqldump --opt --all-databases > NOM_FICHIER
~~~
Pour sauvegarder uniquement certaines tables :
~~~
# mysqldump NOM_BASE NOM_TABLE0 [NOM_TABLE1…] > NOM_FICHIER
~~~
Pour presque faire un "--exclude" (qui manque cruellement à mysqldump):
~~~
mysql -B -N -e 'show databases' | \
perl -ne 'print unless /\b(?:phpmyadmin|mysql|information_schema)\b/' | \
xargs echo mysqldump -B
~~~
Et pour sauvegarder des tables correspondant à un motif (préfixe le plus souvent) :
~~~
# mysqldump NOM_BASE $(mysql NOM_BASE -B --column-names=False -e "show tables like 'exemple_%'") > NOM_FICHIER
~~~
Pour dumper avec une condition particulière :
~~~
mysqldump -t <base> <table> --where="my_id='66666666'"
~~~
Ce qui permet de réinjecter des données résultantes d'un `SELECT * FROM base.table WHERE my_id='66666666'`.
@ -684,7 +694,7 @@ précisant son port avec l'option `--port` (valable pour mysqldump et mysql).
Pour obtenir une liste des utilisateurs mysql, on peut utiliser cette fonction (glanée sur [serverfault](http://serverfault.com/questions/8860/how-can-i-export-the-privileges-from-mysql-and-then-import-to-a-new-server/)) :
~~~{.bash}
mygrants()
{
mysql -B -N -e "SELECT DISTINCT CONCAT(
@ -693,24 +703,24 @@ Pour obtenir une liste des utilisateurs mysql, on peut utiliser cette fonction (
mysql | \
sed 's/\(GRANT .*\)/\1;/;s/^\(Grants for .*\)/## \1 ##/;/##/{x;p;x;}'
}
~~~
Pour avoir un dump avec un seul insert par ligne, pratique pour restaurer partiellement les bases `mysql.user` et `mysql.db` par exemple :
~~~
# mysqldump --skip-extended-insert mysql > mysql.dump
~~~
Pour restaurer une seule base d'un dump complet on peut utiliser :
~~~
mysql -o MaBase < dump.sql
~~~
Pour restaurer une base, dont la structure de chaque table est stocké dans un fichier SQL indépendant, et dont les données sont dans des fichiers de type "
tab-separated data files" (option -T de mysqldump) avec une extension .txt :
~~~{.bash}
db=test1
for file in *.sql; do
@ -723,18 +733,19 @@ tab-separated data files" (option -T de mysqldump) avec une extension .txt :
tablename=`basename $file .txt` #tablename=${file%.*}
echo "LOAD DATA INFILE '$PWD/$file' INTO TABLE $tablename" CHARACTER SET utf8 | mysql $db
done
~~~
Note 1 : Attention, l'utilisateur MySQL doit avoir le droit de lecture sur les fichiers .txt
**Note 1** : Attention, l'utilisateur MySQL doit avoir le droit de lecture sur les fichiers .txt
Se positionner dans un répertoire où mysql a les droits (mysqltmp - /home/mysqltmp par ex).
Note 2 : Si vous n'avez pas toutes vos tables en utf8 (par exemple du `CHARSET=LATIN1`), ce n'est pas bien… et vous devrez pour la peine adapter le script (en détectant le charset utilisé avec "file" si nécessaire)
**Note 2** : Si vous n'avez pas toutes vos tables en utf8 (par exemple du `CHARSET=LATIN1`), ce n'est pas bien… et vous devrez pour la peine adapter le script (en détectant le charset utilisé avec "file" si nécessaire)
Il est possible d'exporter le contenu d'une base au format CSV :
~~~
mysqldump -T /tmp --fields-enclosed-by=\" --fields-terminated-by=, --no-create-db --no-create-info MaBase
~~~
NOTE : il est nécessaire que MySQL ait les droits d'écriture dans le répertoire de destination (ici `/tmp`).
@ -742,162 +753,165 @@ NOTE : il est nécessaire que MySQL ait les droits d'écriture dans le réperto
Créer une nouvelle base de données nommée NOM_BASE :
~~~
mysql> CREATE DATABASE NOM_BASE;
~~~
Voir les bases de données créées :
~~~
mysql> SHOW DATABASES;
~~~
Utiliser la base de données NOM_BASE :
~~~
mysql> USE NOM_BASE
~~~
Voir les tables créées :
~~~
mysql> SHOW TABLES;
~~~
Créer une table nommée test avec différents champs :
~~~
mysql> CREATE TABLE test (id INT not null AUTO_INCREMENT, prenom VARCHAR
(50) not null , nom VARCHAR (50) not null , ne_le DATE not null ,
ville VARCHAR (90), enfants INT, PRIMARY KEY (id));
~~~
Décrire une table :
~~~
DESC test;
~~~
Ajouter un champ à une table :
~~~
mysql> ALTER TABLE test ADD another VARCHAR(100) DEFAULT NULL;
~~~
Ajouter un champ à une table en précisant sa place :
~~~
mysql> ALTER TABLE test ADD another VARCHAR(100) DEFAULT NULL AFTER prenom;
~~~
Supprimer un champ à une table :
~~~
mysql> ALTER TABLE test DROP another;
~~~
Renommer un champ :
~~~
mysql> ALTER TABLE test CHANGE COLUMN another anotherone TEXT;
~~~
Changer le type d'un champ :
~~~
mysql> ALTER TABLE test CHANGE another another enum('foo',bar');
~~~
Insertion de données dans une table :
~~~
mysql> INSERT INTO test VALUES (1,'jp','papin','2005-06-12','Marseille',2);
INSERT INTO test (id,prenom,nom,ne_le) VALUES (2,'c','waddle','2004-06-17');
~~~
Sélectionner tous les champs d'une table :
~~~
mysql> SELECT * FROM test;
~~~
Effacer des données d'une table :
~~~
mysql> DELETE FROM test WHERE nom='waddle';
~~~
Effacer TOUTES les données d'une table :
~~~
DELETE FROM test;
~~~
Supprimer une table :
~~~
DROP TABLE test;
~~~
Supprimer une base de données :
~~~
DROP DATABASE NOM_BASE;
~~~
# Monitoring
Pour surveiller un service MySQL en production, on pourra faire :
~~~
# mysqladmin status
# mysqladmin extended-status
# mysqladmin processlist
~~~
Pour avoir une version plus conviviale et dynamique des process en cours, on utilisera l'indispensable outil `mytop`.
~~~
# aptitude install mytop
~~~
On édite le fichier `/root/.mytop` ainsi :
~~~{.ini}
user = debian-sys-maint
pass = MOT_DE_PASSE
db = mysql
~~~
Reste plus qu'à lancer la commande `mytop -s1` (pour un rafraichissement toutes les secondes)… On appréciera les raccourcis `p` (mettre en pause l'affichage), `o` (pour voir en 1er les requêtes les plus longues), `k` (pour killer une requête… par exemple celle qui bloque toutes les autres) et `?` (pour voir les autres raccourcis possibles).
L'outil mytop se sert principalement de la requête `SHOW PROCESSLIST` que l'on pourra bien sûr lancer manuellement. Tout comme `KILL` :
~~~
mysql> SHOW PROCESSLIST;
mysql> KILL <id_interne_requête>;
~~~
Lister les requêtes qui durent plus de 30 secondes pour pouvoir les tuer facilement :
~~~
mysql -e 'select group_concat(concat("kill ",ID) separator ";") from information_schema.processlist where TIME>=30;'
~~~
Puis exécuter le résultat avec la commande mysql, ex :
~~~
mysql -e 'kill 1854;kill 1853;kill 1852;kill 1851;kill 1850;kill 1848'
~~~
Pour surveiller le moteur InnoDB, on utilisera la commande suivante :
~~~
mysql> SHOW ENGINE INNODB STATUS;
~~~
Enfin, reste Munin qui permet d'obtenir de jolis graphes.
Afin d'être alerté en cas de soucis, il est conseillé d'ajouter la configuration suivante au logiciel `log2mail` :
~~~
file = /var/log/syslog
pattern = "should be repaired"
mailto = ADRESSE-MAIL-ALERTE
@ -917,12 +931,11 @@ Afin d'être alerté en cas de soucis, il est conseillé d'ajouter la configurat
pattern = "as a STORAGE ENGINE failed"
mailto = ADRESSE-MAIL-ALERTE
template = /etc/log2mail/template.mysql
~~~
Le fichier `/etc/log2mail/template.mysql` contenant :
~~~
From: %f
To: %t
Subject: MySQL problem
@ -935,7 +948,7 @@ Le fichier `/etc/log2mail/template.mysql` contenant :
Yours,
log2mail.
~~~
Note : il faut ajouter l'utilisateur `log2mail` dans le groupe `adm`.
@ -947,7 +960,7 @@ soit un résultat quasi-instantané..
On peut avoir des stats sur ce _Query Cache_ :
~~~
mysql> SHOW STATUS LIKE 'Qcache%';
+-------------------------+-----------+
| Variable_name | Value |
@ -962,26 +975,31 @@ On peut avoir des stats sur ce _Query Cache_ :
| Qcache_total_blocks | 8919 |
+-------------------------+-----------+
8 rows in set (0.00 sec)
~~~
On peut vider ce cache ainsi :
~~~
mysql> RESET QUERY CACHE;
Query OK, 0 rows affected (0.00 sec)
~~~
# tmpdir
Il peut être intéressant de changer le chemin du tmpdir pour le mettre sur un disque plus rapide ou plus gros par exemple.
~~~
# mkdir /ssd/mysqltmp
# chown mysql: /ssd/mysqltmp
# chmod 700 /ssd/mysqltmp
~~~
Puis dans /etc/mysql/my.cnf.
~~~{.diff}
-tmpdir = /tmp
+tmpdir = /ssd/mysqltmp
~~~
# Gestion des binlogs
@ -992,14 +1010,14 @@ Par défaut, MySQL stocke chaque requête en écriture dans des fichiers appelé
Par défaut les binlogs sont conservés sur 10 jours, avec des fichiers n'excédant pas 100 Mo :
~~~{.ini}
#log_bin = /var/log/mysql/mysql-bin.log
expire_logs_days = 10
max_binlog_size = 100M
#binlog_do_db = include_database_name
#binlog_ignore_db = include_database_name
binlog_format = mixed
~~~
## Format
@ -1007,70 +1025,70 @@ http://dev.mysql.com/doc/refman/5.5/en/binary-log-setting.html
On peut choisir 3 types de format pour les binlogs :
* `statement` : les requêtes INSERT / UPDATE sont conservées
* `row` : les modifications de chaque ligne sont conservées (via une sorte de code "binaire" propre à MySQL)
* `mixed` : en mode statement… sauf dans certains cas où cela passe en mode row
* **statement** : les requêtes INSERT / UPDATE sont conservées
* **row** : les modifications de chaque ligne sont conservées (via une sorte de code "binaire" propre à MySQL)
* **mixed** : en mode statement… sauf dans certains cas où cela passe en mode row
Avantages et inconvénients :
Le mode `statement` est utile pour conserver en clair toutes les requêtes. Il permet aussi de meilleures performances quand des UPDATE contiennent des clauses WHERE qui modifient de nombreuses lignes.
Le mode **statement** est utile pour conserver en clair toutes les requêtes. Il permet aussi de meilleures performances quand des UPDATE contiennent des clauses WHERE qui modifient de nombreuses lignes.
Pour de la réplication, il peut être non fiable car le résultat d'un UPDATE peut donner des résultats différents sur un serveur SLAVE. Cela peut aussi poser des soucis avec les transactions InnoDB.
Le mode `row` a l'inconvénient de rendre illisibles toutes les requêtes. Dans certains cas particuliers (UPDATE contiennent des clauses WHERE qui modifient de nombreuses lignes), il peut être moins performant.
Le mode **row** a l'inconvénient de rendre illisibles toutes les requêtes. Dans certains cas particuliers (UPDATE contiennent des clauses WHERE qui modifient de nombreuses lignes), il peut être moins performant.
Il a l'avantage d'être plus fiable pour de la réplication.
Le mode `mixed` est un bon compromis pour de la réplication : il permet de voir la plupart des requêtes en clair, mais évite le problème de fiabilité en passant en mode row quand c'est nécessaire.
Le mode **mixed** est un bon compromis pour de la réplication : il permet de voir la plupart des requêtes en clair, mais évite le problème de fiabilité en passant en mode row quand c'est nécessaire.
## Suppression
Pour supprimer les binlogs antérieurs à *mysql-bin.00NNNN* :
mysql> PURGE BINARY LOGS TO 'mysql-bin.00NNNN';
Pour supprimer les binlogs antérieurs à `mysql-bin.00NNNN` :
~~~
mysql> PURGE BINARY LOGS TO `mysql-bin.00NNNN`;
~~~
ou par rapport à une date :
~~~
mysql> PURGE BINARY LOGS BEFORE "2011-12-07 00:00:00";
~~~
## Désactivation
Pour désactiver les binlogs, on ajoutera l'option suivante dans la configuration :
~~~
disable-log-bin
~~~
## Lecture
On pourra lire en ligne de commande le contenu d'un binlog via la commande :
~~~
# mysqlbinlog /var/log/mysql/mysql-bin.001789 | less
~~~
Note : si vous obtenez une erreur `mysqlbinlog: unknown variable 'default-character-set=utf8'` c'est que la directive `default-character-set`
a été placée dans la configuration MySQL (`/etc/mysql` ou `.my.cnf`) dans la mauvaise section : `[client]` au lieu de `[mysql]` (ou `[mysqldump]`).
## Replay
ATTENTION, CES MANIPULATIONS PEUVENT ÊTRE DANGEREUSES VOS DONNÉES, BIEN SAVOIR CE QUE L'ON FAIT.
**ATTENTION, CES MANIPULATIONS PEUVENT ÊTRE DANGEREUSES VOS DONNÉES, BIEN SAVOIR CE QUE L'ON FAIT.**
On pourra ainsi injecter le contenu d'un binlog dans une base… tout simplement avec une commande du type :
~~~
# mysqlbinlog /var/log/mysql/mysql-bin.001789 | mysql -P3307
~~~
À noter que si une partie des données étaient déjà présentes (cas d'un binlog corrompu lors d'incident lors d'une réplication), on pourra procéder ainsi :
~~~
# mysqlbinlog /var/log/mysql/mysql-bin.001789 > mysql-bin.001789.txt
# sed -i 's/INSERT INTO/INSERT IGNORE INTO/gi' mysql-bin.001789.txt
# cat mysql-bin.001789.txt | mysql -P3307
~~~
# Log des requêtes lentes
@ -1078,11 +1096,11 @@ On pourra ainsi injecter le contenu d'un binlog dans une base… tout simplement
Pour débugger les applications lentes, c'est une fonctionnalité intéressante de trouver quel requête est longue.
Pour cela on peut spécifier quand une requêtes est considéré comme longue, le chemin où stocker les requêtes, et l'activation des logs.
~~~{.ini}
long_query_time = 2 #Default 10 !
slow_query_log = 1
slow_query_log_file = /var/log/mysql/slow.log
~~~
# Réplication MySQL
@ -1092,8 +1110,9 @@ Pour cela on peut spécifier quand une requêtes est considéré comme longue, l
Dans le cas où le futur master est en production et ne peut être arrété :
~~~
# mysqldump --master-data --all-databases > mysql.dump
~~~
`--master-data` ajoute un `CHANGE MASTER TO` dans le dump contenant les informations nécessaires au slave sur les logs (nom de fichier et position). Cette option implique `--lock-all-tables` qui bloquera toutes les tables pendant le dump.
@ -1111,21 +1130,22 @@ Dans le cas où le futur master est en production et ne peut être arrété :
* Sur le serveur B (le _slave_ en mode master-slave), exécuter :
~~~
CHANGE MASTER TO
MASTER_HOST='$MASTER_IP',
MASTER_USER='repl',
MASTER_PASSWORD='XXX',
MASTER_LOG_FILE='mysql-bin.NNNNNN',
MASTER_LOG_POS=NNN;
~~~
/!\\ Bien que non obligatoire, il est recommandé de toujours indiquer les directives MASTER_LOG_FILE et MASTER_LOG_POS /!\\
* Pour exclure une base de la réplication, dans `/etc/mysql/my.cnf` :
~~~
binlog-ignore-db = mysql
~~~
* Puis démarrer la réplication sur le serveur B avec la commande : `START SLAVE`
@ -1135,36 +1155,34 @@ Dans le cas où le futur master est en production et ne peut être arrété :
Pour supprimer toute trace de réplication (sauf si des infos sont en dur dans la configuration) :
~~~
mysql> RESET SLAVE;
Query OK, 0 rows affected (0.00 sec)
~~~
Pour éviter que la réplication démarre automatiquement au démarrage, on ajoutera dans la configuration :
~~~
skip-slave-start
~~~
## Trucs et astuces pour la réplication MySQL
Astuce 0 : Une astuce parfois très utile est la possibilité d'exécuter des requêtes qui ne seront pas prises en compte
**Astuce 0** : Une astuce parfois très utile est la possibilité d'exécuter des requêtes qui ne seront pas prises en compte
par le binlog (et donc non répliquée !). Cela nécessite le droit SUPER :
~~~
mysql> SET sql_log_bin = 0;
~~~
Astuce 1 : Pour divers raisons (notamment la réplication de données déjà répliquées !), on devra activer l'option
**Astuce 1** : Pour divers raisons (notamment la réplication de données déjà répliquées !), on devra activer l'option
suivante dans le my.cnf :
~~~
log-slave-updates
~~~
Astuce 2 : Sauter une requête déjà présente dans les binlog sur le slave (à tester) :
**Astuce 2** : Sauter une requête déjà présente dans les binlog sur le slave (à tester) :
https://stackoverflow.com/questions/17701524/mysql-replication-skip-statement-is-it-possible
## Etapes supplémentaires pour une réplication master-master
@ -1217,8 +1235,9 @@ avec la commande `START SLAVE`. Voici quelques erreurs possibles
Il faut alors stopper le processus slave de réplication :
~~~
mysql> STOP SLAVE;
~~~
Puis éditer (en gardant une sauvegarde) le fichier `${datadir}/relay-log.info`. La première ligne correspond au Relay_Log_File, la seconde au `Relay_Log_Pos`.
Redémarrer MySQL.
@ -1234,12 +1253,10 @@ L'outil vérifie l'intégrité de la réplication en effectuant des requêtes de
La méthode la plus simple pour l'utiliser est d'autoriser le master à se connecter au slave (authentification MySQL). Ainsi, il s'occupe lui même de faire le nécessaire pour identifier les erreurs. Il suffira donc de lancer la commande sans argument pour qu'il identifie les incohérences. On pourra réaliser un cron avec l'argument `-q` qui ne fait remonter que les erreurs.
~~~
MAILTO=jdoe@exemple.com
42 9 * * 7 pt-table-checksum -q
~~~
### pt-table-sync
@ -1247,16 +1264,16 @@ Si pt-table-checksum vous a remonté des incohérences, vous pouvez avec cet out
Exemple :
~~~
# pt-table-sync --print --replicate percona.checksums localhost
# pt-table-sync --execute --replicate percona.checksums localhost
~~~
En cas de `Can't make changes on the master because no unique index exists`. On peut synchroniser directement les différences sur le slave depuis le master.
~~~
# pt-table-sync --execute --no-check-slave localhost slave
~~~
# Diagnostic des erreurs
@ -1265,18 +1282,18 @@ En cas de `Can't make changes on the master because no unique index exists`. On
Si vous obtenez des erreurs de ce type, lors d'un mysqldump par exemple :
~~~
mysqldump: Got error: 1016: Can't open file: './db/table.frm' (errno: 24) when using LOCK TABLES
mysqldump: Got error: 23: Out of resources when opening file '.\db\table.MYD' (Errcode: 24) when using LOCK TABLES
~~~
C'est que votre serveur MySQL tente d'ouvrir trop de fichiers simultanément.
Pour augmenter le nombre maximal de fichiers pouvant être ouverts, vous pouvez ajuster le paramètre suivant dans la section `[mysqld]` du fichier `my.cnf`, dans la limite permise par votre système d'exploitation :
~~~
open_files_limit = 2048
~~~
La valeur par défaut étant de 1024.
@ -1286,34 +1303,34 @@ Note : inutile de positionner une valeur pour `ulimit -n` dans les scripts de d
Si vous obtenez l'erreur suivante lors d'un mysqldump :
~~~
mysqldump: Error 2020: Got packet bigger than 'max_allowed_packet' bytes when dumping table `mytable` at row: 6542
~~~
Augmentez la valeur de `max_allowed_packet` dans la section `[mysqldump]` du fichier `my.cnf` :
~~~{.ini}
[mysqldump]
max_allowed_packet = 64M
~~~
## Error 1267
Si vous obtenez une erreur du type :
~~~
ERROR 1267 (HY000): Illegal mix of collations (binary,IMPLICIT) and (utf8_bin,NONE) for operation 'like'
~~~
C'est qu'il y a souci entre votre charset client (`character_set_client`, `collation_connection`) et votre requête.
Vous pouvez les ajuster avec des commandes du type :
~~~
mysql> set character_set_client=utf8;
Query OK, 0 rows affected (0.00 sec)
mysql> set collation_connection=utf8_unicode_ci;
Query OK, 0 rows affected (0.00 sec)
~~~
Dans certain cas (création d'une vue par exemple), cela peut venir d'une version de MySQL trop ancienne
(on a constaté des requêtes qui passaient en 5.1 mais pas en 5.0).
@ -1322,12 +1339,12 @@ Dans certain cas (création d'une vue par exemple), cela peut venir d'une versio
Si vous avez des erreurs de ce type :
~~~
[ERROR] Column count of mysql.db is wrong. Expected 22, found 20. The table is probably corrupted
[ERROR] mysql.user has no `Event_priv` column at position 29
[ERROR] Event Scheduler: An error occurred when initializing system tables. Disabling the Event Scheduler.
[ERROR] Column count of mysql.proc is wrong. Expected 20, found 16. The table is probably corrupted
~~~
Cela signifie que les tables de la base `mysql` ne correspondent pas à la version de MySQL en cours.
Vous avez sûrement mis à jour MySQL ou réinjecter des données d'une autre base.
@ -1340,21 +1357,21 @@ En cas de souci lors de la connexion en ligne de commande MySQL,
vous pouvez désactiver la complétion automatique. En effet, cette
complétion peut créer de soucis si certaines tables sont corrompues :
~~~
$ mysql --skip-auto-rehash
~~~
## InnoDB: ERROR: the age of the last checkpoint is NNNNN
Si vous avez une erreur du type :
~~~
mysqld: 120313 12:16:10 InnoDB: ERROR: the age of the last checkpoint is 9433587,
mysqld: InnoDB: which exceeds the log group capacity 9433498.
mysqld: InnoDB: If you are using big BLOB or TEXT rows, you must set the
mysqld: InnoDB: combined size of log files at least 10 times bigger than the
mysqld: InnoDB: largest such row.
~~~
Il faut augmenter le log InnoDB, notamment _innodb_log_file_size''. Attention, il faudra ensuite stopper MySQL et effacer les fichiers ''ib_logfile*_ !
Pour plus de détails, voir :
@ -1365,7 +1382,7 @@ et http://dev.mysql.com/doc/refman/5.1/en/innodb-parameters.html
Si vous obtenez une erreur du type :
~~~
InnoDB: Error: trying to load index PRIMARY for table foo/bar
InnoDB: but the index tree has been freed!
121222 11:28:48 - mysqld got signal 11;
@ -1398,7 +1415,7 @@ Si vous obtenez une erreur du type :
thd->thread_id=355
The manual page at http://www.mysql.com/doc/en/Crashing.html contains
information that should help you find out what is causing the crash.
~~~
Cela semble être une table corrompue, et a priori il faut réinstaurer la table concernée.
Se connecter en ligne de commande avec l'option `mysql --skip-auto-rehash` puis
@ -1416,11 +1433,11 @@ et supprimer le fichier `.frm` correspondant ! Néanmoins la table sera
toujours référencée par InnoDB, et vous devez créer un `.frm` simple
pour tromper le moteur :
~~~
mysql> create table foo(foo int) ENGINE=InnoDB;
# /etc/init.d/mysql stop
# cp /var/lib/mysql/foo/foo.frm /var/lib/mysql/foo/TABLE.frm
~~~
Quelques informations supplémentaire sur :
http://dev.mysql.com/doc/refman/5.1/en/innodb-troubleshooting-datadict.html
@ -1439,12 +1456,12 @@ Une fois créée, vous devez voir les clés avec un `SHOW CREATE TABLE`.
Si le service MySQL/InnoDB refuse de démarrer à cause d'une erreur du type :
~~~
mysqld: InnoDB: Starting in background the rollback of uncommitted transactions
mysqld: 140130 16:01:44 InnoDB: Rolling back trx with id 13B87781, 3 rows to undo
mysqld: 140130 16:01:44 InnoDB: Assertion failure in thread 140516188849920 in file fut0lst.ic line 83
mysqld: InnoDB: Failing assertion: addr.page == FIL_NULL || addr.boffset >= FIL_PAGE_DATA
~~~
C'est que la base est corrompue…
@ -1452,10 +1469,10 @@ Il faut sauvegarder le datadir. Puis tenter de redémarrer avec l'option `innodb
puis `innodb_force_recovery=2` puis `innodb_force_recovery=3` etc. jusqu'à ce que le service démarre.
Attention, à partir de `innodb_force_recovery=3` vous devrez sûrement ajouter `innodb_purge_threads=0` :
~~~
innodb_force_recovery = 3
innodb_purge_threads = 0
~~~
Dès que le service démarre (il sera peut être en read-only), faites un dump de toutes vos bases MySQL.
@ -1468,42 +1485,44 @@ Voir http://dev.mysql.com/doc/refman/5.5/en/forcing-innodb-recovery.html
Si vous obtenez des erreurs de ce type :
~~~
mysqld: #007/usr/sbin/mysqld: File '/var/log/mysql/mysql-bin.005655' not found (Errcode: 13)
mysqld: 130202 19:49:05 [ERROR] Failed to open log (file '/var/log/mysql/mysql-bin.005655', errno 13)
mysqld: 130202 19:49:05 [ERROR] Could not open log file
mysqld: 130202 19:49:05 [ERROR] Can't init tc log
mysqld: 130202 19:49:05 [ERROR] Aborting
~~~
C'est que MySQL n'arrive pas à accéder au dernier binlog. Cela peut par exemple
être une question de droits. Pour vérifier que tout est correct, faire :
~~~
# sudo -u mysql head /var/log/mysql/mysql-bin.00NNNN
~~~
Une erreur étrange mais classique est que le fichier binlog prenne les droits de root.
On le corrigera ainsi :
~~~
# chown mysql:adm /var/log/mysql/mysql-bin.00NNNN
~~~
## `ERROR 130 (HY000): Incorrect file format '[…]'`
Si vous obtenez l'erreur ci-dessus, lors d'un mysqldump par exemple, et que les fichier ${mysql_datadir}/base/table.{MYD,MYI} sont vides mais pas le .frm, il faut réparer la table comme ceci :
~~~
# mysqlcheck --auto-repair --check --use-frm <base> <table>
~~~
## `is blocked because of many connection errors.`
Blocage pour l'IP car nombreuses erreurs sur BD. Lié à la valeur de la variable `max_connect_errors`.
Pour résoudre la situation :
~~~
# mysqladmin flush-hosts
~~~
# Instances MySQL
@ -1511,30 +1530,36 @@ Pour résoudre la situation :
Avant toute opération, il est nécessaire de commenter cette ligne dans le `/etc/mysql/my.cnf` :
~~~{.ini}
#user = mysql
~~~
et de rajouter ces lignes (à voir l'utilité en fait…)
~~~{.ini}
[mysqld_multi]
user = mysqladmin
~~~
Créez un utilisateur pour l'instance (il doit avoir un shell valide comme /bin/sh) :
~~~
useradd mysql-INSTANCE_NAME
~~~
Créez ensuite le "datadir" :
~~~
# mysql_install_db --datadir=/home/mysql/INSTANCE_NAME
# chown -R mysql-INSTANCE_NAME:mysql-INSTANCE_NAME /home/mysql/INSTANCE_NAME
# chmod 700 /home/mysql/INSTANCE_NAME
~~~
NOTE : Sous Debian Etch, l'option `--user` n'est pas présente.
Ajoutez ces lignes dans `/etc/mysql/my.cnf` :
~~~{.ini}
[mysqld1]
mysqld = /usr/bin/mysqld_safe
user = mysql-INSTANCE_NAME
@ -1542,54 +1567,58 @@ Ajoutez ces lignes dans `/etc/mysql/my.cnf` :
socket = /var/run/mysqld-INSTANCE_NAME/mysqld.sock
pid-file = /var/run/mysqld-INSTANCE_NAME/mysqld.pid
datadir = /home/mysql-INSTANCE_NAME
~~~
Note : même si l'on ne prévoit pas de faire tourner le mysqld principal sur le port 3306,
**Note 1** : même si l'on ne prévoit pas de faire tourner le mysqld principal sur le port 3306,
on préfèrera tout de même utiliser le port 3307 pour la première instance afin de ne pas
confondre une configuration avec et sans instance.
Note 2 : dans le cas où une réplication est déjà active sur l'intance principale, la nouvelle instance créée va automatiquement hériter des paramètres de réplication.
**Note 2** : dans le cas où une réplication est déjà active sur l'intance principale, la nouvelle instance créée va automatiquement hériter des paramètres de réplication.
Pour éviter ça, il suffit de rajouter :
~~~{.ini}
[mysqld1]
skip-slave-start
~~~
Créez le répertoire qui contiendra le socket et le fichier PID :
~~~
mkdir /var/run/mysqld-INSTANCE_NAME
chown mysql-INSTANCE_NAME:mysql-INSTANCE_NAME /var/run/mysqld-INSTANCE_NAME
~~~
Puis lancez la nouvelle instance :
~~~
# mysqld_multi start 1
~~~
Enfin, n'oubliez pas de définir un mot de passe root/mysqladmin pour la nouvelle instance !
Pour voir l'état des instances :
~~~
# mysqld_multi report
~~~
Et pour stopper une instance, on évite la commande "mysqld_multi stop 1" qui n'est que rarement fiable et peut laisser l'instance dans un état incorrect, difficile à récupérer.
On préfère passer la commande "shutdown" en interne :
~~~
# mysqladmin -P3307 shutdown
~~~
Note : a priori cela revient à envoyer un signal SIGTERM (kill -15) au process mysqld
**Note** : a priori cela revient à envoyer un signal SIGTERM (kill -15) au process mysqld
## Nettoyage
Si le mysqld principal n'est pas utilisé, on désactivera le script d'init.d /etc/init.d/mysql (en ajoutant `exit 0`
au début du script ) et on pourra se créer un script `/etc/init.d/mysql-instance` du type :
~~~{.bash}
#!/bin/sh
#
### BEGIN INIT INFO
@ -1625,7 +1654,7 @@ au début du script ) et on pourra se créer un script `/etc/init.d/mysql-instan
esac
exit 0
~~~
@ -1633,49 +1662,52 @@ au début du script ) et on pourra se créer un script `/etc/init.d/mysql-instan
Pour voir le statut de l'instance n°1, logiquement nommée mysqld1 (GNR=1) et tournant sur le port 3307 :
~~~
# mysqld_multi report 1
Reporting MySQL servers
MySQL server from group: mysqld1 is running
~~~
Pour l'arrêter / redémarrer, même principe (attention, `mysqld_multi` est peu verbeux…) :
~~~
# ps auwx | grep 3307
# mysqladmin -P 3307 shutdown
# ps auwx | grep 3307
# mysqld_multi start 1
# ps auwx | grep 3307
~~~
# routines MySQL
~~~
mysql> select * from INFORMATION_SCHEMA.routines;
~~~
# Changement mot de passe utilisateur
~~~
> SET PASSWORD FOR 'user'@'hostname' = PASSWORD('pwd');
~~~
Par rapport à un autre utilisateur:
> use mysql;
> UPDATE USER SET Password='XXXXX' WHERE User='XXXXX' and Host='XX.XX.XX.XX';
~~~
mysql> use mysql;
mysql> UPDATE USER SET Password='XXXXX' WHERE User='XXXXX' and Host='XX.XX.XX.XX';
~~~
# Changer variables global d'environnement
> SET GLOBAL max_connect_errors=50;
~~~
mysql> SET GLOBAL max_connect_errors=50;
~~~
ou
> SET @@max_connect_errors=50;
~~~
mysql> SET @@max_connect_errors=50;
~~~
# FAQ