lib/mysqlschema.php

   1 <?php
   2 /**
   3  * StatusNet, the distributed open-source microblogging tool
   4  *
   5  * Database schema utilities
   6  *
   7  * PHP version 5
   8  *
   9  * LICENCE: This program is free software: you can redistribute it and/or modify
  10  * it under the terms of the GNU Affero General Public License as published by
  11  * the Free Software Foundation, either version 3 of the License, or
  12  * (at your option) any later version.
  13  *
  14  * This program is distributed in the hope that it will be useful,
  15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  17  * GNU Affero General Public License for more details.
  18  *
  19  * You should have received a copy of the GNU Affero General Public License
  20  * along with this program.  If not, see <http://www.gnu.org/licenses/>.
  21  *
  22  * @category  Database
  23  * @package   StatusNet
  24  * @author    Evan Prodromou <evan@status.net>
  25  * @copyright 2009 StatusNet, Inc.
  26  * @license   http://www.fsf.org/licensing/licenses/agpl-3.0.html GNU Affero General Public License version 3.0
  27  * @link      http://status.net/
  28  */
  29
  30 if (!defined('STATUSNET')) {
  31     exit(1);
  32 }
  33
  34 /**
  35  * Class representing the database schema
  36  *
  37  * A class representing the database schema. Can be used to
  38  * manipulate the schema -- especially for plugins and upgrade
  39  * utilities.
  40  *
  41  * @category Database
  42  * @package  StatusNet
  43  * @author   Evan Prodromou <evan@status.net>
  44  * @license  http://www.fsf.org/licensing/licenses/agpl-3.0.html GNU Affero General Public License version 3.0
  45  * @link     http://status.net/
  46  */
  47
  48 class MysqlSchema extends Schema
  49 {
  50     static $_single = null;
  51     protected $conn = null;
  52
  53
  54     /**
  55      * Main public entry point. Use this to get
  56      * the singleton object.
  57      *
  58      * @return Schema the (single) Schema object
  59      */
  60
  61     static function get()
  62     {
  63         if (empty(self::$_single)) {
  64             self::$_single = new Schema();
  65         }
  66         return self::$_single;
  67     }
  68
  69     /**
  70      * Returns a TableDef object for the table
  71      * in the schema with the given name.
  72      *
  73      * Throws an exception if the table is not found.
  74      *
  75      * @param string $table Name of the table to get
  76      *
  77      * @return TableDef tabledef for that table.
  78      * @throws SchemaTableMissingException
  79      */
  80
  81     public function getTableDef($table)
  82     {
  83         $def = array();
  84         $hasKeys = false;
  85
  86         // Pull column data from INFORMATION_SCHEMA
  87         $columns = $this->fetchMetaInfo($table, 'COLUMNS', 'ORDINAL_POSITION');
  88         if (count($columns) == 0) {
  89             throw new SchemaTableMissingException("No such table: $table");
  90         }
  91
  92         foreach ($columns as $row) {
  93
  94             $name = $row['COLUMN_NAME'];
  95             $field = array();
  96
  97             // warning -- 'unsigned' attr on numbers isn't given in DATA_TYPE and friends.
  98             // It is stuck in on COLUMN_TYPE though (eg 'bigint(20) unsigned')
  99             list($type, $size) = $this->reverseMapType($row['DATA_TYPE']);
 100             $field['type'] = $type;
 101             if ($size !== null) {
 102                 $field['size'] = $size;
 103             }
 104
 105             if ($type == 'char' || $type == 'varchar') {
 106                 if ($row['CHARACTER_MAXIMUM_LENGTH'] !== null) {
 107                     $field['length'] = intval($row['CHARACTER_MAXIMUM_LENGTH']);
 108                 }
 109             }
 110             if ($type == 'numeric') {
 111                 // Other int types may report these values, but they're irrelevant.
 112                 // Just ignore them!
 113                 if ($row['NUMERIC_PRECISION'] !== null) {
 114                     $field['precision'] = intval($row['NUMERIC_PRECISION']);
 115                 }
 116                 if ($row['NUMERIC_SCALE'] !== null) {
 117                     $field['scale'] = intval($row['NUMERIC_SCALE']);
 118                 }
 119             }
 120             if ($row['IS_NULLABLE'] == 'NO') {
 121                 $field['not null'] = true;
 122             }
 123             if ($row['COLUMN_DEFAULT'] !== null) {
 124                 $field['default'] = $row['COLUMN_DEFAULT'];
 125                 if ($this->isNumericType($type)) {
 126                     $field['default'] = intval($field['default']);
 127                 }
 128             }
 129             if ($row['COLUMN_KEY'] !== null) {
 130                 // We'll need to look up key info...
 131                 $hasKeys = true;
 132             }
 133             if ($row['COLUMN_COMMENT'] !== null && $row['COLUMN_COMMENT'] != '') {
 134                 $field['description'] = $row['COLUMN_COMMENT'];
 135             }
 136
 137             $extra = $row['EXTRA'];
 138             if ($extra) {
 139                 if (preg_match('/(^|\s)auto_increment(\s|$)/i', $extra)) {
 140                     $field['type'] = 'serial';
 141                 }
 142                 // $row['EXTRA'] may contain 'on update CURRENT_TIMESTAMP'
 143                 // ^ ...... how to specify?
 144             }
 145
 146             if ($row['CHARACTER_SET_NAME'] !== null) {
 147                 // @fixme check against defaults?
 148                 //$def['charset'] = $row['CHARACTER_SET_NAME'];
 149                 //$def['collate']  = $row['COLLATION_NAME'];
 150             }
 151
 152             $def['fields'][$name] = $field;
 153         }
 154
 155         if ($hasKeys) {
 156             // INFORMATION_SCHEMA's CONSTRAINTS and KEY_COLUMN_USAGE tables give
 157             // good info on primary and unique keys but don't list ANY info on
 158             // multi-value keys, which is lame-o. Sigh.
 159             //
 160             // Let's go old school and use SHOW INDEX :D
 161             //
 162             $keyInfo = $this->fetchIndexInfo($table);
 163             $keys = array();
 164             foreach ($keyInfo as $row) {
 165                 $name = $row['Key_name'];
 166                 $column = $row['Column_name'];
 167
 168                 if (!isset($keys[$name])) {
 169                     $keys[$name] = array();
 170                 }
 171                 $keys[$name][] = $column;
 172
 173                 if ($name == 'PRIMARY') {
 174                     $type = 'primary key';
 175                 } else if ($row['Non_unique'] == 0) {
 176                     $type = 'unique keys';
 177                 } else if ($row['Index_type'] == 'FULLTEXT') {
 178                     $type = 'fulltext indexes';
 179                 } else {
 180                     $type = 'indexes';
 181                 }
 182                 $keyTypes[$name] = $type;
 183             }
 184
 185             foreach ($keyTypes as $name => $type) {
 186                 if ($type == 'primary key') {
 187                     // there can be only one
 188                     $def[$type] = $keys[$name];
 189                 } else {
 190                     $def[$type][$name] = $keys[$name];
 191                 }
 192             }
 193         }
 194         return $def;
 195     }
 196
 197     /**
 198      * Pull the given table properties from INFORMATION_SCHEMA.
 199      * Most of the good stuff is MySQL extensions.
 200      *
 201      * @return array
 202      * @throws Exception if table info can't be looked up
 203      */
 204
 205     function getTableProperties($table, $props)
 206     {
 207         $data = $this->fetchMetaInfo($table, 'TABLES');
 208         if ($data) {
 209             return $data[0];
 210         } else {
 211             throw new SchemaTableMissingException("No such table: $table");
 212         }
 213     }
 214
 215     /**
 216      * Pull some INFORMATION.SCHEMA data for the given table.
 217      *
 218      * @param string $table
 219      * @return array of arrays
 220      */
 221     function fetchMetaInfo($table, $infoTable, $orderBy=null)
 222     {
 223         $query = "SELECT * FROM INFORMATION_SCHEMA.%s " .
 224                  "WHERE TABLE_SCHEMA='%s' AND TABLE_NAME='%s'";
 225         $schema = $this->conn->dsn['database'];
 226         $sql = sprintf($query, $infoTable, $schema, $table);
 227         if ($orderBy) {
 228             $sql .= ' ORDER BY ' . $orderBy;
 229         }
 230         return $this->fetchQueryData($sql);
 231     }
 232
 233     /**
 234      * Pull 'SHOW INDEX' data for the given table.
 235      *
 236      * @param string $table
 237      * @return array of arrays
 238      */
 239     function fetchIndexInfo($table)
 240     {
 241         $query = "SHOW INDEX FROM `%s`";
 242         $sql = sprintf($query, $table);
 243         return $this->fetchQueryData($sql);
 244     }
 245
 246     /**
 247      * Creates a table with the given names and columns.
 248      *
 249      * @param string $name    Name of the table
 250      * @param array  $columns Array of ColumnDef objects
 251      *                        for new table.
 252      *
 253      * @return boolean success flag
 254      */
 255
 256     public function createTable($name, $columns)
 257     {
 258         $uniques = array();
 259         $primary = array();
 260         $indices = array();
 261
 262         $sql = "CREATE TABLE $name (\n";
 263
 264         for ($i = 0; $i < count($columns); $i++) {
 265
 266             $cd =& $columns[$i];
 267
 268             if ($i > 0) {
 269                 $sql .= ",\n";
 270             }
 271
 272             $sql .= $this->_columnSql($cd);
 273         }
 274
 275         $idx = $this->_indexList($columns);
 276
 277         if ($idx['primary']) {
 278             $sql .= ",\nconstraint primary key (" . implode(',', $idx['primary']) . ")";
 279         }
 280
 281         foreach ($idx['uniques'] as $u) {
 282             $key = $this->_uniqueKey($name, $u);
 283             $sql .= ",\nunique index $key ($u)";
 284         }
 285
 286         foreach ($idx['indices'] as $i) {
 287             $key = $this->_key($name, $i);
 288             $sql .= ",\nindex $key ($i)";
 289         }
 290
 291         $sql .= ") ENGINE=InnoDB CHARACTER SET utf8 COLLATE utf8_bin; ";
 292
 293         $res = $this->conn->query($sql);
 294
 295         if (PEAR::isError($res)) {
 296             throw new Exception($res->getMessage());
 297         }
 298
 299         return true;
 300     }
 301
 302     /**
 303      * Look over a list of column definitions and list up which
 304      * indices will be present
 305      */
 306     private function _indexList(array $columns)
 307     {
 308         $list = array('uniques' => array(),
 309                       'primary' => array(),
 310                       'indices' => array());
 311         foreach ($columns as $cd) {
 312             switch ($cd->key) {
 313             case 'UNI':
 314                 $list['uniques'][] = $cd->name;
 315                 break;
 316             case 'PRI':
 317                 $list['primary'][] = $cd->name;
 318                 break;
 319             case 'MUL':
 320                 $list['indices'][] = $cd->name;
 321                 break;
 322             }
 323         }
 324         return $list;
 325     }
 326
 327     /**
 328      * Get the unique index key name for a given column on this table
 329      */
 330     function _uniqueKey($tableName, $columnName)
 331     {
 332         return $this->_key($tableName, $columnName);
 333     }
 334
 335     /**
 336      * Get the index key name for a given column on this table
 337      */
 338     function _key($tableName, $columnName)
 339     {
 340         return "{$tableName}_{$columnName}_idx";
 341     }
 342
 343     /**
 344      * Ensures that a table exists with the given
 345      * name and the given column definitions.
 346      *
 347      * If the table does not yet exist, it will
 348      * create the table. If it does exist, it will
 349      * alter the table to match the column definitions.
 350      *
 351      * @param string $tableName name of the table
 352      * @param array  $columns   array of ColumnDef
 353      *                          objects for the table
 354      *
 355      * @return boolean success flag
 356      */
 357
 358     public function ensureTable($tableName, $columns)
 359     {
 360         // XXX: DB engine portability -> toilet
 361
 362         try {
 363             $td = $this->getTableDef($tableName);
 364         } catch (SchemaTableMissingException $e) {
 365             return $this->createTable($tableName, $columns);
 366         }
 367
 368         $cur = $this->_names($td->columns);
 369         $new = $this->_names($columns);
 370
 371         $dropIndex  = array();
 372         $toadd      = array_diff($new, $cur);
 373         $todrop     = array_diff($cur, $new);
 374         $same       = array_intersect($new, $cur);
 375         $tomod      = array();
 376         $addIndex   = array();
 377         $tableProps = array();
 378
 379         foreach ($same as $m) {
 380             $curCol = $this->_byName($td->columns, $m);
 381             $newCol = $this->_byName($columns, $m);
 382
 383             if (!$newCol->equals($curCol)) {
 384                 $tomod[] = $newCol->name;
 385                 continue;
 386             }
 387
 388             // Earlier versions may have accidentally left tables at default
 389             // charsets which might be latin1 or other freakish things.
 390             if ($this->_isString($curCol)) {
 391                 if ($curCol->charset != 'utf8') {
 392                     $tomod[] = $newCol->name;
 393                     continue;
 394                 }
 395             }
 396         }
 397
 398         // Find any indices we have to change...
 399         $curIdx = $this->_indexList($td->columns);
 400         $newIdx = $this->_indexList($columns);
 401
 402         if ($curIdx['primary'] != $newIdx['primary']) {
 403             if ($curIdx['primary']) {
 404                 $dropIndex[] = 'drop primary key';
 405             }
 406             if ($newIdx['primary']) {
 407                 $keys = implode(',', $newIdx['primary']);
 408                 $addIndex[] = "add constraint primary key ($keys)";
 409             }
 410         }
 411
 412         $dropUnique = array_diff($curIdx['uniques'], $newIdx['uniques']);
 413         $addUnique = array_diff($newIdx['uniques'], $curIdx['uniques']);
 414         foreach ($dropUnique as $columnName) {
 415             $dropIndex[] = 'drop key ' . $this->_uniqueKey($tableName, $columnName);
 416         }
 417         foreach ($addUnique as $columnName) {
 418             $addIndex[] = 'add constraint unique key ' . $this->_uniqueKey($tableName, $columnName) . " ($columnName)";;
 419         }
 420
 421         $dropMultiple = array_diff($curIdx['indices'], $newIdx['indices']);
 422         $addMultiple = array_diff($newIdx['indices'], $curIdx['indices']);
 423         foreach ($dropMultiple as $columnName) {
 424             $dropIndex[] = 'drop key ' . $this->_key($tableName, $columnName);
 425         }
 426         foreach ($addMultiple as $columnName) {
 427             $addIndex[] = 'add key ' . $this->_key($tableName, $columnName) . " ($columnName)";
 428         }
 429
 430         // Check for table properties: make sure we're using a sane
 431         // engine type and charset/collation.
 432         // @fixme make the default engine configurable?
 433         $oldProps = $this->getTableProperties($tableName, array('ENGINE', 'TABLE_COLLATION'));
 434         if (strtolower($oldProps['ENGINE']) != 'innodb') {
 435             $tableProps['ENGINE'] = 'InnoDB';
 436         }
 437         if (strtolower($oldProps['TABLE_COLLATION']) != 'utf8_bin') {
 438             $tableProps['DEFAULT CHARSET'] = 'utf8';
 439             $tableProps['COLLATE'] = 'utf8_bin';
 440         }
 441
 442         if (count($dropIndex) + count($toadd) + count($todrop) + count($tomod) + count($addIndex) + count($tableProps) == 0) {
 443             // nothing to do
 444             return true;
 445         }
 446
 447         // For efficiency, we want this all in one
 448         // query, instead of using our methods.
 449
 450         $phrase = array();
 451
 452         foreach ($dropIndex as $indexSql) {
 453             $phrase[] = $indexSql;
 454         }
 455
 456         foreach ($toadd as $columnName) {
 457             $cd = $this->_byName($columns, $columnName);
 458
 459             $phrase[] = 'ADD COLUMN ' . $this->_columnSql($cd);
 460         }
 461
 462         foreach ($todrop as $columnName) {
 463             $phrase[] = 'DROP COLUMN ' . $columnName;
 464         }
 465
 466         foreach ($tomod as $columnName) {
 467             $cd = $this->_byName($columns, $columnName);
 468
 469             $phrase[] = 'MODIFY COLUMN ' . $this->_columnSql($cd);
 470         }
 471
 472         foreach ($addIndex as $indexSql) {
 473             $phrase[] = $indexSql;
 474         }
 475
 476         foreach ($tableProps as $key => $val) {
 477             $phrase[] = "$key=$val";
 478         }
 479
 480         $sql = 'ALTER TABLE ' . $tableName . ' ' . implode(', ', $phrase);
 481
 482         common_log(LOG_DEBUG, __METHOD__ . ': ' . $sql);
 483         $res = $this->conn->query($sql);
 484
 485         if (PEAR::isError($res)) {
 486             throw new Exception($res->getMessage());
 487         }
 488
 489         return true;
 490     }
 491
 492     /**
 493      * Is this column a string type?
 494      */
 495     private function _isString(array $cd)
 496     {
 497         $strings = array('char', 'varchar', 'text');
 498         return in_array(strtolower($cd['type']), $strings);
 499     }
 500
 501     /**
 502      * Return the proper SQL for creating or
 503      * altering a column.
 504      *
 505      * Appropriate for use in CREATE TABLE or
 506      * ALTER TABLE statements.
 507      *
 508      * @param ColumnDef $cd column to create
 509      *
 510      * @return string correct SQL for that column
 511      */
 512
 513     function columnSql(array $cd)
 514     {
 515         $line = array();
 516         $line[] = parent::_columnSql($cd);
 517
 518         if ($cd['type'] == 'serial') {
 519             $line[] = 'auto_increment';
 520         }
 521
 522         if (!empty($cd['extra'])) {
 523             $line[] = $cd['extra']; // hisss boooo
 524         }
 525
 526         if (!empty($cd['description'])) {
 527             $line[] = 'comment';
 528             $line[] = $this->quote($cd['description']);
 529         }
 530
 531         return implode(' ', $line);
 532     }
 533
 534     function mapType($column)
 535     {
 536         $map = array('serial' => 'int',
 537                      'integer' => 'int',
 538                      'numeric' => 'decimal');
 539
 540         $type = $column['type'];
 541         if (isset($map[$type])) {
 542             $type = $map[$type];
 543         }
 544
 545         if (!empty($column['size'])) {
 546             $size = $column['size'];
 547             if ($type == 'int' &&
 548                        in_array($size, array('tiny', 'small', 'medium', 'big'))) {
 549                 $type = $size . $type;
 550             } else if (in_array($type, array('blob', 'text')) &&
 551                        in_array($size, array('tiny', 'medium', 'long'))) {
 552                 $type = $size . $type;
 553             }
 554         }
 555
 556         return $type;
 557     }
 558
 559     /**
 560      * Map a MySQL native type back to an independent type + size
 561      *
 562      * @param string $type
 563      * @return array ($type, $size) -- $size may be null
 564      */
 565     protected function reverseMapType($type)
 566     {
 567         $type = strtolower($type);
 568         $map = array(
 569             'decimal' => array('numeric', null),
 570             'tinyint' => array('int', 'tiny'),
 571             'smallint' => array('int', 'small'),
 572             'mediumint' => array('int', 'medium'),
 573             'bigint' => array('int', 'big'),
 574             'tinyblob' => array('blob', 'tiny'),
 575             'mediumblob' => array('blob', 'medium'),
 576             'longblob' => array('blob', 'long'),
 577             'tinytext' => array('text', 'tiny'),
 578             'mediumtext' => array('text', 'medium'),
 579             'longtext' => array('text', 'long'),
 580         );
 581         if (isset($map[$type])) {
 582             return $map[$type];
 583         } else {
 584             return array($type, null);
 585         }
 586     }
 587
 588     function typeAndSize($column)
 589     {
 590         if ($column['type'] == 'enum') {
 591             $vals = array_map(array($this, 'quote'), $column['enum']);
 592             return 'enum(' . implode(',', $vals) . ')';
 593         } else if ($this->_isString($column)) {
 594             return parent::typeAndSize($column) . ' CHARSET utf8';
 595         } else {
 596             return parent::typeAndSize($column);
 597         }
 598     }
 599 }