Archive for the 'MySQL' Category

MySQL主从热备配置(含innodb)

Replication Mysql

mysql主从热备有2种配置方式,备份某些库或者忽略备份某些库,建议选择后者。
Continue reading ‘MySQL主从热备配置(含innodb)’

提高mysql随机查询的效率

  1. 基本使用:
    1
    SELECT * FROM `table` ORDER BY RAND() LIMIT 0,10;

    但是在ORDER BY后面用到RAND(),查询速度非常慢.

  2. MAX()*RAND()提高效率
    1
    2
    3
    SELECT * FROM `table`
    WHERE id >= (SELECT floor( RAND() * ((SELECT MAX(id) FROM `table`)-(SELECT MIN(id) FROM `table`)) + (SELECT MIN(id) FROM `table`)))
    ORDER BY id LIMIT 1;
  3. JOIN
    1
    2
    3
    4
    SELECT *
    FROM `table` AS t1 JOIN (SELECT ROUND(RAND() * ((SELECT MAX(id) FROM `table`)-(SELECT MIN(id) FROM `table`))+(SELECT MIN(id) FROM `table`)) AS id) AS t2
    WHERE t1.id >= t2.id
    ORDER BY t1.id LIMIT 1;

Continue reading ‘提高mysql随机查询的效率’

中文词库

最近遇到和搜索有关的工作,所以找了一个20万记录的中文词库,再加以缩减就可以在不同的项目中应用了。 ;)

MySQL优化实例

引用来源
在Apache, PHP, MySQL的体系架构中,MySQL对于性能的影响最大,也是关键的核心部分。对于Discuz!论坛程序也是如此,MySQL的设置是否合理优化,直接影响到论坛的速度和承载量!同时,MySQL也是优化难度最大的一个部分,不但需要理解一些MySQL专业知识,同时还需要长时间的观察统计并且根据经验进行判断,然后设置合理的参数。

下面我们了解一下MySQL优化的一些基础,MySQL的优化我分为两个部分,一是服务器物理硬件的优化;二是MySQL自身(my.cnf)的优化。

(1) 服务器硬件对MySQL性能的影响

a) 磁盘寻道能力(磁盘I/O),以目前高转速SCSI硬盘(7200转/秒)为例,这种硬盘理论上每秒寻道7200次,这是物理特性决定的,没有办法改变。 MySQL每秒钟都在进行大量、复杂的查询操作,对磁盘的读写量可想而知。所以,通常认为磁盘I/O是制约MySQL性能的最大因素之一,对于日均访问量在100万PV以上的Discuz!论坛,由于磁盘I/O的制约,MySQL的性能会非常低下!解决这一制约因素可以考虑以下几种解决方案:

使用RAID-0+1磁盘阵列,注意不要尝试使用RAID-5,MySQL在RAID-5磁盘阵列上的效率不会像你期待的那样快; 抛弃传统的硬盘,使用速度更快的闪存式存储设备。经过Discuz!公司技术工程的测试,使用闪存式存储设备可比传统硬盘速度高出6-10倍左右。

b) CPU 对于MySQL应用,推荐使用S.M.P.架构的多路对称CPU,例如:可以使用两颗Intel Xeon 3.6GHz的CPU。

c) 物理内存对于一台使用MySQL的Database Server来说,服务器内存建议不要小于2GB,推荐使用4GB以上的物理内存。

(2) MySQL自身因素当解决了上述服务器硬件制约因素后,让我们看看MySQL自身的优化是如何操作的。对MySQL自身的优化主要是对其配置文件my.cnf中的各项参数进行优化调整。下面我们介绍一些对性能影响较大的参数。

由于my.cnf文件的优化设置是与服务器硬件配置息息相关的,因而我们指定一个假想的服务器硬件环境:

1
2
3
4
5
CPU: 2颗Intel Xeon 2.4GHz

内存: 4GB DDR

硬盘: SCSI 73GB

下面,我们根据以上硬件配置结合一份已经优化好的my.cnf进行说明:

1
# vi /etc/my.cnf

以下只列出my.cnf文件中[mysqld]段落中的内容,其他段落内容对MySQL运行性能影响甚微,因而姑且忽略。

1
2
3
4
5
6
7
  [mysqld]
  port = 3306
  serverid = 1
  socket = /tmp/mysql.sock
  skip-locking
  # 避免MySQL的外部锁定,减少出错几率增强稳定性。
  skip-name-resolve

禁止MySQL对外部连接进行DNS解析,使用这一选项可以消除MySQL进行DNS解析的时间。但需要注意,如果开启该选项,则所有远程主机连接授权都要使用IP地址方式,否则MySQL将无法正常处理连接请求!

1
back_log = 384

指定MySQL可能的连接数量。当MySQL主线程在很短的时间内接收到非常多的连接请求,该参数生效,主线程花费很短的时间检查连接并且启动一个新线程。

back_log参数的值指出在MySQL暂时停止响应新请求之前的短时间内多少个请求可以被存在堆栈中。如果系统在一个短时间内有很多连接,则需要增大该参数的值,该参数值指定到来的TCP/IP连接的侦听队列的大小。不同的操作系统在这个队列大小上有它自己的限制。

试图设定back_log高于你的操作系统的限制将是无效的。默认值为50。对于Linux系统推荐设置为小于512的整数。

1
2
     key_buffer_size = 256M
  # key_buffer_size指定用于索引的缓冲区大小,增加它可得到更好的索引处理性能。

对于内存在4GB左右的服务器该参数可设置为256M或384M。
注意:该参数值设置的过大反而会是服务器整体效率降低!

1
2
3
4
     max_allowed_packet = 4M
    thread_stack = 256K
    table_cache = 128K
    sort_buffer_size = 6M

查询排序时所能使用的缓冲区大小。注意:该参数对应的分配内存是每连接独占!如果有100个连接,那么实际分配的总共排序缓冲区大小为100 × 6 = 600MB。所以,对于内存在4GB左右的服务器推荐设置为6-8M。

1
 read_buffer_size = 4M

读查询操作所能使用的缓冲区大小。和sort_buffer_size一样,该参数对应的分配内存也是每连接独享!

1
join_buffer_size = 8M

联合查询操作所能使用的缓冲区大小,和sort_buffer_size一样,该参数对应的分配内存也是每连接独享!

1
2
3
4
     myisam_sort_buffer_size = 64M
    table_cache = 512
    thread_cache_size = 64
    query_cache_size = 64M

指定MySQL查询缓冲区的大小。可以通过在MySQL控制台执行以下命令观察:

1
2
3
 # > SHOW VARIABLES LIKE '%query_cache%';
 # > SHOW STATUS LIKE 'Qcache%';
 # 如果Qcache_lowmem_prunes的值非常大,则表明经常出现缓冲不够的情况;

如果Qcache_hits的值非常大,则表明查询缓冲使用非常频繁,如果该值较小反而会影响效率,那么可以考虑不用查询缓冲;Qcache_free_blocks,如果该值非常大,则表明缓冲区中碎片很多。

1
2
     tmp_table_size = 256M
    max_connections = 768

指定MySQL允许的最大连接进程数。如果在访问论坛时经常出现Too Many Connections的错误提 示,则需要增大该参数值。

1
2
     max_connect_errors = 10000000
    wait_timeout = 10

指定一个请求的最大连接时间,对于4GB左右内存的服务器可以设置为5-10。

1
     thread_concurrency = 8

该参数取值为服务器逻辑CPU数量×2,在本例中,服务器有2颗物理CPU,而每颗物理CPU又支持H.T超线程,所以实际取值为4 × 2 = 8

1
    skip-networking

开启该选项可以彻底关闭MySQL的TCP/IP连接方式,如果WEB服务器是以远程连接的方式访问MySQL数据库服务器则不要开启该选项!否则将无法正常连接!

MySQL error connections

连接MySQL得到这样的错误提示

1
Warning: mysql_pconnect(): Host '67.19.xx.xxx' is blocked because of many connection errors. Unblock with 'mysqladmin flush-hosts' in C:\Websites\ratedesi\include\connectdb.php on line 9 Host '67.19.xx.xxx' is blocked because of many connection errors. Unblock with 'mysqladmin flush-hosts'

在MySQL手册中找到这样的说明

A.2.5 `Host ‘HOST_NAME’ is blocked’
————————————
If you get the following error, it means that `mysqld’ has received
many connect requests from the host `’HOST_NAME that have
been interrupted in the middle:

Host ‘HOST_NAME’ is blocked because of many connection errors.
Unblock with ‘mysqladmin flush-hosts’

The number of interrupted connect requests allowed is determined by
the value of the `max_connect_errors’ system variable. After
`max_connect_errors’ failed requests, `mysqld’ assumes that
something is wrong (for example, that someone is trying to break
in), and blocks the host from further connections until you execute
a `mysqladmin flush-hosts’ command or issue a `FLUSH HOSTS’
statement. See *Note server-system-variables::.

By default, `mysqld’ blocks a host after 10 connection errors. You
can adjust the value by starting the server like this:

shell> mysqld_safe –max_connect_errors=10000 &
If you get this error message for a given host, you should first
verify that there isn’t anything wrong with TCP/IP connections from
that host. If you are having network problems, it does you no good
to increase the value of the `max_connect_errors’ variable.

这可能是比如PHP的未注销连接引起,查看MySQL的进程可以查看一下

1
 mysqladmin -u <user> -p<password> processlist

Apache 2.2.3 PHP 5.2.0 Mysql 4.1 Install

以 apache handler 和 fastcgi 两种方式安装 PHP 5.2.0, 并使用 –with-mysql 和 –with-mysqli 两种方式连接 Mysql 数据库

  1. 配置 PHP 安装
    1
    './configure' '--codefix=/opt/php5' '--with-apxs2=/opt/bin/apxs' '--enable-fastcgi' '--with-mysql=/usr/local/mysql' '--enable-calendar' '--enable-force-cgi-redirect' '--with-configure-file-path=/opt/php5/cgi' '--enable-trans-sid' '--with-gd' '--with-xml' '--with-ttf=/usr' '--with-freetype-dir=/usr' '--enable-exif' '--with-dom-xslt=/usr' '--with-jpeg-dir=/usr/local/jpeg6b' '--with-png-dir=/usr' '--with-zlib-dir=/usr' '--enable-ftp' '--with-curl=/usr' '--enable-mbstring' '--with-mysqli=/usr/local/mysql/bin/mysql_config' '--with-openssl=/usr' '--with-gettext' '--enable-sockets' '--enable-memory-limit' '--with-xmlrpc' '--enable-debug=no' '--enable-track-vars' '--with-iconv' '--enable-sqlite-utf8' '--with-pgsql=/opt/postgresql'
  2. 这里我还安装了 Postgresql 所以使用了 ‘–with-pgsql=/opt/postgresql’ ,不过奇怪的是 如果我使用
    1
    --with-pdo-mysql --with-pdo-pgsql

    就会出现配置安装的错误。

  3. 同时使用 mysql 和 mysqli 在 make 的时候可能会出现很多警告,在 MAKEFILE 文件中找到以 EXTRA_LIBS 开始的行,删除第二个 -lmysqlclient_r

DBD::mysql安装问题

在安装perl的DBD::mysql模块的时候遇到一些问题

1
2
3
4
5
6
7
8
9
10
11
12
13
14
$ perl -MCPAN -e shell
[....]
 Can't exec "mysql_config": No such file or directory at Makefile.PL line 76.
 
 Cannot find the file 'mysql_config'! Your execution PATH doesn't seem
 not contain the path to mysql_config. Resorting to guessed values!
 Can't exec "mysql_config": No such file or directory at Makefile.PL line 454.
 Can't exec "mysql_config": No such file or directory at Makefile.PL line 454.
 Can't exec "mysql_config": No such file or directory at Makefile.PL line 454.
 Can't exec "mysql_config": No such file or directory at Makefile.PL line 454.
 Can't exec "mysql_config": No such file or directory at Makefile.PL line 454.
 Can't exec "mysql_config": No such file or directory at Makefile.PL line 454.
 Failed to determine directory of mysql.h. Use
 [....]

进入DBD::mysql的代码安装目录

1
2
3
4
5
$ cd $HOME/.cpan/build/DBD-mysql-3.0008
$ perl --mysql_config=$MYSQL_PREFIX_DIR/bin/mysql_config
$ make
$ make test
$ make install

这样就安装成功了

Error establishing a database connection

我快受不了现在的日志空间了,常常都是“Error establishing a database connection”错误,而且国外的访问者访问中国大陆的IP也常常出现问题,这个嘛,谁都是知道原因的。

ruby on rails现在的PHP+MySQL的博客系统是非常棒的,昨天把googleadsense加入了,并不是为了挣钱,而是为了研究一下adsense。这两天还在研究DreamHostRuby on Rails,又是一个十月,有人是幸福的,有人在痛苦着,有人住进了新房子,有人流落街头,有人换了新工作,有人却还在失业,为什么会有诧异,是命运还是人本身,没有人能解释清楚,我想人不能停止奋斗,因为每个人都是去追求幸福的理由,或是为了幸福而去追求。

又是一个十月!希望下个十月,我会满载而归。

MySQL函数SUBSTRING_INDEX

mysql昨天在处理一个问题用错了方法,其实用MySQL中自带的函数可以解决很多问题,在边缘梦的提示下我才突然想起来。

SUBSTRING_INDEX(str,delim,count)

返回字符串 str 中在第 count 个出现的分隔符 delim 之前的子串。如果 count 是一个正数,返回从最后的(从左边开始计数)分隔符到左边所有字符。如果 count 是负数,返回从最后的(从右边开始计数)分隔符到右边所有字符。

1
2
3
4
mysql>SELECT SUBSTRING_INDEX('www.mysql.com', '.', 2);
        -> 'www.mysql'
mysql> SELECT SUBSTRING_INDEX('www.mysql.com', '.', -2);
        -> 'mysql.com'

并且这个函数是多字节安全的。

修改MySQL用户密码

  1. #在控制台上输入
    1
    bash$ mysql -u root mysql

    #用mysql客户程序

    1
    2
    3
    mysql> UPDATE user SET password=PASSWORD("new password") WHERE user='hunte';
    mysql> FLUSH PRIVILEGES;
    mysql> QUIT
  2. #在控制台上输入
    1
    2
    3
    bash$ mysql -u root mysql
    mysql> SET PASSWORD FOR hunte=PASSWORD('new password');
    mysql> QUIT
  3. 1
    2
    #直接在控制台上输入
    bash$ mysqladmin -u root "old password" "new password"