分享

关于MySQL分区表的一个性能BUG

天网云 发表于 2015-10-20 05:37:27 [显示全部楼层] 回帖奖励 阅读模式 关闭右栏 0 3144
目次


  • 2、利用pt-pmap举办栈阐发
  • 3、闭于本列中瓶颈面的阐发
  • 4、分区表中屡次成立template的状况
  • 5、闭于一个特别的流程
  • 6、标题问题模仿
  • 7、总结
1、标题问题形貌


迩来碰到一个标题问题,也便是利用分区表举办数据查询/减载的时分比伟大表的机能降落了约50%,次要瓶颈呈现正在CPU,既然是CPU瓶颈天经地义的我们能够收罗
  1. perf top -a -g
复造代码
  1. pstack
复造代码
去根究机能瓶颈所在,同时战争凡是表举办比照,发明CPU次要耗正在函数
  1. build_template_field
复造代码
上以下图:
数据库-云社区关于MySQL分区表的一个性能BUGbyun.com(1)
                               
登录/注册后可看年夜图


2、利用pt-pmap举办栈阐发

为了战
  1. perf top -g -a
复造代码
举办互相印证,我们同时获得了当时的
  1. pstack
复造代码
,因为线程较多为了便利获得有用的疑息我们经由过程pt-pmap举办了格局化以下:

数据库-云社区关于MySQL分区表的一个性能BUGbyun.com(2)
                               
登录/注册后可看年夜图

格局化后我们提出失落闲暇的等候栈,发明大批的如上,那也战perf top -a -g中的表示举办了互相印证。

3、闭于本列中瓶颈面的阐发

我们看到那里大批的
  1. cpu
复造代码
耗正在
  1. ha_innobase::build_template
  2. ->build_template_field
  3.    ->dict_col_get_clust_pos
复造代码
关于
  1. template
复造代码
来说,其几乎是战特定的一次的查询举办绑定的,也便是伟大的语句最少须要一个
  1. template
复造代码
。其构造为
  1. row_prebuilt_t
复造代码
,包含查询元组,查询的表,查询用到的索引,事件相干疑息,耐久化游标,MySQL层查询止的少度,自删疑息,ICP相干疑息,
  1. mysql_row_templ_t
复造代码
构造等疑息。此中
  1. mysql_row_templ_t
复造代码
那个疑息便是每一个字段一个,次要感化纪录的是MySQL层feild疑息战Innodb层columns疑息的相干属性,用于快速转换一止纪录正在MySQL层战Innodb层之间转换。为了初初化
  1. mysql_row_templ_t
复造代码
便呈现了上里的逻辑,
大要逻辑以下:
  1. 轮回表中每一个字段(一层轮回)ha_innobase::build_template
  2.   能否为需求会见的字段 build_template_needs_field
  3.   那里包罗查询战写进的一切字段,需求会见的字段越多越缓
  4.    假如没有是则没有做持续轮回
  5.   假如需求会见
  6. [code]  build_template_field
复造代码
(mysql_row_templ_t构造体添补)     轮回主键的每一个字段(两层轮回)     包含真列,主键便是表的内里局部字段,表中字段越多越缓)
  1. dict_col_get_clust_pos  
复造代码
     确认本字段正在主键的地位        pos0 主键
  1. pos1 DB_TRX_ID pos2 DB_ROLL_PTR pos3
复造代码
开端为用户其他字段     轮回索引的每一个字段(两层轮回,可是索引字段普通没有会太多,因而那里没有会缓)
  1. dict_index_t::get_col_pos
复造代码
     确认本字段正在索引的地位,假如出有则返回NULL       返回pos 好比 主键 id1  两级索引 id2 id3 两级索引为
  1. pos0 id2 pos1 id3 pos2 id1
复造代码
   持续完成其他属性好比mysql null位图,mysql显现少度,mysql字符散等等[/code] 那里我们看到那里实践上有2层轮回,也便是轮回套轮回(工夫庞大度O(M×N)),而轮回影响最年夜的有2个处所:

         
  • 第一层,表中字段的几     
  • 第两层,须要会见的字段(读战写皆算)正在主键(也便是局部字段)中轮回
那里也便是为何那里会缓的缘故原由。可是template凡是没有会一个查询举办屡次成立,好比一个伟大表的年夜查询,只要正在语句第一次举办数据定位之前会举办成立,那便不能不道那是分区表战争凡是表的比照中一个特别的处所了。上面形貌一下。

4、分区表中屡次成立template的状况

假定我们有以下的分区表:
  1. create table t(
  2.     id1 int,
  3.     id2 int,
  4.     primary key(id1),
  5.     key(id2)
  6. )engine=innodb
  7. partition by range(id1)(
  8.     partition p0 values less than(100),
  9.     partition p1 values less than(200),
  10.     partition p2 values less than(300));   

  11. insert into t values(1,1);
  12. insert into t values(101,1);
  13. insert into t values(201,1);
  14. insert into t values(2,2);
  15. insert into t values(3,2);
  16. insert into t values(4,2);
  17. insert into t values(7,2);
  18. insert into t values(8,2);
  19. insert into t values(9,2);
  20. insert into t values(10,2);
复造代码
我们利用语句"
  1. select * from t where id2=1
复造代码
",明显id2是两级索引,因为MySQL局部皆是local分区的两级索引,因而那里值别离散布正在3个分区中,关于多么一个语句正在本该是伟大表经由过程前次定位后的地位持续会见(
  1. next_same
复造代码
)的时分,经由过程启拆分区表的办法,将其改成了
  1. index read
复造代码
再次定位,而我们能够分明的看到那里是scan next partition,其part=1那是第两个分区了,也便是我们的p1(第一个为0)
数据库-云社区关于MySQL分区表的一个性能BUGbyun.com(3)
                               
登录/注册后可看年夜图

多么
  1. template
复造代码
须要每一个分区(
  1. scan next partition
复造代码
)皆举办重建,多么便呈现了我们上里的标题问题。那个实在也能够了解,新的分区是新的innodb文件,多么前次定位的耐久化游标实践曾经出有甚么用了,便相称于一次新的表会见。那里正在能否举办
  1. template
复造代码
成立还有一个判定以下:
  1.   if (m_prebuilt->sql_stat_start) {
  2.     build_template(false);
  3.   }
复造代码
而m_prebuilt->sql_stat_start除正在语句开端的时分设置为true,每次改换分区照旧会设置为true以下:
  1. ha_innopart::set_partition:
  2. m_prebuilt->sql_stat_start = m_sql_stat_start_parts.test(part_id);
复造代码

5、闭于一个特别的流程

正在我们的毛病
  1. pstack
复造代码
中还有一个栈以下:

数据库-云社区关于MySQL分区表的一个性能BUGbyun.com(4)
                               
登录/注册后可看年夜图

那个栈实践其实不完好,可是此中呈现了
  1. Partition_helper::handle_ordered_index_scan
复造代码
,那个函数实践上战分区表的排序有闭,假如我们考虑多么一种状况,关于两级索引select max(id2) from t,那末须要起首会见每一个分区获得此中的最年夜值然后比照每一个分区的最年夜值,获得终极的成果,而MySQL则接纳劣先行列举办处置,那该当是便是本函数完成的部门功用(出详尽来看)。其次我们先呈现了
  1. QUICK_RANGE_SELECT
复造代码
那是范畴查询会用到的,那末我们机关以下:
  1. select * from t where id2<2 order by id2;
复造代码
栈:

数据库-云社区关于MySQL分区表的一个性能BUGbyun.com(5)
                               
登录/注册后可看年夜图

那里便是由于id2那个字段只包管正在分区内乱部是根据大小排列的可是正在全部表来说,它是无序的,须要分外的处置。

6、标题问题模仿

有了那些筹办,我们能够机关一个300个字段战25个分区的分区表。测试版本最新8.0.26
  1. create table tpar300col(
  2.     id1 int,
  3.     id2 int,
  4.     id3 int,
  5.     id4 int,
  6. ...
  7.     id299 varchar(20),
  8.     id300 varchar(20),
  9.     primary key(id1),
  10.     key(id2)
  11. )engine=innodb
  12. partition by range(id1)(
  13.     partition p0 values less than(100),
  14.     partition p1 values less than(200),
  15.     partition p3 values less than(300),
  16. ...
  17.     partition p25 values less than(2500));  

  18. insert into tpar300col values(1  ,1,1,
  19. ....每一个分区一条数据
  20. insert into tpar300col values(2401,1,1
复造代码
然后机关一些其他数据id2没有要为1,成立存储历程:

  1. delimiter //

  2. CREATE PROCEDURE test300col()
  3. begin
  4.   declare num int;
  5.   set num = 1;
  6. while num <= 1000000 do
  7.   select * from tpar300col where id2=1;
  8.   set num = num+1;
  9. end while;
  10. end //
  11. 施行:
  12. /opt/mysql/mysql3340/install/mysql8/bin/mysql -S--socket=/opt/mysql/mgr3315/data/mgr3315.sock -e'use test;call test300col();' > log.log
复造代码
然后perf top 察看以下:

数据库-云社区关于MySQL分区表的一个性能BUGbyun.com(6)
                               
登录/注册后可看年夜图

多么标题问题便获得了确认。

7、总结

那个标题问题实践上战两级索引相对分区键的数据离集度有闭,可是我们没法掌握两级索引的数据,而且索引也是必需利用的。只能经由过程一些圆里只管制止,固然我也提交了一个BUG,以下:
https://bugs.mysql.com/bug.php?id=104576
没有明白能否有法子建复那个标题问题,好比关于分区表来说实践上每一个分区的字段皆是一样的,能否须要每次皆重建
  1. mysql_row_templ_t.clust_rec_field_no
复造代码
?假如没必要要那末标题问题自解,民圆如今已经验证了那个标题问题的确存正在。以下是一些制止的方法,

         
  • 分区表字段没有宜过量     
  • 会见的字段不该该一味的利用select *     
  • 制止利用hash分区,hash分区会增加这类标题问题
到此那篇闭于讲诉MySQL分区表的一本性能BUG的文章便引见到那了,更多相干MySQL分区表的一本性能BUG内乱容请搜索剧本之家畴前的文章或持续阅读上面的相干文章祈望各人当前多多撑持剧本之家!
                                                         
       以上所述是云社区专客手艺小编经心给各人收拾整顿的本常识相干引见;期望对亲们进修事情提拔有所协助。                                     若有任何疑问、相干分享交换等,可正在本文章底部留行或批评; 欢送IT手艺妙手亦或菜鸟们各持己见、万马齐喑,让云社区成为IT手艺更好的交换进修仄台;   正在此更万分感激各人对云社区专客网站的撑持!                                                                                                                                                                                                                                                                                            
滥觞:云社区转戴;            免责声明:假如进犯了您的权益,请联络站少,我们会实时删除侵权内乱容,感谢协作!
回复

使用道具 举报

没找到任何评论,期待你打破沉寂

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

香港云服务器免费试用