2025年mysql导入sql文件过大自动断开(mysql导入文件太大)

mysql导入sql文件过大自动断开(mysql导入文件太大)p id main toc strong 目录 strong p 1 插入数据 1 1 insert 优化 1 2 大批量插入数据 2 主键优化 2 1 数据组织方式 2 2 页分裂 2 3 页合并 2 4 主键优化原则 3 order by 优化 4 group by 优化 5 limit 优化 6

大家好,我是讯享网,很高兴认识大家。



 <p id="main-toc"><strong>目录</strong></p> 

讯享网

1 插入数据

1.1 insert 优化

1.2 大批量插入数据

2 主键优化

2.1 数据组织方式

2.2 页分裂

 2.3 页合并

2.4 主键优化原则

3 order by 优化

4 group by 优化

5 limit 优化

6 count 优化

6.1 不同引擎的count

6.2 count的几种用法

7 update 优化


  • 批量插入(500~1000条较为合适)
  • 手动提交事务
  • 主键顺序插入

        如果一次性需要插入大批量数据,使用insert语句插入性能较低,此时可以使用MySQL数据库提供的 load 指令进行插入,操作如下:

讯享网

        在InnoDB存储引擎中,表数据都是根据主键顺序组织存放的,这种存储方式的表称为索引组织表(index organized table, IOT)

        页可以为空,也可以填充一半,也可以填充100%。每页包含了 2-N 行数据(如果一行数据过大,会行溢出),根据主键排列

  • 主键顺序插入

讯享网
主键顺序插入-1
主键顺序插入-2
主键顺序插入-3

  • 主键乱序插入
主键乱序插入-1
主键乱序插入-2
主键乱序插入-3
主键乱序插入-4

        当删除一行记录时,实际上记录并没有被物理删除,只是记录被标记(flaged)为删除并且它的空间变得允许被其他记录声明使用

        当页中删除的记录达到 MERGE_THRESHOLD(默认为页的50%),InnoDB会开始寻找最靠近的页(前或后)看看是否可以将两个页合并以优化空间使用

  • MERGE_THRESHOLD:合并页的阈值,可以自己设置,在创建表或者创建索引时指定

  • 满足业务需求的情况下,尽量降低主键的长度【如果二级索引比较多,将会占用大量的磁盘空间,搜索时会耗费大量磁盘io】
  • 插入数据时,尽量选择顺序插入,选择使用AUTO_INCREMENT自增主键【避免页分裂】
  • 尽量不要使用UUID做主键或者是其他自然主键,如身份证号
  • 业务操作时,避免对主键的修改

【在explain文件的extra字段中查看】

  1. Using filesort:通过表的索引或全表扫描,读取满足条件的数据行,然后再排序缓冲区sort buffer中完成排序操作,所有不是通过索引直接返回排序结果的排序都叫 FileSort 排序【性能低】
  2. Using index:通过有序索引顺序扫描直接返回有序数据,这种情况即为 using index,不需要额外排序,操作效率高【性能高】

(使用desc降序排列,explain文件的extra字段会出现 Backward index scan,即反向扫描索引)

  • 根据排序字段建立合适的索引,多字段排序时,也遵循最左前缀法则
  • 尽量使用覆盖索引
  • 多字段排序,一个升序一个降序,此时需要注意联合索引在创建时的规则(ASC/DESC)
  • 如果不可避免的出现 filesort,大数据量排序时,可以适当增大排序缓冲区大小  sort_buffer_size(默认256k)

  • 在分组操作时,可以通过索引来提高效率;
  • 在分组操作时,索引的使用也满足最左前缀法则

未使用索引时,explain的extra字段会显示:using temporarty 使用临时表

优化思路:

        一般分页查询时,通过创建覆盖索引能够比较好地提高性能,可以通过覆盖索引加子查询的形式进行优化

 

6.1 不同引擎的count

讯享网
  • MyISAM引擎把一个表的总行数存在了磁盘上,因此执行count()的时候会直接返回这个数,效率很高;
  • InnoDB引擎在执行count()时,需要把数据一行一行地从引擎中读出来,然后累计计数。

优化思路:自己计数

6.2 count的几种用法

    count()是一个聚合函数,对于返回的结果集,一行一行地判断,如果count函数的参数不是NULL,累计值就加1,否则不加,最后返回累计值【聚合函数忽略NULL值

    用法:count()、count(主键)、count(字段)、count(1)

  • count(主键)
    • InnoDB引擎会遍历整张表,把每一行的主键id值都取出来,返回给服务层。服务层拿到主键后,直接按行进行累加(主键不可能为null)
  • count(字段)
    • 没有not null约束:InnoDB引擎会遍历整张表把每一行的字段值都取出来,返回给服务层,服务层判断是否为null,不为null,技术累加;
    • 有not null约束:InnoDB引擎会遍历整张表把每一行的字段值都取出来,返回给服务层,直接按行进行累加。
  • count(1)
    • InnoDB引擎遍历整张表,但不取值。服务层对于返回的每一行,放一个数字“1”进去,直接按行进行累加。
  • count()
    • InnoDB引擎并不会把全部字段取出来,而且专门做了优化,不取值,服务层直接按行进行累加。

按效率排序:count(字段) &lt; count(主键) &lt; count(1) ≈ count(),所以尽量使用count()!

InnoDB的行锁是针对索引加的锁,不是针对记录加的锁,并且该索引不能失效,否则会从行锁升级为表锁,并发性能将会降低。

小讯
上一篇 2025-04-21 20:13
下一篇 2025-06-09 09:42

相关推荐

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容,请联系我们,一经查实,本站将立刻删除。
如需转载请保留出处:https://51itzy.com/kjqy/187381.html