当前位置: 首页 > 面试题库 >

MYSQL巨大的SQL文件插入| MyISAM插入速度突然变慢(奇怪的问题)

赵征
2023-03-14
问题内容

我面临一个非常奇怪的问题,我在这里问过有关加快MYSql插入速度的问题尤其是有关插入多个GB大小的巨大SQL文件的问题。他们建议我使用MyISAM引擎。我做了以下事情:

  • ALTER TABLE revision ENGINE=MyISAM;
  • 使用ALTER TABLE .. DISABLE KEYS
  • (仅限MyISAM)设置bulk_insert_buffer_size为500M。
  • (仅限MyISAM)设置unique_checks = 0。没有检查。
  • SET autocommit=0; ... SQL import statements ... COMMIT;
  • SET foreign_key_checks=0;

它将过程加快到5分钟,之前花费了2个小时,给我留下了深刻的印象。但是现在当我在其他表上尝试相同的操作时,则无法加快速度,并且 又要花费几个小时
:(…

最初获得成功时,我的 CPU使用率约为90% ,插入仅用了5分钟,但是现在按照相同的程序,我的 CPU使用率 最大 约为5%
。它表明有问题。

我还通过以下方法验证了我的表引擎是MyISAM:

SHOW TABLE STATUS WHERE Name = 'xxx';

注意:我使用的是Wikipedia数据库架构,我
从Wikipedia数据集中获得了Categorylinks表的成功。我在修订版,页面和文本表上没有成功(非常慢的插入速度)。

请帮助我解决这个奇怪的问题。


问题答案:

问题的背后,我还没有找到理想的原因。但是,当我深入研究时,我发现它通常与具有丰富关系的表相比,性能低。尽管我已禁用了这些键。.但是我仍然相信以下设置最适合插入大文件,因为以下设置在多数表上具有最佳性能:

 - ALTER TABLE revision ENGINE=MyISAM;
 - Use ALTER TABLE .. DISABLE KEYS .
 - (MyISAM only) Set bulk_insert_buffer_size to 500M.
 - (MyISAM only) Set unique_checks = 0 . not checked. 
 - SET autocommit=0; ... SQL import
 - statements ... COMMIT;
 - SET foreign_key_checks=0;

有关性能调整的其他调整如下:请参阅完整的my.cnf文件。

#
# The MySQL database server configuration file.
#
# You can copy this to one of:
# - "/etc/mysql/my.cnf" to set global options,
# - "~/.my.cnf" to set user-specific options.
# 
# One can use all long options that the program supports.
# Run program with --help to get a list of available options and with
# --print-defaults to see which it would actually understand and use.
#
# For explanations see
# http://dev.mysql.com/doc/mysql/en/server-system-variables.html

# This will be passed to all mysql clients
# It has been reported that passwords should be enclosed with ticks/quotes
# escpecially if they contain "#" chars...
# Remember to edit /etc/mysql/debian.cnf when changing the socket location.
[client]
port        = 3306
socket      = /var/run/mysqld/mysqld.sock

# Here is entries for some specific programs
# The following values assume you have at least 32M ram

# This was formally known as [safe_mysqld]. Both versions are currently parsed.
[mysqld_safe]
socket      = /var/run/mysqld/mysqld.sock
nice        = 0

[mysqld]
#
# * Basic Settings
#
user        = mysql
pid-file    = /var/run/mysqld/mysqld.pid
socket      = /var/run/mysqld/mysqld.sock
port        = 3306
basedir     = /usr
datadir     = /var/lib/mysql
tmpdir      = /tmp
bulk_insert_buffer_size = 1G
lc-messages-dir = /usr/share/mysql
skip-grant-tables
skip-networking
skip-external-locking
init_connect='SET autocommit=0'
innodb_buffer_pool_size = 1G
innodb_flush_log_at_trx_commit = 0
max_allowed_packet = 500M
table_open_cache = 512
max_connections=100

query_cache_size=32M

table_cache=512

tmp_table_size=64M

thread_cache_size=8

myisam_max_sort_file_size=100G

myisam_sort_buffer_size=256M

key_buffer_size=512M
#
# Instead of skip-networking the default is now to listen only on
# localhost which is more compatible and is not less secure.
bind-address        = 127.0.0.1
#
# * Fine Tuning
#
key_buffer      = 16M
max_allowed_packet  = 16M
thread_stack        = 192K
thread_cache_size       = 8
# This replaces the startup script and checks MyISAM tables if needed
# the first time they are touched
myisam-recover         = BACKUP
#max_connections        = 100
#table_cache            = 64
#thread_concurrency     = 10
#
# * Query Cache Configuration
#
query_cache_limit   = 1M
query_cache_size        = 16M
#
# * Logging and Replication
#
# Both location gets rotated by the cronjob.
# Be aware that this log type is a performance killer.
# As of 5.1 you can enable the log at runtime!
#general_log_file        = /var/log/mysql/mysql.log
general_log=0
#
# Error log - should be very few entries.
#
log_error = /var/log/mysql/error.log
#
# Here you can see queries with especially long duration
#log_slow_queries   = /var/log/mysql/mysql-slow.log
#long_query_time = 2
#log-queries-not-using-indexes
#
# The following can be used as easy to replay backup logs or for replication.
# note: if you are setting up a replication slave, see README.Debian about
#       other settings you may need to change.
#server-id      = 1
#log_bin            = /var/log/mysql/mysql-bin.log
expire_logs_days    = 10
max_binlog_size         = 1G
#binlog_do_db       = include_database_name
#binlog_ignore_db   = include_database_name
#
# * InnoDB
#
# InnoDB is enabled by default with a 10MB datafile in /var/lib/mysql/.
# Read the manual for more InnoDB related options. There are many!
#
# * Security Features
#
# Read the manual, too, if you want chroot!
# chroot = /var/lib/mysql/
#
# For generating SSL certificates I recommend the OpenSSL GUI "tinyca".
#
# ssl-ca=/etc/mysql/cacert.pem
# ssl-cert=/etc/mysql/server-cert.pem
# ssl-key=/etc/mysql/server-key.pem



[mysqldump]
quick
quote-names
max_allowed_packet  = 16M

[mysql]
#no-auto-rehash # faster start of mysql but no tab completition

[isamchk]
key_buffer      = 16M

#
# * IMPORTANT: Additional settings that can override those from this file!
#   The files must end with '.cnf', otherwise they'll be ignored.
#
!includedir /etc/mysql/conf.d/

因此,总体上建议使用这些设置,您将获得可观的性能优势。



 类似资料:
  • 问题内容: 我有以下InnoDB表: 使用这些键: 我只是注意到有时我在此表上有一个INSERT查询,耗时超过1秒 我真的很困惑,为什么要花这么长时间。我如何加快速度? 顺便说一句:这样每天大约有80个缓慢的插入和40个缓慢的更新。 问题答案: 有时,不是查询本身会导致速度降低- 在表上运行的另一个查询可能会由于事务隔离和锁定而很容易导致插入速度降低。您的慢查询可能只是在等待其他事务完成。这在繁忙

  • 问题内容: 我有一段代码创建一个新表,然后尝试将记录集值复制到表中。唯一的问题是它运行速度很慢,并且在执行下面的插入部分时访问会显示加载符号。当前,此问题正在插入500条记录,但是当我获得最终数据集时,我将需要插入大约10,000到20,000。 我想知道的是,有什么办法可以加快速度吗?还是有更好的方法?(我想做的是在运行时从RecordSet中创建具有唯一字段集的表,并为每个Record添加一个

  • 问题内容: 我正在尝试通过使用JAP和HIBERNATE向SQL Server 2008 R2插入一些数据。一切都“正常”,除了它非常慢。要插入20000行,大约需要45秒,而C#脚本大约需要不到1秒。 这个领域的任何资深人士都可以提供帮助吗?我会很感激。 更新:从下面的答案中得到了一些很好的建议,但仍然无法按预期工作。速度是一样的。 这是更新的persistence.xml: 这是更新的代码部分

  • 问题内容: 我正在尝试通过使用JAP和HIBERNATE向SQL Server 2008 R2插入一些数据。一切都“正常”,除了它非常慢。要插入20000行,大约需要45秒,而C#脚本大约需要不到1秒。 这个领域的任何资深人士都可以提供帮助吗?我会很感激。 更新:从下面的答案中得到了一些很好的建议,但仍然无法按预期工作。速度是一样的。 这是更新的persistence.xml: 这是更新的代码部分

  • 问题内容: 我通过My​​SQL控制台导入SQL的速度相当慢,并且随着我们的SQL文件每天都在增加,我想知道是否有其他方法可以更快地导入SQL文件。 不能选择改用Oracle或其他系统,配置必须保持不变。 当前,SQL文件为:1.5 GB。我在WAMP与Apache 2.2.14,PHP 5.2.11和MySQL 5.1.41。 也许问题就在这里,导入是通过简单的方式完成的: 有什么建议? 问题答

  • 问题内容: @Entity public class Person { 给定以下类结构,当我尝试将新位置添加到“人的位置”列表中时,它总是导致以下SQL查询: 和 Hibernate(3.5.x / JPA 2)删除给定Person的所有关联记录,然后重新插入所有以前的记录以及新的记录。 我有一个想法,即Location上的equals / hashcode方法可以解决此问题,但是它没有任何改变。