php mysql 海量数据存储_PHP+MySQL实现海量数据导入导出的总结-程序员宅基地
技术标签： php mysql 海量数据存储
前段时间有个需求：将生产环境的部分数据转移到测试服务器进行测试。由于只需要导入特定账号的数据，我就想着将写个脚本，将数据组装成sql语句导出为sql文件，然后转移到测试服务器，导入到MySQL中。想象是美好的，过程是痛苦的，下面总结下几点。
PHP脚本的处理
1、脚本的思路就是：查询特定账号数据，组装拼接成sql文本数据。这里要注意，对查询的值要进行过滤处理，因为有些字段是包含一些非法字符，比如：’(单引号)，”(双引号)，`(键盘左上角第二个)，这些符号在拼接sql语句时，会因为找不到闭合的另一端，让值变了，导致sql语句拼接有问题，所以这部分字符要替换掉，我是用str_replace()函数将这些符号置为空。
2、我是使用is_numeri函数判断值是否是数字类型结构，是的话就加""(双引号)，但是is_numeri有个问题，遇到有些数值有e字母的，它也是返回true,
实锤了这样是有问题的，因为这样值没加""是不能insert到MySQL中的。
后来我同时加上is_float(),is_string()函数同时来判断这个值是否需要加入双引号。
3、由于导出的数据量比较多，我是分了4个PHP进程来跑，一个进程跑一万个用户数据，这样能够节省很多时间。但是要注意的是，存储的sql文本也是需要进行区分的，因为多个进程同时写一个文本文件可能会出现数据丢失(我是后面才发现，花了好多时间补回去数据)。
4、使用tar -xcvf 命令对sql文件进行压缩打包，一个7G的文件，可以压缩到700多M，压缩效果还是不错的。PHP视频教程
导入数据到MySQL
1、由于数据量比较大，我也是分了几个进程跑数据。使用的是MySQL source 命令来导入这些大的sql文件mysql>source D:/www/sql/data.sql;
sql文件里面包含了use 数据库，这里就不需要use 数据库了。
通过source命令导入多个文件，可以新建一个sou.sql文件，里面存放下面的命令
例如：source c:/1.sql;
source c:/2.sql;
这样就可以在一个source命令里面导入多个sql文件了。
期间也有一些问题：
出现：
mysql Got a packet bigger than 'max_allowed_packet' bytes
查了下，是因为单表数据量较大，大体定位到mysql会对单表数据量较大的SQL做限制
解决：
更改max_allowed_packet包大小
方案一，临时修改：输入命令 set global max_allowed_packet = 大小; (注意，这里的大小只能填写字节。重启mysql服务后，配置将会失效！)
方案二，修改my.ini文件，在[mysqld]部分加入 max_allowed_packet=大小
2、由于source命令这种方式不能记录定位记录到错误信息，所以后来我改用了linux shell方式导入
如下：sql.sh#!/bin/bash
p="d:backup/sql.sql" //绝对路径
User='abc'
Password='123'
mysql -u $User -p$Password -e "source $f" 2>err1.txt;//输出错误到文件中，方便后面查询
echo 'OK!'
这样导入，可以找到一些错误的提示，方便后面解决问题。 mysql视频教程
智能推荐
http隧道 java_使用java语言实现http隧道技术-程序员宅基地
文章浏览阅读119次。该楼层疑似违规已被系统折叠隐藏此楼查看此楼/***Getaparametervalue**@paramkeyString*@paramdefString*@returnString*/publicStringgetParameter(Stringkey,Stringdef){returnisStandalone?System.getProperty(ke..._java http隧道
Keepalived高可用+邮件告警_keepalived sendmail-程序员宅基地
文章浏览阅读913次。IP主机名备注192.168.117.14keepalived-master主节点192.168.117.15keepalived-slaver备节点192.168.117.100VIP1.主备节点均安装keepalived# yum install -y keepalived httpd2.主备节点均修改keepalived日志存放路径..._keepalived sendmail
SPFILE 错误导致数据库无法启动(ORA-01565)_ora01565 ora27046-程序员宅基地
文章浏览阅读469次。--==========================================--SPFILE错误导致数据库无法启动(ORA-01565)--========================================== SPFILE错误导致数据库无法启动 SQL> startup ORA-01078: failurein proce_ora01565 ora27046
功能测试基础知识（1）-程序员宅基地
文章浏览阅读6.1k次，点赞2次，收藏54次。功能测试基础知识总结_功能测试
postgresql 中文排序_pg中文排序-程序员宅基地
文章浏览阅读3.2k次，点赞3次，收藏2次。pg 中文首字母排序_pg中文排序
[Mysql] CONVERT函数_mysql convert-程序员宅基地
文章浏览阅读3.1w次，点赞23次，收藏109次。本文主要讲解CONVERT函数_mysql convert
随便推点
HTML5与微信开发（2）-视频播放事件及API属性_微信开发者工具视频快进-程序员宅基地
文章浏览阅读8.6k次，点赞2次，收藏2次。HTML5 的视频播放事件想必大家已经期待很久了吧，在HTML4.1、4.0之前我们如果在网页上播放视频无外乎两种方法： 第一种：安装FLASH插件或者微软发布的插件 第二种：在本地安装播放器，在线播放组件之类的 因为并不是所有的浏览器都安装了FLASH插件，就算安装也不一定所有的都能安装成功。像苹果系统就是默认禁用FLASH的，安卓虽然一开始的时候支持FLASH，但是在安卓4.0以后也开始不_微信开发者工具视频快进
JedisConnectionException Connection Reset_jedisconnectionexception: java.net.socketexception-程序员宅基地
文章浏览阅读5.4k次，点赞3次，收藏4次。在使用redis的过程常见错误总结1.JedisConnectionException Connection Reset参考这边文章：Connection reset原因分析和解决方案https://blog.csdn.net/cwclw/article/details/527971311.1问题描述Exception in thread "main" redis.clients...._jedisconnectionexception: java.net.socketexception: connection reset
Lua5.3版GC机制理解_lua5.3 gc-程序员宅基地
文章浏览阅读8.3k次，点赞8次，收藏42次。目录1.Lua垃圾回收算法原理简述2.Lua垃圾回收中的三种颜色3.Lua垃圾回收详细过程4.步骤源码详解4.1新建对象阶段4.2触发条件4.3 GC函数状态机4.4标记阶段4.5清除阶段5.总结参考资料lua垃圾回收(Garbage Collect)是lua中一个比较重要的部分。由于lua源码版本变迁，目前大多数有关这个方面的文章都还是基于lua5.1版本，有一定的滞后性。因此本文通过参考当前..._lua5.3 gc
手机能打开的表白代码_能远程打开，各种手机电脑进行监控操作，最新黑科技...-程序员宅基地
文章浏览阅读511次。最近家中的潮人，老妈闲着没事干，开始学玩电脑，引起他的各种好奇心。如看看新闻，上上微信或做做其他的事情。但意料之中的是电脑上会莫名出现各种问题？不翼而飞的图标？照片又不见了？文件被删了，卡机或者黑屏，无声音了，等等问题。常常让她束手无策，求助于我，可惜在电话中说不清，往往只能苦等我回家后才能解决，那种开心乐趣一下子消失了。想想，这样也不是办法啊， 于是，我潜心寻找了两款优秀的远程控制软件。两款软件...
成功Ubuntu18.04 ROS melodic安装Cartograhper+Ceres1.13.0，以及错误总结_ros18.04 安装ca-程序员宅基地
文章浏览阅读1.8k次。二.初始化工作空间三.设置下载地址四.下载功能包此处可能会报错，请看：rosdep update遇到ERROR: error loading sources list: The read operation timed out问题_DD᭄ꦿng的博客-程序员宅基地接下来一次安装所有功能包，注意对应ROS版本 五.编译功能包isolated：单独编译各个功能包，每个功能包之间不产生依赖。编译过程时间比较长，可能需要几分钟时间。此处可能会报错：缺少absl依赖包_ros18.04 安装ca
Harbor2.2.1配置（trivy扫描器、镜像签名）_init error: db error: failed to download vulnerabi-程序员宅基地
文章浏览阅读4.1k次，点赞3次，收藏7次。Haobor2.2.1配置（trivy扫描器、镜像签名）docker-compose下载https://github.com/docker/compose/releases安装cp docker-compose /usr/local/binchmod +x /usr/local/bin/docker-composeharbor下载https://github.com/goharbor/harbor/releases解压tar xf xxx.tgx配置harbor根下建立:mkd_init error: db error: failed to download vulnerability db: database download