PHP教程:使用php快速导出百万级数据到CSV或者EXCEL文件

很多时候,因为数据统计,我们需要将数据库的数据导出到Excel等文件中,以供数据人员进行查看,如果数据集不大,其实很容易;但是如果对于大数集的导出,将要考虑各种性能的问题,这里以导出数据库一百万条数据为例,导出时间不过20秒,值的学习的一种大数据导出方式。

一、导出思路

需要考虑服务器内存

需要考虑程序运行的最大时间

缺少BOM头导致乱码的处理

如果导出数量过大,推荐使用循环导出,每次循环这里以导出一万条为例,循环100次即可全部导出

PHP教程:使用php快速导出百万级数据到CSV或者EXCEL文件 - 第1张 - 菜鸟建站

二、导出源码

下面源码将数据库信息修改成自己的即可使用

亲测导出一百万条数据,3个字段,不过20秒

如果服务器硬件不支持一次读取一万条数据,可将循环次数提高,导出数量降低

源码使用了PDO扩展你可以通过 PHP 的 phpinfo() 函数来查看是否安装了PDO扩展。

什么是POD?

PHP 数据对象 (PDO) 扩展为PHP访问数据库定义了一个轻量级的一致接口。

PDO 提供了一个数据访问抽象层,这意味着,不管使用哪种数据库,都可以用相同的函数(方法)来查询和获取数据。

PDO随PHP5.1发行,在PHP5.0的PECL扩展中也可以使用,无法运行于之前的PHP版本。

PDO安装

在Unix上或Linux上你需要添加以下扩展:

extension=pdo.so

WIN用户

PDO 和所有主要的驱动作为共享扩展随 PHP 一起发布,要激活它们只需简单地编辑 php.ini 文件,并添加以下扩展:

extension=php_pdo.dll

除此之外还有以下对应的各种数据库扩展:

;extension=php_pdo_firebird.dll;
extension=php_pdo_informix.dll;
extension=php_pdo_mssql.dll;
extension=php_pdo_mysql.dll;
extension=php_pdo_oci.dll;
extension=php_pdo_oci8.dll;
extension=php_pdo_odbc.dll;
extension=php_pdo_pgsql.dll;
extension=php_pdo_sqlite.dll

在设定好这些配置后,我们需要重启PHP 或 Web服务器。

接下来我们们来看下具体的实例:

<?php
  //让程序一直运行
  set_time_limit(0);
  //设置程序运行内存
  ini_set('memory_limit', '128M');
 
  $fileName = '测试导出数据';
  header('Content-Encoding: UTF-8');
  header("Content-type:application/vnd.ms-excel;charset=UTF-8");
  header('Content-Disposition: attachment;filename="' . $fileName . '.csv"');
  
  //打开php标准输出流
  $fp = fopen('php://output', 'a');
 
  //添加BOM头,以UTF8编码导出CSV文件,如果文件头未添加BOM头,打开会出现乱码。
  fwrite($fp, chr(0xEF).chr(0xBB).chr(0xBF));
  //添加导出标题
  fputcsv($fp, ['姓名', '年龄', '地区']);
  
  //链接数据库
  $dsn = "mysql:host=127.0.0.1;port=3306;dbname=db_www;charset=utf8";
  $pdo = new PDO($dsn, 'root', '');
 
  $step = 100; //循环次数
  $nums = 10000; //每次导出数量
 
  for($i = 0; $i < $step; $i++) {
    $start = $i * 10000;
    $sql = "SELECT uname,age,city FROM `hd_test` ORDER BY `id` LIMIT {$start},{$nums}";
    $pdostatement = $pdo->query($sql);
    $result = $pdostatement->fetchAll(PDO::FETCH_ASSOC);
    foreach ($result as $item) {
      fputcsv($fp, $item);
    }
    //每1万条数据就刷新缓冲区
    ob_flush();
    flush();
  }

三、快速生成百万条测试数据

这里推荐数据库的蠕虫复制命令
先建好表后,插2条测试数据后,执行几次下列命令,即可指数增长

INSERT INTO hd_test (uname,age,city) SELECT uname,age,city FROM hd_test;

到此本篇关于关于PHP快速导出百万级数据到CSV或者EXCEL文件的文章结束,希望大家以后多多支持菜鸟建站!

猜你喜欢

php教程:mkdir()、unlink()、rmdir()等实例方法的使用示例

php教程:mkdir()、unlink()、rmdir()等实例方法的使用示例

mkdir()语法:bool mkdir(字符串目录,诠释权限)dirThe新directory.permissionsOctal数指定为新的directory.Creates一个新的目录的权限.mkdir()创建一个具有指定权限的目录,权限是,作为文件模式()和fileperms()相同的形式,在成功返回真,如果发生错误,则返回FALSE.phpmkdir...

php支持多线程吗?为什么php多线程没人用?

php支持多线程吗?为什么php多线程没人用?

php的多线程,对于phper是一个较冷门的知识。相信很多工作了很多年的程序员,没用过php多线程的大有人在。所以可以认为php是单线程。什么是多线程?线程(thread) 是操作系统能够进行运算调度的最小单位。它被包含在进程之中,是进程中的实际运作单位。一条线程指的是进程中一个单一顺序的控制流,一个进程中可以并发多个线程,每条线程并行执行不同的任务.使用多...

发表评论