当前位置: 首页 > 编程笔记 >

php+ajax导入大数据时产生的问题处理

夏侯瑞
2023-03-14
本文向大家介绍php+ajax导入大数据时产生的问题处理,包括了php+ajax导入大数据时产生的问题处理的使用技巧和注意事项,需要的朋友参考一下

遇到的问题就从先到后的一一说吧。

问题1 按照我最初的想法,先上传文件再读取文件。这里问题就来了,当文件较大的时候上传较慢,导致客户看到的操作一直处于等待状态,不人性化。

处理办法:我是这样做的,大神有更好的办法,求介绍。我先把文件上传上去,然后把文件存到一个特定的文件夹就叫 import吧   ,然后返回一个这个文件名字。这样就确保了文件是上传成功的。并且我可以在他返回名字的这一步用js  给客户一个提示。然后就是ajax去请求php读取文件,插入数据库。可是问题来了。

问题2 当我用ajax去请求php读取文件并插入数据库的时候,遇到一个问题,就是ajax请求总是在1min的时候,断掉。我一想 ,这应该是php的最大执行时间max_execution_time的原因吧,结果我修改为300秒。还是这样,那我就认为会不会是apache的 最大get时间max_input_time呢,我就在代码加一个 ini_set  结果,用ini_get   查看max_input_time,用ini_set设置无效,还是60秒,在网上查了很多资料,还是不知道为啥。有大神知道的,请给我回复下。菜鸟先谢过了。那没办法,我只能去服务器把php.ini配置修改了。经理说不让修改的,为了测试,偷偷改了--最后修改回来了。修改之后,测试,还是不行。还是到一分钟 就执行超时。真的很纳闷。不知道什么原因。求指教。那没办法。

这种办法行不通了,对一个5m的文件只能分行读取了。然后就是对代码的一通修改,分行读取是这样操作的,先ajax请求,然后每次读取2000条  然后对这2000条数据进行处理,插入数据库(文章最后介绍一个好用的分行读取函数)。然后每次ajax执行完,返回一个状态符,和本次读取到的行数,然后下次接着读。知道最后读取完。这中间还遇到一个问题:就是当我对每一行数据进行查重的时候遇到的,是这样的,我对得到的内容进行循环,然后查一下每行是否存在,当我判断$count是否大于0 的时候,当已存在的时候,我用continue,执行下一次循环。但是当我在导入10000条的时候,总是在8000条的时候报错说 服务器内部错误。很闷,不解问什么,结果只能用if  else代替了。纳闷。一个小提醒:插入数据库的时候 不要一条一条的插入,最好这样 inset  into  aaa(`xx`,`xxx`)values('111','111'),('222','222')。这样 速度会快很多。

行号读取函数,SplFileObject这个类库真的很好用推荐。有知道我的问题的,求大神指教。

function getFileLines($filename, $startLine, $endLine, $method = 'rb'){
      $content = array();
      $filename = DATA_PATH.DS.'import' . DS . $filename;
      $count = $endLine - $startLine;
      $fp = new SplFileObject($filename, $method);
      $fp->seek($startLine); // 转到第N行, seek方法参数从0开始计数
      for ($ii = 0; $ii <= $count; ++$ii) {
            $content[] = $fp->current(); // current()获取当前行内容
            $fp->next(); // 下一行
      }
      return array_filter($content); // array_filter过滤:false,null,''
}

 类似资料:
  • 我正在对多个表使用预加载数据库,所有表中的表中都已存在数据。我的错误logcat显示“没有这样的表:cake(代码1 SQLITE_错误):,编译时:select*from cake at”,但实际上表及其数据已经存在。 我也检查了复制的数据库在电话,它在那里,但在代码中显示上面的错误。 如何解决这个问题?? 注意:此错误仅在谷歌像素手机中发生。。 AndroidRuntime:致命异常:主进程:

  • 问题内容: 在我的代码中,用户可以上传一个excel文档,希望其中包含电话联系人列表。作为开发人员,我应阅读excel文件,将其转换为dataTable并将其插入数据库。问题是某些客户拥有大量的联系人,例如说5000个和更多的联系人,而当我尝试将这种数据量插入数据库时​​,它崩溃了,并给了我一个超时异常。避免这种异常的最佳方法是什么?它们的任何代码都可以减少insert语句的时间,从而使用户不必等

  • 我已将产品从一个prestashop 1.6导入另一个prestashop 1.7。访问backoffice时,产品和相关信息显示正确,但在前面(商店)不显示产品。 我一直在研究,在商店里看到的产品,我必须输入每个产品和“保存”,从后台保存产品后,产品已经显示在商店里。 有什么解决方案不必进入每个产品,保留每个产品?

  • 我正在尝试使用AJAX将页面中的大量数据传递给PHP脚本。这对于一些少量的数据来说很好,但是当有更多的数据时会出现以下错误。 我正在使用的JQuery是: 数据实际上是一个json数据字符串。 并在PHP中读取,只需使用: 我怎么能传递大量的数据链接这个,但仍然使用$_POST在PHP中引用它 我以为我需要用JSON做一些事情,但我可以弄清楚什么。 谢啦

  • 问题内容: 这是我的第一个要求,我已经阅读了与此问题相关的许多其他相关文章,但我仍然陷入困境,几乎无能为力…因此,非常感谢您的帮助! 我在Page1.php上具有以下Highcharts对象,并且正在使用AJAX在页面加载以及下拉选项更改时从Page2.php获取数据。 (为了便于阅读而被截断): Page2.php具有以下发送回json的信息: 我的json返回看起来像这样: 加载图表时,它会在

  • 问题内容: 我在过去的3个小时中一直在四处寻找并找到答案的这段代码遇到了问题。由于不成功,我将发布代码并询问我在Web服务上应具有哪种参数来处理此请求: 现在,我应该能够获得“ dataToSend”的哪种签名? 我试过了: 和 并且 问题答案: 尝试将数据作为字符串而不是对象传递,即: 这样做的原因是,如果您将一个对象指定为数据,那么jQuery将使用查询字符串格式对数据进行序列化,而服务器将直