php从mysql读取超过200W行的表
需要从一个大表,如user表中读取所有user数据再做整理并導出csv。如果使用框架會報內存不足,因為很多php框架會將數據庫數據放入臨時變量。
PHP Fatal error: Allowed memory size of xxxxxx bytes .....
解决办法:
1 可以用mysql_unbuffered_query 这个api不使用客户端缓存,这样就不存在php内存分配的问题。再使用mysql_fetch_assoc 逐行獲取數據
2 根据userID批量处理,分批导出多个csv文件。
3 使用臨時表保存數據,再從臨時表導出csv。
結合第1和第3點處理,原本6個小時才能生成的數據,優化後不到10分鐘導入到臨時表,很快就導出到csv了。
参考:https://www.oschina.net/question/251494_127915?sort=default&p=1#answers
PHP Fatal error: Allowed memory size of xxxxxx bytes .....
解决办法:
1 可以用mysql_unbuffered_query 这个api不使用客户端缓存,这样就不存在php内存分配的问题。再使用mysql_fetch_assoc 逐行獲取數據
2 根据userID批量处理,分批导出多个csv文件。
3 使用臨時表保存數據,再從臨時表導出csv。
結合第1和第3點處理,原本6個小時才能生成的數據,優化後不到10分鐘導入到臨時表,很快就導出到csv了。
参考:https://www.oschina.net/question/251494_127915?sort=default&p=1#answers
声明:该文观点仅代表作者本人,入门客AI创业平台信息发布平台仅提供信息存储空间服务,如有疑问请联系rumenke@qq.com。
- 上一篇: thinkphp getField的使用
- 下一篇:没有了