(转)PHP查询MySQL大量数据的内存占用分析

光明使者

1. 这篇文章主要是从原理, 手册和源码分析在PHP中查询MySQL返回大量结果时, 内存占用的问题, 同时对使用MySQL C API也有涉及.
   
2. 　　昨天, 有同事在PHP讨论群里提到, 他做的一个项目由于MySQL查询返回的结果太多(达10万条), 从而导致PHP内存不够用. 所以, 他问,  在执行下面的代码遍历返回的MySQL结果之前, 数据是否已经在内存中了? -
   
3.    
   
4. 
   
5. 
   
6.              　　while ($row = mysql_fetch_assoc($result)) {
   
7.               　　// ...
   
8.                            　　}
   
9.               
   
10.               
    
11. 
    
12. 
    
13. 　　当然, 这种问题有许多优化的方法. 不过, 就这个问题来讲, 我首先想到, MySQL是经典的C/S(Client/Server,  客户端/服务器)模型, 在遍历结果集之前, 底层的实现可能已经把所有的数据通过网络(假设使用TCP/IP)读到了Client的缓冲区, 也有另一种可能,  就是数据还在Server端的发送缓冲区里, 并没有传给Client.
    
14. 　　在查看PHP和MySQL的源码之前, 我注意到PHP手册里有两个功能相近的函数:
    
15.    
    
16. 
    
17. 
    
18.              　　mysql_query()
    
19.                            　　mysql_unbuffered_query()
    
20.               
    
21.               
    
22. 
    
23. 
    
24. 　　两个函数的字面意思和说明证实了我的想法, 前一个函数执行时, 会把所有的结果集从Server端读到Client端的缓冲区中, 而后一个则没有,  这就是"unbuffered(未缓冲)"的意思.
    
25. 　　那就是说, 如果用mysql_unbuffered_query()执行了一条返回大量结果集的SQL语句, 在遍历结果之前,  PHP的内存是没有被结果集占用的. 而用mysql_query()来执行同样的语句的话, 函数返回时, PHP的内存占用便会急剧增加, 立即耗光内存.
    
26. 　　如果阅读PHP的相关代码, 可以看到这两个函数的实现上的异同:
    
27.    
    
28. 
    
29. 
    
30.              　　/* {{{ proto resource mysql_query(string query [, int link_identifier])
    
31.               　　Sends an SQL query to MySQL */
    
32.               　　PHP_FUNCTION(mysql_query)
    
33.               　　{
    
34.               　　php_mysql_do_query(INTERNAL_FUNCTION_PARAM_PASSTHRU, MYSQL_STORE_RESULT);
    
35.               　　}
    
36.               　　/* }}} */
    
37.               　　/* {{{ proto resource mysql_unbuffered_query(string query [, int link_identifier])
    
38.               　　Sends an SQL query to MySQL, without fetching and buffering the result rows */
    
39.               　　PHP_FUNCTION(mysql_unbuffered_query)
    
40.               　　{
    
41.               　　php_mysql_do_query(INTERNAL_FUNCTION_PARAM_PASSTHRU, MYSQL_USE_RESULT);
    
42.               　　}
    
43.                            　　/* }}} */
    
44.               
    
45.               
    
46. 
    
47. 
    
48. 　　两个函数都调用了php_mysql_do_query(), 只差了第2个参数的不同,  MYSQL_STORE_RESULT和MYSQL_USE_RESULT. 再看php_mysql_do_query()的实现:
    
49.    
    
50. 
    
51. 
    
52.              　　if(use_store == MYSQL_USE_RESULT) {
    
53.               　　mysql_result=mysql_use_result(&mysql->conn);
    
54.               　　} else {
    
55.               　　mysql_result=mysql_store_result(&mysql->conn);
    
56.                            　　}
    
57.               
    
58.               
    
59. 
    
60. 
    
61. 　　mysql_use_result()和mysql_store_result()是MySQL的C API函数, 这两个C  API函数的区别就是后者把结果集从MySQL Server端全部读取到了Client端, 前者只是读取了结果集的元信息.
    
62. 　　回到PHP, 使用mysql_unbuffered_query(), 可以避免内存的立即占用.  如果在遍历的过程不对结果进行"PHP缓存"(如放到某数组中), 则整个执行过程虽然操作了十万条或者百万条或者更多的数据,  但PHP占用的内存始终是非常小的.

复制代码