Hibernate下数据批量处理解决方案

港控/mmm° 2021-11-01 14:31 335阅读 0赞

很多人都对Java在批量数据的处理方 面是否是其合适的场所持有怀疑的念头，由此延伸，那么就会认为ORM可能也不是特别适合数据的批量处理。 其实，我想如果我们应用得当的话，完全可以消除ORM批量处理性能问题这方面的顾虑。下面以Hibernate为例来做为说明，假如我们真的不得不在 Java中使用Hibernate来对数据进行批量处理的话。 向数据库插入100 000条数据，用Hibernate可能像这样：

<table> 
 <tbody> 
  <tr> 
   <td>Session session = sessionFactory.openSession(); <br>Transaction tx = session.beginTransaction(); <br>for ( int i=0; i&lt;100000; i++ ) { <br>Customer customer = new Customer(.....); <br>session.save(customer); } <br>tx.commit();<br>session.close(); </td> 
  </tr> 
 </tbody> 
</table>

大概在运行到第50 000条的时候，就会出现内存溢出而失败。这是Hibernate把最近插入的Customer都以session-level cache在内存做缓存，我们不要忘记Hiberante并没有限制first-level cache 的缓存大小：  
  
　　\# 持久对象实例被管理在事务结束时，此时Hibernate与数据库同步任何已经发生变 化的被管理的的对象。  
  
　　\# Session实现了异步write-behind，它允许Hibernate显式地写操作的批处理。 这里，我给出Hibernate如何实现批量插入的方法：  
首先，我们设置一个合理的JDBC批处理大小，hibernate.jdbc.batch\_size 20。 然后在一定间隔对Session进行flush()和clear()。

<table> 
 <tbody> 
  <tr> 
   <td>Session session = sessionFactory.openSession(); <br>Transaction tx = session.beginTransaction(); <br>for ( int i=0; i&lt;100000; i++ ) { <br>Customer customer = new Customer(.....); <br>session.save(customer); <br>if ( i % 20 == 0 ) { <br>//flush 插入数据和释放内存: <br>session.flush(); session.clear(); } <br>} <br>tx.commit(); <br>session.close();</td> 
  </tr> 
 </tbody> 
</table>

那么，关于怎样删除和更新数据呢？那好，在Hibernate2.1.6或者更后版本，scroll() 这个方法将是最好的途径：

<table> 
 <tbody> 
  <tr> 
   <td>Session session = sessionFactory.openSession(); <br>Transaction tx = session.beginTransaction(); <br>ScrollableResults customers = session.getNamedQuery("GetCustomers")<br>.scroll(ScrollMode.FORWARD_ONLY); <br>int count=0; <br>while ( customers.next() ) { <br>Customer customer = (Customer) customers.get(0); <br>customer.updateStuff(...); <br>if ( ++count % 20 == 0 ) { <br>//flush 更新数据和释放内存: <br>session.flush(); session.clear(); } }<br>tx.commit(); session.close(); </td> 
  </tr> 
 </tbody> 
</table>

这种做法并不困难，也不算不优雅。请注意，如果Customer启用了second-level caching ，我们仍然会有一些内存管理的问题。原因就是对于用户的每一次插入和更新，Hibernate在事务处理结束后不得不通告second-level cache 。因此，我们在批处理情况下将要禁用用户使用缓存。

转载于:https://www.cnblogs.com/opaljc/archive/2012/08/27/2658262.html