com.mongodb.MongoException: Runner error: Overflow sort stage buffered data 错误分析

给用户安装下载引擎的时候,使用的mongodb库报错,查看了相关的文档后发现了问题所在,下面是运行时报的错误:

com.mongodb.MongoException: Runner error: Overflow sort stage buffered data usage of 33554466 bytes exceeds internal limit of 33554432 bytes

        at com.mongodb.MongoException.parse(MongoException.java:82)

        at com.mongodb.DBApiLayer$MyCollection.__find(DBApiLayer.java:292)

        at com.mongodb.DBApiLayer$MyCollection.__find(DBApiLayer.java:273)

        at com.mongodb.DBCursor._check(DBCursor.java:368)

        at com.mongodb.DBCursor._hasNext(DBCursor.java:459)

        at com.mongodb.DBCursor.hasNext(DBCursor.java:484)

        at com.boryou.crawler.db.mongo.dao.impl.biz.MongoDAOImplBiz.find(MongoDAOImplBiz.java:316)

        at com.boryou.crawler.db.mongo.GetNeedFetchUrlFromDBThread.getNeedFetchUrls(GetNeedFetchUrlFromDBThread.java:104)

        at com.boryou.crawler.db.mongo.GetNeedFetchUrlFromDBThread.run(GetNeedFetchUrlFromDBThread.java:75)

错误分析是因为collection的数据量太大,没有建立相关的index导致的,添加index后恢复正常,具体原因可以根据报的错误日志进行分析。

db.bbs.ensureIndex( { "fetchTime" : -1, "status" : 1 } );

对fetchTime和status字段添加了index,在此运行一切正常。

这里有一篇给Mongodb添加索引的文章,可以参考下。


郑重声明:本站内容如果来自互联网及其他传播媒体,其版权均属原媒体及文章作者所有。转载目的在于传递更多信息及用于网络分享,并不代表本站赞同其观点和对其真实性负责,也不构成任何其他建议。