如何将一个大的Promise.all拆分为几个较小的部分依次执行
前段时间在用Promise.all执行一个非常大批量的操作时遇到一个奇怪的问题。
这个Promise.all需要遍历一个指定目录中的所有文件，并以异步的方式读取文件内容并进行后续操作。由于目录中的文件数目比较多（大约8000+），Promise.all在执行的过程中有许多文件读取失败，但是如果指定一个文件数量比较少的目录则不存在这个问题。查看浏览器的Network会看到一开始的时候这些文件的访问都是pending状态，但是随着数量的增加，一部分pending最后都变成failed了。然后在Console中也会看到有许多的Failed to load resource: net::ERR_INSUFFICIENT_RESOURCES错误。
然后又在其它不同的浏览器中进行了尝试，发现Chrome内核的浏览器（Chrome和Edge）基本都存在这个问题，但是FireFox工作正常。初步断定有可能是浏览器自身内部机制导致的，所以尝试看看能否将并发的数量减少以规避错误。
下面是优化之前的代码：
var aPromises = [];
paths.forEach(function(sPath) {
aPromises.push(readDocument(sPath).then(function(oDocument) {
// other process
return oDocument;
}));
});
return Q.all(aPromises);下面是优化之后的代码：
var fnPromise = function(docs) {
var aPromises = [];
docs.forEach(function(sPath) {
aPromises.push(readDocument(sPath).then(function(oDocument) {
// other process
return oDocument;
}));
});
return Q.all(aPromises);
}
var _MAX_COCURRENCY = 50;
var aFiles = [];
var promise;
var index = 0;
while (index < paths.length) {
if (index + _MAX_COCURRENCY < paths.length) {
aFiles.push(paths.slice(index, index + _MAX_COCURRENCY));
} else {
aFiles.push(paths.slice(index));
}
index += _MAX_COCURRENCY;
}
aFiles.forEach(function(aSegFiles){
if (!promise) {
promise = fnPromise(aSegFiles);
} else {
promise = promise.then(function(results){
return fnPromise(aSegFiles).then(function(aResults){
return results.concat(aResults);
});
})
}
});
return promise;上面的代码中，while循环将一个较大的paths数组拆分成若干个较小的数组并存放到aFiles数组中。aFiles是一个二维数组，它的每一个元素是paths数组的一部分，其大小取决于_MAX_COCURRENCY常量的值。第24行对aFiles数组进行遍历，如果promise没有被初始化，则将函数fnPromise赋值给它。否则，通过第28行将fnPromise函数执行后的then方法重新赋值给变量promise，这一行是将多个Promise串联起来的关键。函数fnPromise只对较小的数组进行Promise.all操作。
通过上面的代码，可以成功将一个大的Promise.all拆分为若干个较小的Promise并串联起来执行，从而规避上述浏览器中所出现的错误。
来自：https://www.cnblogs.com/jaxu/archive/2022/07/26/16521871.html
本文内容仅供个人学习、研究或参考使用，不构成任何形式的决策建议、专业指导或法律依据。未经授权，禁止任何单位或个人以商业售卖、虚假宣传、侵权传播等非学习研究目的使用本文内容。如需分享或转载，请保留原文来源信息，不得篡改、删减内容或侵犯相关权益。感谢您的理解与支持！
