type
status
password
date
slug
summary
category
URL
tags
icon
概述
由于模型相关程序属于计算密集型，其并发效果通常不佳。
并发测试
并发数增加。模型单个预测的时间会增加
清理内存
ㅤ | client | serve |
无并发 | 36.34637904167175 | ['3.0781853199005127', '1.7900943756103516', '1.7311148643493652', '1.738394021987915', '1.7515497207641602', '1.7504777908325195', '1.7343151569366455', '1.7324275970458984', '1.7113046646118164', '1.741044282913208', '1.7778346538543701', '1.7211623191833496', '1.8064630031585693', '1.7505311965942383', '1.7439990043640137', '1.782163381576538', '1.7320435047149658', '1.7287375926971436', '1.7105469703674316', '1.7072691917419434']共36.219658613204956 |
1个并发 | 36.23807501792908 | ['3.194857358932495', '1.7447147369384766', '1.751753568649292', '1.73844313621521', '1.7384676933288574', '1.7130441665649414', '1.730440378189087', '1.7409045696258545', '1.7462291717529297', '1.7369036674499512', '1.7426059246063232', '1.6917741298675537', '1.7094848155975342', '1.712670087814331', '1.7662465572357178', '1.7060494422912598', '1.7142937183380127', '1.7464542388916016', '1.7265329360961914', '1.7999320030212402']共36.15180230140686 |
3个并发 | 33.62845516204834 | ['6.443004846572876', '6.464038133621216', '6.5416953563690186', '5.136113405227661', '5.1076250076293945', '5.22443699836731', '3.836867570877075', '3.7973451614379883', '3.8606748580932617', '3.870594024658203', '3.845383882522583', '4.192806005477905', '5.1765477657318115', '5.14913535118103', '4.882963180541992', '5.132542848587036', '5.105600833892822', '5.211699962615967', '3.887373447418213', '3.892141342163086']共96.75858998298645 |
无清理内存
ㅤ | client | serve |
无并发 | 25.23566460609436 | ['3.1816349029541016', '1.429241418838501', '1.1380517482757568', '1.13252854347229', '1.1304030418395996', '1.135282278060913', '1.1346840858459473', '1.1469604969024658', '1.2673068046569824', '1.1336455345153809', '1.1311922073364258', '1.1367967128753662', '1.1308350563049316', '1.132021188735962', '1.1325623989105225', '1.1329636573791504', '1.1330301761627197', '1.1331963539123535', '1.1340737342834473', '1.1356282234191895']共25.162038564682007 |
1个并发 | 26.45864462852478 | ['3.0526461601257324', '1.3658511638641357', '1.1708431243896484', '1.1651203632354736', '1.1513092517852783', '1.1430516242980957', '1.1673226356506348', '1.1620869636535645', '1.3118505477905273', '1.1472811698913574', '1.1503345966339111', '1.166576623916626', '1.2572121620178223', '1.447098731994629', '1.4733409881591797', '1.4422917366027832', '1.1921486854553223', '1.1585509777069092', '1.154176950454712', '1.1375494003295898']共26.416643857955933 |
3个并发 | 27.21677875518799 | ['6.371468544006348', '6.376453876495361', '6.387416839599609', '2.930218458175659', '2.978785991668701', '3.113069772720337', '4.1034557819366455', '4.178273677825928', '4.166729688644409', '3.8763229846954346', '3.805415630340576', '3.7912256717681885', '3.088646411895752', '3.1256906986236572', '3.25364351272583', '4.075418710708618', '4.027867794036865', '4.0991950035095215', '2.6824281215667725', '2.6606693267822266']共79.09239649772644 |