新闻动态大文件传输

如何优化企业海量文件传输事件处理呢?(下)

继上一篇文章对文件传输事件及其通知的重要性进行了探讨之后,本文将重点介绍镭速是如何通过优化策略来提升企业处理海量文件传输事件的能力。

海量文件传输

为了快速响应市场需求,事件通知功能在设计初期并没有考虑太多因素,使用单生产单消费模式,在原有的镭速(私有化部署方案,也可接入公有云,企业、社会组织用户可申请免费试用)服务(文件传输服务,web应用服务)进行功能叠加,文件传输服务作为生产者(生产事件),web应用服务作为消费者(负责接收和处理事件),服务之间使用http方式作为事件任务的发布,如下图:

 文件传输事件流程,海量文件传输

这种设计在文件传输量小文件事件少时,web应用服务请求负载低,服务还能正常稳定运行,但当持续海量文件上传,特别是在大量小文件上传/下载场景下,(镭速传输服务8C16G情况下单个传输任务能处理5000+文件每秒的上传或下载),瞬时上报请求多导致事件处理进程任务繁重,web服务器负载高,甚至影响web服务的实时请求响应慢,事件处理速度慢等情况,比如:当遇到海量小文件通知场景,每秒需要进行上千次通知,单个事件处理服务并发处理有限,如果处理慢,会导致事件堆积导致内存占用大,影响整个web应用服务等问题,经过深入分析,我们分析了以下5点原因:

i.单次事件请求数据结构冗余,事件上报并发请求过与频繁,导致事件接收web服务负载压力大;

ii.负责事件接收的web服务与用户前台所有请求接口在同一个web应用服务器中,共用线程池,高并发情况下处理响应慢;

iii.http请求使用短连接方式,高并发情况下,频繁的建立连接和断开,耗费较高的资源和处理时间,导致web服务负载压力大;

iv.本身python并发处理能力弱,当事件处理占用线程资源多容易导致其它接口请求处理慢;

v.采用sqlite数据库读写频繁容易造成全局锁表,导致一些应用请求处理异常。

为此,针对以上问题原因,我们在事件功能在设计上进行全面优化,以下是改进的方案措施:

海量文件传输

分别为

事件生产端:    i事件生成(文件服务)进行事件请求频率优化,对非实时的事件请求进行合并处理,按照一定的频率对多次请求合并为一次请求处理,减少事件发布的请求次数

事件接收/事件处理:

i事件接收,事件处理从web应用服务拆出,独立进程(event程序),独立端口,通过服务分离,减少web应用的服务负载压力    ii减少事件接口的实际操作,将需要处理的事件数据入列,放到后台处理,提升接口响应    iii.使用长连接方式,减少连接建立和断开的开销,提供更好的性能和效率

iv.使用多消费者模式,linux 使用多进程的方式启动多个event程序,成倍提升接口以及事件处理效率,采用协程的方式处理大量事件执行的相关操作,提升单进程的处理效率;    v.处理上报的数据从每次提交变成定时批量提交到数据库,避免频繁提交数据,减少数据库并发

如下图:

 海量文件传输,并发文件传输事件优化后流程

上述方案实施后,测试结果显示每秒能处理上千条事件的响应处理,优化效果明显,成倍提升事件处理能力,轻松应对海量文件传输事件的处理,同时也提升了用户使用体验,企业用户可以更好地使用事件通知功能来完成自定义的自动化任务。

结语

优化企业海量文件传输事件处理的策略对于提升企业运营效率具有重要意义。通过全面的技术优化和管理流程改进,企业可以更好地应对数据量的增长,确保文件传输的安全和高效。这不仅有助于保障数据安全,还能够提高企业的整体运营效率,为企业的长远发展奠定坚实的基础。

本文《如何优化企业海量文件传输事件处理呢?(下)》内容由镭速-大文件传输软件整理发布,如需转载,请注明出处及链接:https://www.raysync.cn/news/post-id-1676

相关推荐

如何优化企业海量文件传输事件处理呢?(上)

如何快速、安全、高效地传输海量小文件?

海量小文件传输对于企业选用文件传输软件的重要意义

上一篇:优化Linux系统配置以提升企业海量文件传输效率

下一篇:如何优化企业海量文件传输事件处理呢?(上)

热搜关键词

udp传输大数据|服务器数据迁移|高速文件传输解决方案|FTP传输|aspera替代方案|ftp传输替代方案|跨境传输|传输系统|网盘|传输数据|远程传输|数据迁移|大文件传输解决方案|大数据传输|跨国文件传输|远程大文件传输|高速传输|加速传输|文件共享传输|文件数据|文件共享|传输大文件|数据传输软件|TLS|媒体行业|传输文件|跨境数据传输|文件传输|远距离传输|影视传输|文件传输系统|数据同步|同步传输|小文件传输|安全文件传输|发送大文件|共享文件|mft|sftp|ftps|aes|数据管理|文件直传|快速文件传输|电子邮件文件传输|传输解决方案|超大文件传输|文件传输软件|文件同步|文件同步软件|大数据传输|文件传输工具|文件传输协议|安全文件同步|高速文件传输|高速传输软件|传输软件|SD-WAN|极速传输|远程办公|外贸行业|文件管理|云计算|云存储|安全传输|网络|高速缓存|SOCKS5|断点续传|aspera|高速传输协议|传输加密|高可用|跨国传输|文件同步传输|高速数据传输|企业级文件传输软件|大文件传输软件|tcp传输|传输协议|AD域|LDAP|数据传输|镭速传输|镭速云传|文件传输|大文件传输|文件管理平台|镭速软件|镭速|镭速云|文件传输解决方案|跨境文件传输|点对点传输|数据交换|企业网盘私有化部署|UDP文件传输工具|文件分享|企业大文件传输|海量文件传输|内网文件传输工具
企业大文件传输系统

最新资讯

关注云语科技

wechat qrcode

微信扫一扫,获取最新资讯