并发编程10-性能和可伸缩性

简介: <div class="markdown_views"><h2 id="性能的思考">性能的思考</h2><p>使用多线程也会引入一些性能的开销,比如线程协调,上下文切换,线程创建和消亡。 当使用过度的时候这些开销可能超过对吞吐量响应和提高计算能力带来的好处。 <br>可伸缩性就是可以通过增加计算资源(CPU,内存)来提供程序的吞吐量或者性能。 <br>程序的串行化代

性能的思考

使用多线程也会引入一些性能的开销,比如线程协调,上下文切换,线程创建和消亡。 当使用过度的时候这些开销可能超过对吞吐量响应和提高计算能力带来的好处。
可伸缩性就是可以通过增加计算资源(CPU,内存)来提供程序的吞吐量或者性能。
程序的串行化代码影响程序的性能,使用多线程来优化性能时,串行部分无法优化。
上下文切换,比如哪个等待,哪个执行,会损害性能
竞争性的锁会损失性能和可伸缩性。

减少锁的竞争

通常可以:
- 减少持有锁的时间
- 减少请求锁的频率
- 用协调机制代替独占锁

缩小锁的范围

快进快出原则,为了减少持有锁的时间

分拆锁

private List<String> list1 = new ArrayList<String>();
    private List<String> list2 = new ArrayList<String>();

    public synchronized void add1(String item){
        list1.add(item);
    }

    public synchronized void add2(String item){
        list2.add(item);
    }

分拆为:

private List<String> list1 = new ArrayList<String>();
    private List<String> list2 = new ArrayList<String>();

    public void add1(String item){
        synchronized(list1){
            list1.add(item);
        }

    }

    public void add2(String item){
        synchronized(list2){
            list2.add(item);
        }
    }

分离锁

跟分拆锁差不多。不如ConcurrentMap的实现,对每个桶使用一个锁,这样就可以支持多个并发写了,当然前提是hashcode映射到了不同的锁上。
分离锁这种办法很适用于竞争相同锁,但是竞争的不是相同数据的程序。

独占锁替代方式

热点域是使用了分离锁之后的,仍然避免不了的全局锁。ConcurrentHashMap的size()方法避免了热点域,给每个桶单独维护了一个计数器。
ReadWriterLock 这样支持读并发,但是有写就阻塞的锁形式
用原子变量来减少热点域带来的并发损失

监测CPU使用率

为了监测我们的处理器是否充分利用,可以监测CPU使用率,如果太过于清闲了,可以看看是不是如下的原因:
- 负载不够。 加大并发量
- I/0限制 perfmon来查看是否是因为带宽限制
- 外部限制,通过Profiler工具来判断等待外部服务结果的用时
- 锁竞争,使用Profiling,查看程序中存在多少个锁的竞争。

用后台程序处理任务

比如log,单启线程来进行打印操作,使用线程池和队列的方式。需要考虑如下的问题:
- 服务担保, 保证成功加入队列的消息都能在服务终止前被记录?
- 饥饿策略,如果生产者比消费者快怎么办?
- 生命周期, 如果在服务器停止的时候关闭消费者
- 中断,如果线程被中断(如服务器重启)会怎么办

相关文章
|
7月前
|
前端开发 JavaScript
后端开发中的异步编程:提升性能与响应速度的关键
后端开发中的异步编程:提升性能与响应速度的关键
241 0
|
4月前
|
监控 Java 测试技术
Java并发编程最佳实践:设计高性能的多线程系统
Java并发编程最佳实践:设计高性能的多线程系统
66 1
|
18天前
|
算法 调度 数据库
性能优化在实时系统中的应用
性能优化在实时系统中的应用
|
3月前
|
存储 人工智能 算法
探究现代操作系统的架构与性能优化
本文将深入探讨现代操作系统的核心架构,并重点分析其性能优化的关键策略。我们将从宏观和微观两个角度出发,解释操作系统的基本组成部分及其相互作用,并通过具体实例展示如何通过各种技术手段提升系统性能。无论是软件开发者还是计算机专业的学生,都能从中受益,获得对操作系统更深层次的理解。
|
5月前
|
安全 Java 开发者
Java并发编程:理解并发安全与性能优化
在当今软件开发中,Java作为一种广泛使用的编程语言,其并发编程能力显得尤为重要。本文深入探讨了Java中的并发编程,包括如何确保并发安全性以及优化并发程序的性能。通过分析常见的并发问题和解决方案,读者将能够更好地理解如何利用Java的并发工具包来构建可靠和高效的多线程应用程序。 【7月更文挑战第10天】
62 3
|
6月前
|
安全 Java 调度
Java并发编程:优化多线程应用的性能与安全性
在当今软件开发中,多线程编程已成为不可或缺的一部分,尤其在Java应用程序中更是如此。本文探讨了Java中多线程编程的关键挑战和解决方案,重点介绍了如何通过合理的并发控制和优化策略来提升应用程序的性能和安全性,以及避免常见的并发问题。
62 1
|
7月前
|
存储 缓存 安全
【企业级理解】高效并发之Java内存模型
【企业级理解】高效并发之Java内存模型
|
安全 Java
使用Java并发编程优化应用性能
在当今互联网时代,高性能的应用程序是至关重要的。而Java作为一种广泛使用的编程语言,提供了丰富的并发编程工具和技术来优化应用程序的性能。本文将介绍如何使用Java并发编程技术来提升应用程序的性能。
153 1
|
canal 存储 缓存
大厂都是如何对高并发系统做性能优化的?(上)
高并发系统的奥义:高性能、高可用、可扩展。 性能反应了系统的使用体验 都是上万QPS的系统,一个响应时间毫秒级,一个秒级,用户体验明显不同 可用性则表示系统可以正常服务用户的时间 上万QPS的系统,一个可全年不停机且无异常,一个隔三差五就宕机 可扩展性 流量可分为平时流量、峰值流量。峰值流量可能会是平时流量的几倍至几十倍,在应对峰值流量时,通常需在架构方案上做更多准备。易于扩展的系统能在短期内迅速扩容,更加平稳分摊峰值流量。
409 0
大厂都是如何对高并发系统做性能优化的?(上)
|
存储 移动开发 负载均衡
大厂如何打造可扩展的高并发系统?
高可扩展性是个设计指标:表示可通过加机器线性提高系统处理能力,承担更高流量和并发。 架构设计之初,为什么不预先考虑好使用多少台机器,支持现有并发呢?因为峰值流量不可控。
150 0