小灰工作3年了,一直在一家初创公司做大数据架构师,最近几次大厂的面试经历都百般不顺,小灰心如死灰,想着如果一直跳槽无望,只能跟着时下最火的地摊儿大军一起去出摊儿谋生了。
被问到了为什么要使用 Kafka,有哪种场景下需要使用 JMS,小灰一脸问号。工作几年来,接触了 Kafka,Elasticsearch 等等,居然没想过为什么要用这些眼花缭乱的消息系统,各种数据库。脑海中一直萦绕着面试官问的好几个问题,看似简单,小灰却给不出一个系统性的答复。
- Kafka为什么这么快
- 如何对Kafka集群进行调优
- Kafka的高性能网络架构是如何设计的
- Kafka集群资源如何评估?
架构师这个职业,大家都在想尽办法提升技能,弯道超车,苦恼的小灰约了几个哥们儿撸串,正准备吐苦水的时候,一个哥们儿推荐了他一个重磅级的 0元训练营,撸串儿局变身技能提升局,绝处逢生的小灰顿时豁然开朗。
总之,想要成为一名合格的大数据架构师,掌握这些技能是非常必要的。大数据技术的广泛应用,消息中间件种类繁多,各种大厂的也逐渐开源了,每个企业都开始二次加工自己的消息中间件以满足自己的内部需求。导致市场对这类人才的需求也是日趋旺盛。只要努力,年薪百万不是梦。
其实,无论什么系统,框架,最值钱的就是为了保存和应用数据,保存各种数据以应付后期的调优,统计使用等。现在由于都是出于高并发环境下,由于来不及同步处理,请求往往会发生堵塞,比如说,大量的insert,update之类的请求同时到达 MySQL,直接导致无数的行锁表锁,甚至最后请求会堆积过多,从而触发 too many connections 错误。通过使用消息队列,我们可以异步处理请求,从而缓解系统的压力。
Kafka 是一个发布订阅消息系统,由 topic 区分消息种类,每个 topic 中可以有多个 partition,每个kafka集群有一个多个 broker 服务器组成,producer 可以发布消息到 Kafka中,consumer 可以消费 Kafka 中的数据。Kafka 就是生产者和消费者中间的一个暂存区,可以保存一段时间的数据保证使用。
如果大家想深耕大数据行业,还是建议大家抢先体验一下这次的 Kafka 源码深度剖析训练营,这次训练营带领充满求知欲的大家踏入架构师之路的正轨,旨在产出优雅的大数据架构设计解决方案,从而真正成为企业级不可或缺的大数据架构师!