欢迎您光临本小站。希望您在这里可以找到自己想要的信息。。。

 分类:编程内功

数据结构和内存中的(堆和栈)的区别

数据结构和内存中的(堆和栈)的区别
数据结构中的堆栈 堆结构和栈结构 堆 结构是数据结构中的一种,比如数据结构还有平衡二叉树、红黑树等 堆也被称为优先队列。队列中允许的操作是先进先出(FIFO),在队尾插入元素,在队头取出元素。而堆也是一样,在堆底插入元素,在堆顶取出元素 ; 内存中的堆栈 堆内...

water 5年前 (2019-05-10) 2012℃ 0评论 0喜欢

Hadoop集群监控:jmx信息获取

Hadoop集群监控:jmx信息获取
 Hadoop集群的监控可以通过多种方式来实现(比如REST API、jmx、内置API等等)。虽然监控方式有多种,但是我们需要根据监控的指标选择不同的监控方式,比如如果你想监控作业的情况,那么你选择jmx是不能满足的;你想监控各节点的运行情况,REST API也是不能满足的。所...

water 5年前 (2019-04-22) 3211℃ 0评论 1喜欢

Apache Beam 实战指南之基础入门

Apache Beam 实战指南之基础入门
前言:大数据 2.0 时代不期而至 随着大数据 2.0 时代悄然到来,大数据从简单的批处理扩展到了实时处理、流处理、交互式查询和机器学习应用。早期的处理模型 (Map/Reduce) 早已经力不从心,而且也很难应用到处理流程长且复杂的数据流水线上。另外,近年来涌现出诸多大数据应用...

water 5年前 (2019-04-22) 2161℃ 0评论 0喜欢

基于Gitlab CI搭建持续集成环境

基于Gitlab CI搭建持续集成环境
本文简单介绍了持续集成的概念并着重介绍了如何基于 Gitlab CI 快速构建持续集成环境,主要介绍了 Gitlab CI 的基本功能和入门操作流程。 本文提到的 Gitlab 版本为 8.x ,新版的 Gitlab 界面可能会有所不同 什么是持续集成? image.png...

water 5年前 (2019-03-29) 2468℃ 0评论 0喜欢

MapReduce和Tez对比

MapReduce和Tez对比
MapReduce是一种编程模型,用于大规模数据集(大于1TB)的并行运算。概念"Map(映射)"和"Reduce(归约)"。 Tez是Apache开源的支持DAG作业的计算框架,它直接源于MapReduce框架,核心思想是将Map和Re...

water 5年前 (2019-03-28) 2686℃ 0评论 2喜欢

大数据初学者应该这样学!

大数据初学者应该这样学!
很多人都知道大数据很火,就业很好,薪资很高,想往大数据方向发展。但该学哪些技术,学习路线是什么样的呢?用不用参加大数据培训呢?如果自己很迷茫,为了这些原因想往大数据方向发展,也可以,那么大讲台老师就想问一下,你的专业是什么,对于计算机/软件,你的兴趣是什么?是计算机专业,对操作系...

water 5年前 (2019-03-27) 1805℃ 0评论 0喜欢

调度框架Azkaban快速入门

调度框架Azkaban快速入门
Azkaban概述 Azkaban是由Linkedin公司推出的一个批量工作流任务调度器,用于在一个工作流内以一个特定的顺序运行一组工作和流程。Azkaban使用job配置文件建立任务之间的依赖关系,并提供一个易于使用的web用户界面维护和跟踪你的工作流。 在介绍A...

water 5年前 (2019-03-13) 2584℃ 0评论 2喜欢

你也许理解错了:Docker、Kubernetes和Apache Mesos之间的正确关系

你也许理解错了:Docker、Kubernetes和Apache Mesos之间的正确关系
无数的文章、社交媒体在探讨Docker、Kubernetes、Mesos三者之间孰优孰劣。如果你听信了某些一知半解者的言论,你可能会认为这三个开源项目正在为争夺容器霸权而殊死战斗。同时,你也会相信,在这三者间的选择无异于对其所奉宗教的信仰,而且真正的信徒敢于大胆和异教徒作斗争,...

water 5年前 (2019-03-13) 2281℃ 0评论 1喜欢

Cloudera CDH 、Hortonworks DHP和MapR比较

Cloudera CDH 、Hortonworks DHP和MapR比较
目前啊,都知道,大数据集群管理方式分为手工方式(Apache hadoop)和工具方式(Ambari + hdp 和Cloudera Manger + CDH)。 手工部署呢,需配置太多参数,但是,好理解其原理,建议初学这样做,能学到很多。该方式啊,均得由用户执行,细节太多,切当...

water 5年前 (2019-03-12) 4091℃ 0评论 1喜欢

Hadoop之MapReduce的两种任务模式

Hadoop之MapReduce的两种任务模式
MapReduce按照任务大小和设置的不同,提供了两种任务模式: 老一些的版本还有一个JobTracker的实现类,即:classic。用于和MapReduce1.X兼容用的,高一些的版本已经没有这个实现类了。 一,本地模式(LocalJobRunner实现) mapreduce...

water 5年前 (2019-03-07) 1983℃ 0评论 0喜欢

阿里巴巴java开发手册-设计规约

阿里巴巴java开发手册-设计规约
、 设计规约1. 【强制】 存储方案和底层数据结构的设计获得评审一致通过,并沉淀成为文档。说明: 有缺陷的底层数据结构容易导致系统风险上升,可扩展性下降,重构成本也会因历史数据迁移和系统平滑过渡而陡然增加,所以,存储方案和数据结构需要认真地进行设计和评审,生产环境提交执行后,需要...

water 5年前 (2019-02-28) 1675℃ 0评论 0喜欢

代码注释中的专有词——TODO、FIXME和XXX

代码注释中的专有词——TODO、FIXME和XXX
阅读开源代码时可能经常遇到TODO、FIXME、XXX的单词,通常这些都是有其特殊含义的。 中文版的说明 TODO: + 说明:如果代码中有该标识,说明在标识处有功能代码待编写,待实现的功能在说明中会简略说明。 FIXME: + 说明:如果代码中有该标识,说明标识处代码需...

water 5年前 (2019-02-27) 2283℃ 0评论 0喜欢

归一化 (Normalization)、标准化 (Standardization)和中心化/零均值化 (Zero-centered)

归一化 (Normalization)、标准化 (Standardization)和中心化/零均值化 (Zero-centered)
1 概念  归一化:1)把数据变成(0,1)或者(-1,1)之间的小数。主要是为了数据处理方便提出来的,把数据映射到0~1范围之内处理,更加便捷快速。2)把有量纲表达式变成无量纲表达式,便于不同单位或量级的指标能够进行比较和加权。归一化是一种简化计算的方式,即将有量纲的表达式,经...

water 5年前 (2019-02-27) 3383℃ 0评论 1喜欢

真正的编程能力基本功

真正的编程能力基本功
还在读书,也在实验室帮忙做了些东西,自己也搭过几个网站。在周围人看来似乎好像我很厉害,做了那么多东西,但是我发现这些东西虽然是我做的,但是实际上我手把手自己写的代码却并没有多少,很多都是用开源的东西,我写的代码无非是把别人的东西整合下,类似于胶水一样的工作。我之前所认为的编程是全...

water 5年前 (2019-01-28) 3110℃ 0评论 0喜欢

微服务框架概述

微服务框架概述
  微服务框架     服务注册与发现(Eureka)    客户端负载均衡(ribbon)    服务传输协议(rest,thrift)    服务熔断降级(...

water 5年前 (2019-01-22) 1768℃ 0评论 0喜欢

分布式系统理论基础 – 选举、多数派和租约

分布式系统理论基础 – 选举、多数派和租约
选举(election)是分布式系统实践中常见的问题,通过打破节点间的对等关系,选得的leader(或叫master、coordinator)有助于实现事务原子性、提升决议效率。 多数派(quorum)的思路帮助我们在网络分化的情况下达成决议一致性,在leader选举的场景下帮...

water 5年前 (2019-01-15) 1690℃ 0评论 1喜欢

搜索算法总结

搜索算法总结
1.跳跃表 2.FST+FSM Finite StateTransducers 简称 FST,通常中文译作有穷状态转换器或者有限状态传感器,我更偏向于后者,因为后者更加贴近原意。FST目前在语音识别和自然语言搜索、处理等方向被广泛应用。FST的功能更类似于字典,Lucene4.0...

water 5年前 (2019-01-14) 2335℃ 0评论 0喜欢

lucene字典数据结构实现

lucene字典数据结构实现
1 lucene字典       使用lucene进行查询不可避免都会使用到其提供的字典功能,即根据给定的term找到该term所对应的倒排文档id列表等信息。实际上lucene索引文件后缀名为tim和tip的文件实现的就是lucene的字典功能。 ...

water 5年前 (2018-12-18) 1865℃ 0评论 0喜欢