五分钟轻松了解Hbase面向列的存储

[置顶] 五分钟轻松了解Hbase面向列的存储

说明:从严格的列式存储的定义来看,Hbase并不属于列式存储,有人称它为面向列的存储,请各位看官注意这一点。 行式存储 传统的数据库是关...

OpenTSDB/HBase的调优过程整理

[置顶] OpenTSDB/HBase的调优过程整理

背景 过年前,寂寞哥给我三台机器,说搞个新的openTSDB集群。机器硬件是8核16G内存、3个146G磁盘做数据盘。 我说这太抠了,寂寞哥说之前的TS...

亿级 ELK 日志平台构建部署实践

[置顶] 亿级 ELK 日志平台构建部署实践

本篇主要讲工作中的真实经历,我们怎么打造亿级日志平台,同时手把手教大家建立起这样一套亿级 ELK 系统。日志平台具体发展历程...

HBase数据压缩编码探索

[置顶] HBase数据压缩编码探索

摘要: 本文主要介绍了hbase对数据压缩,编码的支持,以及云hbase在社区基础上对数据压缩率和访问速度上了进行的改进。前言你可曾遇到这种需求,...

Ambari2.7.3 和HDP3.1.0搭建Hadoop集群

[置顶] Ambari2.7.3 和HDP3.1.0搭建Hadoop集群

一、环境及软件准备 1、集群规划...

Ambari2.6.2 HDP2.6.5 大数据集群搭建

[置顶] Ambari2.6.2 HDP2.6.5 大数据集群搭建

Ambari 2.6.2 中 HDFS-2.7.3 YARN-2.7.3 HIVE-1.2.1 HBASE-1.1.2 ZOOKEEPER-3.4.6 SP...

hadoop-2.7.7 HA完全分布式集群部署详解

[置顶] hadoop-2.7.7 HA完全分布式集群部署详解

1.Hadoop HA简介及工作原理Hadoop NameNode官方开始支持HA集群默认是从2.0开始,之前的版本均是不支持NameNode HA的高可用...

可怕的黑暗料理之暗黑谷歌搜索神器

[置顶] 可怕的黑暗料理之暗黑谷歌搜索神器

1.暗黑谷歌的由来 有这么一款搜索引擎,它一刻不停的在寻找着所有和互联网关联的PLC、摄像头、红绿灯、打印机、路由器、交换机、服务器、数据库等等各种软硬件...

Oracle12c跨平台迁移之linux至windows

[置顶] Oracle12c跨平台迁移之linux至windows

近期应朋友邀请协助处理一起oracle数据库跨平台迁移的项目,需求为迁移centos 7.2 linux的oracle12.2数据库至windo...

java -jar和hadoop jar的区别

java -jar和hadoop jar的区别

hadoop jar可以看做是java -jar的升级,可以和它一样带参数,程序一样的解析 不同的是hadoop jar运行的jar包他会依赖于hadoo...

MapReduce案例:统计共同好友+订单表多表合并+求每个订单中最贵的商品

MapReduce案例:统计共同好友+订单表多表合并+求每个订单中最贵的商品

案例三: 统计共同好友 任务需求: 如下的文本, A:B,C,D,F,E,OB:A,C,E,KC:F,A,D,ID:A,E,F,LE:B,C,D,M...

Linux下打开可执行文件的命令

Linux下打开可执行文件的命令

打开一个可执行文件,如果你的可执行文件文件名为eclipse,则命令为  ./eclipse 但一般你要打开一个文件,应该需要先打开此文件所在文...

spark小文件合并解决多级分区

spark小文件合并解决多级分区

package spark10.access import java.text.SimpleDateFormatimport java.util.Date...

一次 Spark SQL 性能提升10倍的经历(转载)

一次 Spark SQL 性能提升10倍的经历(转载)

1. 遇到了啥问题 是酱紫的,简单来说:并发执行 spark job 的时候,并发的提速很不明显。 嗯,且听我慢慢道来,啰嗦点说,类似于我们内部有一...

spark解决text乱码问题

spark解决text乱码问题

package test import org.apache.hadoop.io.{LongWritable, Text}import org.apach...

spark解决josn乱码问题

spark解决josn乱码问题

package test import org.apache.hadoop.io.{LongWritable, Text}import org.apach...

[异常笔记] zookeeper集群启动异常: Cannot open channel to 2 at election address ……

[异常笔记] zookeeper集群启动异常: Cannot open channel to 2 at election address ……

4-11 13:22:04,594 [myid:1] - WARN [WorkerSender[myid=1]:QuorumCnxManager@584]...

HDFS 上文件块的副本数设置

HDFS 上文件块的副本数设置

一、使用 setrep 命令来设置 # 设置 /javafx-src.zip 的文件块只存三份 hadoop fs -setrep 3 /javafx...

Java Core - 序列化和反序列化

Java Core - 序列化和反序列化

把对象转换为字节序列的过程称为对象的序列化 把字节序列恢复成对象的过程称为对象的反序列化   一、对象的序列化的应用: 1.把对象的字节序...

spark小文件合并

spark小文件合并

package spark99 import java.io.IOException import org.apache.hadoop.fs.{File...

HADOOP高可用机制

HADOOP高可用机制

HADOOP高可用机制 HA运作机制 什么是HA HADOOP如何实现HA...

User Login