CDH 安装impala+kudu

今天在CDH5.13上安装impala+kudu,原以为是很容易的点几个按钮就可以安装好,但是最终一直卡在了impala上。。哎。

1、安装IMPALA,这个确实很简单,只需在CDH上手动点击按钮即可,没有任何难度。

2、安装kudu碰到了不少问题。

a)其实一开始没有问题的。我安装步骤是配置1个master6个tablet,启动之后没有任何问题。但是当我要追加两个master的时候,无论如何都启动不了,而且之前的master也启动不了。三个master全部down掉。页面报如下错误:

F0918 18:10:37.619729 13914 master_main.cc:77] Check failed: _s.ok() Bad status: Timed out: Unable to initialize catalog manager: Failed to initialize sys tables async: Failed to create new distributed Raft config: Unable to resolve UUID for peer member_type: VOTER last_known_addr { host: "bdp01" port: 7051 }: Getting permanent uuid from bdp01:7051 timed out after 30000 ms.: Invalid argument: Client connection negotiation failed: client connection to 10.127.60.1:7051: unable to find SASL plugin: PLAIN
一开始没有看到最后SASL错误,只看到无法连接。我还以为网络策略问题,结果网络没有任何问题。一直摸不着头脑。

后来我一直反复的重装,一直这种情况。。。

b)删干净所有wal和data目录,重启3个master和6个tablet。3个master会启动一段时间,大概一分钟时间,然后全部down掉。错误和上面的一直。


/* 由于我设置的master的wal目录、data目录和tablet的wal目录、data目录都在kudu目录下,所以正好只要删除根目录即可*/
rm -rm /src/Bigdata/data1/kudu
rm -rm /src/Bigdata/data2/kudu
rm -rm /src/Bigdata/data3/kudu
rm -rm /src/Bigdata/data4/kudu
rm -rm /src/Bigdata/data5/kudu
rm -rm /src/Bigdata/data6/kudu
/*需要在所有节点上执行 */

c)后来才注意到关键错误:
client connection to 10.127.60.1:7051: unable to find SASL plugin: PLAIN
进过搜索,发现需要安装这个插件。。。
yum install cyrus-sasl*
安装好以后,再次执行b)中的删除代码,然后冲去kudu集群,成功!

d)在解决问题的过程,有些帖子说要在gflagfile上设置–master-addresses,但是实际没有任何效果。

e)回忆起,在发生sasl plugin前,出现了一下问题:
Check failed: _s.ok() Bad status: Timed out: Unable to initialize catalog manager: Failed to initialize sys tables async: Failed to create new distributed Raft config: Unable to resolve UUID for peer member_type: VOTER last_known_addr { host: "bdp01" port: 7051 }: Getting permanent uuid from bdp01:7051 timed out after 30000 ms.: Network error: Client connection negotiation failed: client connection to 10.127.60.1:7051: BlockingRecv error: recv error: Connection reset by peer (error 104)
我一直以为是网络问题,可以网络是通的,telnet没有任何问题。
最后搜索到有效答案是在CDH kudu的gfileflag上设置–trusted-subnet

PS:总结下:如果你要安装kudu的多个master,一定要一开始就设置,不要最后才来追加master。否则我估计你也会碰到我这样的问题。。。