目 录- + ~5 f! S' D2 W$ Q5 S. U3 l4 ]$ p
" H: Z3 C7 y' ~
3 m6 X" F2 C+ _4 g
1. 需求背景1.1 大数据可视化面临的挑战 大数据的兴起,关于数据的存储、计算技术层出不穷,但是最终的数据可视化呈现,数据的探索,也成为颇为重要的一环,这一块并没有像存储、计算技术栈那么百花齐放,大家在做大数据可视化时是否也曾有这些困惑呢? - 传统的可视化对接传统数据库,对大数据组件的hive,spark,presto、elasticsearch、clickhouse等兼容性差,甚至不兼容,每次还需要多一道将大数据集群数据分发到传统数据库的冗余操作;
- 商用产品昂贵、甚至产品设置技术壁垒,很多甚至要求对接该商家的自己的大数据技术方可对接;
- 群众基数大的Excel拖来拽习惯、SQL操作的方便性,排斥自成一派的新技术,网页版账号登录优于用户下载客户端登录;
- 公司开发人员配置紧张,没有多余的人力自研大数据可视化平台,但是决策层希望有一个统一的可视化平台。, i9 H8 H9 O( N |6 q+ f
诸如此类,确实令人头疼,现在就推荐一款解药Apache Superser——开源的大数据分析探索、可视化报表的神器。 1.2 大数据数据可视化的目标架构
1 m+ t* c$ d7 `! T5 k
) D7 a! K5 T" u P) A% l图1.2 大数据数据可视化架构 4 n E4 B8 J, O5 n/ c
做事还是需要立一个目标架构,最后所有的事情都是围绕目标架构展开,才能越做越轻松,如图1.2,可是架构分为三个梯队; - 第一梯队:ClickHouse、DorisDB、Kylin等优秀OLAP技术做存储,利用自带的连接引擎,快速响应,同时支持实时数据和离线数据的接入,外接可视化平台,通过权限管控后呈现给用户;
- 第二梯队:数据存在数据仓库Hive内或者NoSQL的Hbase,再通过较为优秀且高效的引擎Presto、Flink、Spark等接入可视化平台,通过权限管控后呈现给用户;
- 剩下就是一个特殊的,如MySQL,临时文件等文件的接入;+ o- s+ v, @- [5 D
注意:常用的也还有其它技术架构,如ELK架构,ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成。Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。 Logstash是一个完全开源的工具,他可以对你的日志进行收集、分析,并将其存储供以后使用(如,搜索)。 kibana 也是一个开源和免费的工具,他Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志。这个后续再讲,这里书归正传,先讲讲Apache Superser。 2. Apache Superset简介2.1 Apache Superset是什么? Apache Superset是一款由Python语言为主开发的开源时髦数据探索分析以及可视化的报表平台;她支持丰富的数据源,且拥有多姿多彩的可视化图表选择。 n. G6 {" s% a- N
- ~' q1 F) R$ `/ h2 N8 P/ G0 a: ~
# |5 g, c; d/ w! t/ p0 ~3 I5 c' v# A# X
图2.1.1 Apache Superset定义 % }, |/ J5 T+ E( b# V" [% G
2.2 为什么选Apache Superset?- 支持丰富的数据库作为数据源,基本上平时用到的数据库都支持;如图2.2.0,支持的数据源有:7 [& @2 l, `& F- |' T, s% r
- Amazon Athena
- Amazon Redshift
- Apache Drill
- Apache Druid
- Apache Hive
- Apache Impala
- Apache Kylin
- Apache Pinot
- Apache Solr
- Apache Spark SQL
- Ascend.io
- Azure MS SQL
- Big Query
- ClickHouse
- CockroachDB
- Dremio
- Elasticsearch
- Exasol
- Google Sheets
- Hologres
- IBM Db2
- IBM Netezza Performance Server
- MySQL
- Oracle
- PostgreSQL
- Trino
- Presto
- SAP Hana
- Snowflake
- SQLite
- SQL Server
- Teradata
- Vertica
% T* L" S5 Q/ u: N0 \+ `
x6 q* m: |# P0 ]% n; E! T' E
图2.2.0 Apache Superset支持的数据源 - c) `3 Y# Z2 ?) Y/ g; F' n
- 多姿多彩的可视化图表,Apache Superset拥有非常丰富的图表,来实现不同的可视化需求,如图2.2.1。
; z0 H/ ^* `) k% {6 m3 ]& E- a. N: R1 R+ J
图2.2.1 Apache Superset支持的图表
{3 q% ^- c( q: g+ p; u: X/ ]- Data:主要功能是新增数据源和数据集Dataset(旧版本也叫Table),Dataset作为数据图表可视化的基础;
- Charts:图表,就是针对准备好的Dataset数据集,选择一款合适的图表呈现;
- Dashboards:仪表盘,其实就是报表、看板大屏展示,可以将多个Charts组合到一个仪表盘内一起展示。
- SQL Lab:SQL实验室,其实就是一个类似DBeaver、Navicat、DataGrip等一样的多功能数据库连接客户端,但是只有查询功能,配置驱动和连接后可以进行数据库、表、字段等模型的SQL查询操作。
- 设置:语言选择,登录注销、人员权限,操作日志等设置;# |- W* B6 N3 O2 k
图2.2.3 Apache Superset使用预览
, L0 Z& e; T( |9 p5 a2.3 对比Metabase- 天生自带支持的数据源Apache Superset完胜Metabase;
- 数据图表形式Apache Superset完胜Metabase;
- 操作界面美观丝滑度Apache Superset稍逊Metabase;
- 托拉拽操作Apache Superset稍逊Metabase;6 ?3 Y3 u7 D6 k2 z' Z
向来博主都是鱼与熊掌能兼得就兼得,毕竟小孩才做选择嘛,可以考虑两个都装,Metabase用于专注业务数据需求人员,Apache Superset用于懂SQL的数据需求人员,二者生成的通用仪表盘,则可以利用一个统一的网页超链接到一起,形成一个统一的报表平台。 3. 快速上手 这里先快速上手带大家体验一把,细节后续章节细讲,首先配置好数据库连接(配置方法参考后续的 5.1 新建Databases(数据库)),然后打开SQL Lab,选择好配置数据库,写SQL语句分析探索数据,如图3.1.0,然后运行语句,得到数据结果,可以点击保存将常用的探索SQL保存下来,然后点击查询结果上方的EXPLORE按钮,就可以跳转图表分析图3.1.1; % G8 J' B7 @' V. d; Q4 _' U
1 G8 @- r" N+ g/ Z. Q0 ^' {$ B图3.1.0 Apache Superset在SQL Lab上探索数据 / G: N$ E& N0 p% [8 }
利用SQL Lab探索得到的数据集,选择合适需求的数据图表,选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表; 4 l. o) E6 s' n( F
) S3 p. U, X: M( z! _
图3.1.1 Apache Superset数据可视化
' R7 _, E1 t) U, t$ Q1 o) T9 [/ z 新建Dashboard,然后编辑Dashboard,将之前生成好的Charts(图表)拖拽到Dashboard,就完成了数据仪表盘的最终呈现,然后就可以分享给需求方,也可以生成访问链接分享。 注意:拖拽时尽量往Dashboard的上面拖拽,会出现一条蓝色的分界线就可以松手,否则可能出现无法拖拽的情况,这个设计很坑。 图3.1.1 Apache Superset数据仪表盘呈现 0 p7 q6 j7 L0 q; Z( A
4. 部署安装4.1 部署方式及版本- 支持Linux、Windows、Mac的Docker部署
- 支持Linux、Windows、Mac的Python环境代码部署
- 可以在github,官网、或者国内镜像网站查看版本,但是别先下载,因为Apache Superset依赖包很多,最好能在线安装;4 U, r/ ?! A) _
$ m( R* C4 h6 g6 x) K
图4.1.0 Apache Superset版本预览
0 `' I2 L! {1 z* y; l" \- 博主选的是apache-superset-0.38.1.tar.gz在Linux上的Python环境代码部署。* r- S1 a4 k( {6 X" n' B6 w
4.2 配置需求- apache-superset-0.38.1.tar.gz
- CentOS 7 16核 32G(非硬性,一般性能的服务器即可)
- Python 3.6
- 要求服务器网,如果没有,可以使用能联网的代理服务器,依赖很多,采用在线安装的形式: M4 O2 L, ~) M3 n% k, Q( C+ M
4.3 下载安装- 下载安装Python3.6,可以选择安装anaconda集成的python,可以参考博客Linux通过anaconda来安装python,对应的版本是Anaconda3-5.2.0-Linux-x86_64.sh,下载传送门:Anaconda Download;安装好以后,如果老的服务器上存在python2,默认的环境变量启动是python2,没关系,只需要设置一个新的环境变量确保 python3启动是刚刚安装的版本即可。
- 安装python虚拟机,并启动,然后安装Apache Superset。
2 _+ \( Z" O0 e! a) R* ~3 ] " p- d: o% r9 U+ r4 h
- # 切换到自己安装软件的目录,博主的是在/usr/local/tools,并新建superset目录9 M6 c0 z, V! v# r/ g3 i
- cd /usr/local/tools7 |( M) e4 S9 N
- mkdir superset& z" h5 r+ H5 U& W, j: x; B6 O
- cd superset
" g& Z6 }: h$ C7 C# Y - 0 n& R) N: X: D% [' H9 Y
- # 安装虚拟机,有网就不需要的代理服务器,配置代理服务器10.212.18.34:3129方法:- n$ J1 [+ r# `* A
- # 写入配置文件 /etc/profile里面追加$ h/ k* V6 I0 A( _7 H
- # export http_proxy=10.212.18.34:3129
4 i* X* K' K) w* |4 y( S1 q - # export https_proxy=10.212.18.34:3129* J! V1 K3 }# z( M$ {6 h$ |# m \& l7 M
- # 然后wq! 保存退出,source /etc/profile刷新配置文件
T. W4 a6 h. `. D( i2 g0 t - # 安装完可以删除代理,记得再source /etc/profile
2 Q& I+ i0 _3 @5 G+ J - # 如果不想配置/etc/profile或者无权限,可以采用以下命令
p* ^- K+ Z- x% u$ W! d - # pip install virtualenv --proxy=10.212.18.34:3129,每次都需要,烦! ^) N0 B; S' k" N0 z" z
- pip install virtualenv
- q* O3 v% X4 V - , _* j5 T6 G- M' M" F' N
- # 配置命名虚拟机 {& ^8 l* c2 L( B3 [5 J, o+ r
- python3 -m venv venv- W) g, b- O9 {# u4 K
- ]: K* \* j% M$ i- # 启动虚拟机,会在当前目录下自动创建venv目录
. n" i9 d2 y/ e! ]' d: b7 b5 F$ Q - . venv/bin/activate
# o' [ G- D0 R3 m1 c( b! [9 J
/ y6 D: b9 f7 B$ |- Z8 V- # 退出虚拟机指令,但是这里不需要退出1 b! b. E- P1 b3 q0 N% O1 _& v1 A
- # 退出虚拟机指令,但是这里不需要退出, |+ {3 t; v8 Y2 |
- # 退出虚拟机指令,但是这里不需要退出+ ?/ ?; ?' M- }
- deactivate
+ F! R& W% b/ k
4 V O3 f, q7 Z6 w4 u% I- # 安装更新一些依赖' a+ k- \+ U; C' y: E" r) v
- pip install --upgrade setuptools pip -i https://pypi.douban.com/simple/
/ T' d" f; B& R; `: Z% q - 6 w- N/ A7 W! a0 c
- yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel! |* ?- K) J/ p& o: R, r/ I
! T7 j' m+ H9 Y9 U4 e& D/ b% I- # 如果报错:GPG key retrieval failed: [Errno 14] curl#37 - "Couldn't open file /etc/pki/rpm-gpg/RPM-GPG-KEY-EPEL-7"( |* b, o# H0 L* p x2 V7 D
- # 解决:
8 O2 f: b# r; {/ w' ` - vi /etc/yum.repos.d/epel.repo
) v4 c& f7 o' R( T# r9 m - gpgcheck=0+ L: j- ^5 \8 n
- # 然后wq!保存再试一次yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel
6 E; Y3 U, k9 e5 N - 8 r& i& |& k- C
- # 先用官网下载,因为官网的会自动把依赖也给你一起安装了,实在不行再用其他网站的镜像& r# S* j) q5 _- ?
- pip install apache-superset==1.4.2
! ?. c& q6 x( k( d - 4 u& y* P' n5 L7 T0 E0 ^* m
- # 安装superset,指定版本,不指定版本默认是最新版本
9 \) h' L) T. n) T P - pip install superset==0.30.1 -i https://pypi.douban.com/simple
3 i! x% q$ j" V ^; o - 6 v- n' h: ~; A. a
- # 安装email_validator 3 W( z" k$ S+ U& R# C
- pip3 install email_validator -i https://pypi.douban.com/simple/" H6 B7 d7 x' u7 O9 J9 Y
X7 ~; J7 _) S- # 更新数据库
. w" B4 T. E5 `! m& Q) F - superset db upgrade
% P8 p: C) {& O. o. C1 y' t* G
( z @5 s! c. ~+ m: N- # 创建admin的用户名,用户名随便写,bigdata123,admin都行,写完用户名后会让你输入姓,名,邮箱,这三项可写可不写,不写就直接回车,然后是设置密码,一点要写。
' A/ x, ]9 P& A! x3 A) U - export FLASK_APP=superset+ E* L7 s) H4 U8 Q; ]7 _
- superset fab create-admin
1 a; h( @: D2 ?9 W% x2 {
1 v5 x' t6 q* u% A) N- # 加载样例数据,考验网络,如果实在一致加载报错就放弃,不影响后续使用。
; z( h9 h1 ~/ H+ ?1 z) F6 y& L0 k - superset load_examples
0 E* k" G, \9 H4 M5 ?( z$ e - . u! n0 Y3 {7 {: f
- # 初始化! @* F, Z+ U. u) n9 X5 I/ p
- superset init! H( _% U' v2 r2 M
- ' Y& D7 a. \; }! O, [4 k
- # 启动,官网是superset run -p 8088 --with-threads --reload --debugger$ A, o. E1 U' ~- w3 t& E9 B& |4 u0 T
- # 建议用gunicorn启动,方便快速,先直接启动,确保打印在客户端的日志正常9 N' ] P$ w4 d6 F
- pip install gunicorn/ }3 K5 c$ `8 A0 A
- gunicorn -w 5 --timeout 120 -b 10.218.10.290:9089 "superset.app:create_app()" 1 Z- r4 U, g2 C1 L: `& R5 P
- % k f; q6 f8 Z& t2 e' N5 X
- # gunicorn 是一个Python WEB服务,可以理解为Tomcat
9 o7 f h$ q% ^ - # -w WORKERS:指定线程数
. `) J& U$ Q; K: P- A6 G/ ]8 a; e - # --timeout:worker进程超时时间,超过会自动重启
3 f1 A0 c: `! h0 t+ z" L; w- [ - # -b BIND:绑定Superset访问地址
3 L/ K# v: M/ ~" \! h7 V# j) C - # --daemon:后台运行
& I: ]- j' e0 g) y0 \ - # R1 k7 p. }) z/ u7 X6 U; x
- # 在能访问10.218.10.290:9089的服务器上打开浏览器,输入刚刚登录的用户名,密码即可。* R) i! d" A1 o: G/ ]' D- y
- ! c; }% n) U; R2 f5 M1 C
5 s& z; ~3 B7 X; r9 b3 F# D N- # 如果没开启后台停止,直接ctrl+c关停$ P: [) w" r; n
- # 后台进程停止gunicorn+ Y: I k7 D0 K' U0 q; L
- ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码
( }; S2 B- Z/ G
: ^0 {2 Z0 K& X! S3 U/ F4.3 安装注意及排错 pip install superset步骤时出现关键字眼Successfully installed证明正确安装,如图4.3.0; 2 _, b/ g6 @$ Y
H1 [9 R f2 U4 P0 k图4.3.0 成功安装的提示
: D/ U$ D) E9 M$ m6 t8 Z: C superset fab create-admin配置用户名时提示如图4.3.1。 图4.3.1 配置用户名时提示
7 b+ U7 t. o! r p 每个人的服务器环境,可能导致缺少的 依赖不同,途中如果遇到bug,可自己百度解决,基本都是python依赖包之类的问题,要耐心。 - # 报错; i' B8 Q1 U1 l: T/ Q
- ModuleNotFoundError: No module named 'dataclasses'+ S- u" R. a) q5 k. v
- , l' H5 a0 e% N( N
- # 解决
8 i) j8 m2 l( N9 I - pip install dataclasses! Y6 l4 S* U' Q$ f
; S4 a2 O+ j0 F- # 报错
9 x: g6 u) D* Y1 _1 o+ h& z, M4 W - No PIL installation found: s4 N4 P: z3 h' f7 {
- # 解决, ] S& T" _& m0 D- ]2 O: d
- pip install pillow
7 Z2 X; p+ Q; W# V- H
复制代码 4 L j+ [6 [' I& l+ ^: C/ O
一切解决后,网页登录如图4.3.2; 图4.3.2 登录首页4.4 启动与关闭
) M$ h7 j" m6 C$ x7 Z 官网提供的直接启动的方法不是很好,博主推荐一个采用gunicorn的方法,先关停superset。
9 c) T$ Y8 g8 C j' i! H
! o# O7 ]$ W/ x# o# p- 7 E# m7 @$ p! d4 W; e
- #安装好superset后会在venv生成很多文件,切换到venv
, |0 U2 L7 L" z, } - cd /usr/local/tools/superset/venv/, `/ |+ e2 Y! ~' n! s, Z
% j4 ~# ?: C+ }" u1 G% {- / U. p$ a( Q+ \ l1 ]9 R: w( ?
& S$ b. i7 l- p2 l8 f% h- #新建日志文件夹
, }7 B( v9 T. \/ i0 C - mkdir log9 O7 w8 x0 z. c, l) L
- 8 ?# h" g$ m0 D8 [8 [
- #切换到log目录,新权限 日志,错误日志和启动pid文件# [9 ?0 d# n) J. L' K4 y7 `
- cd log
. z9 G6 ?7 H. g( n - touch gunicorn_access.log6 Y$ @4 r4 u# p4 a/ g0 C
- touch gunicorn_error.log- Z0 ~) B/ E8 V0 p3 c3 m
- touch pidfile
4 L0 x) d; X2 _! l- I* n - chmod 755 ./* #修改权限
' ^' Q. O. T- n/ R5 n/ }$ T7 A% e - ' S5 \2 H# C* L! K( z# k
- #切换到/usr/local/tools/superset/venv/bin,写一个gunicorn配置文件,python语言) a& u7 k$ j, R% k5 `& Z
- cd ./usr/local/tools/superset/venv/bin
6 @3 ?$ y& P/ p; b1 f - y; P( _* e/ [" J9 i
- ; H2 [+ v3 C8 ]
- vim gunicorn_config.py # 内容如下8 x) [, e$ N! A2 H) B6 f
" i2 N. D, M5 [5 f5 Y4 z) y- #内容开始
8 M5 K4 q, T: A) T% _ - import multiprocessing
$ K: A Y7 p' [8 F( X% X: D @ - ' y% e7 q! x; G7 \0 d3 V( g
- . j- u+ v- g; P& S
- bind = '10.218.10.290:9089' #绑定ip和端口号
1 m7 g$ l. l8 X. N( I9 W - backlog = 512 #监听队列 z3 v; j8 k1 m' m
- timeout = 30 #超时; f: _9 d4 f3 b) j' h
- worker_class = 'gevent'
) m. b4 |$ Z2 X5 ]: f - workers = 53 R+ a; c$ D2 O- D7 [
- worker_connections = 10001 u# M- O8 y- P: [% o2 [
- threads = 2 #指定每个进程开启的线程数
% m% ? T$ y. M$ y" ]- V: \1 R - loglevel = 'info' # 日志级别
+ u4 }7 i! w+ X! C$ |/ x* b7 F - access_log_format = '%(t)s %(p)s %(h)s "%(r)s" %(s)s %(L)s %(b)s %(f)s" "%(a)s"' #设置gunicorn访问日志格式,错误日志无法设置: X4 z* M0 n/ U$ p5 Y* R, a& {5 Y2 z
! J0 ~0 T2 V& e& l" O' J6 U6 N3 }- ) Z7 O2 e I9 }- F8 g- v
- : l- @5 T' q6 ?$ ]2 D
- pidfile = '/usr/local/tools/superset/venv/log/pidfile'
2 a& q8 l: y, H0 {- n( X4 g - errorlog = '/usr/local/tools/superset/venv/log/gunicorn_error.log'
0 a _ ]9 A' V, M7 f - accesslog = '/usr/local/tools/superset/venv/log/gunicorn_access.log'
1 @8 e% U, i1 G - . I. w6 V5 ^+ k8 G" I; h
- print("IP and PORT:"+bind)
9 A, M5 n& M: K( B" K; ~9 }6 ~. f3 | - print("pid_file:"+pidfile)/ m( r3 g" _; v8 f" q3 h9 b+ U' ]
- print("error_log:"+errorlog)
9 t3 h- a; a' ^ - print("access_log:"+accesslog)8 K) ] f4 ~* t# O1 c5 P
- 4 H; j9 E$ ]2 G1 x
- #内容结束 U7 a1 q2 p0 \2 L! [- L
- ) e/ g6 p% {# ~9 t9 L8 O r
- #然后 wq! 保存退出
& G; t, r; v$ n, r* ] - ) p o) A+ M" T* `3 U8 q
- # gunicorn 启动 -c 配置文件启动;--daemon后台启动,日志可以去配置文件指定的路径查看
/ u; Z o# U5 Q - gunicorn -c ./gunicorn_config.py "superset.app:create_app()" --daemon7 E* B7 u! R/ z& R% G
- 6 @2 {* Z( f; W* U, j$ o
- # 后台进程查看/ {+ u( k" p" e. b6 `
- ps -ef | grep gunicorn
! \( N0 ^1 k6 ]. t1 k
2 I- r/ n9 g! c; K8 j, E2 o- # 或者通过端口查看
3 i: e5 F) L" h: J O3 _ - netstata -tunlp | grep 9089# Z& x# E+ r6 |; e
- # 或
& o2 k2 z" {- a8 h. Y# R# A - ss -anp | grep 9089' }1 a/ F' }+ Y) B( x9 W6 o
- 2 x' c7 g' @- i2 _" v$ |6 q
- # 如果没开启后台停止,直接ctrl+c关停
( ]. t' b2 N% x1 a% h - # 后台进程停止gunicorn+ | h+ u7 H- K, r0 y3 B4 S
- ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码 % O4 n0 |) l: k
5. 用户手册(重点). i8 Q% s) a5 n! m4 K
/ q7 g7 C l2 C5.1 新建Databases(数据库) 新建数据库之前,需要先安装该数据库的python驱动包,具体语句可以参考官网 Database Drivers,如图5.1.0,一般就是pip install XXX,安装好驱动后,记得重启下Superset服务; 新建数据库连接的作用是为数据集Datasets和SQL实验室SQL Lab提供数据库、表的选择,就是提供数据源,当然Data下还有个Upload CSV(最新版本也支持Upload Excel)也可以直接将本地的CSV文件作为数据源上传到Superset站点,直接进行数据探索分析。 图5.1.0 数据库驱动以及连接字符串
7 B8 n. ]8 ^: s3 v8 s8 J- k2 Y: e 登录进Apache Superset后,点击Data,下来选择Databases,然后跳转到图图5.1.1,点击右上侧的+号就可以跳转图5.1.2的数据新增配置界面。 图5.1.1 新建数据库连接 1 X! B6 |, C- E
图5.1.2,Database是指的新建这个数据库的显示名称,这个随便取,合理即可,SQLAlchemy URI 这个地方就是之前图5.1.0上的数据库连接字符串,确保和你选择的数据库类型一致。 1 |' H7 E! W) | }% z# p0 D: g
然后点击TEST CONECTION,连接成功后会跳出Seems OK!的弹出框,记得滑到最下面,点击保存,如果连接不成功,请检查数据库的实例,端口,用户名,密码以及自己部署的Apache Superset的服务器访问数据库的端口网络时是否能通,当然也不要忘记SQLAlchemy URI 填写规范,保存后的数据库连接就会列举在图5.1.1上。
: Q7 a. X/ n4 |' v
- a) r) p4 C) l( W图5.1.2 新建数据库连接配置信息 " I& _- i D! L$ ?( @1 u" |
5.2 新建Datasets(数据集,老版本也叫Tables) 图5.2.0 新建数据集
" g) p a+ D j- u% r1 s1 T 如图5.2.0,点击图中的Data下的Datasets,然后点击+号,跳转到图5.2.1,将配置好的数据库名下拉选出,写一个该连接实例下的数据库,然后选择一张表,点击保存即可,保存好的数据集会列举在图5.2.0中,这些知道为啥老板叫Tabels了吧;, z0 P. X0 h( q+ p. d: m) B
数据集的作用是为后续的Charts(图表)数据可视化作为数据源头。 图5.2.1 新建数据集配置信息 " ?0 B @& r9 H+ x! ~. o1 V
/ F! h# U6 z* @/ g
5.3 SQL Lab(SQL实验室) SQL Lab其实就是一个数据库查询客户端,利用SQL语句对数据库的表,字段模型进行查询探索,同时支持智能补全,当然SQL Lab的查询结果也可以直接EXPLORE到Charts(图表),作为数据可视化的数据源。
8 b/ Q2 ?& |$ v% U 如图5.3.0,SQL Lab有三个选项,三个选项的功能如下: - SQL Editor:进行SQL查询探索
- Saved Queries:保存的通用查询SQL
- Query Search:查询的历史记录% x. y4 G1 E# a3 m. Y
图5.3.0 主界面进入SQL Lab
' T0 j. I* f9 V2 W" F 点击SQL Editor进入图5.3.1的SQL查询探索,左侧上方是配置好的数据库连接名和选择的数据库,左侧下方是将要用到的表及字段模型;右侧上方是写SQL语句的地方,支持RUN(查询),RUN SELECTION(查询鼠标选择局部语句),SAVE(保存),SHARE(分享)等,右下方是数据结果,支持EXPLORE到Charts(图表)可视化,.CSV下载,CLIPBOARD(复制到剪贴板)。 图5.3.1 SQL Lab使用 9 _2 f0 l9 R# N+ Z
5.4 创建Charts(图表) 图表的作用是数据可视化,利不同的图表满足不同的业务需求,图表同时也作为仪表盘的展示的一部分,一个仪表盘内可以展示一个或多个图表。9 [, T2 v* K: H5 Y. R
创建图表的方式有两种: - 如图5.4.0,点击Charts,点击+创建新的图表,跳转图5.4.1
- 在SQL LabSQL语句探索查询的结果直接EXPLORE到Charts(图表)可视化
" t: {; G. n+ M% O4 b/ g
图5.4.0 创建图表
2 E+ K% g( v6 p* t5 ~1 p 如图5.4.1,选择合适需求的数据图表(如图5.4.2,支持的图表类型非常丰富,号称最漂亮的可视化图表展示),选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表; L, q! g7 w1 L* W$ |
8 H/ K6 S7 v8 T* V* J/ @9 x! p
图5.4.1 图表可视化配置 9 y3 j( \# l0 j# }
号称最美可视化展示,支持可视化的图表类型确实丰富多彩,应对各种可视化需求。 / r' j( O9 E% v y2 a6 ], O8 s
) D" o# ^6 l+ ~4 O
图5.4.2 支持的图表类型
& i4 A8 F# m: w( z+ U5.5 创建Dashboards(仪表盘) 仪表盘就是最后的数据总体呈现,即报表展示。 如图5.5.0,点击Dashboards,然后点击+新建仪表盘,跳转图5.5.1。 图5.5.0 创建仪表盘
/ S# X4 n: A3 W# F0 f/ u 点击图5.5.1右上角的编辑仪表盘,之前做好的Charts(图表)拖拽到仪表盘上,注意:第一次拖拽的时候尽量网上拖拽,知道出现这个条蓝色的分解线,否则 无法拖拽过去; 同时也支持一些通用的组件,图表旁的Components下,有Header、Tabs、Row、Column、Markdown、Divider;( A; g7 c6 o& ^, {' x" q# c0 ^
编辑完后后记得点保存。 图5.5.1 编辑仪表盘
8 V8 G1 w3 e8 P, M i4 [2 e3 } 保存后的仪表盘支持分享,下载等功能,同时也会根据图表内的数据源刷新来获取新的数据; 7 _& b/ W' d) [6 N9 H3 ^) G ^
; A! _8 ~2 [4 r9 B* j( r
图5.5.2 仪表盘功能 % ]) r- l) a7 B. n% s7 e
分享给别人看到的仪表盘如图5.5.3。 图5.5.3 分享后他人视角的仪表盘 : _- s. |% t p' E$ q
6. 设置 设置包含在菜单栏Settings下,主要设计权限和操作日志等模块,接下来分别讲解。 A2 w: a; G7 G+ Q k+ _3 G3 j0 Z
6 R3 w8 N; q! G- s% g
图6.0.0 通用设置 4 w& A/ H& E$ j M9 Z
! w1 u% s$ k# U/ A. `0 {9 h' P
6.1 角色列表及权限 Apache Superset中的安全性由Flask AppBuilder(FAB)处理,FAB是一个构建在Flask之上的应用程序开发框架。FAB提供身份验证、用户管理、权限和角色,可以查看其相关文档。
0 u; S# l$ x$ K- j8 G; g Apache Superset默认提供了不同的角色,每种角色拥有的权限不同,在运行superset init命令时,与每个角色关联的权限将重新同步到其原始值,不建议更改与每个角色关联的权限(例如,通过删除或添加权限),支持admin再自建角色类型,指定想要的权限,默认的角色及权限如下; - Admin:管理员拥有所有可能的权限,包括授予或撤销其他用户的权限,以及更改其他用户的切片和仪表板;
- Alpha:Alpha用户可以访问所有数据源,但不能授予或撤消其他用户的访问权限。它们也仅限于改变它们所拥有的对象。Alpha用户可以添加和更改数据源。
- Gamma:Gamma用户的访问权限有限。他们只能使用来自通过另一个补充角色访问的数据源的数据。他们只能查看由他们可以访问的数据源制作的切片和仪表板。目前Gamma用户无法更改或添加数据源。我们假设他们主要是内容消费者,尽管他们可以创建切片和仪表盘。另请注意,当Gamma用户查看仪表板和切片列表视图时,他们将只看到他们有权访问的对象。
- sql_lab:sql_lab角色授予对sql lab的访问权限。请注意,虽然管理员用户在默认情况下可以访问所有数据库,但Alpha和Gamma用户都需要在每个数据库的基础上获得访问权限。
- public:要允许注销的用户访问某些超集功能,需要自己配置权限,并将其分配给另一个角色,您希望将其权限传递给该角色。0 b* g }4 ^& z1 {/ \. i% f
图6.1.0 系统默认角色 0 V; m0 S+ C- E7 R6 w! I
同时Apache Superset也支持管理员自己新增角色,如图6.1.1,新建角色并指定角色权限。 6 v3 H/ y9 j+ w# H8 f/ w
) U6 K, {3 n" m7 L" m) L图6.1.1 新建角色
' q: P/ x U8 G' ?4 Q& m" i
3 O6 t0 I% b/ C( M/ u7 X7 _4 S6.2 用户列表 新建、编辑用户指定角色,用户的权限是绑定在角色里面的,一个用户可以有多个角色,配置信息如图6.2.0。
! @# P( ?1 C z$ a9 y2 U% T1 b, C7 ~6 W1 `8 `
图6.2.0 新建、编辑角色
* x0 d/ R+ {; d# }8 C# C' t5 E
( ^& U% @$ p" K. `2 m; F6.3 操作日志 操作日志记录的是在你的Superset平台上不同用户的行为日志,如图6.3.0。 图6.3.0 行为日志查看
/ a7 R1 D; ^* j2 h/ v5 ~( r0 ?1 P0 ^' n& r d; C
6.4 用户信息、退出、版本信息 菜单栏最右侧的个人信息,主要是包含: - 用户信息:修改用户姓名,重置密码;
- 退出:回到登录主界面;
- 版本:目前您安装的Superset版本信息。
1 o/ E# ~; L+ S( f* Y
. k* \. b% q# q% t/ S
图6.4.0 个人信息模块
5 a, A1 I; m1 k; y( o* s1 J& T+ @! G' {/ }, Y. L7 p
6.5 语言选择 作为Apache的顶级项目,自然是运用于全球的,支持世界上一些通用的语言 ,选择一款你最喜欢的即可。 图6.5.0 语言选择
: K- {% L6 V6 F# G/ _# A0 B3 I6.6 管理设置 针对仪表盘,图表渲染加入自己想要的风格和模板,实际运用的用的不多。 . l; h7 }# }1 y& C- u
9 d7 e5 c, |; e; O
图6.6.0 管理模块
- X; p$ ]: l @2 ~. y: ^6.7 + NEW 菜单栏的+ NEW其实就是给最通用的三个模块SQL Query、图表、看板(仪表盘)的一个快捷方式,此三者的用法就不在累赘了。 图6.7.0 + NEW模块
$ v8 @ ~; c! c8 z7 o9 F* \/ W/ W3 W2 Y# k/ f: a
' M Q3 [- w1 A% l! R
原文来源: https://blog.csdn.net/LXWalaz1s1s/article/details/119061337
+ Y# O E5 H) _4 i. L' A0 u$ ? |