目 录) V6 A3 r/ o: I. m1 R) ~7 W& ^5 d b
7 G: s5 C0 R3 e+ F' T( |" g
1. 需求背景1.1 大数据可视化面临的挑战 大数据的兴起,关于数据的存储、计算技术层出不穷,但是最终的数据可视化呈现,数据的探索,也成为颇为重要的一环,这一块并没有像存储、计算技术栈那么百花齐放,大家在做大数据可视化时是否也曾有这些困惑呢? - 传统的可视化对接传统数据库,对大数据组件的hive,spark,presto、elasticsearch、clickhouse等兼容性差,甚至不兼容,每次还需要多一道将大数据集群数据分发到传统数据库的冗余操作;
- 商用产品昂贵、甚至产品设置技术壁垒,很多甚至要求对接该商家的自己的大数据技术方可对接;
- 群众基数大的Excel拖来拽习惯、SQL操作的方便性,排斥自成一派的新技术,网页版账号登录优于用户下载客户端登录;
- 公司开发人员配置紧张,没有多余的人力自研大数据可视化平台,但是决策层希望有一个统一的可视化平台。
" \. D; p8 l+ k/ Z
诸如此类,确实令人头疼,现在就推荐一款解药Apache Superser——开源的大数据分析探索、可视化报表的神器。 1.2 大数据数据可视化的目标架构3 A, J( X3 E+ D- E
0 }- u" [- s0 L# F( Z$ K8 X. ]2 Q/ X图1.2 大数据数据可视化架构 + J' C" h; M# f
做事还是需要立一个目标架构,最后所有的事情都是围绕目标架构展开,才能越做越轻松,如图1.2,可是架构分为三个梯队; - 第一梯队:ClickHouse、DorisDB、Kylin等优秀OLAP技术做存储,利用自带的连接引擎,快速响应,同时支持实时数据和离线数据的接入,外接可视化平台,通过权限管控后呈现给用户;
- 第二梯队:数据存在数据仓库Hive内或者NoSQL的Hbase,再通过较为优秀且高效的引擎Presto、Flink、Spark等接入可视化平台,通过权限管控后呈现给用户;
- 剩下就是一个特殊的,如MySQL,临时文件等文件的接入;- Z, n4 z$ Y6 h# Y
注意:常用的也还有其它技术架构,如ELK架构,ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成。Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。 Logstash是一个完全开源的工具,他可以对你的日志进行收集、分析,并将其存储供以后使用(如,搜索)。 kibana 也是一个开源和免费的工具,他Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志。这个后续再讲,这里书归正传,先讲讲Apache Superser。 2. Apache Superset简介2.1 Apache Superset是什么? Apache Superset是一款由Python语言为主开发的开源时髦数据探索分析以及可视化的报表平台;她支持丰富的数据源,且拥有多姿多彩的可视化图表选择。 6 l: x3 e% n6 Y$ E' ^2 e* X: z; @
0 \- O( S2 u8 C% d0 W
$ E% l3 X2 ?, G; o5 k# u
0 \8 i, v1 K! U# F4 a图2.1.1 Apache Superset定义 l3 f" e5 K, A. D' n. {
2.2 为什么选Apache Superset?- 支持丰富的数据库作为数据源,基本上平时用到的数据库都支持;如图2.2.0,支持的数据源有:3 B m. r2 J8 | x4 b4 c
- Amazon Athena
- Amazon Redshift
- Apache Drill
- Apache Druid
- Apache Hive
- Apache Impala
- Apache Kylin
- Apache Pinot
- Apache Solr
- Apache Spark SQL
- Ascend.io
- Azure MS SQL
- Big Query
- ClickHouse
- CockroachDB
- Dremio
- Elasticsearch
- Exasol
- Google Sheets
- Hologres
- IBM Db2
- IBM Netezza Performance Server
- MySQL
- Oracle
- PostgreSQL
- Trino
- Presto
- SAP Hana
- Snowflake
- SQLite
- SQL Server
- Teradata
- Vertica R; ^/ V6 y6 F5 t
# J& F$ D+ Q% x3 n3 D
图2.2.0 Apache Superset支持的数据源 ! {2 [: H, i$ p; ~, T) z5 _& S$ j
- 多姿多彩的可视化图表,Apache Superset拥有非常丰富的图表,来实现不同的可视化需求,如图2.2.1。. [+ F9 M9 |) a* H$ G9 o
% E4 Y2 D# D# l- C. q; n: u
图2.2.1 Apache Superset支持的图表 s, A9 O* ]' N G" S6 R3 p
- Data:主要功能是新增数据源和数据集Dataset(旧版本也叫Table),Dataset作为数据图表可视化的基础;
- Charts:图表,就是针对准备好的Dataset数据集,选择一款合适的图表呈现;
- Dashboards:仪表盘,其实就是报表、看板大屏展示,可以将多个Charts组合到一个仪表盘内一起展示。
- SQL Lab:SQL实验室,其实就是一个类似DBeaver、Navicat、DataGrip等一样的多功能数据库连接客户端,但是只有查询功能,配置驱动和连接后可以进行数据库、表、字段等模型的SQL查询操作。
- 设置:语言选择,登录注销、人员权限,操作日志等设置;3 N! d& _) H& w6 e' Q6 j
图2.2.3 Apache Superset使用预览
# w# F: y1 Y0 I3 G2.3 对比Metabase- 天生自带支持的数据源Apache Superset完胜Metabase;
- 数据图表形式Apache Superset完胜Metabase;
- 操作界面美观丝滑度Apache Superset稍逊Metabase;
- 托拉拽操作Apache Superset稍逊Metabase;8 `7 P2 o. E! a3 C- W9 S
向来博主都是鱼与熊掌能兼得就兼得,毕竟小孩才做选择嘛,可以考虑两个都装,Metabase用于专注业务数据需求人员,Apache Superset用于懂SQL的数据需求人员,二者生成的通用仪表盘,则可以利用一个统一的网页超链接到一起,形成一个统一的报表平台。 3. 快速上手 这里先快速上手带大家体验一把,细节后续章节细讲,首先配置好数据库连接(配置方法参考后续的 5.1 新建Databases(数据库)),然后打开SQL Lab,选择好配置数据库,写SQL语句分析探索数据,如图3.1.0,然后运行语句,得到数据结果,可以点击保存将常用的探索SQL保存下来,然后点击查询结果上方的EXPLORE按钮,就可以跳转图表分析图3.1.1;
& w. F7 O7 m1 h- z6 S6 Q9 u
' {4 Z; K$ |, Q' g) p7 i" ]$ s图3.1.0 Apache Superset在SQL Lab上探索数据
: f& S) ?( F) N# ? 利用SQL Lab探索得到的数据集,选择合适需求的数据图表,选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表; 9 I& q% S a8 w& }' E
4 a3 ~4 C# x4 u7 Z. L9 F* k5 D
图3.1.1 Apache Superset数据可视化 ' ^1 m; {- {; \! L( R
新建Dashboard,然后编辑Dashboard,将之前生成好的Charts(图表)拖拽到Dashboard,就完成了数据仪表盘的最终呈现,然后就可以分享给需求方,也可以生成访问链接分享。 注意:拖拽时尽量往Dashboard的上面拖拽,会出现一条蓝色的分界线就可以松手,否则可能出现无法拖拽的情况,这个设计很坑。 图3.1.1 Apache Superset数据仪表盘呈现
: l$ N7 Z4 f! n6 w: H6 P4. 部署安装4.1 部署方式及版本- 支持Linux、Windows、Mac的Docker部署
- 支持Linux、Windows、Mac的Python环境代码部署
- 可以在github,官网、或者国内镜像网站查看版本,但是别先下载,因为Apache Superset依赖包很多,最好能在线安装;! |& G2 g" W$ x8 F
7 l9 g: I3 L; t. N7 Q# p
图4.1.0 Apache Superset版本预览
' N" h/ L8 S9 q+ F$ {% B- 博主选的是apache-superset-0.38.1.tar.gz在Linux上的Python环境代码部署。6 D# a/ ^7 w( H
4.2 配置需求- apache-superset-0.38.1.tar.gz
- CentOS 7 16核 32G(非硬性,一般性能的服务器即可)
- Python 3.6
- 要求服务器网,如果没有,可以使用能联网的代理服务器,依赖很多,采用在线安装的形式* e; H( |1 o9 e% Q0 V2 d9 |# o" c
4.3 下载安装- 下载安装Python3.6,可以选择安装anaconda集成的python,可以参考博客Linux通过anaconda来安装python,对应的版本是Anaconda3-5.2.0-Linux-x86_64.sh,下载传送门:Anaconda Download;安装好以后,如果老的服务器上存在python2,默认的环境变量启动是python2,没关系,只需要设置一个新的环境变量确保 python3启动是刚刚安装的版本即可。
- 安装python虚拟机,并启动,然后安装Apache Superset。/ ^! W Y+ {% W0 {
7 R+ {) m5 t1 w8 Q1 E" h( h- # 切换到自己安装软件的目录,博主的是在/usr/local/tools,并新建superset目录
) ]! l* `! X2 S2 `; D _ - cd /usr/local/tools
- Z( J9 o% `5 x) n. j7 I - mkdir superset
# J! K# C5 f0 t$ A' l( g - cd superset
/ @) w! v, B" I6 \) p - ' |' s" J) ^/ b, z4 e: y
- # 安装虚拟机,有网就不需要的代理服务器,配置代理服务器10.212.18.34:3129方法:
" s7 R* ]) _5 y; r9 P4 T - # 写入配置文件 /etc/profile里面追加
% s2 t7 \8 H& F$ m' _ - # export http_proxy=10.212.18.34:31297 m" F, l9 H1 P6 F2 t4 H
- # export https_proxy=10.212.18.34:3129
4 ^' w' J2 G2 B5 [ - # 然后wq! 保存退出,source /etc/profile刷新配置文件 ~' {! S9 i& v& g# o5 n: l9 v4 p
- # 安装完可以删除代理,记得再source /etc/profile
. p% R$ N' M8 i6 @1 Y - # 如果不想配置/etc/profile或者无权限,可以采用以下命令; e/ R2 X; B2 }' c! I
- # pip install virtualenv --proxy=10.212.18.34:3129,每次都需要,烦
8 B+ p8 q* E5 R u5 ?& Y# I1 H+ D' W - pip install virtualenv
2 a* ]( C _4 S6 C! G, o
8 O1 |& V6 w+ |2 j( T, t- # 配置命名虚拟机
9 T* S" l. ?; X5 k: i - python3 -m venv venv
7 T/ F+ w2 b: ~ }
2 B6 t% ?0 f5 E! L/ E, u- # 启动虚拟机,会在当前目录下自动创建venv目录
1 U$ |6 E2 {) l# R4 }) T( M - . venv/bin/activate! b! [) ^, a% p; ]8 ~. l) r& @. X
- 5 I. x! H- M0 d9 c5 Q
- # 退出虚拟机指令,但是这里不需要退出
; L i' v4 r% k - # 退出虚拟机指令,但是这里不需要退出5 W& k( M$ x$ @
- # 退出虚拟机指令,但是这里不需要退出
% x N! e0 r& e, t( O! p9 a. p - deactivate9 w# y% `. b9 k+ a
- 2 i H3 k+ n/ [% j
- # 安装更新一些依赖
1 {" d) B& S) v$ _" i9 U8 r - pip install --upgrade setuptools pip -i https://pypi.douban.com/simple/& {; R- `: c' |6 E9 K
7 t$ r- Q9 a8 p) _9 o( h- yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel
/ X7 P- w" ]5 r7 \. ]' o
1 Z" Z& k& o9 ]7 R4 h. G/ V- # 如果报错:GPG key retrieval failed: [Errno 14] curl#37 - "Couldn't open file /etc/pki/rpm-gpg/RPM-GPG-KEY-EPEL-7"5 g2 m! l f* u$ f' ?3 Q( @. ^
- # 解决:
) s8 }6 U! e' t$ |" z - vi /etc/yum.repos.d/epel.repo/ {6 p# ~: L# e4 p8 r; h# q3 Q& [
- gpgcheck=0
4 M8 |& I! E0 {% _ - # 然后wq!保存再试一次yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel6 L! x" h" C, o) _3 W+ q3 S
' o1 [4 `; \7 r: X* C- # 先用官网下载,因为官网的会自动把依赖也给你一起安装了,实在不行再用其他网站的镜像: E0 A4 z- \0 C( q5 h
- pip install apache-superset==1.4.2
2 m! Z' Q: n4 J: O - 9 \! n! P- f" Z" A6 h
- # 安装superset,指定版本,不指定版本默认是最新版本
9 S! }7 j9 ~- n* K4 c - pip install superset==0.30.1 -i https://pypi.douban.com/simple% F( ^) _; E# i9 v, k5 W
- _5 ^6 T* ?+ s
- # 安装email_validator 1 W7 e# \; F6 C5 ]; F, K6 E
- pip3 install email_validator -i https://pypi.douban.com/simple/
/ C c1 t$ W% b; h! E - . t9 M6 \& s X% q t! `
- # 更新数据库
# H, _, n+ n# q) Z! E; v* h - superset db upgrade% u0 l2 m% \6 j2 K
+ Z5 ]5 I* h* A2 ~- # 创建admin的用户名,用户名随便写,bigdata123,admin都行,写完用户名后会让你输入姓,名,邮箱,这三项可写可不写,不写就直接回车,然后是设置密码,一点要写。. X7 e J* Q9 Z u& O, n7 p) s6 A
- export FLASK_APP=superset
1 j/ P6 F$ f$ ?/ b; Z+ o8 a1 a- X - superset fab create-admin
" Z" C. D$ q6 B6 N
3 q" ]" {2 D4 Q" L& W' T" ~- [- # 加载样例数据,考验网络,如果实在一致加载报错就放弃,不影响后续使用。
3 p& b7 d B3 Z; S) Q( q& O& e+ c - superset load_examples
2 M8 v4 i/ { ~ - 6 |6 ^2 L1 Y. j6 M, _
- # 初始化
4 s+ t. p" }( R. J - superset init
6 w! C9 w9 f. j, y: x3 j" a. O - 4 @) n0 j, }. r! {7 c- S0 U' m) ]. ]
- # 启动,官网是superset run -p 8088 --with-threads --reload --debugger m6 i: r" X% E! ~
- # 建议用gunicorn启动,方便快速,先直接启动,确保打印在客户端的日志正常: m6 A: c- o- A( y" Q
- pip install gunicorn) o; m' E5 H/ ?& q8 W8 y, X# x
- gunicorn -w 5 --timeout 120 -b 10.218.10.290:9089 "superset.app:create_app()"
3 M5 Q6 m3 F+ e
1 c7 N- j# m- R0 O5 N# T8 U* F- # gunicorn 是一个Python WEB服务,可以理解为Tomcat
7 M2 j' u+ T7 L. A' d8 m - # -w WORKERS:指定线程数
i+ X2 W2 C/ `! {, r9 B) ] - # --timeout:worker进程超时时间,超过会自动重启1 |# F5 M% g& T% C D3 c+ L9 x, w
- # -b BIND:绑定Superset访问地址
; |" [1 d3 O+ S1 L - # --daemon:后台运行
" k z- h$ {% o2 L! K- c5 L
. C+ D/ o, `6 R5 `0 v- # 在能访问10.218.10.290:9089的服务器上打开浏览器,输入刚刚登录的用户名,密码即可。7 _! X2 G; P5 J" I1 G$ c* J3 t
- 1 L) F8 K# h5 g7 P
* y( R% z7 f b! p! R, n+ a- # 如果没开启后台停止,直接ctrl+c关停3 E0 t: i7 ]2 I, J: M$ z% Y
- # 后台进程停止gunicorn9 F& J" A: K, M& ?3 E2 G) `7 b# K
- ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码 5 |. h1 R0 r w6 \
% y7 j* o i" w1 U+ N- O
4.3 安装注意及排错 pip install superset步骤时出现关键字眼Successfully installed证明正确安装,如图4.3.0; 4 S& Q4 G! D' y: l E5 y
+ B' ^3 G R1 c% d! h0 O
图4.3.0 成功安装的提示 0 `4 c, C" ~' j% `; o" i
superset fab create-admin配置用户名时提示如图4.3.1。 图4.3.1 配置用户名时提示 ' F- ]" U! ^% c
每个人的服务器环境,可能导致缺少的 依赖不同,途中如果遇到bug,可自己百度解决,基本都是python依赖包之类的问题,要耐心。 - # 报错
0 ~: h/ R, Y X3 V/ } - ModuleNotFoundError: No module named 'dataclasses') e: O9 C6 `6 k: c( `
- ! W; f- h" A' `: d ^
- # 解决
8 e+ Y: V& r. K/ k: c1 T/ n - pip install dataclasses2 a+ r1 _% W- e3 g/ O6 x
- 3 ]( d7 Y) O7 J- [- T
- # 报错
4 C+ ?4 h- H. g# _( y# ? h8 t - No PIL installation found" `/ n: {; Q1 q5 N5 N& ?6 H
- # 解决
1 \, |* k+ z/ x - pip install pillow
( s+ m0 W8 J3 z: ]4 J3 N$ s( a% g
复制代码 - W+ l, }: ~% [( r/ V* w; v0 F" ]
一切解决后,网页登录如图4.3.2; 图4.3.2 登录首页4.4 启动与关闭
4 E4 X2 F2 J/ }( t 官网提供的直接启动的方法不是很好,博主推荐一个采用gunicorn的方法,先关停superset。 ! U3 K l8 A9 F$ x! S8 a7 C" I
6 |! O. D$ M' m' H" U- M- o" K( \% U) @: K+ P, v$ O
- #安装好superset后会在venv生成很多文件,切换到venv8 S* C, l5 S5 D; J' x
- cd /usr/local/tools/superset/venv/& J* V5 J* k6 }9 e
8 @: Y5 X/ X: I! ~9 S- : |4 V, g% n0 Y5 a* K2 x
T3 |0 T) Y" K! ]- b9 D7 U2 Y9 w S- #新建日志文件夹- d3 y! o' p" [ c$ q- Y
- mkdir log' \2 G% N3 t, O- u; {: Z
) F) }9 u& |$ i! a; z- #切换到log目录,新权限 日志,错误日志和启动pid文件' o9 ^2 ^5 W- m+ b7 X+ g& C
- cd log
# E% y8 u2 {& q9 S+ x, [% |! [ - touch gunicorn_access.log( u' `8 U! `, b' l
- touch gunicorn_error.log" p9 o" }# Z% @& \7 U7 Y0 e, X
- touch pidfile
. x2 \+ y0 A B - chmod 755 ./* #修改权限
6 R- k2 P6 @$ R; E3 U
! d: d& L6 W. Z- k/ B# F- #切换到/usr/local/tools/superset/venv/bin,写一个gunicorn配置文件,python语言6 ^1 S4 T* X- ]# P1 V- U* @$ X
- cd ./usr/local/tools/superset/venv/bin
$ _9 q j9 l' F# [( O - 7 ~+ t( {9 q. J9 Q9 ]4 k
- . F% ^3 e# q! c8 B6 S/ u C
- vim gunicorn_config.py # 内容如下3 q4 R h9 m3 @1 z
% }2 g+ P2 U; n- #内容开始
1 |2 i5 a6 C" S1 a - import multiprocessing
- j/ t$ U6 J8 U5 |2 p2 ~( _
& ~+ P* b' _* @5 a: F# p- + z) I$ O/ ? {& o! d
- bind = '10.218.10.290:9089' #绑定ip和端口号
0 @$ g( u" y4 E3 ^ - backlog = 512 #监听队列 E) X8 `+ f5 L' {% x0 s$ l V
- timeout = 30 #超时
/ a, F @" B6 f - worker_class = 'gevent'* i8 a+ v/ u3 c0 e$ p% y% Y. w
- workers = 5
) a! k3 H Z- d5 q - worker_connections = 1000" a1 u T- C* J9 _. \
- threads = 2 #指定每个进程开启的线程数9 j9 g0 d" a2 Z6 U Z
- loglevel = 'info' # 日志级别) x; C0 l9 I& V" t) l6 C
- access_log_format = '%(t)s %(p)s %(h)s "%(r)s" %(s)s %(L)s %(b)s %(f)s" "%(a)s"' #设置gunicorn访问日志格式,错误日志无法设置
8 P, W* e' F3 e7 L- a9 s6 p
' v; Z: ?$ r/ y) T4 v2 @5 Y- - F! n' ?/ V& U6 ]* E& ], G7 w
5 }9 @+ F5 V( ^( b' B- pidfile = '/usr/local/tools/superset/venv/log/pidfile'; W6 J8 b. n. M5 T4 F
- errorlog = '/usr/local/tools/superset/venv/log/gunicorn_error.log'2 L' ]3 B) G! ]
- accesslog = '/usr/local/tools/superset/venv/log/gunicorn_access.log'+ y7 f% I3 u# ^
- / N2 @! ]6 h0 ` N, S7 o3 j9 K2 w
- print("IP and PORT:"+bind)1 X- c; p8 [ ]0 u' l
- print("pid_file:"+pidfile)
5 z9 H) C- o4 u" s - print("error_log:"+errorlog)$ i! e0 _* B3 [7 U/ P/ G7 y% Z0 m
- print("access_log:"+accesslog)
( k ~4 a7 \% I
/ \. t. u! J- r& `7 M! b- c+ b- #内容结束5 S& }) A7 O: ]
3 c! L; D2 c' B; N q- #然后 wq! 保存退出2 _+ G# t. z0 v6 w% @, ]
/ p- j; s' l! W- # gunicorn 启动 -c 配置文件启动;--daemon后台启动,日志可以去配置文件指定的路径查看
" ?& c9 G: }9 C; I& O - gunicorn -c ./gunicorn_config.py "superset.app:create_app()" --daemon
6 r7 O# i+ A' Q1 L$ J5 r3 v - 3 T7 j; E/ X. M" y, Y! D+ v5 r" A0 q* g
- # 后台进程查看
( j' g, ]! r3 M- K. O* o) _ - ps -ef | grep gunicorn
# _7 M0 L, \, Q4 T( R - + V/ Q: z6 V* y% C0 W
- # 或者通过端口查看
0 B' P: E; X4 z7 @ - netstata -tunlp | grep 9089
; q. r9 z: x% O( P! M. i - # 或
' P/ S' o( ~$ J+ L; e - ss -anp | grep 9089
- C$ J. L$ A) C) u. Q4 H
! Z. @0 _* u3 L' W$ \) c- N- # 如果没开启后台停止,直接ctrl+c关停
' O: Z1 s8 f5 g! a - # 后台进程停止gunicorn! G9 p6 Z& j' x* B" s% O" D
- ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码
9 B3 @ b9 @, v" ?+ E6 s 5. 用户手册(重点)+ H" f. x$ C# K- e' t" D9 L' F
4 h: B. S( G7 ], @/ b9 {
5.1 新建Databases(数据库) 新建数据库之前,需要先安装该数据库的python驱动包,具体语句可以参考官网 Database Drivers,如图5.1.0,一般就是pip install XXX,安装好驱动后,记得重启下Superset服务; 新建数据库连接的作用是为数据集Datasets和SQL实验室SQL Lab提供数据库、表的选择,就是提供数据源,当然Data下还有个Upload CSV(最新版本也支持Upload Excel)也可以直接将本地的CSV文件作为数据源上传到Superset站点,直接进行数据探索分析。 图5.1.0 数据库驱动以及连接字符串
% N# |$ y( M8 h; S9 l2 Y' T8 B$ G 登录进Apache Superset后,点击Data,下来选择Databases,然后跳转到图图5.1.1,点击右上侧的+号就可以跳转图5.1.2的数据新增配置界面。 图5.1.1 新建数据库连接 $ n% B6 p, }7 v* X7 n5 p& g: |' ~0 @# U
图5.1.2,Database是指的新建这个数据库的显示名称,这个随便取,合理即可,SQLAlchemy URI 这个地方就是之前图5.1.0上的数据库连接字符串,确保和你选择的数据库类型一致。 # q0 a0 v" \- P5 L4 O" L
然后点击TEST CONECTION,连接成功后会跳出Seems OK!的弹出框,记得滑到最下面,点击保存,如果连接不成功,请检查数据库的实例,端口,用户名,密码以及自己部署的Apache Superset的服务器访问数据库的端口网络时是否能通,当然也不要忘记SQLAlchemy URI 填写规范,保存后的数据库连接就会列举在图5.1.1上。
7 G0 u- n# J% U7 f3 g7 A: H0 ^; O
图5.1.2 新建数据库连接配置信息 $ p9 Q/ x8 U9 `6 W% ]
5.2 新建Datasets(数据集,老版本也叫Tables) 图5.2.0 新建数据集 * x5 s+ ^5 ~1 e
如图5.2.0,点击图中的Data下的Datasets,然后点击+号,跳转到图5.2.1,将配置好的数据库名下拉选出,写一个该连接实例下的数据库,然后选择一张表,点击保存即可,保存好的数据集会列举在图5.2.0中,这些知道为啥老板叫Tabels了吧;8 ~4 P* z' i- W4 H" `
数据集的作用是为后续的Charts(图表)数据可视化作为数据源头。 图5.2.1 新建数据集配置信息
, ]6 F4 w0 T- A% V4 W# k3 l
r/ \3 H# W" e/ }5.3 SQL Lab(SQL实验室) SQL Lab其实就是一个数据库查询客户端,利用SQL语句对数据库的表,字段模型进行查询探索,同时支持智能补全,当然SQL Lab的查询结果也可以直接EXPLORE到Charts(图表),作为数据可视化的数据源。3 s9 O# n1 A/ K
如图5.3.0,SQL Lab有三个选项,三个选项的功能如下: - SQL Editor:进行SQL查询探索
- Saved Queries:保存的通用查询SQL
- Query Search:查询的历史记录3 x% q# m) H, I$ y `$ E
图5.3.0 主界面进入SQL Lab
' b3 g# `8 f% u. W8 v 点击SQL Editor进入图5.3.1的SQL查询探索,左侧上方是配置好的数据库连接名和选择的数据库,左侧下方是将要用到的表及字段模型;右侧上方是写SQL语句的地方,支持RUN(查询),RUN SELECTION(查询鼠标选择局部语句),SAVE(保存),SHARE(分享)等,右下方是数据结果,支持EXPLORE到Charts(图表)可视化,.CSV下载,CLIPBOARD(复制到剪贴板)。 图5.3.1 SQL Lab使用 . P5 C- j3 M8 |) U# }7 t" C8 g
5.4 创建Charts(图表) 图表的作用是数据可视化,利不同的图表满足不同的业务需求,图表同时也作为仪表盘的展示的一部分,一个仪表盘内可以展示一个或多个图表。
0 a# n* x, D8 u1 X9 {# B+ p 创建图表的方式有两种: - 如图5.4.0,点击Charts,点击+创建新的图表,跳转图5.4.1
- 在SQL LabSQL语句探索查询的结果直接EXPLORE到Charts(图表)可视化
/ Z0 M9 o* b( ^! X0 U
图5.4.0 创建图表
6 {/ r3 L6 R$ v5 K 如图5.4.1,选择合适需求的数据图表(如图5.4.2,支持的图表类型非常丰富,号称最漂亮的可视化图表展示),选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表;
3 ~9 K+ ~# h3 s- o
7 a+ W2 ]- n0 Y' g图5.4.1 图表可视化配置
8 Y$ z) G. S9 X! q& L 号称最美可视化展示,支持可视化的图表类型确实丰富多彩,应对各种可视化需求。 ! [: u0 o1 z) \) o) t; o( n* K* m4 g9 D
7 I5 l+ f0 t3 k* _图5.4.2 支持的图表类型 7 B2 C+ m# X( r. K9 v
5.5 创建Dashboards(仪表盘) 仪表盘就是最后的数据总体呈现,即报表展示。 如图5.5.0,点击Dashboards,然后点击+新建仪表盘,跳转图5.5.1。 图5.5.0 创建仪表盘
6 |3 p3 M3 Y0 t4 n 点击图5.5.1右上角的编辑仪表盘,之前做好的Charts(图表)拖拽到仪表盘上,注意:第一次拖拽的时候尽量网上拖拽,知道出现这个条蓝色的分解线,否则 无法拖拽过去; 同时也支持一些通用的组件,图表旁的Components下,有Header、Tabs、Row、Column、Markdown、Divider;
# X2 {3 B( P, u: H- ?6 S) e$ f 编辑完后后记得点保存。 图5.5.1 编辑仪表盘
) D- ?' }6 E6 K. u3 N- J 保存后的仪表盘支持分享,下载等功能,同时也会根据图表内的数据源刷新来获取新的数据; & K3 O+ X& B( w$ P/ ~
3 x- s1 W g5 L; l
图5.5.2 仪表盘功能
" j3 C' ]$ K9 y1 r6 I 分享给别人看到的仪表盘如图5.5.3。 图5.5.3 分享后他人视角的仪表盘 ! U5 {% _- z0 T5 F
6. 设置 设置包含在菜单栏Settings下,主要设计权限和操作日志等模块,接下来分别讲解。 " N5 l5 v+ f0 v, E5 O" e
7 H3 [+ E4 e, i2 B7 ~
图6.0.0 通用设置 ( ?$ ^5 Z+ h. O6 a" h2 a) p% J3 Y
Y7 C+ D+ s2 U2 V6 z7 s1 X6.1 角色列表及权限 Apache Superset中的安全性由Flask AppBuilder(FAB)处理,FAB是一个构建在Flask之上的应用程序开发框架。FAB提供身份验证、用户管理、权限和角色,可以查看其相关文档。
; C$ k$ [7 u* y4 y Apache Superset默认提供了不同的角色,每种角色拥有的权限不同,在运行superset init命令时,与每个角色关联的权限将重新同步到其原始值,不建议更改与每个角色关联的权限(例如,通过删除或添加权限),支持admin再自建角色类型,指定想要的权限,默认的角色及权限如下; - Admin:管理员拥有所有可能的权限,包括授予或撤销其他用户的权限,以及更改其他用户的切片和仪表板;
- Alpha:Alpha用户可以访问所有数据源,但不能授予或撤消其他用户的访问权限。它们也仅限于改变它们所拥有的对象。Alpha用户可以添加和更改数据源。
- Gamma:Gamma用户的访问权限有限。他们只能使用来自通过另一个补充角色访问的数据源的数据。他们只能查看由他们可以访问的数据源制作的切片和仪表板。目前Gamma用户无法更改或添加数据源。我们假设他们主要是内容消费者,尽管他们可以创建切片和仪表盘。另请注意,当Gamma用户查看仪表板和切片列表视图时,他们将只看到他们有权访问的对象。
- sql_lab:sql_lab角色授予对sql lab的访问权限。请注意,虽然管理员用户在默认情况下可以访问所有数据库,但Alpha和Gamma用户都需要在每个数据库的基础上获得访问权限。
- public:要允许注销的用户访问某些超集功能,需要自己配置权限,并将其分配给另一个角色,您希望将其权限传递给该角色。+ n& D: h" B$ L1 I1 I P n
图6.1.0 系统默认角色
- v8 f2 E% e/ L5 G3 ~ 同时Apache Superset也支持管理员自己新增角色,如图6.1.1,新建角色并指定角色权限。 2 A1 f1 n a( r
0 \. F* R, n# B" L- m
图6.1.1 新建角色 ) x1 T& Z$ L: |9 ?9 n. |# E9 X
$ i* H \' C; Q0 U( h5 Z6.2 用户列表 新建、编辑用户指定角色,用户的权限是绑定在角色里面的,一个用户可以有多个角色,配置信息如图6.2.0。
% ?5 ^! T' W; s/ l) a3 x1 L. Y1 }+ J
图6.2.0 新建、编辑角色 , Z5 X$ O9 f8 e, c
4 D7 y. Y7 _. M3 M: U4 l1 i j
6.3 操作日志 操作日志记录的是在你的Superset平台上不同用户的行为日志,如图6.3.0。 图6.3.0 行为日志查看
H& N x! u6 N' z$ p3 ~2 r" f |
6.4 用户信息、退出、版本信息 菜单栏最右侧的个人信息,主要是包含: - 用户信息:修改用户姓名,重置密码;
- 退出:回到登录主界面;
- 版本:目前您安装的Superset版本信息。
1 V0 B( k$ L* p! S: Q% L0 z8 P2 `0 ]$ O. M% q1 h6 `
图6.4.0 个人信息模块
# R6 \, ^7 z, A* \' I4 A* K; t3 c/ m, W
6.5 语言选择 作为Apache的顶级项目,自然是运用于全球的,支持世界上一些通用的语言 ,选择一款你最喜欢的即可。 图6.5.0 语言选择
7 G' } A- _, B8 b* }! V6.6 管理设置 针对仪表盘,图表渲染加入自己想要的风格和模板,实际运用的用的不多。
5 `- d# w% q; j6 |* [' Y# ^' O) W' z. S9 M* }9 O) W
图6.6.0 管理模块
; g) F+ A& U% u* H; e2 D6.7 + NEW 菜单栏的+ NEW其实就是给最通用的三个模块SQL Query、图表、看板(仪表盘)的一个快捷方式,此三者的用法就不在累赘了。 图6.7.0 + NEW模块
. X/ G& L3 L! X/ u1 u6 a" w2 V5 V) Y# f
" S1 Y2 P0 v' j$ c原文来源: https://blog.csdn.net/LXWalaz1s1s/article/details/119061337 2 N& B( d( | C
|