目 录. g. g' B/ Y5 T' F# k. R) U4 |
& n- t: E: P! {; _7 R' W" x1. 需求背景1.1 大数据可视化面临的挑战 大数据的兴起,关于数据的存储、计算技术层出不穷,但是最终的数据可视化呈现,数据的探索,也成为颇为重要的一环,这一块并没有像存储、计算技术栈那么百花齐放,大家在做大数据可视化时是否也曾有这些困惑呢? - 传统的可视化对接传统数据库,对大数据组件的hive,spark,presto、elasticsearch、clickhouse等兼容性差,甚至不兼容,每次还需要多一道将大数据集群数据分发到传统数据库的冗余操作;
- 商用产品昂贵、甚至产品设置技术壁垒,很多甚至要求对接该商家的自己的大数据技术方可对接;
- 群众基数大的Excel拖来拽习惯、SQL操作的方便性,排斥自成一派的新技术,网页版账号登录优于用户下载客户端登录;
- 公司开发人员配置紧张,没有多余的人力自研大数据可视化平台,但是决策层希望有一个统一的可视化平台。
5 [, R9 O& \5 h/ d& U
诸如此类,确实令人头疼,现在就推荐一款解药Apache Superser——开源的大数据分析探索、可视化报表的神器。 1.2 大数据数据可视化的目标架构6 i9 w6 c+ Y* G$ \% g& t) d
1 {6 |8 \- {7 ~6 }( c图1.2 大数据数据可视化架构
# A: L8 a" D, t9 V3 \ 做事还是需要立一个目标架构,最后所有的事情都是围绕目标架构展开,才能越做越轻松,如图1.2,可是架构分为三个梯队; - 第一梯队:ClickHouse、DorisDB、Kylin等优秀OLAP技术做存储,利用自带的连接引擎,快速响应,同时支持实时数据和离线数据的接入,外接可视化平台,通过权限管控后呈现给用户;
- 第二梯队:数据存在数据仓库Hive内或者NoSQL的Hbase,再通过较为优秀且高效的引擎Presto、Flink、Spark等接入可视化平台,通过权限管控后呈现给用户;
- 剩下就是一个特殊的,如MySQL,临时文件等文件的接入;
# a! v, _- O- v$ d" E
注意:常用的也还有其它技术架构,如ELK架构,ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成。Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。 Logstash是一个完全开源的工具,他可以对你的日志进行收集、分析,并将其存储供以后使用(如,搜索)。 kibana 也是一个开源和免费的工具,他Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志。这个后续再讲,这里书归正传,先讲讲Apache Superser。 2. Apache Superset简介2.1 Apache Superset是什么? Apache Superset是一款由Python语言为主开发的开源时髦数据探索分析以及可视化的报表平台;她支持丰富的数据源,且拥有多姿多彩的可视化图表选择。 7 z" d6 h- I1 ^ ?/ ] e
( X9 V: W! y# K7 T) v+ s0 U" h6 i. b/ V+ e/ U: K2 V
% j, f- Y, P$ p" N% y% r. ]. _1 b0 r图2.1.1 Apache Superset定义
9 X, Q1 [- G+ ?1 _9 |8 `% r7 a; l `2.2 为什么选Apache Superset?- 支持丰富的数据库作为数据源,基本上平时用到的数据库都支持;如图2.2.0,支持的数据源有:
+ v" E' P4 E! H( ~! X! u. h
- Amazon Athena
- Amazon Redshift
- Apache Drill
- Apache Druid
- Apache Hive
- Apache Impala
- Apache Kylin
- Apache Pinot
- Apache Solr
- Apache Spark SQL
- Ascend.io
- Azure MS SQL
- Big Query
- ClickHouse
- CockroachDB
- Dremio
- Elasticsearch
- Exasol
- Google Sheets
- Hologres
- IBM Db2
- IBM Netezza Performance Server
- MySQL
- Oracle
- PostgreSQL
- Trino
- Presto
- SAP Hana
- Snowflake
- SQLite
- SQL Server
- Teradata
- Vertica
( t2 F' h4 H" G" Z- ]
; u6 T% m" `1 n' a
图2.2.0 Apache Superset支持的数据源
/ h+ ]1 ?2 J& d& A1 e) i- 多姿多彩的可视化图表,Apache Superset拥有非常丰富的图表,来实现不同的可视化需求,如图2.2.1。
" e4 V3 a% P% a3 l' U
9 v8 o) ~/ j7 H1 ?! j$ w
图2.2.1 Apache Superset支持的图表 9 H/ j) B! E' W @
- Data:主要功能是新增数据源和数据集Dataset(旧版本也叫Table),Dataset作为数据图表可视化的基础;
- Charts:图表,就是针对准备好的Dataset数据集,选择一款合适的图表呈现;
- Dashboards:仪表盘,其实就是报表、看板大屏展示,可以将多个Charts组合到一个仪表盘内一起展示。
- SQL Lab:SQL实验室,其实就是一个类似DBeaver、Navicat、DataGrip等一样的多功能数据库连接客户端,但是只有查询功能,配置驱动和连接后可以进行数据库、表、字段等模型的SQL查询操作。
- 设置:语言选择,登录注销、人员权限,操作日志等设置;
7 y; n4 v- Z& u7 }; R
图2.2.3 Apache Superset使用预览
3 v! W1 J& @5 ^* t }. J2 V7 h2.3 对比Metabase- 天生自带支持的数据源Apache Superset完胜Metabase;
- 数据图表形式Apache Superset完胜Metabase;
- 操作界面美观丝滑度Apache Superset稍逊Metabase;
- 托拉拽操作Apache Superset稍逊Metabase;
* ?3 v2 G; d% S5 L; _; G G5 C. F
向来博主都是鱼与熊掌能兼得就兼得,毕竟小孩才做选择嘛,可以考虑两个都装,Metabase用于专注业务数据需求人员,Apache Superset用于懂SQL的数据需求人员,二者生成的通用仪表盘,则可以利用一个统一的网页超链接到一起,形成一个统一的报表平台。 3. 快速上手 这里先快速上手带大家体验一把,细节后续章节细讲,首先配置好数据库连接(配置方法参考后续的 5.1 新建Databases(数据库)),然后打开SQL Lab,选择好配置数据库,写SQL语句分析探索数据,如图3.1.0,然后运行语句,得到数据结果,可以点击保存将常用的探索SQL保存下来,然后点击查询结果上方的EXPLORE按钮,就可以跳转图表分析图3.1.1;
. ~ n0 h& T4 a* z6 A
2 g- E4 l; P# i# t: {图3.1.0 Apache Superset在SQL Lab上探索数据 / H7 O/ S3 I2 _3 |* i
利用SQL Lab探索得到的数据集,选择合适需求的数据图表,选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表;
' h6 C3 T9 Q) _$ z' R0 p
# I) s: Y8 g+ K3 @9 u: j, p: b( n图3.1.1 Apache Superset数据可视化
/ Q! d% n5 p) f; z 新建Dashboard,然后编辑Dashboard,将之前生成好的Charts(图表)拖拽到Dashboard,就完成了数据仪表盘的最终呈现,然后就可以分享给需求方,也可以生成访问链接分享。 注意:拖拽时尽量往Dashboard的上面拖拽,会出现一条蓝色的分界线就可以松手,否则可能出现无法拖拽的情况,这个设计很坑。 图3.1.1 Apache Superset数据仪表盘呈现
$ s" g& N- s$ H; ?4. 部署安装4.1 部署方式及版本- 支持Linux、Windows、Mac的Docker部署
- 支持Linux、Windows、Mac的Python环境代码部署
- 可以在github,官网、或者国内镜像网站查看版本,但是别先下载,因为Apache Superset依赖包很多,最好能在线安装;
6 ^; C; m* e% W: _* C
& W6 r6 c8 k+ K+ Q( D; z/ [
图4.1.0 Apache Superset版本预览
% ]. f" X; I/ W! i2 l- 博主选的是apache-superset-0.38.1.tar.gz在Linux上的Python环境代码部署。
3 H7 C9 j2 }7 `2 p$ F/ r* L' @8 I 4.2 配置需求- apache-superset-0.38.1.tar.gz
- CentOS 7 16核 32G(非硬性,一般性能的服务器即可)
- Python 3.6
- 要求服务器网,如果没有,可以使用能联网的代理服务器,依赖很多,采用在线安装的形式1 w$ r' D9 k: V: C
4.3 下载安装- 下载安装Python3.6,可以选择安装anaconda集成的python,可以参考博客Linux通过anaconda来安装python,对应的版本是Anaconda3-5.2.0-Linux-x86_64.sh,下载传送门:Anaconda Download;安装好以后,如果老的服务器上存在python2,默认的环境变量启动是python2,没关系,只需要设置一个新的环境变量确保 python3启动是刚刚安装的版本即可。
- 安装python虚拟机,并启动,然后安装Apache Superset。
) ^3 E+ U- R4 b' C ; D# v+ T7 j ?1 G8 h
- # 切换到自己安装软件的目录,博主的是在/usr/local/tools,并新建superset目录! G$ X, V$ m# c6 b* Z3 F
- cd /usr/local/tools9 a" U; \9 B& n
- mkdir superset, |% n; f* C$ _. }
- cd superset
- Z/ P8 _0 C; q2 L& L% s, z
( Z5 y1 ]1 B* _9 a% e; S3 S% `- # 安装虚拟机,有网就不需要的代理服务器,配置代理服务器10.212.18.34:3129方法:
8 t; c, k* N% F7 I. S# h @ - # 写入配置文件 /etc/profile里面追加0 ?* G( ~/ f% F! u+ f
- # export http_proxy=10.212.18.34:3129, D& I6 g+ T! I1 a9 X2 l
- # export https_proxy=10.212.18.34:3129# y/ ^5 `. d: V- Y
- # 然后wq! 保存退出,source /etc/profile刷新配置文件
+ a( Y* l1 p) p# O3 ? - # 安装完可以删除代理,记得再source /etc/profile
9 @. o& t0 D* T( k3 ~ - # 如果不想配置/etc/profile或者无权限,可以采用以下命令% ^# K" v( I3 z. D
- # pip install virtualenv --proxy=10.212.18.34:3129,每次都需要,烦" G; j. }' {/ k0 v: }; t
- pip install virtualenv. C" y4 w- l2 I' [
- : i; L- b) x' @9 z* m. [
- # 配置命名虚拟机, B' B7 H3 V m( o/ R T
- python3 -m venv venv
3 W4 ~1 `$ o$ D* } - # m! s4 l0 O- F! q/ X
- # 启动虚拟机,会在当前目录下自动创建venv目录: f9 C0 v& C. K7 S: f
- . venv/bin/activate2 @/ o \2 Q# o, }# o% o8 Q
- ; a! C B; D u, e% K0 `7 y0 @
- # 退出虚拟机指令,但是这里不需要退出& v/ R! R; c7 c* P# b) D e
- # 退出虚拟机指令,但是这里不需要退出
; n# M; `* f5 K K - # 退出虚拟机指令,但是这里不需要退出
# Y: T. L. L2 ~8 ] - deactivate
: q' v6 c) K, q7 N5 j8 q7 s
+ J6 x, c9 ^ ~& [+ H2 _1 L- # 安装更新一些依赖2 a Z) d' s/ n. W( Y; G. }! }2 b
- pip install --upgrade setuptools pip -i https://pypi.douban.com/simple/# p4 x; F/ K z; P
* K7 B& l5 \% z6 O- yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel
1 Z5 e8 d; l; n# G - * q, ~' N1 z' k) Y
- # 如果报错:GPG key retrieval failed: [Errno 14] curl#37 - "Couldn't open file /etc/pki/rpm-gpg/RPM-GPG-KEY-EPEL-7"
. d8 s' X' M+ ?% Y - # 解决:
! P4 K1 \/ S6 T7 L4 l( o% C* H1 T# V& j - vi /etc/yum.repos.d/epel.repo
2 ~$ B/ J' C& i- S. k- z' M9 ~ - gpgcheck=0& C8 j( E1 S/ ]2 r' n; q
- # 然后wq!保存再试一次yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel$ X' p/ N3 ^' l& l3 R
- ! a1 k3 m7 ?6 }
- # 先用官网下载,因为官网的会自动把依赖也给你一起安装了,实在不行再用其他网站的镜像. Q3 I$ `/ _ L* D/ {
- pip install apache-superset==1.4.22 I9 Z( [$ n" p
6 `; x5 _# D L& H4 G" R# T$ l- # 安装superset,指定版本,不指定版本默认是最新版本$ A; l! k3 J! G& G
- pip install superset==0.30.1 -i https://pypi.douban.com/simple' ] y) ?5 g/ s6 u7 f" d
. J* H7 X. i( X: h" o: Z- # 安装email_validator
& ^2 v' h) n$ W2 Y4 J3 w - pip3 install email_validator -i https://pypi.douban.com/simple// r& ?3 x8 U! T/ e. ?; T: N/ m2 }
- 7 [: p. ]1 E2 k
- # 更新数据库
% {) X# i" K) u* t0 u7 { - superset db upgrade) E4 l! {7 a1 W6 L5 u& Z* S# A( w/ H! o
- ! i8 |' v t: z: F' p% ^- \
- # 创建admin的用户名,用户名随便写,bigdata123,admin都行,写完用户名后会让你输入姓,名,邮箱,这三项可写可不写,不写就直接回车,然后是设置密码,一点要写。
' U8 r% x; p) G9 p - export FLASK_APP=superset
5 V5 y' W5 V* }- a6 ^% r& H8 W - superset fab create-admin/ U& z0 B/ X7 E8 a8 N9 }, k, C8 O
- l# l3 B( E; v' a- # 加载样例数据,考验网络,如果实在一致加载报错就放弃,不影响后续使用。0 ]$ b, B% r6 O8 z
- superset load_examples
2 \/ m4 V, Y$ S, E7 C3 K# T
0 P* S* p' l9 n9 C `' |3 E1 P# Y- J0 \- # 初始化8 K T H# i0 i9 E7 v8 X) [( R
- superset init4 } b& g* X8 k% s# h& M
8 Z2 ~% w" H3 h& A3 M) v- # 启动,官网是superset run -p 8088 --with-threads --reload --debugger
( u7 ~2 ?. ]$ v; z9 ~" V. _ - # 建议用gunicorn启动,方便快速,先直接启动,确保打印在客户端的日志正常
$ x5 ~/ f( d: `/ C6 y8 } - pip install gunicorn' H- N/ q5 o) \+ {! l: D
- gunicorn -w 5 --timeout 120 -b 10.218.10.290:9089 "superset.app:create_app()"
, b2 c2 _" X7 A' \' S - ) b; L8 S& ]$ s6 }% {$ e) s
- # gunicorn 是一个Python WEB服务,可以理解为Tomcat
8 o, Z' {+ u% ?) q - # -w WORKERS:指定线程数/ B6 E E6 ^& r" k
- # --timeout:worker进程超时时间,超过会自动重启 `7 v7 I8 U% Z9 v7 R
- # -b BIND:绑定Superset访问地址 ^0 O4 k5 f8 p5 J
- # --daemon:后台运行& f1 A% C6 |6 \5 }
! M: z# b+ M1 m8 _3 [% p" g- # 在能访问10.218.10.290:9089的服务器上打开浏览器,输入刚刚登录的用户名,密码即可。
# K3 `0 ]* |. I
4 `9 D" S& Z I0 e- T1 l& R8 {8 y
4 s2 F& x- \1 a7 \: i- # 如果没开启后台停止,直接ctrl+c关停. w R- |% A& ?6 I% S/ w/ m: d
- # 后台进程停止gunicorn; [. T2 m' `3 e5 C& @2 w* W
- ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码
) o& ~8 ]* o; H, O
- \( k+ w( h: N+ I$ \4.3 安装注意及排错 pip install superset步骤时出现关键字眼Successfully installed证明正确安装,如图4.3.0; Y0 p0 P$ y0 c' I( [+ ?1 O
3 z9 b1 b( c; I* }- w( T, j1 M: g- Z图4.3.0 成功安装的提示
8 Z1 J7 M: n/ ~! p, m- ^ superset fab create-admin配置用户名时提示如图4.3.1。 图4.3.1 配置用户名时提示
% h% w* R' i# a 每个人的服务器环境,可能导致缺少的 依赖不同,途中如果遇到bug,可自己百度解决,基本都是python依赖包之类的问题,要耐心。 - # 报错6 G$ U7 z; H* a% W& Y
- ModuleNotFoundError: No module named 'dataclasses'
/ R4 Z0 S- W9 _; ?6 t* }8 A- p6 M4 | - 7 x* A& o6 D% P4 D. z7 n% B) v
- # 解决
0 U( O2 U3 T3 G( T - pip install dataclasses
: h7 a; g2 W8 T0 m; ]* v w, C& B6 g - ; p1 P, R! p: K% s1 S* T5 {) J
- # 报错9 a+ y" @! ]- p1 A+ E4 b& P! K2 q
- No PIL installation found5 Q) o( p! y7 l- X
- # 解决" G! `& `6 q7 V4 Z/ s9 a
- pip install pillow
( c: b! A: y, h- _& K6 V+ c) ~
复制代码
8 [' c1 m8 Y5 o: ] f 一切解决后,网页登录如图4.3.2; 图4.3.2 登录首页4.4 启动与关闭 ' e% B5 U; q$ m# b
官网提供的直接启动的方法不是很好,博主推荐一个采用gunicorn的方法,先关停superset。 + V1 D+ p% ^/ e( Q
# f7 \! R! h* a# ~, z: R
- 4 f3 u$ L3 z( N! Z" @+ O
- #安装好superset后会在venv生成很多文件,切换到venv) h" I. w+ e: P1 `+ k
- cd /usr/local/tools/superset/venv/
6 U+ d" b/ n6 b! o* S3 P - 3 ^) i, {4 G0 h6 L" w) Z: |4 x. L
- " e* s6 V9 d6 A. j
1 E3 v* ]$ [1 q C- #新建日志文件夹. h9 |- l: @1 r, z" d
- mkdir log- n& p! x8 h, Q4 V$ s* z. V
O. X. t+ S, d1 J. ?' H- #切换到log目录,新权限 日志,错误日志和启动pid文件
2 t" O% E; Z3 D$ v8 h - cd log
/ m' ~$ f& _6 O( @6 [ - touch gunicorn_access.log
9 Q( y: O2 @8 g( Z: N) M - touch gunicorn_error.log
7 S' V; n Y9 x - touch pidfile
1 F* e: q' A5 U q - chmod 755 ./* #修改权限4 u" e) m8 b& ~: a/ `% R3 H' z; }
- 8 S2 M3 s/ R7 P( D0 K0 k ~
- #切换到/usr/local/tools/superset/venv/bin,写一个gunicorn配置文件,python语言) ?3 A7 K: o v2 x$ d* c/ h# R9 g
- cd ./usr/local/tools/superset/venv/bin, f8 \6 I9 u$ A/ w3 d F" d
- ' s# ^# G* i( O; Y$ N# W* o) g" B$ k* |* I
- % X: s0 `8 l5 U5 P( a! ?; _- z
- vim gunicorn_config.py # 内容如下
T1 x3 T# u+ B+ \( C - $ f g# a: z' R. O, C) S e
- #内容开始
* o; }4 p% b9 j - import multiprocessing
. o+ d7 ]$ p( {2 Z - / }9 r# `5 g6 Z; i" A
, `5 y4 P" ?" y: S% x: r, ~- bind = '10.218.10.290:9089' #绑定ip和端口号: N3 m/ c2 J" f" g* p" S
- backlog = 512 #监听队列
0 h6 S2 C% g8 } - timeout = 30 #超时
1 p8 m( L# i$ j - worker_class = 'gevent'
$ C' v. y( o. f* I" q. F) |! y - workers = 5
F# V0 J0 P$ E- T - worker_connections = 1000
$ i% l+ p* u; k. P5 u: o) z - threads = 2 #指定每个进程开启的线程数, ?* h2 f5 X% p5 H! [ z- a2 I+ h
- loglevel = 'info' # 日志级别
# B% O6 B* ^: i+ m# [ - access_log_format = '%(t)s %(p)s %(h)s "%(r)s" %(s)s %(L)s %(b)s %(f)s" "%(a)s"' #设置gunicorn访问日志格式,错误日志无法设置
U; Q2 c7 M2 \% \( k7 R - 7 ]4 S8 ^0 Y6 u ^" x. q+ h" v
- / {* M4 `+ }6 E, w) G# S
, ^ o& \# o9 o" j- pidfile = '/usr/local/tools/superset/venv/log/pidfile'
0 w) ?0 f" A4 w$ A9 \/ U4 v Q - errorlog = '/usr/local/tools/superset/venv/log/gunicorn_error.log'
2 v6 ?: K- a3 B: D4 E0 P - accesslog = '/usr/local/tools/superset/venv/log/gunicorn_access.log' W/ [5 M. \/ i1 `, g) _! f* b3 S
( U4 J2 k5 z$ w( F, e% R6 A" R; Z- print("IP and PORT:"+bind)
8 I' s4 E0 b( C: B - print("pid_file:"+pidfile)
( c6 N. ]9 |9 n$ X: @ - print("error_log:"+errorlog); e. z m- O! U8 o/ B
- print("access_log:"+accesslog). F) P. V ^6 F0 V1 n
- 4 t3 Y. a, F( v6 S9 J6 }% a
- #内容结束
" P( B3 y; i$ w' L
% _, N) |! i ]5 q' d- #然后 wq! 保存退出
- ]/ H7 y. p7 A+ h# L
5 R& H! {/ Z `) \2 P- # gunicorn 启动 -c 配置文件启动;--daemon后台启动,日志可以去配置文件指定的路径查看
( M! j: V# `+ X - gunicorn -c ./gunicorn_config.py "superset.app:create_app()" --daemon
) ^, A8 p" a* T, _% T - 8 R" e/ r4 G0 Q
- # 后台进程查看
5 k" A1 U' R9 P - ps -ef | grep gunicorn
# b0 i# R) j6 g# s( F' X
2 q! E" q. W8 t* W- # 或者通过端口查看
6 M+ R( ^5 r1 | - netstata -tunlp | grep 9089* l- K# j0 [ K Z/ O( R+ i
- # 或
' o7 s& Y/ h3 M7 m: s - ss -anp | grep 9089
6 q+ R) G* O& {% P6 Z - C3 y" m3 d7 r! w, t( [1 Y8 t
- # 如果没开启后台停止,直接ctrl+c关停+ o: Y9 ^& V) ]% s! X# G/ q/ M. p
- # 后台进程停止gunicorn
0 w! S+ ^* z- o, ~3 N) Y& y5 R - ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码
# \1 j/ }7 A3 h0 d: }. [, e& F 5. 用户手册(重点)
# V* i5 i- i3 [0 j- l" X# e; ~. Z% w0 N9 g& p$ F% u
5.1 新建Databases(数据库) 新建数据库之前,需要先安装该数据库的python驱动包,具体语句可以参考官网 Database Drivers,如图5.1.0,一般就是pip install XXX,安装好驱动后,记得重启下Superset服务; 新建数据库连接的作用是为数据集Datasets和SQL实验室SQL Lab提供数据库、表的选择,就是提供数据源,当然Data下还有个Upload CSV(最新版本也支持Upload Excel)也可以直接将本地的CSV文件作为数据源上传到Superset站点,直接进行数据探索分析。 图5.1.0 数据库驱动以及连接字符串 / q( Y2 P2 ~* s9 p
登录进Apache Superset后,点击Data,下来选择Databases,然后跳转到图图5.1.1,点击右上侧的+号就可以跳转图5.1.2的数据新增配置界面。 图5.1.1 新建数据库连接 0 U; h& o# t0 Q8 m% E0 b
图5.1.2,Database是指的新建这个数据库的显示名称,这个随便取,合理即可,SQLAlchemy URI 这个地方就是之前图5.1.0上的数据库连接字符串,确保和你选择的数据库类型一致。 + f" \7 W5 |4 H* b7 q$ `4 s' U
然后点击TEST CONECTION,连接成功后会跳出Seems OK!的弹出框,记得滑到最下面,点击保存,如果连接不成功,请检查数据库的实例,端口,用户名,密码以及自己部署的Apache Superset的服务器访问数据库的端口网络时是否能通,当然也不要忘记SQLAlchemy URI 填写规范,保存后的数据库连接就会列举在图5.1.1上。
- c5 X7 w/ ?9 w2 I; L
! c# q% f$ Y; r6 w7 @7 _ V图5.1.2 新建数据库连接配置信息
2 s' S) t5 j5 K4 D/ B! h5.2 新建Datasets(数据集,老版本也叫Tables) 图5.2.0 新建数据集
' n* o" E* I# e3 x) H* H$ x 如图5.2.0,点击图中的Data下的Datasets,然后点击+号,跳转到图5.2.1,将配置好的数据库名下拉选出,写一个该连接实例下的数据库,然后选择一张表,点击保存即可,保存好的数据集会列举在图5.2.0中,这些知道为啥老板叫Tabels了吧;
) l# j# Q# d1 [$ z8 L 数据集的作用是为后续的Charts(图表)数据可视化作为数据源头。 图5.2.1 新建数据集配置信息
. }4 y9 ?" @( @3 c4 Q6 m3 M h( S
( k" E- B2 n/ ^& N% G( P- k+ }0 X5.3 SQL Lab(SQL实验室) SQL Lab其实就是一个数据库查询客户端,利用SQL语句对数据库的表,字段模型进行查询探索,同时支持智能补全,当然SQL Lab的查询结果也可以直接EXPLORE到Charts(图表),作为数据可视化的数据源。# @" z4 H/ Y% t3 [5 M" w1 t$ R
如图5.3.0,SQL Lab有三个选项,三个选项的功能如下: - SQL Editor:进行SQL查询探索
- Saved Queries:保存的通用查询SQL
- Query Search:查询的历史记录
3 D5 r+ q0 `+ C- J$ O9 f* v
图5.3.0 主界面进入SQL Lab ' X j: u" z8 T: Y( | @
点击SQL Editor进入图5.3.1的SQL查询探索,左侧上方是配置好的数据库连接名和选择的数据库,左侧下方是将要用到的表及字段模型;右侧上方是写SQL语句的地方,支持RUN(查询),RUN SELECTION(查询鼠标选择局部语句),SAVE(保存),SHARE(分享)等,右下方是数据结果,支持EXPLORE到Charts(图表)可视化,.CSV下载,CLIPBOARD(复制到剪贴板)。 图5.3.1 SQL Lab使用
3 i' X4 g; y" e1 H) @( Z9 H2 g" }5.4 创建Charts(图表) 图表的作用是数据可视化,利不同的图表满足不同的业务需求,图表同时也作为仪表盘的展示的一部分,一个仪表盘内可以展示一个或多个图表。
4 G! `- N, z) e, D 创建图表的方式有两种: - 如图5.4.0,点击Charts,点击+创建新的图表,跳转图5.4.1
- 在SQL LabSQL语句探索查询的结果直接EXPLORE到Charts(图表)可视化
" M7 s9 _' g$ l8 D! E
图5.4.0 创建图表 8 w( U# D8 X! p( N: i) @: d
如图5.4.1,选择合适需求的数据图表(如图5.4.2,支持的图表类型非常丰富,号称最漂亮的可视化图表展示),选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表;
# o4 ]+ D) s! k6 ~
% @* ~: f3 x. b$ z0 R/ ^图5.4.1 图表可视化配置 ) O2 I! b9 P/ @: ]
号称最美可视化展示,支持可视化的图表类型确实丰富多彩,应对各种可视化需求。
0 q6 ?5 E& R8 o; l; R8 ?
% P, j: q k6 t( `图5.4.2 支持的图表类型
# Z. J* W( T8 b; ?, \/ @# D5.5 创建Dashboards(仪表盘) 仪表盘就是最后的数据总体呈现,即报表展示。 如图5.5.0,点击Dashboards,然后点击+新建仪表盘,跳转图5.5.1。 图5.5.0 创建仪表盘 6 B1 }6 H6 c& E
点击图5.5.1右上角的编辑仪表盘,之前做好的Charts(图表)拖拽到仪表盘上,注意:第一次拖拽的时候尽量网上拖拽,知道出现这个条蓝色的分解线,否则 无法拖拽过去; 同时也支持一些通用的组件,图表旁的Components下,有Header、Tabs、Row、Column、Markdown、Divider;! T ?3 W/ j. ~3 o
编辑完后后记得点保存。 图5.5.1 编辑仪表盘 % b6 P1 {+ U9 R
保存后的仪表盘支持分享,下载等功能,同时也会根据图表内的数据源刷新来获取新的数据; 8 Q9 K; N7 c4 @* k
4 P( ^0 @# S2 M4 U7 H
图5.5.2 仪表盘功能
- D7 Z# ^0 k: B9 H 分享给别人看到的仪表盘如图5.5.3。 图5.5.3 分享后他人视角的仪表盘 * e" q# w1 y: H
6. 设置 设置包含在菜单栏Settings下,主要设计权限和操作日志等模块,接下来分别讲解。
( `. ~9 n9 J, U
3 D! Q" w( K; U7 r/ z5 G+ e图6.0.0 通用设置 % ]& B h! X; y: c3 R: G* L
' G6 J( T/ u# {: ?; [6.1 角色列表及权限 Apache Superset中的安全性由Flask AppBuilder(FAB)处理,FAB是一个构建在Flask之上的应用程序开发框架。FAB提供身份验证、用户管理、权限和角色,可以查看其相关文档。
6 r: X/ e- k `5 J1 m$ | Apache Superset默认提供了不同的角色,每种角色拥有的权限不同,在运行superset init命令时,与每个角色关联的权限将重新同步到其原始值,不建议更改与每个角色关联的权限(例如,通过删除或添加权限),支持admin再自建角色类型,指定想要的权限,默认的角色及权限如下; - Admin:管理员拥有所有可能的权限,包括授予或撤销其他用户的权限,以及更改其他用户的切片和仪表板;
- Alpha:Alpha用户可以访问所有数据源,但不能授予或撤消其他用户的访问权限。它们也仅限于改变它们所拥有的对象。Alpha用户可以添加和更改数据源。
- Gamma:Gamma用户的访问权限有限。他们只能使用来自通过另一个补充角色访问的数据源的数据。他们只能查看由他们可以访问的数据源制作的切片和仪表板。目前Gamma用户无法更改或添加数据源。我们假设他们主要是内容消费者,尽管他们可以创建切片和仪表盘。另请注意,当Gamma用户查看仪表板和切片列表视图时,他们将只看到他们有权访问的对象。
- sql_lab:sql_lab角色授予对sql lab的访问权限。请注意,虽然管理员用户在默认情况下可以访问所有数据库,但Alpha和Gamma用户都需要在每个数据库的基础上获得访问权限。
- public:要允许注销的用户访问某些超集功能,需要自己配置权限,并将其分配给另一个角色,您希望将其权限传递给该角色。
# `, B* [; ~7 X- O/ ], v9 E( D
图6.1.0 系统默认角色 / I$ P& j2 n& E% y5 |4 R: {" Q& i
同时Apache Superset也支持管理员自己新增角色,如图6.1.1,新建角色并指定角色权限。 ; T% w2 n$ f# U" Z9 e/ Y' L
- B/ E5 X, c( h图6.1.1 新建角色 ; A H: T, O0 u2 {/ ~0 {
5 R/ r' Y2 p! t# i) k& R/ [$ ~
6.2 用户列表 新建、编辑用户指定角色,用户的权限是绑定在角色里面的,一个用户可以有多个角色,配置信息如图6.2.0。 , b: p2 T2 H4 B7 q8 |( V
# k k" n1 W( U2 t! y
图6.2.0 新建、编辑角色 " S, S* L9 T# _7 l# q
8 s3 c& y- V3 q w6.3 操作日志 操作日志记录的是在你的Superset平台上不同用户的行为日志,如图6.3.0。 图6.3.0 行为日志查看 % s( ^ |8 `! K( A1 I) V$ r
- f1 N: E* B: A7 L! E' o4 S6.4 用户信息、退出、版本信息 菜单栏最右侧的个人信息,主要是包含: - 用户信息:修改用户姓名,重置密码;
- 退出:回到登录主界面;
- 版本:目前您安装的Superset版本信息。. e8 f. z f k/ W
5 n* g. W9 w2 K) _7 @! {* u8 a
图6.4.0 个人信息模块 ( Y' r( Z0 q, h. V
! k n# A! `" h$ c1 Q' \$ r4 t& d/ [6 n
6.5 语言选择 作为Apache的顶级项目,自然是运用于全球的,支持世界上一些通用的语言 ,选择一款你最喜欢的即可。 图6.5.0 语言选择 $ z. Y0 a3 n: p. ]7 ^2 j
6.6 管理设置 针对仪表盘,图表渲染加入自己想要的风格和模板,实际运用的用的不多。
[+ w% `7 C+ F' K k C$ B
' Z, m1 W4 p: p% o7 G+ \! E0 C6 p图6.6.0 管理模块
; S$ v" Z* f7 C7 W" A6.7 + NEW 菜单栏的+ NEW其实就是给最通用的三个模块SQL Query、图表、看板(仪表盘)的一个快捷方式,此三者的用法就不在累赘了。 图6.7.0 + NEW模块
* z+ l- l a9 V/ @* [. L: w% ^/ P+ x, v
' k, @/ V* o* j$ |) Z+ p原文来源: https://blog.csdn.net/LXWalaz1s1s/article/details/119061337 4 J- v: I2 W8 x6 h8 [
|