目 录
; |0 {8 P/ L2 |0 o- _' u1 J: i
3 U7 s/ R8 k+ `5 }5 o0 T* C9 L4 R( F1. 需求背景1.1 大数据可视化面临的挑战 大数据的兴起,关于数据的存储、计算技术层出不穷,但是最终的数据可视化呈现,数据的探索,也成为颇为重要的一环,这一块并没有像存储、计算技术栈那么百花齐放,大家在做大数据可视化时是否也曾有这些困惑呢? - 传统的可视化对接传统数据库,对大数据组件的hive,spark,presto、elasticsearch、clickhouse等兼容性差,甚至不兼容,每次还需要多一道将大数据集群数据分发到传统数据库的冗余操作;
- 商用产品昂贵、甚至产品设置技术壁垒,很多甚至要求对接该商家的自己的大数据技术方可对接;
- 群众基数大的Excel拖来拽习惯、SQL操作的方便性,排斥自成一派的新技术,网页版账号登录优于用户下载客户端登录;
- 公司开发人员配置紧张,没有多余的人力自研大数据可视化平台,但是决策层希望有一个统一的可视化平台。
( |/ _+ F. [% R. B, p/ F
诸如此类,确实令人头疼,现在就推荐一款解药Apache Superser——开源的大数据分析探索、可视化报表的神器。 1.2 大数据数据可视化的目标架构. l+ x- E3 y+ z, Y: t# x3 v
% B" J/ @1 L6 S9 r
图1.2 大数据数据可视化架构
; v% G0 z0 `8 n/ @+ L, G8 O# e 做事还是需要立一个目标架构,最后所有的事情都是围绕目标架构展开,才能越做越轻松,如图1.2,可是架构分为三个梯队; - 第一梯队:ClickHouse、DorisDB、Kylin等优秀OLAP技术做存储,利用自带的连接引擎,快速响应,同时支持实时数据和离线数据的接入,外接可视化平台,通过权限管控后呈现给用户;
- 第二梯队:数据存在数据仓库Hive内或者NoSQL的Hbase,再通过较为优秀且高效的引擎Presto、Flink、Spark等接入可视化平台,通过权限管控后呈现给用户;
- 剩下就是一个特殊的,如MySQL,临时文件等文件的接入;( W% {! `6 G+ z$ L1 g" q
注意:常用的也还有其它技术架构,如ELK架构,ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成。Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。 Logstash是一个完全开源的工具,他可以对你的日志进行收集、分析,并将其存储供以后使用(如,搜索)。 kibana 也是一个开源和免费的工具,他Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志。这个后续再讲,这里书归正传,先讲讲Apache Superser。 2. Apache Superset简介2.1 Apache Superset是什么? Apache Superset是一款由Python语言为主开发的开源时髦数据探索分析以及可视化的报表平台;她支持丰富的数据源,且拥有多姿多彩的可视化图表选择。 ( r9 w, J+ D! Q2 Y
; @4 }. V6 n$ O. p4 d: y
/ }" Z J; N; `
; f# a6 `5 g: C1 P+ {+ u# F图2.1.1 Apache Superset定义 5 K. K( [% P2 S( I( a/ ^0 U
2.2 为什么选Apache Superset?- 支持丰富的数据库作为数据源,基本上平时用到的数据库都支持;如图2.2.0,支持的数据源有:
N% a3 H* u# Y; |% V+ {) m
- Amazon Athena
- Amazon Redshift
- Apache Drill
- Apache Druid
- Apache Hive
- Apache Impala
- Apache Kylin
- Apache Pinot
- Apache Solr
- Apache Spark SQL
- Ascend.io
- Azure MS SQL
- Big Query
- ClickHouse
- CockroachDB
- Dremio
- Elasticsearch
- Exasol
- Google Sheets
- Hologres
- IBM Db2
- IBM Netezza Performance Server
- MySQL
- Oracle
- PostgreSQL
- Trino
- Presto
- SAP Hana
- Snowflake
- SQLite
- SQL Server
- Teradata
- Vertica
* J3 H: W3 }, l4 o1 P) |- g* n& K+ c; O7 |" \
图2.2.0 Apache Superset支持的数据源
. o) [) F+ b6 b, C- 多姿多彩的可视化图表,Apache Superset拥有非常丰富的图表,来实现不同的可视化需求,如图2.2.1。; F# {7 v( x( f
# C+ O+ j9 T: m1 f7 G
图2.2.1 Apache Superset支持的图表 d6 |9 A5 O$ D1 Y) i
- Data:主要功能是新增数据源和数据集Dataset(旧版本也叫Table),Dataset作为数据图表可视化的基础;
- Charts:图表,就是针对准备好的Dataset数据集,选择一款合适的图表呈现;
- Dashboards:仪表盘,其实就是报表、看板大屏展示,可以将多个Charts组合到一个仪表盘内一起展示。
- SQL Lab:SQL实验室,其实就是一个类似DBeaver、Navicat、DataGrip等一样的多功能数据库连接客户端,但是只有查询功能,配置驱动和连接后可以进行数据库、表、字段等模型的SQL查询操作。
- 设置:语言选择,登录注销、人员权限,操作日志等设置;) a+ W- l" Z5 U% ?8 T- A
图2.2.3 Apache Superset使用预览 " | }+ m# y& H6 l% {* D3 S0 u
2.3 对比Metabase- 天生自带支持的数据源Apache Superset完胜Metabase;
- 数据图表形式Apache Superset完胜Metabase;
- 操作界面美观丝滑度Apache Superset稍逊Metabase;
- 托拉拽操作Apache Superset稍逊Metabase;
9 d$ H$ I: ^1 g
向来博主都是鱼与熊掌能兼得就兼得,毕竟小孩才做选择嘛,可以考虑两个都装,Metabase用于专注业务数据需求人员,Apache Superset用于懂SQL的数据需求人员,二者生成的通用仪表盘,则可以利用一个统一的网页超链接到一起,形成一个统一的报表平台。 3. 快速上手 这里先快速上手带大家体验一把,细节后续章节细讲,首先配置好数据库连接(配置方法参考后续的 5.1 新建Databases(数据库)),然后打开SQL Lab,选择好配置数据库,写SQL语句分析探索数据,如图3.1.0,然后运行语句,得到数据结果,可以点击保存将常用的探索SQL保存下来,然后点击查询结果上方的EXPLORE按钮,就可以跳转图表分析图3.1.1;
1 L) m% ^! z0 r" L- ^) K4 y
4 |. e: D8 C, i* p图3.1.0 Apache Superset在SQL Lab上探索数据
' B2 k9 S" u% I- M B$ G 利用SQL Lab探索得到的数据集,选择合适需求的数据图表,选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表;
9 F( ~- l% [2 _
6 K- `, i8 p( m6 U6 g. B图3.1.1 Apache Superset数据可视化
2 l+ s% v/ H+ b, L$ B 新建Dashboard,然后编辑Dashboard,将之前生成好的Charts(图表)拖拽到Dashboard,就完成了数据仪表盘的最终呈现,然后就可以分享给需求方,也可以生成访问链接分享。 注意:拖拽时尽量往Dashboard的上面拖拽,会出现一条蓝色的分界线就可以松手,否则可能出现无法拖拽的情况,这个设计很坑。 图3.1.1 Apache Superset数据仪表盘呈现 , Y9 n, I- c( h' ]. ^0 y
4. 部署安装4.1 部署方式及版本- 支持Linux、Windows、Mac的Docker部署
- 支持Linux、Windows、Mac的Python环境代码部署
- 可以在github,官网、或者国内镜像网站查看版本,但是别先下载,因为Apache Superset依赖包很多,最好能在线安装;
5 n1 O2 N; A' t8 r, D/ c0 |$ |& [
/ K( v& t7 T: Z% h, s9 `
图4.1.0 Apache Superset版本预览 - N e9 D; g% V2 h$ n
- 博主选的是apache-superset-0.38.1.tar.gz在Linux上的Python环境代码部署。
! a1 l/ @/ o- E0 v& q p 4.2 配置需求- apache-superset-0.38.1.tar.gz
- CentOS 7 16核 32G(非硬性,一般性能的服务器即可)
- Python 3.6
- 要求服务器网,如果没有,可以使用能联网的代理服务器,依赖很多,采用在线安装的形式4 y* a' J; L2 `+ }# R! ]
4.3 下载安装- 下载安装Python3.6,可以选择安装anaconda集成的python,可以参考博客Linux通过anaconda来安装python,对应的版本是Anaconda3-5.2.0-Linux-x86_64.sh,下载传送门:Anaconda Download;安装好以后,如果老的服务器上存在python2,默认的环境变量启动是python2,没关系,只需要设置一个新的环境变量确保 python3启动是刚刚安装的版本即可。
- 安装python虚拟机,并启动,然后安装Apache Superset。4 o2 X1 b8 q8 X: y$ t% \# q' d% X
; G. i/ g9 t. P3 I) s1 y! L, X2 `
- # 切换到自己安装软件的目录,博主的是在/usr/local/tools,并新建superset目录6 m2 Z: _( L6 L( m* Z* C
- cd /usr/local/tools/ a" B V$ L. ~3 S! f; `
- mkdir superset
8 s7 L) b, K) c( W& q - cd superset
4 F7 b3 y% t; Y/ H9 k. I7 {( @
9 e' `5 U9 Z) C/ t- # 安装虚拟机,有网就不需要的代理服务器,配置代理服务器10.212.18.34:3129方法:- o3 S3 L6 p) a0 u, d% B
- # 写入配置文件 /etc/profile里面追加9 m5 x8 g8 j6 k3 d# ~1 e
- # export http_proxy=10.212.18.34:3129
# h- L0 N) k1 X! R - # export https_proxy=10.212.18.34:3129% \- h' }' X3 ?" D3 M' ^2 I
- # 然后wq! 保存退出,source /etc/profile刷新配置文件) J! c; _% y9 d9 p
- # 安装完可以删除代理,记得再source /etc/profile( d$ s5 y- i" P9 `( ^# a7 A6 c- t% C
- # 如果不想配置/etc/profile或者无权限,可以采用以下命令
& v" }7 D2 u- f4 A: f - # pip install virtualenv --proxy=10.212.18.34:3129,每次都需要,烦
I2 f& u: t2 ^: [ - pip install virtualenv' ^& \# q, a7 W4 t6 j9 L
; Z( y* i: c/ k5 n! w% g- # 配置命名虚拟机
1 U" o0 R# C* }/ t" u - python3 -m venv venv
+ b$ Q' b& }& y# ~, r- n$ t+ V
- q$ D4 `+ T" \( N5 t+ k- # 启动虚拟机,会在当前目录下自动创建venv目录- X1 w: \+ ?; x
- . venv/bin/activate# H; D- i8 g! }
$ \8 S, P; X/ s9 x3 q7 ~1 {- # 退出虚拟机指令,但是这里不需要退出
! X* J+ w+ ^/ U& } - # 退出虚拟机指令,但是这里不需要退出1 J, p! x) a) c0 u' Z# N) d& F
- # 退出虚拟机指令,但是这里不需要退出/ Y$ j! x: K9 q5 b9 r
- deactivate) ]+ N2 v9 V# ^) f2 o
3 U4 W: R; X" f3 L% x7 v# e- # 安装更新一些依赖7 }/ Y `, s) `% S i2 D
- pip install --upgrade setuptools pip -i https://pypi.douban.com/simple/4 d$ h8 g) _/ Q
- ! k G: p9 q7 {; ]4 g/ D/ ?
- yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel
7 D {8 W! A7 w9 B( H, c
! {+ K4 x) G! y- _) Q: k- # 如果报错:GPG key retrieval failed: [Errno 14] curl#37 - "Couldn't open file /etc/pki/rpm-gpg/RPM-GPG-KEY-EPEL-7"+ W" |+ a/ _1 y. A
- # 解决:
( c( G3 z& m' u8 }$ e3 b: { - vi /etc/yum.repos.d/epel.repo
, ^7 D* n& u! H+ D$ `3 q, ] - gpgcheck=02 q$ p' x( b0 u0 Q, Q* C
- # 然后wq!保存再试一次yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel2 | o# a0 E# e2 t4 t
9 E& f; |) [3 t5 F! z! X4 M- # 先用官网下载,因为官网的会自动把依赖也给你一起安装了,实在不行再用其他网站的镜像
# n3 s4 j1 p# s0 W - pip install apache-superset==1.4.2
# m) |$ T( n7 p, ?/ v g2 O, E - ) |- @. \1 s V4 P, n
- # 安装superset,指定版本,不指定版本默认是最新版本 v" G- |3 i& r- j: e
- pip install superset==0.30.1 -i https://pypi.douban.com/simple) A, Z8 k+ Y2 W0 v
- : y' [. a; c0 H
- # 安装email_validator
& U' b7 J4 r2 t. t - pip3 install email_validator -i https://pypi.douban.com/simple/ h. b6 X. e/ s
% e* @$ J% z1 F- # 更新数据库
: [ q/ B3 Q! g3 d6 } - superset db upgrade
+ G% }) I4 s' G8 W$ e* @
9 H$ i: [5 r1 d" P \, e, k- # 创建admin的用户名,用户名随便写,bigdata123,admin都行,写完用户名后会让你输入姓,名,邮箱,这三项可写可不写,不写就直接回车,然后是设置密码,一点要写。9 p$ F& M \& U2 C
- export FLASK_APP=superset/ z! J- E9 [1 l6 C5 A
- superset fab create-admin. K5 U; z- L7 K; u8 f. x. [- l1 v
& y: m/ A: }4 L7 B6 _, l1 }, r+ O- # 加载样例数据,考验网络,如果实在一致加载报错就放弃,不影响后续使用。, _6 r8 S7 k6 w: V; }. X+ t$ k4 ?
- superset load_examples. W; j% J" R9 j* x* ~
% E8 ?" t- n( Z- U& U, K, g) z- # 初始化$ ~1 M6 Q9 m4 E- B
- superset init G4 Q; }9 o! ~! C8 s
- 7 n8 h$ ^- F+ H# F- Z1 t6 A
- # 启动,官网是superset run -p 8088 --with-threads --reload --debugger% `, w8 G+ w. e. e8 w- P3 D" J
- # 建议用gunicorn启动,方便快速,先直接启动,确保打印在客户端的日志正常! G" B$ `4 d9 m+ e8 x) A
- pip install gunicorn
6 a* D+ r& r# u4 U+ {; ^/ i4 ^ - gunicorn -w 5 --timeout 120 -b 10.218.10.290:9089 "superset.app:create_app()"
+ ]7 T. `1 X# @4 K" J, h! u - ! e+ d2 w& C: ~9 {4 a8 l/ B' {. S
- # gunicorn 是一个Python WEB服务,可以理解为Tomcat( c7 u5 G; E. i$ l
- # -w WORKERS:指定线程数
1 K. Q! ]; g6 {4 f0 a0 `9 m - # --timeout:worker进程超时时间,超过会自动重启
, N0 |# R8 }; c+ _/ z - # -b BIND:绑定Superset访问地址 M8 W8 C9 H( W5 Q* X* @
- # --daemon:后台运行+ h) T. p9 o3 u
- 9 ~% q+ Y% o( A8 J! D8 I
- # 在能访问10.218.10.290:9089的服务器上打开浏览器,输入刚刚登录的用户名,密码即可。
7 S# z" v$ Y, g
, H" \) b, d4 I, ^9 n8 {" d" t
9 {$ v& x6 g% x* g- # 如果没开启后台停止,直接ctrl+c关停5 _6 z6 ^6 a/ i. L9 Q! [) T
- # 后台进程停止gunicorn
4 \9 o; P1 Y0 S- i: o! h - ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码
" A" N9 v! D0 x; B, {
* L+ h( W/ u* ^* Q4 M1 g4.3 安装注意及排错 pip install superset步骤时出现关键字眼Successfully installed证明正确安装,如图4.3.0; 9 k$ w- W# z/ c+ G8 l0 E
. F; F! r+ o/ V8 l' N B* }: {* _, X
图4.3.0 成功安装的提示 0 p' A; U3 E9 J' l4 e6 P7 ^
superset fab create-admin配置用户名时提示如图4.3.1。 图4.3.1 配置用户名时提示
) l, g! g) \5 w" K$ M, P 每个人的服务器环境,可能导致缺少的 依赖不同,途中如果遇到bug,可自己百度解决,基本都是python依赖包之类的问题,要耐心。 - # 报错
0 x* D6 \4 Z, O( u - ModuleNotFoundError: No module named 'dataclasses'
/ s- Z& s4 I3 ~7 S9 k+ m
! H7 B' M* @+ H2 q7 y# ]- # 解决% m& u1 D3 \9 G0 k6 p5 S( k
- pip install dataclasses
. m4 c: ]0 U7 Z w
0 i% P/ d {# R/ l- # 报错4 W3 Q( D2 ]& e: K" ~. `
- No PIL installation found- {: D8 ^2 M/ k' y; S ?
- # 解决0 o- V* w0 V$ o; l6 g
- pip install pillow Y |# G; s# Z c3 J
复制代码
: L/ e0 K3 Z' L) s/ S3 c 一切解决后,网页登录如图4.3.2; 图4.3.2 登录首页4.4 启动与关闭 9 ?5 ]& \- `, D& I' U' S
官网提供的直接启动的方法不是很好,博主推荐一个采用gunicorn的方法,先关停superset。
" [& i, `+ J B, c
% ]9 \, y6 S6 H5 b# I) H2 @& b- + T5 q3 h! g& b
- #安装好superset后会在venv生成很多文件,切换到venv
( _; g- [( n/ g, k& ~) O - cd /usr/local/tools/superset/venv/
0 c; T w8 Z. l4 o. _6 n - $ X) v+ v% T! v5 W
- ; O) i: |4 `6 c v! ^
- " W; n$ e6 O; |
- #新建日志文件夹7 z+ s4 v% h! C2 a0 W
- mkdir log' g% `7 E8 U3 s1 c" f, C
- E; n0 m* u/ L( k6 A- #切换到log目录,新权限 日志,错误日志和启动pid文件# i' k; P1 E& ^4 W: Q
- cd log2 i3 p$ a! Y8 e+ g& f) g
- touch gunicorn_access.log
7 l7 e1 A: p1 r- N - touch gunicorn_error.log6 c6 L2 a. { s# T. F! v' a. Z% f
- touch pidfile
9 a4 l; a( N8 q0 D' C$ \ - chmod 755 ./* #修改权限5 S: ?) D5 U+ ?$ e% O
- ; o$ \+ h( n2 u" C0 }
- #切换到/usr/local/tools/superset/venv/bin,写一个gunicorn配置文件,python语言1 Y1 U* R. {" P" [. v
- cd ./usr/local/tools/superset/venv/bin! l' ]/ o4 h8 H' N" `- u* o, V7 O
- + k1 I) j, p) D+ \4 F* f
$ s* o$ P8 W2 j% Y- vim gunicorn_config.py # 内容如下
( _& @! m, e9 K0 m$ [4 f% C
" Z8 F2 I4 ~$ g2 C \- #内容开始8 d- D- M# M( E" G4 R; E
- import multiprocessing0 V9 m- J5 ~4 {% q, A
1 Y* {) d8 e, ]& T- _- 8 W" e, F$ ^1 ?2 q- W/ d5 J, P
- bind = '10.218.10.290:9089' #绑定ip和端口号9 E& m1 }( v% R9 U0 B+ {! V8 Q
- backlog = 512 #监听队列) ` q$ ~( \# W# F9 T8 D
- timeout = 30 #超时
$ [" j- ~# ?- C; b c+ ]; h - worker_class = 'gevent'9 r( l1 J/ y3 P$ ~* [
- workers = 5
5 J2 z% d; ~) y' A4 H7 } - worker_connections = 1000; H( d e6 Y# {" E! B' x9 O
- threads = 2 #指定每个进程开启的线程数) P1 k7 N9 \4 q
- loglevel = 'info' # 日志级别" b6 j+ w2 D0 l$ D) g* Z8 X4 y
- access_log_format = '%(t)s %(p)s %(h)s "%(r)s" %(s)s %(L)s %(b)s %(f)s" "%(a)s"' #设置gunicorn访问日志格式,错误日志无法设置
5 M h& f5 e+ p% c8 N: k
7 _. a$ y3 V# p0 K2 e: z; I- * M; e! t- u7 G# }8 }2 b; G# k0 C
& F; `. @6 i) F% w- pidfile = '/usr/local/tools/superset/venv/log/pidfile'3 b6 k$ ^5 e, z; J& o* Z
- errorlog = '/usr/local/tools/superset/venv/log/gunicorn_error.log'
+ m x& M' G! v2 _# M - accesslog = '/usr/local/tools/superset/venv/log/gunicorn_access.log'
; v7 F, ]; h8 `# ^2 x' a
0 z9 r8 a: g' U- print("IP and PORT:"+bind)6 j3 X7 P9 D6 L5 E
- print("pid_file:"+pidfile)0 M4 h* \' V# [1 K, W0 r
- print("error_log:"+errorlog)
; }$ U1 H4 h9 e4 s6 p2 K2 z8 u - print("access_log:"+accesslog)
+ s& \' @, h0 }1 o - $ l7 V( X7 [9 U$ N
- #内容结束
/ O6 N' f0 M8 t! [
- t) c5 f% G; f# F) F- #然后 wq! 保存退出/ b3 a2 e- o+ ~ m! I
9 t2 A( o0 L- c; Y* O6 q' E6 ?9 C% j- # gunicorn 启动 -c 配置文件启动;--daemon后台启动,日志可以去配置文件指定的路径查看6 j. n+ C; q6 Y$ v- d b
- gunicorn -c ./gunicorn_config.py "superset.app:create_app()" --daemon
5 q; ^* L7 n# b& V% \" k
" ~7 n' i$ g- E7 U- # 后台进程查看6 p) l4 c# y& s4 P, T
- ps -ef | grep gunicorn+ Z2 @8 R" i& n. D& F
- 7 _5 _. ~7 u1 a) e9 y5 l q
- # 或者通过端口查看
/ H9 e5 b9 x6 o' R' ?/ k. b( ~0 b - netstata -tunlp | grep 90891 f1 L* A5 e. ]7 q$ r, u, p* g6 H
- # 或4 j& u: t& |2 w
- ss -anp | grep 9089/ n. {: ]* j2 Q! z3 j7 N: B& Z
- 1 N$ t0 c; U9 ^
- # 如果没开启后台停止,直接ctrl+c关停0 i# x- ]; o% U
- # 后台进程停止gunicorn. q c- p1 A( T5 b, g5 D7 v8 Z) v
- ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码 1 N- J3 L; T5 {* X4 A
5. 用户手册(重点)3 ?# [) @2 ~ f; {
5 S: J0 C6 e" f" U, n4 X# D. x: ^5.1 新建Databases(数据库) 新建数据库之前,需要先安装该数据库的python驱动包,具体语句可以参考官网 Database Drivers,如图5.1.0,一般就是pip install XXX,安装好驱动后,记得重启下Superset服务; 新建数据库连接的作用是为数据集Datasets和SQL实验室SQL Lab提供数据库、表的选择,就是提供数据源,当然Data下还有个Upload CSV(最新版本也支持Upload Excel)也可以直接将本地的CSV文件作为数据源上传到Superset站点,直接进行数据探索分析。 图5.1.0 数据库驱动以及连接字符串 $ p5 u: @. e* t, N
登录进Apache Superset后,点击Data,下来选择Databases,然后跳转到图图5.1.1,点击右上侧的+号就可以跳转图5.1.2的数据新增配置界面。 图5.1.1 新建数据库连接
/ _! A' `, P j7 y q* H+ P 图5.1.2,Database是指的新建这个数据库的显示名称,这个随便取,合理即可,SQLAlchemy URI 这个地方就是之前图5.1.0上的数据库连接字符串,确保和你选择的数据库类型一致。 1 a3 r/ [6 l' j$ }& {
然后点击TEST CONECTION,连接成功后会跳出Seems OK!的弹出框,记得滑到最下面,点击保存,如果连接不成功,请检查数据库的实例,端口,用户名,密码以及自己部署的Apache Superset的服务器访问数据库的端口网络时是否能通,当然也不要忘记SQLAlchemy URI 填写规范,保存后的数据库连接就会列举在图5.1.1上。
5 N1 d3 s9 m9 {0 t3 x2 ?9 O
2 x! {/ M7 @9 U, U4 Y( C: ~9 v; d图5.1.2 新建数据库连接配置信息 ! D$ q0 a& q; @% T1 E, {, Y# ]& ~
5.2 新建Datasets(数据集,老版本也叫Tables) 图5.2.0 新建数据集 5 C2 u6 }6 K. Y( j4 S& }
如图5.2.0,点击图中的Data下的Datasets,然后点击+号,跳转到图5.2.1,将配置好的数据库名下拉选出,写一个该连接实例下的数据库,然后选择一张表,点击保存即可,保存好的数据集会列举在图5.2.0中,这些知道为啥老板叫Tabels了吧;
5 C$ O/ p2 U7 h6 t$ H" Q 数据集的作用是为后续的Charts(图表)数据可视化作为数据源头。 图5.2.1 新建数据集配置信息 , W+ N3 E6 U# u
5 Q# h- g; C. m% k, P! g+ X' F
5.3 SQL Lab(SQL实验室) SQL Lab其实就是一个数据库查询客户端,利用SQL语句对数据库的表,字段模型进行查询探索,同时支持智能补全,当然SQL Lab的查询结果也可以直接EXPLORE到Charts(图表),作为数据可视化的数据源。8 V( B" ~2 S# p/ D1 G, N0 v
如图5.3.0,SQL Lab有三个选项,三个选项的功能如下: - SQL Editor:进行SQL查询探索
- Saved Queries:保存的通用查询SQL
- Query Search:查询的历史记录
8 F" R$ P- x3 n+ Y, e+ O! p
图5.3.0 主界面进入SQL Lab
0 F8 f: m' b5 S) L6 o" V 点击SQL Editor进入图5.3.1的SQL查询探索,左侧上方是配置好的数据库连接名和选择的数据库,左侧下方是将要用到的表及字段模型;右侧上方是写SQL语句的地方,支持RUN(查询),RUN SELECTION(查询鼠标选择局部语句),SAVE(保存),SHARE(分享)等,右下方是数据结果,支持EXPLORE到Charts(图表)可视化,.CSV下载,CLIPBOARD(复制到剪贴板)。 图5.3.1 SQL Lab使用
2 L- H. O+ J3 `- Y- H& k- z5.4 创建Charts(图表) 图表的作用是数据可视化,利不同的图表满足不同的业务需求,图表同时也作为仪表盘的展示的一部分,一个仪表盘内可以展示一个或多个图表。
1 X, u! j. E! K# {' {+ F 创建图表的方式有两种: - 如图5.4.0,点击Charts,点击+创建新的图表,跳转图5.4.1
- 在SQL LabSQL语句探索查询的结果直接EXPLORE到Charts(图表)可视化0 s0 x& Z/ T+ r) U
图5.4.0 创建图表
& a7 ?" m+ h. ]8 b) P }$ A7 i 如图5.4.1,选择合适需求的数据图表(如图5.4.2,支持的图表类型非常丰富,号称最漂亮的可视化图表展示),选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表;
: e' `0 h8 \. J! h U: }8 n
O e( @9 P2 K I& E- l3 Z: Z图5.4.1 图表可视化配置
: R! p% J$ M7 N5 j7 U q: K1 h 号称最美可视化展示,支持可视化的图表类型确实丰富多彩,应对各种可视化需求。 4 i5 z7 c. I' n Z i
2 A! S' V# y( B* v图5.4.2 支持的图表类型 ; u7 q1 w6 X$ I3 Y4 v. i
5.5 创建Dashboards(仪表盘) 仪表盘就是最后的数据总体呈现,即报表展示。 如图5.5.0,点击Dashboards,然后点击+新建仪表盘,跳转图5.5.1。 图5.5.0 创建仪表盘
@! ^% t9 H c* ]2 O9 w 点击图5.5.1右上角的编辑仪表盘,之前做好的Charts(图表)拖拽到仪表盘上,注意:第一次拖拽的时候尽量网上拖拽,知道出现这个条蓝色的分解线,否则 无法拖拽过去; 同时也支持一些通用的组件,图表旁的Components下,有Header、Tabs、Row、Column、Markdown、Divider;$ S9 e/ R' A' ?( j, n# Q2 I) H
编辑完后后记得点保存。 图5.5.1 编辑仪表盘
6 ~, H! W- T! Y4 A$ @ 保存后的仪表盘支持分享,下载等功能,同时也会根据图表内的数据源刷新来获取新的数据;
: x7 E$ @( `+ `* n- K( Z3 P9 C% A/ }7 e/ ^
图5.5.2 仪表盘功能 * b) v- R3 D' {/ ?% R3 r/ d( W: h& d3 u
分享给别人看到的仪表盘如图5.5.3。 图5.5.3 分享后他人视角的仪表盘
4 ~) G( [) q5 d3 D2 R1 k6 b6. 设置 设置包含在菜单栏Settings下,主要设计权限和操作日志等模块,接下来分别讲解。 & O2 l3 e- g+ O B/ u3 q
5 E/ o4 d! k" |" m0 a; T* J
图6.0.0 通用设置 , s: S# Z) ` Q, @6 E
4 Q/ S0 y$ [& n6.1 角色列表及权限 Apache Superset中的安全性由Flask AppBuilder(FAB)处理,FAB是一个构建在Flask之上的应用程序开发框架。FAB提供身份验证、用户管理、权限和角色,可以查看其相关文档。* m# ~! ~/ J; U; ]/ e3 e& p
Apache Superset默认提供了不同的角色,每种角色拥有的权限不同,在运行superset init命令时,与每个角色关联的权限将重新同步到其原始值,不建议更改与每个角色关联的权限(例如,通过删除或添加权限),支持admin再自建角色类型,指定想要的权限,默认的角色及权限如下; - Admin:管理员拥有所有可能的权限,包括授予或撤销其他用户的权限,以及更改其他用户的切片和仪表板;
- Alpha:Alpha用户可以访问所有数据源,但不能授予或撤消其他用户的访问权限。它们也仅限于改变它们所拥有的对象。Alpha用户可以添加和更改数据源。
- Gamma:Gamma用户的访问权限有限。他们只能使用来自通过另一个补充角色访问的数据源的数据。他们只能查看由他们可以访问的数据源制作的切片和仪表板。目前Gamma用户无法更改或添加数据源。我们假设他们主要是内容消费者,尽管他们可以创建切片和仪表盘。另请注意,当Gamma用户查看仪表板和切片列表视图时,他们将只看到他们有权访问的对象。
- sql_lab:sql_lab角色授予对sql lab的访问权限。请注意,虽然管理员用户在默认情况下可以访问所有数据库,但Alpha和Gamma用户都需要在每个数据库的基础上获得访问权限。
- public:要允许注销的用户访问某些超集功能,需要自己配置权限,并将其分配给另一个角色,您希望将其权限传递给该角色。% f# y+ ^( ]2 K T# {0 Y
图6.1.0 系统默认角色 7 D" g) Z/ }2 G# j# T4 ?0 t
同时Apache Superset也支持管理员自己新增角色,如图6.1.1,新建角色并指定角色权限。 5 P5 ?% W% w) Y9 U+ h) X5 [3 N
3 J3 m+ f6 k {2 R2 p6 U) g图6.1.1 新建角色 4 x- Z6 g; M) f: T$ K. f8 t% H
" M- s5 h! L+ w9 Z3 j. K
6.2 用户列表 新建、编辑用户指定角色,用户的权限是绑定在角色里面的,一个用户可以有多个角色,配置信息如图6.2.0。 + ~6 t, u3 N* w% I3 E7 f$ c7 h9 S
Q. h9 F! S! R- f+ B4 {
图6.2.0 新建、编辑角色 ! l. I; ~8 { A4 [& z) c5 t$ x/ @
2 M- `3 U9 a2 J2 ^" A# F# r4 X6.3 操作日志 操作日志记录的是在你的Superset平台上不同用户的行为日志,如图6.3.0。 图6.3.0 行为日志查看
2 Y* P7 H- H6 @/ i5 \0 q, f: W) l+ r9 o1 |3 M
6.4 用户信息、退出、版本信息 菜单栏最右侧的个人信息,主要是包含: - 用户信息:修改用户姓名,重置密码;
- 退出:回到登录主界面;
- 版本:目前您安装的Superset版本信息。
1 C6 F3 G; k; `, O) x. @$ f% g6 R4 S2 e7 k9 |: h
图6.4.0 个人信息模块 ! D- P& X8 ]# K1 O+ ]0 D# b3 U
0 w: E, W) x4 X$ D; _7 A; z( k, y
6.5 语言选择 作为Apache的顶级项目,自然是运用于全球的,支持世界上一些通用的语言 ,选择一款你最喜欢的即可。 图6.5.0 语言选择
4 J# S" H# c! h' c! {5 y6.6 管理设置 针对仪表盘,图表渲染加入自己想要的风格和模板,实际运用的用的不多。
- _5 A" z& t( J3 y+ w" Q$ Y( Q" e) j D) f7 s: `& S4 q
图6.6.0 管理模块
" k0 _$ K0 t6 k( E# {! S. |6.7 + NEW 菜单栏的+ NEW其实就是给最通用的三个模块SQL Query、图表、看板(仪表盘)的一个快捷方式,此三者的用法就不在累赘了。 图6.7.0 + NEW模块
Q. N' N$ j3 U" o; b3 `! r+ {
4 I& Z3 t% p( Z7 e, Y" t2 m
- I: x4 C! v7 b- y9 d" N/ Q( l) L0 @原文来源: https://blog.csdn.net/LXWalaz1s1s/article/details/119061337
& o( o- M. m* k. M3 w |