目 录
0 z% B7 p1 ?! R
" n+ s: A$ Z }( d+ N+ i1. 需求背景1.1 大数据可视化面临的挑战 大数据的兴起,关于数据的存储、计算技术层出不穷,但是最终的数据可视化呈现,数据的探索,也成为颇为重要的一环,这一块并没有像存储、计算技术栈那么百花齐放,大家在做大数据可视化时是否也曾有这些困惑呢? - 传统的可视化对接传统数据库,对大数据组件的hive,spark,presto、elasticsearch、clickhouse等兼容性差,甚至不兼容,每次还需要多一道将大数据集群数据分发到传统数据库的冗余操作;
- 商用产品昂贵、甚至产品设置技术壁垒,很多甚至要求对接该商家的自己的大数据技术方可对接;
- 群众基数大的Excel拖来拽习惯、SQL操作的方便性,排斥自成一派的新技术,网页版账号登录优于用户下载客户端登录;
- 公司开发人员配置紧张,没有多余的人力自研大数据可视化平台,但是决策层希望有一个统一的可视化平台。) T, x+ Y5 A# a
诸如此类,确实令人头疼,现在就推荐一款解药Apache Superser——开源的大数据分析探索、可视化报表的神器。 1.2 大数据数据可视化的目标架构* w9 i8 p3 O) a
: v) g- f& L4 g: s$ L1 k3 }7 J( N6 h图1.2 大数据数据可视化架构
9 h2 x! Z7 H) `* a9 {+ t9 F 做事还是需要立一个目标架构,最后所有的事情都是围绕目标架构展开,才能越做越轻松,如图1.2,可是架构分为三个梯队; - 第一梯队:ClickHouse、DorisDB、Kylin等优秀OLAP技术做存储,利用自带的连接引擎,快速响应,同时支持实时数据和离线数据的接入,外接可视化平台,通过权限管控后呈现给用户;
- 第二梯队:数据存在数据仓库Hive内或者NoSQL的Hbase,再通过较为优秀且高效的引擎Presto、Flink、Spark等接入可视化平台,通过权限管控后呈现给用户;
- 剩下就是一个特殊的,如MySQL,临时文件等文件的接入;8 n& `+ o3 @4 ~' t `+ u. H
注意:常用的也还有其它技术架构,如ELK架构,ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成。Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。 Logstash是一个完全开源的工具,他可以对你的日志进行收集、分析,并将其存储供以后使用(如,搜索)。 kibana 也是一个开源和免费的工具,他Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志。这个后续再讲,这里书归正传,先讲讲Apache Superser。 2. Apache Superset简介2.1 Apache Superset是什么? Apache Superset是一款由Python语言为主开发的开源时髦数据探索分析以及可视化的报表平台;她支持丰富的数据源,且拥有多姿多彩的可视化图表选择。 7 I8 ]' f- u0 J9 \4 z6 x% R) t
& R' O( |( K' U( H* A ^: P1 N0 F
& C' x) {1 Z- o6 A/ U Y3 S4 c4 l9 z9 f* v. M3 s' x" S% T
图2.1.1 Apache Superset定义
. W' z0 T, @% L3 E0 I$ |. L8 W2.2 为什么选Apache Superset?- 支持丰富的数据库作为数据源,基本上平时用到的数据库都支持;如图2.2.0,支持的数据源有:3 V9 n( L/ z, t
- Amazon Athena
- Amazon Redshift
- Apache Drill
- Apache Druid
- Apache Hive
- Apache Impala
- Apache Kylin
- Apache Pinot
- Apache Solr
- Apache Spark SQL
- Ascend.io
- Azure MS SQL
- Big Query
- ClickHouse
- CockroachDB
- Dremio
- Elasticsearch
- Exasol
- Google Sheets
- Hologres
- IBM Db2
- IBM Netezza Performance Server
- MySQL
- Oracle
- PostgreSQL
- Trino
- Presto
- SAP Hana
- Snowflake
- SQLite
- SQL Server
- Teradata
- Vertica
4 [+ F/ [- B: c) M+ M8 H" v; f, r. p7 C# \3 W
图2.2.0 Apache Superset支持的数据源
5 |0 u$ ^7 G# W B- 多姿多彩的可视化图表,Apache Superset拥有非常丰富的图表,来实现不同的可视化需求,如图2.2.1。
' _% k! o: x, D8 H( }8 y
0 Y0 K9 k, P* M
图2.2.1 Apache Superset支持的图表
; b; b8 D4 `0 ^- Z- Data:主要功能是新增数据源和数据集Dataset(旧版本也叫Table),Dataset作为数据图表可视化的基础;
- Charts:图表,就是针对准备好的Dataset数据集,选择一款合适的图表呈现;
- Dashboards:仪表盘,其实就是报表、看板大屏展示,可以将多个Charts组合到一个仪表盘内一起展示。
- SQL Lab:SQL实验室,其实就是一个类似DBeaver、Navicat、DataGrip等一样的多功能数据库连接客户端,但是只有查询功能,配置驱动和连接后可以进行数据库、表、字段等模型的SQL查询操作。
- 设置:语言选择,登录注销、人员权限,操作日志等设置;% k W! ~( [5 J* [. `$ ]1 a& d
图2.2.3 Apache Superset使用预览 ' w$ v# u$ a% y3 n# D! B6 ~! i* F
2.3 对比Metabase- 天生自带支持的数据源Apache Superset完胜Metabase;
- 数据图表形式Apache Superset完胜Metabase;
- 操作界面美观丝滑度Apache Superset稍逊Metabase;
- 托拉拽操作Apache Superset稍逊Metabase;
( i& g& n5 [& z1 Y! l
向来博主都是鱼与熊掌能兼得就兼得,毕竟小孩才做选择嘛,可以考虑两个都装,Metabase用于专注业务数据需求人员,Apache Superset用于懂SQL的数据需求人员,二者生成的通用仪表盘,则可以利用一个统一的网页超链接到一起,形成一个统一的报表平台。 3. 快速上手 这里先快速上手带大家体验一把,细节后续章节细讲,首先配置好数据库连接(配置方法参考后续的 5.1 新建Databases(数据库)),然后打开SQL Lab,选择好配置数据库,写SQL语句分析探索数据,如图3.1.0,然后运行语句,得到数据结果,可以点击保存将常用的探索SQL保存下来,然后点击查询结果上方的EXPLORE按钮,就可以跳转图表分析图3.1.1; 2 z* |# `2 y' P
7 e2 `+ F; }; E1 W* @
图3.1.0 Apache Superset在SQL Lab上探索数据 # y8 h, ?1 t, q
利用SQL Lab探索得到的数据集,选择合适需求的数据图表,选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表;
" c1 y- R, Y5 E: m1 W! m1 |. P [; U5 m5 K" u
图3.1.1 Apache Superset数据可视化 8 ^& U# W0 q3 L4 e
新建Dashboard,然后编辑Dashboard,将之前生成好的Charts(图表)拖拽到Dashboard,就完成了数据仪表盘的最终呈现,然后就可以分享给需求方,也可以生成访问链接分享。 注意:拖拽时尽量往Dashboard的上面拖拽,会出现一条蓝色的分界线就可以松手,否则可能出现无法拖拽的情况,这个设计很坑。 图3.1.1 Apache Superset数据仪表盘呈现
6 B$ Y, M6 {1 a+ B# ]7 ^/ E0 Y9 m4. 部署安装4.1 部署方式及版本- 支持Linux、Windows、Mac的Docker部署
- 支持Linux、Windows、Mac的Python环境代码部署
- 可以在github,官网、或者国内镜像网站查看版本,但是别先下载,因为Apache Superset依赖包很多,最好能在线安装;
7 E7 h$ E' g8 N7 J! Z5 r2 t* K0 ^$ T
9 H( Q: s& _ d
图4.1.0 Apache Superset版本预览 3 R' e4 N( j1 v' h6 W4 }
- 博主选的是apache-superset-0.38.1.tar.gz在Linux上的Python环境代码部署。6 w1 Z8 }* x- N
4.2 配置需求- apache-superset-0.38.1.tar.gz
- CentOS 7 16核 32G(非硬性,一般性能的服务器即可)
- Python 3.6
- 要求服务器网,如果没有,可以使用能联网的代理服务器,依赖很多,采用在线安装的形式* w- E- [0 C# u: l
4.3 下载安装- 下载安装Python3.6,可以选择安装anaconda集成的python,可以参考博客Linux通过anaconda来安装python,对应的版本是Anaconda3-5.2.0-Linux-x86_64.sh,下载传送门:Anaconda Download;安装好以后,如果老的服务器上存在python2,默认的环境变量启动是python2,没关系,只需要设置一个新的环境变量确保 python3启动是刚刚安装的版本即可。
- 安装python虚拟机,并启动,然后安装Apache Superset。
1 @: T; ~8 C+ W4 g
* _9 m' ^- [& A- e6 q! Y5 U- # 切换到自己安装软件的目录,博主的是在/usr/local/tools,并新建superset目录' g7 A0 W7 N3 B) B, d
- cd /usr/local/tools
8 q( b0 Q4 v+ V5 b, v - mkdir superset8 R7 w+ n- o0 j" {. s
- cd superset
9 n' `8 S+ C) L* s" R0 w - 9 Z; S5 a* K2 ?* v
- # 安装虚拟机,有网就不需要的代理服务器,配置代理服务器10.212.18.34:3129方法:
! z+ p6 G( g9 m$ f! h m6 D - # 写入配置文件 /etc/profile里面追加
1 i! Q3 n3 m1 ^. A8 t - # export http_proxy=10.212.18.34:3129/ A- e3 b) L: p5 W# W
- # export https_proxy=10.212.18.34:31298 G: ?! U) t. D; e2 o
- # 然后wq! 保存退出,source /etc/profile刷新配置文件
7 \' F% y+ G. R# V - # 安装完可以删除代理,记得再source /etc/profile) s: r# i! U# d. v% `0 F1 y2 L& U
- # 如果不想配置/etc/profile或者无权限,可以采用以下命令. C- {% U) Z# \1 l$ F
- # pip install virtualenv --proxy=10.212.18.34:3129,每次都需要,烦
; m P9 G, B) u+ `, _. I6 V6 g - pip install virtualenv
5 N1 G! d& M+ A: B% t" { - ) S5 i4 x) n% C2 S; r5 A7 G
- # 配置命名虚拟机
& R# Z3 l8 y/ D: v% E - python3 -m venv venv
3 |. y4 w! H" f! P: I8 K
7 X! Q: ^( r; m( q- # 启动虚拟机,会在当前目录下自动创建venv目录
6 ~. ^# I9 U% c( E! e6 _% j) R - . venv/bin/activate) y: `& l' Y# ~* H
( O2 i) V: ?) ]" O- # 退出虚拟机指令,但是这里不需要退出
j5 U/ F P; }# O* T N: V3 s n' X - # 退出虚拟机指令,但是这里不需要退出
4 Q# n$ [' W. z* | - # 退出虚拟机指令,但是这里不需要退出
3 b4 W$ r- o) U/ x" Z; G - deactivate! C7 ?0 ^# P; o) R3 W$ v' d' K5 ^
- 6 ^& X: w+ ]0 w3 h7 G
- # 安装更新一些依赖
2 S* A8 K+ T& J. N0 B - pip install --upgrade setuptools pip -i https://pypi.douban.com/simple/
% @: X- t$ c/ r/ y- m; o
5 k6 e! K5 h$ S- yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel
c, v" G' n* ]8 }9 M: h* s( _
7 x% c- M! T: W- K8 p# I2 g- # 如果报错:GPG key retrieval failed: [Errno 14] curl#37 - "Couldn't open file /etc/pki/rpm-gpg/RPM-GPG-KEY-EPEL-7"
W. ], ~6 F6 [0 e/ }$ G( M - # 解决:
% u0 _- z1 N4 [1 Q/ k% a - vi /etc/yum.repos.d/epel.repo
2 N3 D/ n; D0 k7 Q/ d7 R - gpgcheck=01 \! C9 O |1 s4 s; m1 q/ [
- # 然后wq!保存再试一次yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel
' o0 \6 N* V' h6 F; Z
4 Q! U8 X- g5 D- U/ @* L: [- # 先用官网下载,因为官网的会自动把依赖也给你一起安装了,实在不行再用其他网站的镜像* c) f3 C! t% k* G& [
- pip install apache-superset==1.4.2, X6 x9 H3 Z# \- M- C. s1 m
- * `5 p; \5 N6 m/ M. E) y, Q7 A
- # 安装superset,指定版本,不指定版本默认是最新版本
: J6 h, H, s3 P9 K z; o - pip install superset==0.30.1 -i https://pypi.douban.com/simple
" `- I9 B+ e$ B& {9 P) l
) {( F/ R& n% t* j- # 安装email_validator
5 }3 K3 `# k% L- K. K9 d - pip3 install email_validator -i https://pypi.douban.com/simple/
# T f; _& ], ^6 V& j0 e* N3 l& m - 1 B4 E/ Y8 `: A- L" [) J$ A
- # 更新数据库
0 ~0 E! A2 Y- w0 T3 D - superset db upgrade
* o, F) W( n, _+ e" J5 Y' M
9 j! a3 ]8 U7 w x& T) Q- # 创建admin的用户名,用户名随便写,bigdata123,admin都行,写完用户名后会让你输入姓,名,邮箱,这三项可写可不写,不写就直接回车,然后是设置密码,一点要写。
( f! L, ?, E! m; T2 k& Z7 e - export FLASK_APP=superset
3 W- s1 s' |- @1 k. H @4 ?0 B7 p3 p - superset fab create-admin
- T/ @$ }9 G% Q$ h$ d: _- Z
2 o0 Y, ~8 i; Y# _- # 加载样例数据,考验网络,如果实在一致加载报错就放弃,不影响后续使用。
x7 C$ t) {( t, k7 A5 D/ s - superset load_examples7 y5 p+ X0 d- Y* \0 \- u3 X
- 7 T0 `$ m6 T% a( V8 G: {
- # 初始化: o5 f% |& G* E6 l5 s2 O* A
- superset init
$ _0 D5 a7 s5 ^" u- @+ V' d" x
6 }' G {4 }% }4 y- # 启动,官网是superset run -p 8088 --with-threads --reload --debugger
8 e) ?' l6 z- C3 f0 k2 S% i - # 建议用gunicorn启动,方便快速,先直接启动,确保打印在客户端的日志正常
* } }/ c. j, e! x - pip install gunicorn
3 i6 W$ I7 h7 |$ |$ v( O5 v - gunicorn -w 5 --timeout 120 -b 10.218.10.290:9089 "superset.app:create_app()"
( N% f- W, b# ~- ?( P# Q
" ~# A$ y5 `3 |1 U- ^. Q* B- # gunicorn 是一个Python WEB服务,可以理解为Tomcat
* Z" J7 P, V: H - # -w WORKERS:指定线程数$ y" T0 `) U) M8 B
- # --timeout:worker进程超时时间,超过会自动重启* E+ J. i0 L' A& t+ D9 t
- # -b BIND:绑定Superset访问地址! b9 M& q9 M+ `& G
- # --daemon:后台运行
! m2 [$ J6 u/ T; A b3 z( H
" E# ?2 Q, s @/ U* B* N) j9 k4 C- # 在能访问10.218.10.290:9089的服务器上打开浏览器,输入刚刚登录的用户名,密码即可。9 V2 b, ?. a* i( g. i
- 3 w4 I7 d9 K% D6 T9 {+ X& _
- ; p9 ~* U0 l; c' w( I
- # 如果没开启后台停止,直接ctrl+c关停
0 i/ H7 j2 R. j, d" L% _ - # 后台进程停止gunicorn# J1 m) w4 t1 I. z' b
- ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码
( [! v' t6 ?- C% ?4 x, s; P# m, r3 b
4.3 安装注意及排错 pip install superset步骤时出现关键字眼Successfully installed证明正确安装,如图4.3.0;
$ j" {6 o& Y! v/ V
% G! j- C" A# X1 X图4.3.0 成功安装的提示
$ Q+ `: o: m$ R, x superset fab create-admin配置用户名时提示如图4.3.1。 图4.3.1 配置用户名时提示 % ]5 {3 ^8 f$ `+ L
每个人的服务器环境,可能导致缺少的 依赖不同,途中如果遇到bug,可自己百度解决,基本都是python依赖包之类的问题,要耐心。 - # 报错$ L# x& C, `; _+ ~" }& f3 Y
- ModuleNotFoundError: No module named 'dataclasses'
. k- s- N1 N3 u: ^/ ~ - 7 p8 N' |9 E+ {- q8 a' H
- # 解决& I7 a3 n4 ?. k. P5 z q$ c2 e6 a
- pip install dataclasses
, z" ?. j5 X8 w: b7 z1 S
|) u* M% o+ u; ~, A$ v9 `- # 报错/ J( G; M- J9 m) }$ \) k1 C3 G
- No PIL installation found
" X1 W4 }8 G6 F2 Y7 h - # 解决
+ L. d0 m+ ]6 ~9 C3 n5 Z- g - pip install pillow- E' @+ R+ ]# V" A- b2 P: t8 f
复制代码
! G) K4 A8 g* M/ I 一切解决后,网页登录如图4.3.2; 图4.3.2 登录首页4.4 启动与关闭 ( ]0 {' ^2 q1 P1 n }
官网提供的直接启动的方法不是很好,博主推荐一个采用gunicorn的方法,先关停superset。
" ^1 I8 t; c2 T8 B* v0 c1 G) s/ h+ Z' s2 D! M& j
- - T6 ?2 T6 I7 K
- #安装好superset后会在venv生成很多文件,切换到venv5 ` y3 J8 S) A5 M6 @$ K% E
- cd /usr/local/tools/superset/venv/
$ I0 Y& V& P8 g+ [7 ?! W p" U - - T( e' w+ H: @
0 A" D$ V( @ n* T" @
, m& B+ Y: V* j1 S+ D- #新建日志文件夹6 h5 G/ A$ A6 B$ g V" c- T
- mkdir log$ v: m9 y) B* T; o
+ u$ [1 k% S7 ?6 d& F" d5 m% |$ a o- #切换到log目录,新权限 日志,错误日志和启动pid文件
0 {/ M1 [- {1 y/ k - cd log, K3 T$ N. ~9 l! i! k. v3 G4 g
- touch gunicorn_access.log/ R+ R) B; @, @9 u* A% s) f
- touch gunicorn_error.log
) @" e: ~/ X' B7 a - touch pidfile
& K% n: Z/ w z - chmod 755 ./* #修改权限
7 s1 q" }# @3 o. ?7 |8 i - 1 B d g& ^* x' g6 I4 ]/ ~% U# C. i
- #切换到/usr/local/tools/superset/venv/bin,写一个gunicorn配置文件,python语言
( t9 v k: f0 L - cd ./usr/local/tools/superset/venv/bin$ m' V6 C( T' k$ r% l* w' M
- 4 V" W, U5 _- C* z3 @
- 0 X( g1 {- ^2 E" N1 @
- vim gunicorn_config.py # 内容如下
) X+ R; j. u9 ^% e, Y' N$ e - 2 a$ S2 m; t* X3 f, a6 E; E4 ?
- #内容开始
5 u% z" F! K C- y( C) t: E1 _ - import multiprocessing
) m# b; n8 L' }0 P x* @: u! m
" ?, |& a/ }$ l% ?5 ^6 y& h! R
) @" I( h. e/ Y$ R& M* F Q- bind = '10.218.10.290:9089' #绑定ip和端口号/ j7 `7 ]3 M4 I3 A' s$ Z% i, B
- backlog = 512 #监听队列1 g* |0 D. I" }! E
- timeout = 30 #超时
& a9 `- y3 d/ z( f3 p$ d - worker_class = 'gevent'
: e3 j2 p% T) [3 ~ - workers = 5
: x4 ~0 w: J) V - worker_connections = 1000
# X/ ?6 ~' v" K+ k) R9 R - threads = 2 #指定每个进程开启的线程数
I+ w3 A; N+ y: \" k - loglevel = 'info' # 日志级别. y& k, c" l/ c$ s8 w+ @* b7 ^2 r3 M- ~( X
- access_log_format = '%(t)s %(p)s %(h)s "%(r)s" %(s)s %(L)s %(b)s %(f)s" "%(a)s"' #设置gunicorn访问日志格式,错误日志无法设置
! E3 P1 x5 x( e: [ ~/ h+ f8 X
" S8 _+ c# S; _* w
% A' r$ W2 K. }/ h5 |- ( @6 i2 ], n9 K1 Q$ @! I
- pidfile = '/usr/local/tools/superset/venv/log/pidfile'
3 r) Z7 [( ?( _# b - errorlog = '/usr/local/tools/superset/venv/log/gunicorn_error.log'
9 ~1 r8 O; c4 M6 a' j - accesslog = '/usr/local/tools/superset/venv/log/gunicorn_access.log'' ~1 W# o1 T7 W* E
, g! @6 t: ], M: K- print("IP and PORT:"+bind), s* |/ x: R0 [$ m. l, m P" c1 `
- print("pid_file:"+pidfile)- R3 d& i7 h- Q' b8 R- P4 J4 h
- print("error_log:"+errorlog)
( L; R0 R" w& q) A2 v - print("access_log:"+accesslog)4 s9 _+ [+ j; V% w9 w+ \; z" I @- q
# v% J: Z0 i6 ~. q" c6 ]- #内容结束
$ c* |1 V O+ J2 W8 q' r- Y - 0 L1 E& t; l) |8 N) h4 L- ?
- #然后 wq! 保存退出
7 g. R4 _' r/ L5 \
, o$ r5 a0 D0 C( h- T: p8 T- # gunicorn 启动 -c 配置文件启动;--daemon后台启动,日志可以去配置文件指定的路径查看' Z4 e: Z. c# X* i. j! ~& M0 l
- gunicorn -c ./gunicorn_config.py "superset.app:create_app()" --daemon$ O- j9 e1 \$ j' O! r- G- p) {
- & s# ?4 Q2 Y* U/ v' i( V
- # 后台进程查看
( R( m1 W4 T. l7 W9 X% ^# |8 p - ps -ef | grep gunicorn
( Y8 ^! U b9 g+ v4 f" H - 6 T% @2 }0 _1 M' @7 I
- # 或者通过端口查看 w6 k+ u# @* v+ V( M
- netstata -tunlp | grep 9089
1 t- W3 }, w+ I" f- C+ w" v - # 或
- w6 B8 g% v# L! \ - ss -anp | grep 90897 c( M$ t" M+ a( \# t" k
: |# |9 Q, f1 c- # 如果没开启后台停止,直接ctrl+c关停+ c% w" }5 |# E
- # 后台进程停止gunicorn
. d4 W+ ~& U" w* n( n - ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码
! \) H) T/ n# h/ C) K/ Z 5. 用户手册(重点)% k: z% Q9 i9 y# I: z m8 j/ Y3 y
9 s; d# i0 z9 G T5.1 新建Databases(数据库) 新建数据库之前,需要先安装该数据库的python驱动包,具体语句可以参考官网 Database Drivers,如图5.1.0,一般就是pip install XXX,安装好驱动后,记得重启下Superset服务; 新建数据库连接的作用是为数据集Datasets和SQL实验室SQL Lab提供数据库、表的选择,就是提供数据源,当然Data下还有个Upload CSV(最新版本也支持Upload Excel)也可以直接将本地的CSV文件作为数据源上传到Superset站点,直接进行数据探索分析。 图5.1.0 数据库驱动以及连接字符串 3 M" u( V) E9 W; E `1 Z
登录进Apache Superset后,点击Data,下来选择Databases,然后跳转到图图5.1.1,点击右上侧的+号就可以跳转图5.1.2的数据新增配置界面。 图5.1.1 新建数据库连接 + A3 D6 u U o _' B$ t( Z
图5.1.2,Database是指的新建这个数据库的显示名称,这个随便取,合理即可,SQLAlchemy URI 这个地方就是之前图5.1.0上的数据库连接字符串,确保和你选择的数据库类型一致。
i# a( L2 G, \$ b然后点击TEST CONECTION,连接成功后会跳出Seems OK!的弹出框,记得滑到最下面,点击保存,如果连接不成功,请检查数据库的实例,端口,用户名,密码以及自己部署的Apache Superset的服务器访问数据库的端口网络时是否能通,当然也不要忘记SQLAlchemy URI 填写规范,保存后的数据库连接就会列举在图5.1.1上。 ) c6 ^1 b6 K' j( `3 l
' z1 q. t0 b; D1 c5 z. o5 D1 h图5.1.2 新建数据库连接配置信息 * Y( p, u, I) ~/ [9 y" q( e
5.2 新建Datasets(数据集,老版本也叫Tables) 图5.2.0 新建数据集 * g4 b4 i- ?* \% Z2 g: Y
如图5.2.0,点击图中的Data下的Datasets,然后点击+号,跳转到图5.2.1,将配置好的数据库名下拉选出,写一个该连接实例下的数据库,然后选择一张表,点击保存即可,保存好的数据集会列举在图5.2.0中,这些知道为啥老板叫Tabels了吧;. J+ _5 C- S9 K3 \ y$ |2 r3 r
数据集的作用是为后续的Charts(图表)数据可视化作为数据源头。 图5.2.1 新建数据集配置信息
5 D' K: G/ b, {9 [9 S4 y. U7 [$ U: `" S; n
5.3 SQL Lab(SQL实验室) SQL Lab其实就是一个数据库查询客户端,利用SQL语句对数据库的表,字段模型进行查询探索,同时支持智能补全,当然SQL Lab的查询结果也可以直接EXPLORE到Charts(图表),作为数据可视化的数据源。
$ |/ |! d8 r* U 如图5.3.0,SQL Lab有三个选项,三个选项的功能如下: - SQL Editor:进行SQL查询探索
- Saved Queries:保存的通用查询SQL
- Query Search:查询的历史记录2 r7 d2 k0 l! a. n* O0 A4 @
图5.3.0 主界面进入SQL Lab 3 e/ e, d3 T' H8 c% u
点击SQL Editor进入图5.3.1的SQL查询探索,左侧上方是配置好的数据库连接名和选择的数据库,左侧下方是将要用到的表及字段模型;右侧上方是写SQL语句的地方,支持RUN(查询),RUN SELECTION(查询鼠标选择局部语句),SAVE(保存),SHARE(分享)等,右下方是数据结果,支持EXPLORE到Charts(图表)可视化,.CSV下载,CLIPBOARD(复制到剪贴板)。 图5.3.1 SQL Lab使用
' A; n2 h! |; h8 ^- a- d, s5.4 创建Charts(图表) 图表的作用是数据可视化,利不同的图表满足不同的业务需求,图表同时也作为仪表盘的展示的一部分,一个仪表盘内可以展示一个或多个图表。
" d$ o, D. [- I: L 创建图表的方式有两种: - 如图5.4.0,点击Charts,点击+创建新的图表,跳转图5.4.1
- 在SQL LabSQL语句探索查询的结果直接EXPLORE到Charts(图表)可视化
6 X4 A0 B2 u# I& Z' o" O* g. x; @
图5.4.0 创建图表
- j6 R. m" V2 ^+ o 如图5.4.1,选择合适需求的数据图表(如图5.4.2,支持的图表类型非常丰富,号称最漂亮的可视化图表展示),选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表; - b ^0 O5 q4 g" x3 X' p( [
+ @4 @ \# _2 B* n
图5.4.1 图表可视化配置 ! o% y) M- e7 ]) M" X
号称最美可视化展示,支持可视化的图表类型确实丰富多彩,应对各种可视化需求。
; k6 w6 @: R- O0 N
4 `* m) h) G. |1 g图5.4.2 支持的图表类型
: H# ~7 T' ]6 I: C: f5.5 创建Dashboards(仪表盘) 仪表盘就是最后的数据总体呈现,即报表展示。 如图5.5.0,点击Dashboards,然后点击+新建仪表盘,跳转图5.5.1。 图5.5.0 创建仪表盘
& i# b v+ C% |- c$ y2 C 点击图5.5.1右上角的编辑仪表盘,之前做好的Charts(图表)拖拽到仪表盘上,注意:第一次拖拽的时候尽量网上拖拽,知道出现这个条蓝色的分解线,否则 无法拖拽过去; 同时也支持一些通用的组件,图表旁的Components下,有Header、Tabs、Row、Column、Markdown、Divider;4 U$ d8 \- w1 m7 O
编辑完后后记得点保存。 图5.5.1 编辑仪表盘 - R% t' V& k# s9 j
保存后的仪表盘支持分享,下载等功能,同时也会根据图表内的数据源刷新来获取新的数据;
' e$ C) m- c! C0 p% z$ F# r9 E
& g( {: ^4 y: u7 W d$ g图5.5.2 仪表盘功能
% e8 f. E# f1 y2 c0 {1 v; | 分享给别人看到的仪表盘如图5.5.3。 图5.5.3 分享后他人视角的仪表盘 $ @1 ] }7 g6 @( f$ s m
6. 设置 设置包含在菜单栏Settings下,主要设计权限和操作日志等模块,接下来分别讲解。 # k: g+ A7 r" H6 O; B$ l0 J
0 a$ G6 S- }! P3 z& k! ]7 E$ t( h
图6.0.0 通用设置 # v- P$ P$ q# m8 R# r* a3 ~( L) S2 h
; K+ l/ [! f: i1 C, P6.1 角色列表及权限 Apache Superset中的安全性由Flask AppBuilder(FAB)处理,FAB是一个构建在Flask之上的应用程序开发框架。FAB提供身份验证、用户管理、权限和角色,可以查看其相关文档。
5 m/ T8 k4 p4 j N: w Apache Superset默认提供了不同的角色,每种角色拥有的权限不同,在运行superset init命令时,与每个角色关联的权限将重新同步到其原始值,不建议更改与每个角色关联的权限(例如,通过删除或添加权限),支持admin再自建角色类型,指定想要的权限,默认的角色及权限如下; - Admin:管理员拥有所有可能的权限,包括授予或撤销其他用户的权限,以及更改其他用户的切片和仪表板;
- Alpha:Alpha用户可以访问所有数据源,但不能授予或撤消其他用户的访问权限。它们也仅限于改变它们所拥有的对象。Alpha用户可以添加和更改数据源。
- Gamma:Gamma用户的访问权限有限。他们只能使用来自通过另一个补充角色访问的数据源的数据。他们只能查看由他们可以访问的数据源制作的切片和仪表板。目前Gamma用户无法更改或添加数据源。我们假设他们主要是内容消费者,尽管他们可以创建切片和仪表盘。另请注意,当Gamma用户查看仪表板和切片列表视图时,他们将只看到他们有权访问的对象。
- sql_lab:sql_lab角色授予对sql lab的访问权限。请注意,虽然管理员用户在默认情况下可以访问所有数据库,但Alpha和Gamma用户都需要在每个数据库的基础上获得访问权限。
- public:要允许注销的用户访问某些超集功能,需要自己配置权限,并将其分配给另一个角色,您希望将其权限传递给该角色。# l1 `3 z. a* c! @
更多的角色权限可以查看官网 Apache Superset Security,或者点开图6.1.0的编辑角色查看,尽量别改默认角色的权限。 # K) I+ i- b* e9 [/ H2 x/ X5 P, ^6 H
& H& \: d- r7 H m0 A0 s! o3 p" c图6.1.0 系统默认角色 2 |4 o4 u8 f# M& M4 @/ h
同时Apache Superset也支持管理员自己新增角色,如图6.1.1,新建角色并指定角色权限。 , K; ?/ ^0 |, A8 q' ]" W0 ^: \
) H# t6 S, h5 M: `& X图6.1.1 新建角色 . n; b/ q8 m" L0 b" t; P
l7 q: G w+ c4 R6 {6.2 用户列表 新建、编辑用户指定角色,用户的权限是绑定在角色里面的,一个用户可以有多个角色,配置信息如图6.2.0。 S# {) P# a! I- E. I+ V# J
( B# [7 r0 r/ r9 w' y2 d3 C, f7 S
图6.2.0 新建、编辑角色
( x) N+ _7 A* T2 V. u9 V i
! }7 _1 |' k, B$ ^" _/ ]& M* L! p6.3 操作日志 操作日志记录的是在你的Superset平台上不同用户的行为日志,如图6.3.0。 图6.3.0 行为日志查看 % U9 ~6 C& T `/ ]
. R4 ]( _( f# w- D$ s6 Y& b8 Y% y- j; ~
6.4 用户信息、退出、版本信息 菜单栏最右侧的个人信息,主要是包含: - 用户信息:修改用户姓名,重置密码;
- 退出:回到登录主界面;
- 版本:目前您安装的Superset版本信息。" T, ^( y! u I! V5 q) W" A
9 Q: O) I) ^; M( c2 d. l4 v; C) {
图6.4.0 个人信息模块
( e: }; b( `3 k8 {$ t* Y' v& M5 c$ h$ Y9 P5 D/ ~- q6 n* }: s% n
6.5 语言选择 作为Apache的顶级项目,自然是运用于全球的,支持世界上一些通用的语言 ,选择一款你最喜欢的即可。 图6.5.0 语言选择 * m# A1 E; }8 p6 l P
6.6 管理设置 针对仪表盘,图表渲染加入自己想要的风格和模板,实际运用的用的不多。
0 F- Y5 |, |4 H9 ~/ V
6 w; w* s3 H/ o2 l! M% H7 O图6.6.0 管理模块
$ e ?; v0 ]3 {( A8 G6 r5 T6.7 + NEW 菜单栏的+ NEW其实就是给最通用的三个模块SQL Query、图表、看板(仪表盘)的一个快捷方式,此三者的用法就不在累赘了。 图6.7.0 + NEW模块
, V1 K4 ?5 n& g' U w, }" @5 ^6 H0 k* K& G# Q, f
9 E, F( C, c+ m( ~7 A原文来源: https://blog.csdn.net/LXWalaz1s1s/article/details/119061337
* z/ m5 l. T! k! }+ h# f8 f7 D |