目 录
7 r) F% a* ]; N+ D X2 m, x- H5 a
l, L/ V/ F1 ^$ m- H; ]7 v6 ] n' |; {* U
1. 需求背景1.1 大数据可视化面临的挑战 大数据的兴起,关于数据的存储、计算技术层出不穷,但是最终的数据可视化呈现,数据的探索,也成为颇为重要的一环,这一块并没有像存储、计算技术栈那么百花齐放,大家在做大数据可视化时是否也曾有这些困惑呢? - 传统的可视化对接传统数据库,对大数据组件的hive,spark,presto、elasticsearch、clickhouse等兼容性差,甚至不兼容,每次还需要多一道将大数据集群数据分发到传统数据库的冗余操作;
- 商用产品昂贵、甚至产品设置技术壁垒,很多甚至要求对接该商家的自己的大数据技术方可对接;
- 群众基数大的Excel拖来拽习惯、SQL操作的方便性,排斥自成一派的新技术,网页版账号登录优于用户下载客户端登录;
- 公司开发人员配置紧张,没有多余的人力自研大数据可视化平台,但是决策层希望有一个统一的可视化平台。
& A2 {4 ]* d2 K
诸如此类,确实令人头疼,现在就推荐一款解药Apache Superser——开源的大数据分析探索、可视化报表的神器。 1.2 大数据数据可视化的目标架构
5 b4 \: ?: L# n4 @
5 Y* H( H6 c$ r9 a0 l3 K图1.2 大数据数据可视化架构 0 i4 X& \3 h4 k
做事还是需要立一个目标架构,最后所有的事情都是围绕目标架构展开,才能越做越轻松,如图1.2,可是架构分为三个梯队; - 第一梯队:ClickHouse、DorisDB、Kylin等优秀OLAP技术做存储,利用自带的连接引擎,快速响应,同时支持实时数据和离线数据的接入,外接可视化平台,通过权限管控后呈现给用户;
- 第二梯队:数据存在数据仓库Hive内或者NoSQL的Hbase,再通过较为优秀且高效的引擎Presto、Flink、Spark等接入可视化平台,通过权限管控后呈现给用户;
- 剩下就是一个特殊的,如MySQL,临时文件等文件的接入;2 @1 f3 }: _$ y( _% P
注意:常用的也还有其它技术架构,如ELK架构,ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成。Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。 Logstash是一个完全开源的工具,他可以对你的日志进行收集、分析,并将其存储供以后使用(如,搜索)。 kibana 也是一个开源和免费的工具,他Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志。这个后续再讲,这里书归正传,先讲讲Apache Superser。 2. Apache Superset简介2.1 Apache Superset是什么? Apache Superset是一款由Python语言为主开发的开源时髦数据探索分析以及可视化的报表平台;她支持丰富的数据源,且拥有多姿多彩的可视化图表选择。
9 U' C& T; V* Y' A- c9 ?' h5 i) a- L7 C2 \" F" o8 ^. r7 E8 M' r
& @; w) G$ a2 N
, K. n3 J) `& d$ A, |图2.1.1 Apache Superset定义
3 O8 f3 N9 p* z* }+ X6 \) g/ s2.2 为什么选Apache Superset?- 支持丰富的数据库作为数据源,基本上平时用到的数据库都支持;如图2.2.0,支持的数据源有:
8 Z, z1 Z0 s0 M8 Q, P# E" ?
- Amazon Athena
- Amazon Redshift
- Apache Drill
- Apache Druid
- Apache Hive
- Apache Impala
- Apache Kylin
- Apache Pinot
- Apache Solr
- Apache Spark SQL
- Ascend.io
- Azure MS SQL
- Big Query
- ClickHouse
- CockroachDB
- Dremio
- Elasticsearch
- Exasol
- Google Sheets
- Hologres
- IBM Db2
- IBM Netezza Performance Server
- MySQL
- Oracle
- PostgreSQL
- Trino
- Presto
- SAP Hana
- Snowflake
- SQLite
- SQL Server
- Teradata
- Vertica
; f3 ?! Z1 @" l: v1 s
: r' v+ P6 I0 H* X+ H! @3 D$ k X2 {
图2.2.0 Apache Superset支持的数据源 1 u: w6 S+ b# O* T2 M3 {
- 多姿多彩的可视化图表,Apache Superset拥有非常丰富的图表,来实现不同的可视化需求,如图2.2.1。
3 j8 Y% `& R& r8 I
. f E9 ^) w( q, [* ?, S
图2.2.1 Apache Superset支持的图表 & Q, i9 r3 j8 i0 z% B
- Data:主要功能是新增数据源和数据集Dataset(旧版本也叫Table),Dataset作为数据图表可视化的基础;
- Charts:图表,就是针对准备好的Dataset数据集,选择一款合适的图表呈现;
- Dashboards:仪表盘,其实就是报表、看板大屏展示,可以将多个Charts组合到一个仪表盘内一起展示。
- SQL Lab:SQL实验室,其实就是一个类似DBeaver、Navicat、DataGrip等一样的多功能数据库连接客户端,但是只有查询功能,配置驱动和连接后可以进行数据库、表、字段等模型的SQL查询操作。
- 设置:语言选择,登录注销、人员权限,操作日志等设置;& j g6 h. b1 L0 x L" c" c& e
图2.2.3 Apache Superset使用预览 6 @. r0 R U3 D/ C8 H
2.3 对比Metabase- 天生自带支持的数据源Apache Superset完胜Metabase;
- 数据图表形式Apache Superset完胜Metabase;
- 操作界面美观丝滑度Apache Superset稍逊Metabase;
- 托拉拽操作Apache Superset稍逊Metabase;
) V0 K2 L' l/ {+ v/ L5 U g) y
向来博主都是鱼与熊掌能兼得就兼得,毕竟小孩才做选择嘛,可以考虑两个都装,Metabase用于专注业务数据需求人员,Apache Superset用于懂SQL的数据需求人员,二者生成的通用仪表盘,则可以利用一个统一的网页超链接到一起,形成一个统一的报表平台。 3. 快速上手 这里先快速上手带大家体验一把,细节后续章节细讲,首先配置好数据库连接(配置方法参考后续的 5.1 新建Databases(数据库)),然后打开SQL Lab,选择好配置数据库,写SQL语句分析探索数据,如图3.1.0,然后运行语句,得到数据结果,可以点击保存将常用的探索SQL保存下来,然后点击查询结果上方的EXPLORE按钮,就可以跳转图表分析图3.1.1;
( U5 u" ^' S9 T8 n" `+ c9 u" u; [' J1 {$ Q8 N0 f/ h# B1 Z
图3.1.0 Apache Superset在SQL Lab上探索数据
' [& O2 R0 A6 d1 `" n 利用SQL Lab探索得到的数据集,选择合适需求的数据图表,选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表; , w& i4 V* r& z5 d$ _
& P' Y" u/ L$ e8 W c2 H! M; n
图3.1.1 Apache Superset数据可视化 # J% f: W! l, d$ W/ ~7 z6 ~
新建Dashboard,然后编辑Dashboard,将之前生成好的Charts(图表)拖拽到Dashboard,就完成了数据仪表盘的最终呈现,然后就可以分享给需求方,也可以生成访问链接分享。 注意:拖拽时尽量往Dashboard的上面拖拽,会出现一条蓝色的分界线就可以松手,否则可能出现无法拖拽的情况,这个设计很坑。 图3.1.1 Apache Superset数据仪表盘呈现 ( U% r% N0 g; j. \
4. 部署安装4.1 部署方式及版本- 支持Linux、Windows、Mac的Docker部署
- 支持Linux、Windows、Mac的Python环境代码部署
- 可以在github,官网、或者国内镜像网站查看版本,但是别先下载,因为Apache Superset依赖包很多,最好能在线安装;- J k; b2 V$ h) u8 }( M; d0 y
- y6 \# h* Z$ q S( W; G1 i7 x
图4.1.0 Apache Superset版本预览
+ y( y, i0 C0 O5 O- 博主选的是apache-superset-0.38.1.tar.gz在Linux上的Python环境代码部署。
& P" U0 ]- D1 Z1 f+ }- v" G( R k' d 4.2 配置需求- apache-superset-0.38.1.tar.gz
- CentOS 7 16核 32G(非硬性,一般性能的服务器即可)
- Python 3.6
- 要求服务器网,如果没有,可以使用能联网的代理服务器,依赖很多,采用在线安装的形式" j) e8 I# U4 W5 P2 T y7 D$ s
4.3 下载安装- 下载安装Python3.6,可以选择安装anaconda集成的python,可以参考博客Linux通过anaconda来安装python,对应的版本是Anaconda3-5.2.0-Linux-x86_64.sh,下载传送门:Anaconda Download;安装好以后,如果老的服务器上存在python2,默认的环境变量启动是python2,没关系,只需要设置一个新的环境变量确保 python3启动是刚刚安装的版本即可。
- 安装python虚拟机,并启动,然后安装Apache Superset。
) ]$ f* N2 H5 r( T ) s1 L {0 I# c9 k1 a
- # 切换到自己安装软件的目录,博主的是在/usr/local/tools,并新建superset目录
: O7 C- H( g! k3 b - cd /usr/local/tools
7 f7 S! p2 Y' K8 S0 @' [$ h - mkdir superset9 l$ o5 V5 Y7 I
- cd superset: o5 D3 n. g5 u/ \
- 9 g4 M, P! h; _- J1 D& P, h
- # 安装虚拟机,有网就不需要的代理服务器,配置代理服务器10.212.18.34:3129方法:5 |3 g5 Q4 H2 O( |6 c- e0 b
- # 写入配置文件 /etc/profile里面追加
. [; l' r; j+ \9 y# | - # export http_proxy=10.212.18.34:31294 \- p3 p* I1 {1 \& M
- # export https_proxy=10.212.18.34:3129, ]! i, [& b1 ^
- # 然后wq! 保存退出,source /etc/profile刷新配置文件/ \" f& ~- I; W# C
- # 安装完可以删除代理,记得再source /etc/profile
; V2 J" x6 U+ V8 U! C( n) O3 K - # 如果不想配置/etc/profile或者无权限,可以采用以下命令) e0 B& z$ i4 a* m
- # pip install virtualenv --proxy=10.212.18.34:3129,每次都需要,烦8 G5 E( u+ F: t0 ]6 C9 |+ n
- pip install virtualenv
G2 f- r; e* a4 r, a9 n. m - ! H. _0 v }/ c8 c$ a! X7 w y
- # 配置命名虚拟机
# x1 e3 M' M7 g3 J7 `8 F; [ - python3 -m venv venv2 f7 Z4 B. y9 m1 S7 a6 f1 y; k( J
- 6 g! e* E1 Q! r0 x
- # 启动虚拟机,会在当前目录下自动创建venv目录
; c/ d6 ` C' U Y _! }; a% X - . venv/bin/activate& [, `9 k. s7 {) A: G* j) G
% C* {9 n2 b s( Z- F `' b- # 退出虚拟机指令,但是这里不需要退出
0 Y( o% J0 o' N: l+ m4 W( K - # 退出虚拟机指令,但是这里不需要退出' y+ Q2 r: Y) {: j6 ~8 q' h6 v& Z
- # 退出虚拟机指令,但是这里不需要退出
: c3 t" z" k6 a" N - deactivate" G. R' e: a$ i
: f5 x1 `3 t4 E, w! d- # 安装更新一些依赖! l( r. r* n4 K, R0 i! z+ Z
- pip install --upgrade setuptools pip -i https://pypi.douban.com/simple/
7 `3 x- s1 V$ M& c
, Z# m2 ^! x9 A5 \( u% m- yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel
# ~7 {5 i6 H6 E* P- ~
+ r# o# ^: F4 S: Q: P- # 如果报错:GPG key retrieval failed: [Errno 14] curl#37 - "Couldn't open file /etc/pki/rpm-gpg/RPM-GPG-KEY-EPEL-7"
% \4 S! R# ~0 d% M - # 解决:5 c% a$ @" N3 K9 R" b2 w
- vi /etc/yum.repos.d/epel.repo- a- v* D4 ?$ C0 {
- gpgcheck=0
. ~% x; B( h+ q* M0 W. k - # 然后wq!保存再试一次yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel
& f6 d3 _, b8 z. _# y. @. ^ - t8 t, Z" C, ~- }9 d @
- # 先用官网下载,因为官网的会自动把依赖也给你一起安装了,实在不行再用其他网站的镜像
7 k0 ?8 P4 @" S& m, d - pip install apache-superset==1.4.2
- l4 d' g$ a8 L1 P3 s - - S( J; V+ C: o: c% Y3 x
- # 安装superset,指定版本,不指定版本默认是最新版本2 Y6 Y' D. z/ J* I* s
- pip install superset==0.30.1 -i https://pypi.douban.com/simple
$ k8 g7 y) ~5 _, N0 f) q! i. I
* ~' {7 a% y# l, I* ^- # 安装email_validator 5 C& t8 _3 Y6 Y% H
- pip3 install email_validator -i https://pypi.douban.com/simple/
+ C: x, u3 l8 b - & | x. H- l: R; ^2 u* q5 ~
- # 更新数据库
# F/ \$ o& E7 c6 G: p1 ^" c! E - superset db upgrade
# d6 R% H, N% v) Q% e" W4 P - & K9 z' C. b7 k9 {
- # 创建admin的用户名,用户名随便写,bigdata123,admin都行,写完用户名后会让你输入姓,名,邮箱,这三项可写可不写,不写就直接回车,然后是设置密码,一点要写。( b, u- J$ F) y4 _. o: w3 ^8 q. a
- export FLASK_APP=superset
9 G3 v; l; Y4 U' @ - superset fab create-admin
( s7 \, X/ U9 T( r8 D/ |
& x; P+ U! C6 B' A* t( H- # 加载样例数据,考验网络,如果实在一致加载报错就放弃,不影响后续使用。
; v! h. z/ y; ^& j$ @ - superset load_examples
! u" ~# Y! G0 o9 g! h. X9 W
+ J7 {( t8 `/ P- l6 y" j; m6 I- # 初始化% G( h7 P5 W1 P! g3 s
- superset init
^: ~/ X) N% m( ^- f" Z0 {
4 L# q% B# f( ]' |# \* q$ Y% y) f- # 启动,官网是superset run -p 8088 --with-threads --reload --debugger
- }0 R" T( b- l. |; i# V% J8 f - # 建议用gunicorn启动,方便快速,先直接启动,确保打印在客户端的日志正常3 M K& N2 Q% A6 N; e8 Z
- pip install gunicorn
+ M( g4 c# ]) G$ H# i" w4 }& `4 y* m - gunicorn -w 5 --timeout 120 -b 10.218.10.290:9089 "superset.app:create_app()" 7 {- W6 \: e) M0 W% d& N
- n2 _6 q1 m/ y% C, y8 p# f0 N% V: R/ F
- # gunicorn 是一个Python WEB服务,可以理解为Tomcat% s$ x1 T2 T. F1 `8 z3 x: w L
- # -w WORKERS:指定线程数
8 n: z2 C. L: k& b% A' \) Z, F7 v - # --timeout:worker进程超时时间,超过会自动重启/ R- l1 V0 a0 p6 O' n ?
- # -b BIND:绑定Superset访问地址
" n/ X( O ^- E6 K1 g - # --daemon:后台运行
S u; W, g( @0 L, H/ v* D - ! z, F* v3 }; r
- # 在能访问10.218.10.290:9089的服务器上打开浏览器,输入刚刚登录的用户名,密码即可。
, C4 S* P& B( G1 y P - / Z' H; T1 j" V! D$ s. e# T3 Z) j
9 r/ G3 r# ~" q! ^' f! ?- # 如果没开启后台停止,直接ctrl+c关停
9 H0 d& D; f ]# D6 Z6 K - # 后台进程停止gunicorn) R1 [) J3 Z$ M, K- h
- ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码
! k! D1 }! G) W+ ?) O# C
' W/ u" ^+ a' K: }* P6 |& j4.3 安装注意及排错 pip install superset步骤时出现关键字眼Successfully installed证明正确安装,如图4.3.0;
* r' {% n. b. O: B8 g
) V1 W$ ^! B7 r图4.3.0 成功安装的提示
; F0 D" Q7 y& C1 R- o) o superset fab create-admin配置用户名时提示如图4.3.1。 图4.3.1 配置用户名时提示
3 R% O2 V" @5 j+ u6 K3 b$ \ 每个人的服务器环境,可能导致缺少的 依赖不同,途中如果遇到bug,可自己百度解决,基本都是python依赖包之类的问题,要耐心。 - # 报错5 z! x- `1 F! v# H2 B
- ModuleNotFoundError: No module named 'dataclasses'
# V3 f' y* \, h+ D+ G V' v8 k* R9 J
) e# }/ T8 h; i" m! _5 t9 O- # 解决
1 ^; h- I# Z& P0 c6 z$ |. z! ? - pip install dataclasses
5 G4 Q" w6 q" y; l+ J - 8 C3 y& l1 K6 {% m
- # 报错
" f# `' [7 g6 T3 r4 U, W3 x/ L - No PIL installation found
# V; T+ L) k6 o5 s7 k: {) j - # 解决
2 j, I4 v3 C, ^9 i0 B4 w3 u - pip install pillow
+ A4 |0 a1 a g! u
复制代码
; O6 h8 J7 {% h 一切解决后,网页登录如图4.3.2; 图4.3.2 登录首页4.4 启动与关闭 # w: u1 R# X% |4 f M& Q( ~+ y
官网提供的直接启动的方法不是很好,博主推荐一个采用gunicorn的方法,先关停superset。
% b; a8 Q8 ~/ A$ f: g# r8 }. e, i. a1 k
% _$ z+ @/ u* i: y0 o ?- 1 t* B# u( l' v
- #安装好superset后会在venv生成很多文件,切换到venv
: m* u. H" c7 S* T# W4 E, G$ m' m+ c - cd /usr/local/tools/superset/venv/: ]. C. B; {7 J9 c- k Q
! t0 `$ X: d i- ! S9 J( C; {+ ~, D
. D9 D3 z! e# D" N- #新建日志文件夹) @" e! W8 n, \: D
- mkdir log9 z: ^5 ]% y5 z8 V' p
6 q7 R$ t# N- R: Q& u- #切换到log目录,新权限 日志,错误日志和启动pid文件
3 ?; {1 ?) z Q( \: `! T5 T2 D( q - cd log
# W6 I f# w j! K- U - touch gunicorn_access.log; v$ T, e: ^* \4 A1 [
- touch gunicorn_error.log' F& ?6 J; E( v, l* q
- touch pidfile- h/ P* @- P5 N; M+ p
- chmod 755 ./* #修改权限
3 f) A6 U/ ?; s2 | - # ^; |. j: G. l/ b
- #切换到/usr/local/tools/superset/venv/bin,写一个gunicorn配置文件,python语言
+ t7 s9 B9 `( ?# Q( |. X& v - cd ./usr/local/tools/superset/venv/bin4 ~8 A. u- ^; p
, L4 G" r# J, ~) e( K6 R
9 J' o2 O. A- s* ~/ R- vim gunicorn_config.py # 内容如下
4 F9 d9 r9 U0 i: s0 r
+ p+ a2 V, D2 k4 I- {2 t6 E- #内容开始
1 F, L& l i* B2 Z - import multiprocessing: T7 @1 i$ h) X. `0 S% J
y/ |% v2 z5 y' L; S U( |5 o! Y- ' L8 L1 T2 k v3 T5 E; r( u
- bind = '10.218.10.290:9089' #绑定ip和端口号
# V. G: n$ ~& Z/ [0 @$ d - backlog = 512 #监听队列
3 Y2 Y# i' E3 a/ K1 B4 J - timeout = 30 #超时
' S' y/ H, t; N+ k0 W9 |/ Q - worker_class = 'gevent'1 o9 f; o2 B9 P. _6 V
- workers = 5( h( \9 W4 {; k# u6 s" o
- worker_connections = 1000
( d7 z7 U* i* U8 P) G4 e - threads = 2 #指定每个进程开启的线程数* u0 W; q& E, I# D! m
- loglevel = 'info' # 日志级别
0 f5 \, j! }# i( I9 h) T - access_log_format = '%(t)s %(p)s %(h)s "%(r)s" %(s)s %(L)s %(b)s %(f)s" "%(a)s"' #设置gunicorn访问日志格式,错误日志无法设置* _( l' ?7 w& T6 w$ c
1 o6 b$ _3 t' J- . K% C% K* T6 F+ {
5 k& A; W- D8 l0 u- pidfile = '/usr/local/tools/superset/venv/log/pidfile'- F% X" ^8 F7 Q" G {
- errorlog = '/usr/local/tools/superset/venv/log/gunicorn_error.log'
6 f% B, c" J! U" x% p - accesslog = '/usr/local/tools/superset/venv/log/gunicorn_access.log'
% G$ L6 h6 w1 V- H7 m6 K. x6 R - ! C& X- s# b2 X Z1 {! O+ s
- print("IP and PORT:"+bind)
+ M! Z% j& c9 B0 w6 K x - print("pid_file:"+pidfile)* z+ W& d& T y( P. ^6 k' |, n5 d
- print("error_log:"+errorlog)
6 n) j" Q* @+ W, m. v( f: o - print("access_log:"+accesslog)! S. ?/ z& @: v& d% g8 W
- [! u9 g" J. {4 A7 T, `/ Q5 G- #内容结束
- j' V9 G" m5 Y- J" m$ m - 2 n9 m; V; X, I! t8 e# h
- #然后 wq! 保存退出" P3 k2 F6 T- W: X0 c' R
7 Y2 S0 }# s; V3 {" H. C- # gunicorn 启动 -c 配置文件启动;--daemon后台启动,日志可以去配置文件指定的路径查看
/ p2 u. g7 M* F1 [8 {% d - gunicorn -c ./gunicorn_config.py "superset.app:create_app()" --daemon2 ]/ }$ H( S% H, a* J$ x$ K
, h; b+ ]) d; w8 V- # 后台进程查看7 S- H( b- E. O0 o( }
- ps -ef | grep gunicorn
" j* u2 ?% Y8 t* E! `4 k+ w$ ^
+ j: R$ Y9 J! d, E+ s/ u- # 或者通过端口查看
$ z% T5 H. K0 h* W - netstata -tunlp | grep 9089# @0 f* r& U/ A& R7 v: b
- # 或
4 ^* q( W& x& y$ d - ss -anp | grep 9089
4 r0 k$ v1 i, K4 i% U
' `) g- J$ N9 R$ i- # 如果没开启后台停止,直接ctrl+c关停/ C8 D- m1 {1 y1 G
- # 后台进程停止gunicorn
! K7 Y' e' Y+ X - ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码 * n# \- ~; v! ? ?& _2 n* O! ]1 m
5. 用户手册(重点)6 Y7 p$ ]% T5 h6 I j
7 r. r: U+ g( u
5.1 新建Databases(数据库) 新建数据库之前,需要先安装该数据库的python驱动包,具体语句可以参考官网 Database Drivers,如图5.1.0,一般就是pip install XXX,安装好驱动后,记得重启下Superset服务; 新建数据库连接的作用是为数据集Datasets和SQL实验室SQL Lab提供数据库、表的选择,就是提供数据源,当然Data下还有个Upload CSV(最新版本也支持Upload Excel)也可以直接将本地的CSV文件作为数据源上传到Superset站点,直接进行数据探索分析。 图5.1.0 数据库驱动以及连接字符串
! T! |- c7 c; D 登录进Apache Superset后,点击Data,下来选择Databases,然后跳转到图图5.1.1,点击右上侧的+号就可以跳转图5.1.2的数据新增配置界面。 图5.1.1 新建数据库连接 4 U/ \- a8 b8 ^- E% ?' m
图5.1.2,Database是指的新建这个数据库的显示名称,这个随便取,合理即可,SQLAlchemy URI 这个地方就是之前图5.1.0上的数据库连接字符串,确保和你选择的数据库类型一致。
% h8 |( ~; b$ Q" C: W u然后点击TEST CONECTION,连接成功后会跳出Seems OK!的弹出框,记得滑到最下面,点击保存,如果连接不成功,请检查数据库的实例,端口,用户名,密码以及自己部署的Apache Superset的服务器访问数据库的端口网络时是否能通,当然也不要忘记SQLAlchemy URI 填写规范,保存后的数据库连接就会列举在图5.1.1上。
" Z$ f% W9 C; R6 |( Y( v
4 w6 I9 y% w B+ r4 E图5.1.2 新建数据库连接配置信息 ) P! j" {' X# l) @7 ^5 b, Z
5.2 新建Datasets(数据集,老版本也叫Tables) 图5.2.0 新建数据集 ! G- S: A% a! r( R
如图5.2.0,点击图中的Data下的Datasets,然后点击+号,跳转到图5.2.1,将配置好的数据库名下拉选出,写一个该连接实例下的数据库,然后选择一张表,点击保存即可,保存好的数据集会列举在图5.2.0中,这些知道为啥老板叫Tabels了吧;4 q: c) _: ^" \9 u V
数据集的作用是为后续的Charts(图表)数据可视化作为数据源头。 图5.2.1 新建数据集配置信息 & y/ V- @0 d( q# n/ D8 S
/ B; g( ^) [: x5.3 SQL Lab(SQL实验室) SQL Lab其实就是一个数据库查询客户端,利用SQL语句对数据库的表,字段模型进行查询探索,同时支持智能补全,当然SQL Lab的查询结果也可以直接EXPLORE到Charts(图表),作为数据可视化的数据源。
o( H$ f" m5 P7 n/ q2 k! \. x+ k 如图5.3.0,SQL Lab有三个选项,三个选项的功能如下: - SQL Editor:进行SQL查询探索
- Saved Queries:保存的通用查询SQL
- Query Search:查询的历史记录7 u' S$ M* D/ ^$ u
图5.3.0 主界面进入SQL Lab
1 ~7 M8 \) A* m+ o4 ], X' M 点击SQL Editor进入图5.3.1的SQL查询探索,左侧上方是配置好的数据库连接名和选择的数据库,左侧下方是将要用到的表及字段模型;右侧上方是写SQL语句的地方,支持RUN(查询),RUN SELECTION(查询鼠标选择局部语句),SAVE(保存),SHARE(分享)等,右下方是数据结果,支持EXPLORE到Charts(图表)可视化,.CSV下载,CLIPBOARD(复制到剪贴板)。 图5.3.1 SQL Lab使用 ; Q5 ?2 _* E l$ w) O$ v
5.4 创建Charts(图表) 图表的作用是数据可视化,利不同的图表满足不同的业务需求,图表同时也作为仪表盘的展示的一部分,一个仪表盘内可以展示一个或多个图表。
6 I5 R& B5 @( }) P% o 创建图表的方式有两种: - 如图5.4.0,点击Charts,点击+创建新的图表,跳转图5.4.1
- 在SQL LabSQL语句探索查询的结果直接EXPLORE到Charts(图表)可视化
: a/ l s' \; G3 @
图5.4.0 创建图表 - b+ G: W' ~6 O0 H( S
如图5.4.1,选择合适需求的数据图表(如图5.4.2,支持的图表类型非常丰富,号称最漂亮的可视化图表展示),选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表; 4 R! B( \% i) W- u7 p+ w" j8 r
2 x P: S% m) L' t7 X0 A' P% V1 O; |图5.4.1 图表可视化配置 $ I" m2 ^* u3 h% H, Q: M5 D
号称最美可视化展示,支持可视化的图表类型确实丰富多彩,应对各种可视化需求。 ; L, G6 m" K7 f- D$ N& X. ?1 _8 j
7 ^/ G9 B1 i" h' G+ _
图5.4.2 支持的图表类型
* y, g0 w: A2 g5.5 创建Dashboards(仪表盘) 仪表盘就是最后的数据总体呈现,即报表展示。 如图5.5.0,点击Dashboards,然后点击+新建仪表盘,跳转图5.5.1。 图5.5.0 创建仪表盘 , f; N2 [- r" F( N. I
点击图5.5.1右上角的编辑仪表盘,之前做好的Charts(图表)拖拽到仪表盘上,注意:第一次拖拽的时候尽量网上拖拽,知道出现这个条蓝色的分解线,否则 无法拖拽过去; 同时也支持一些通用的组件,图表旁的Components下,有Header、Tabs、Row、Column、Markdown、Divider;* M. Y9 ]% ^ Q$ o8 K
编辑完后后记得点保存。 图5.5.1 编辑仪表盘 % b6 D# [0 t, u9 G" N* S
保存后的仪表盘支持分享,下载等功能,同时也会根据图表内的数据源刷新来获取新的数据;
u4 T6 \: n" z: `2 h R- T$ D; n7 Z2 Y6 q! \2 j2 X
图5.5.2 仪表盘功能 9 g6 P: o% A9 [& R: o9 v
分享给别人看到的仪表盘如图5.5.3。 图5.5.3 分享后他人视角的仪表盘
: p" M7 r* p( r9 G" a6. 设置 设置包含在菜单栏Settings下,主要设计权限和操作日志等模块,接下来分别讲解。 ; r7 r/ [# A8 H& L7 O4 {
: H2 B" T- R3 h7 D: C
图6.0.0 通用设置 9 x1 ~/ e. x! C. {6 J6 Z
% \' T& |" ~% V, x0 M
6.1 角色列表及权限 Apache Superset中的安全性由Flask AppBuilder(FAB)处理,FAB是一个构建在Flask之上的应用程序开发框架。FAB提供身份验证、用户管理、权限和角色,可以查看其相关文档。
( n! m, A3 G3 ~' B$ ]! T Apache Superset默认提供了不同的角色,每种角色拥有的权限不同,在运行superset init命令时,与每个角色关联的权限将重新同步到其原始值,不建议更改与每个角色关联的权限(例如,通过删除或添加权限),支持admin再自建角色类型,指定想要的权限,默认的角色及权限如下; - Admin:管理员拥有所有可能的权限,包括授予或撤销其他用户的权限,以及更改其他用户的切片和仪表板;
- Alpha:Alpha用户可以访问所有数据源,但不能授予或撤消其他用户的访问权限。它们也仅限于改变它们所拥有的对象。Alpha用户可以添加和更改数据源。
- Gamma:Gamma用户的访问权限有限。他们只能使用来自通过另一个补充角色访问的数据源的数据。他们只能查看由他们可以访问的数据源制作的切片和仪表板。目前Gamma用户无法更改或添加数据源。我们假设他们主要是内容消费者,尽管他们可以创建切片和仪表盘。另请注意,当Gamma用户查看仪表板和切片列表视图时,他们将只看到他们有权访问的对象。
- sql_lab:sql_lab角色授予对sql lab的访问权限。请注意,虽然管理员用户在默认情况下可以访问所有数据库,但Alpha和Gamma用户都需要在每个数据库的基础上获得访问权限。
- public:要允许注销的用户访问某些超集功能,需要自己配置权限,并将其分配给另一个角色,您希望将其权限传递给该角色。
1 \* }( o0 A7 a# A9 l
图6.1.0 系统默认角色
% B* D" \8 J# I1 O% @% J 同时Apache Superset也支持管理员自己新增角色,如图6.1.1,新建角色并指定角色权限。 7 D! r7 J7 v8 x
; I8 o; `* f1 J5 |图6.1.1 新建角色
5 u* X% |9 y/ o2 M) g6 D
4 \' M8 i5 g- k, a; K6 e: i- k) J# c6.2 用户列表 新建、编辑用户指定角色,用户的权限是绑定在角色里面的,一个用户可以有多个角色,配置信息如图6.2.0。 # d" Q% J: }8 W u# S
( Z4 [) M5 H' ^0 p7 t3 G9 c* @% C
图6.2.0 新建、编辑角色
0 ^6 K! h( _0 M7 ^8 |/ C: s, g! H
6.3 操作日志 操作日志记录的是在你的Superset平台上不同用户的行为日志,如图6.3.0。 图6.3.0 行为日志查看
3 L# i0 o4 ~, M& H
0 A. H1 k# n6 o& T1 i% M2 k q9 J6.4 用户信息、退出、版本信息 菜单栏最右侧的个人信息,主要是包含: - 用户信息:修改用户姓名,重置密码;
- 退出:回到登录主界面;
- 版本:目前您安装的Superset版本信息。
* s a/ Q, S: L+ D3 x/ t
$ v: f% `; e1 O2 _- }, a$ e% e! M
图6.4.0 个人信息模块
3 S4 P6 W4 @$ D+ P) T* K! Z0 b- M0 U" x5 X- Q
6.5 语言选择 作为Apache的顶级项目,自然是运用于全球的,支持世界上一些通用的语言 ,选择一款你最喜欢的即可。 图6.5.0 语言选择
. F2 U* e6 F7 A; [* m; d7 w6.6 管理设置 针对仪表盘,图表渲染加入自己想要的风格和模板,实际运用的用的不多。
1 x- l3 r: y, V P, t" Q) F& x$ z+ B, j
图6.6.0 管理模块 / `. Z k Z8 S0 g+ j, C
6.7 + NEW 菜单栏的+ NEW其实就是给最通用的三个模块SQL Query、图表、看板(仪表盘)的一个快捷方式,此三者的用法就不在累赘了。 图6.7.0 + NEW模块 . O5 z0 I; K8 A* R6 j$ n
! \: n- `$ m# v3 M; I6 |/ T3 \* d6 j/ A0 h, H
原文来源: https://blog.csdn.net/LXWalaz1s1s/article/details/119061337
& @5 B- o+ d$ I. F3 Y" z# \ |