目 录
& x3 L+ q ] w" W' |( T. R2 H
% o) ~% ^# P _6 }, g" @
+ `% G% S$ i+ s( N1. 需求背景1.1 大数据可视化面临的挑战 大数据的兴起,关于数据的存储、计算技术层出不穷,但是最终的数据可视化呈现,数据的探索,也成为颇为重要的一环,这一块并没有像存储、计算技术栈那么百花齐放,大家在做大数据可视化时是否也曾有这些困惑呢? - 传统的可视化对接传统数据库,对大数据组件的hive,spark,presto、elasticsearch、clickhouse等兼容性差,甚至不兼容,每次还需要多一道将大数据集群数据分发到传统数据库的冗余操作;
- 商用产品昂贵、甚至产品设置技术壁垒,很多甚至要求对接该商家的自己的大数据技术方可对接;
- 群众基数大的Excel拖来拽习惯、SQL操作的方便性,排斥自成一派的新技术,网页版账号登录优于用户下载客户端登录;
- 公司开发人员配置紧张,没有多余的人力自研大数据可视化平台,但是决策层希望有一个统一的可视化平台。
, f, ?& Z" A' n4 z% z
诸如此类,确实令人头疼,现在就推荐一款解药Apache Superser——开源的大数据分析探索、可视化报表的神器。 1.2 大数据数据可视化的目标架构
( L6 ~* x# j1 u/ a1 U
! k0 S: {9 c2 k0 s% c图1.2 大数据数据可视化架构 8 Z$ t2 T. [4 G/ V+ u! g
做事还是需要立一个目标架构,最后所有的事情都是围绕目标架构展开,才能越做越轻松,如图1.2,可是架构分为三个梯队; - 第一梯队:ClickHouse、DorisDB、Kylin等优秀OLAP技术做存储,利用自带的连接引擎,快速响应,同时支持实时数据和离线数据的接入,外接可视化平台,通过权限管控后呈现给用户;
- 第二梯队:数据存在数据仓库Hive内或者NoSQL的Hbase,再通过较为优秀且高效的引擎Presto、Flink、Spark等接入可视化平台,通过权限管控后呈现给用户;
- 剩下就是一个特殊的,如MySQL,临时文件等文件的接入;( j v+ [3 M* T+ d6 F) m& q
注意:常用的也还有其它技术架构,如ELK架构,ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成。Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。 Logstash是一个完全开源的工具,他可以对你的日志进行收集、分析,并将其存储供以后使用(如,搜索)。 kibana 也是一个开源和免费的工具,他Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志。这个后续再讲,这里书归正传,先讲讲Apache Superser。 2. Apache Superset简介2.1 Apache Superset是什么? Apache Superset是一款由Python语言为主开发的开源时髦数据探索分析以及可视化的报表平台;她支持丰富的数据源,且拥有多姿多彩的可视化图表选择。
2 Q9 c3 I% m# N5 {1 F4 e
- v, G1 J0 ^ g2 \$ U g1 }# e% Y( o7 M: F; u d6 Y5 a% v/ g
5 f; [0 Q+ ]3 Y2 I4 h" G图2.1.1 Apache Superset定义 j# B0 |/ E, M$ w
2.2 为什么选Apache Superset?- 支持丰富的数据库作为数据源,基本上平时用到的数据库都支持;如图2.2.0,支持的数据源有:: V+ a, \) i1 z4 {8 [
- Amazon Athena
- Amazon Redshift
- Apache Drill
- Apache Druid
- Apache Hive
- Apache Impala
- Apache Kylin
- Apache Pinot
- Apache Solr
- Apache Spark SQL
- Ascend.io
- Azure MS SQL
- Big Query
- ClickHouse
- CockroachDB
- Dremio
- Elasticsearch
- Exasol
- Google Sheets
- Hologres
- IBM Db2
- IBM Netezza Performance Server
- MySQL
- Oracle
- PostgreSQL
- Trino
- Presto
- SAP Hana
- Snowflake
- SQLite
- SQL Server
- Teradata
- Vertica
; |( r3 t! U" G6 q( J6 G# }# S6 O7 X
; K3 X. k( U8 N7 f( |1 T) I! b5 s5 ?
图2.2.0 Apache Superset支持的数据源
+ n5 a# a. D) m [- 多姿多彩的可视化图表,Apache Superset拥有非常丰富的图表,来实现不同的可视化需求,如图2.2.1。
7 L+ t/ ?" Q7 e" Q4 Z2 _) d
2 |. s) Q8 H: n7 Y
图2.2.1 Apache Superset支持的图表 4 f4 H. X1 X& t
- Data:主要功能是新增数据源和数据集Dataset(旧版本也叫Table),Dataset作为数据图表可视化的基础;
- Charts:图表,就是针对准备好的Dataset数据集,选择一款合适的图表呈现;
- Dashboards:仪表盘,其实就是报表、看板大屏展示,可以将多个Charts组合到一个仪表盘内一起展示。
- SQL Lab:SQL实验室,其实就是一个类似DBeaver、Navicat、DataGrip等一样的多功能数据库连接客户端,但是只有查询功能,配置驱动和连接后可以进行数据库、表、字段等模型的SQL查询操作。
- 设置:语言选择,登录注销、人员权限,操作日志等设置;
|% J& j" [$ e& D" d3 ?
图2.2.3 Apache Superset使用预览
* b, [1 H8 T" @2.3 对比Metabase- 天生自带支持的数据源Apache Superset完胜Metabase;
- 数据图表形式Apache Superset完胜Metabase;
- 操作界面美观丝滑度Apache Superset稍逊Metabase;
- 托拉拽操作Apache Superset稍逊Metabase;
8 q3 p" @- B. b% O! i
向来博主都是鱼与熊掌能兼得就兼得,毕竟小孩才做选择嘛,可以考虑两个都装,Metabase用于专注业务数据需求人员,Apache Superset用于懂SQL的数据需求人员,二者生成的通用仪表盘,则可以利用一个统一的网页超链接到一起,形成一个统一的报表平台。 3. 快速上手 这里先快速上手带大家体验一把,细节后续章节细讲,首先配置好数据库连接(配置方法参考后续的 5.1 新建Databases(数据库)),然后打开SQL Lab,选择好配置数据库,写SQL语句分析探索数据,如图3.1.0,然后运行语句,得到数据结果,可以点击保存将常用的探索SQL保存下来,然后点击查询结果上方的EXPLORE按钮,就可以跳转图表分析图3.1.1; ' P* l4 C, j% R
9 f: K: C% F3 s- g2 d; n4 i+ b( j
图3.1.0 Apache Superset在SQL Lab上探索数据
T; n2 q: _; ?8 { 利用SQL Lab探索得到的数据集,选择合适需求的数据图表,选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表; U0 [) K, {4 A$ o, b- ~
: U# [) a- e- |图3.1.1 Apache Superset数据可视化 " y- ~: X0 |. U$ x/ V. u
新建Dashboard,然后编辑Dashboard,将之前生成好的Charts(图表)拖拽到Dashboard,就完成了数据仪表盘的最终呈现,然后就可以分享给需求方,也可以生成访问链接分享。 注意:拖拽时尽量往Dashboard的上面拖拽,会出现一条蓝色的分界线就可以松手,否则可能出现无法拖拽的情况,这个设计很坑。 图3.1.1 Apache Superset数据仪表盘呈现
4 d2 V- J) Q" W5 s9 A7 W8 U4 o4. 部署安装4.1 部署方式及版本- 支持Linux、Windows、Mac的Docker部署
- 支持Linux、Windows、Mac的Python环境代码部署
- 可以在github,官网、或者国内镜像网站查看版本,但是别先下载,因为Apache Superset依赖包很多,最好能在线安装;; |, v' J! a7 `# v- K h
2 V. ?/ [$ R; }# n, p( s
图4.1.0 Apache Superset版本预览
5 R; B" l3 S# z- 博主选的是apache-superset-0.38.1.tar.gz在Linux上的Python环境代码部署。# q" k% C: H0 o& w
4.2 配置需求- apache-superset-0.38.1.tar.gz
- CentOS 7 16核 32G(非硬性,一般性能的服务器即可)
- Python 3.6
- 要求服务器网,如果没有,可以使用能联网的代理服务器,依赖很多,采用在线安装的形式1 I- j9 [' n3 p) F# f; C' e
4.3 下载安装- 下载安装Python3.6,可以选择安装anaconda集成的python,可以参考博客Linux通过anaconda来安装python,对应的版本是Anaconda3-5.2.0-Linux-x86_64.sh,下载传送门:Anaconda Download;安装好以后,如果老的服务器上存在python2,默认的环境变量启动是python2,没关系,只需要设置一个新的环境变量确保 python3启动是刚刚安装的版本即可。
- 安装python虚拟机,并启动,然后安装Apache Superset。7 }4 W. q% [: e
' \( t! ]3 a. ~9 M" ~* z- g3 }- # 切换到自己安装软件的目录,博主的是在/usr/local/tools,并新建superset目录. M7 b- h; w# I% P) T+ g
- cd /usr/local/tools
7 W% j+ I3 Q; h - mkdir superset5 Q3 Q& P. [, S2 N
- cd superset- v3 X) s. |+ ]- }" u& ^! F
' o+ u" q; [& b4 H) V- p- # 安装虚拟机,有网就不需要的代理服务器,配置代理服务器10.212.18.34:3129方法:
9 c- h* r. d8 x$ J. f6 u9 ^ - # 写入配置文件 /etc/profile里面追加
! D4 I1 ?& [* F/ b7 ~. O - # export http_proxy=10.212.18.34:3129, P/ U- i: y. }$ N
- # export https_proxy=10.212.18.34:3129
% i4 z2 U( f( v0 D' n5 w t - # 然后wq! 保存退出,source /etc/profile刷新配置文件% t4 a9 {3 f& H6 }! j M' J
- # 安装完可以删除代理,记得再source /etc/profile
* A/ x( d6 v S- o3 m- h - # 如果不想配置/etc/profile或者无权限,可以采用以下命令
3 j3 \, k M# Y - # pip install virtualenv --proxy=10.212.18.34:3129,每次都需要,烦. |# @- I6 g* f
- pip install virtualenv
) v% D5 @; j9 R7 k- d6 m b6 m - ) w8 R& p' |! U9 f
- # 配置命名虚拟机, G9 Z/ R7 r. G: _' m, X
- python3 -m venv venv# R( B! _# |7 N7 _
- % c& Q# g d+ r+ o" X" M$ h
- # 启动虚拟机,会在当前目录下自动创建venv目录6 L+ y# ~% _; ]. ]+ E- g6 |
- . venv/bin/activate4 T$ q1 x& U3 L Q* a
2 Z% I# |; M0 b6 g" A- # 退出虚拟机指令,但是这里不需要退出% ~7 C2 m; ?, l. f
- # 退出虚拟机指令,但是这里不需要退出( Z6 s1 q2 w, K0 K( o
- # 退出虚拟机指令,但是这里不需要退出
- T [! t( x9 t8 p( J - deactivate9 v7 |) j2 d ]0 l0 k8 n; |7 ]! ?
- ; {* D+ g4 e" x5 `' M% i
- # 安装更新一些依赖
+ K1 ~0 D7 ^! ^ - pip install --upgrade setuptools pip -i https://pypi.douban.com/simple/0 k y% @/ V/ h3 Y! J& X3 \! w+ p
# \& P. @: X9 e7 ?- yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel
! [! t: t2 U8 ~, T z+ f' ?0 J - 2 Q3 t8 |- u9 T# i ?. O
- # 如果报错:GPG key retrieval failed: [Errno 14] curl#37 - "Couldn't open file /etc/pki/rpm-gpg/RPM-GPG-KEY-EPEL-7"
2 o. n/ i' E, ^% q( V5 X - # 解决:
3 d/ ~, F' Y' y) c6 u - vi /etc/yum.repos.d/epel.repo9 y q% w% G+ }9 t+ B% ]" Q8 b8 z
- gpgcheck=0% O# i1 I, a* L
- # 然后wq!保存再试一次yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel& `9 ^1 e) o5 W' `9 P
2 h# O5 z0 x0 H9 O4 y- # 先用官网下载,因为官网的会自动把依赖也给你一起安装了,实在不行再用其他网站的镜像
) Y5 @$ S) b( k! w - pip install apache-superset==1.4.23 o/ ~7 U# y, D2 n
- - T7 J, b* B7 B, k
- # 安装superset,指定版本,不指定版本默认是最新版本
, j) U! {/ I( |! I1 S - pip install superset==0.30.1 -i https://pypi.douban.com/simple
" Q- B7 Y5 k; @- [: Y$ A! p
! @& G u* H, u b; h3 ?- # 安装email_validator ; M6 [ x$ e, t. G' ?8 ^9 S
- pip3 install email_validator -i https://pypi.douban.com/simple/
0 y' D* F& U3 d* _8 T- ?+ R) m - & ~5 m5 U7 B0 r+ R F5 }" @8 U& x
- # 更新数据库
# m0 Y4 ]- Q: @; ^. ^ - superset db upgrade/ j- e7 g x6 d& M6 J3 N& X8 t- f
! ~; A$ V1 u: n: v2 w4 v$ q- # 创建admin的用户名,用户名随便写,bigdata123,admin都行,写完用户名后会让你输入姓,名,邮箱,这三项可写可不写,不写就直接回车,然后是设置密码,一点要写。$ ~! z; u f# [7 u5 S1 r
- export FLASK_APP=superset3 C3 g. M/ u, \) c. u
- superset fab create-admin6 h& j( Q" {9 K4 @4 Q
( T' `$ V/ h2 r- # 加载样例数据,考验网络,如果实在一致加载报错就放弃,不影响后续使用。
9 V+ p. F q2 D* t" v, Q - superset load_examples1 r$ I, k( p. T2 K) B
- 1 \9 s* h; g, |8 s5 x
- # 初始化
R. \3 v9 Y: }1 e0 B - superset init8 p }: K1 _# G6 n: q/ U
1 k$ ?4 o9 d0 b" H+ H$ ]! Q- # 启动,官网是superset run -p 8088 --with-threads --reload --debugger. c; L0 p8 m: {, \+ }- e8 ^
- # 建议用gunicorn启动,方便快速,先直接启动,确保打印在客户端的日志正常" e) N( o! h9 U3 K# F1 `
- pip install gunicorn# A: t. L* T8 ?) f2 t
- gunicorn -w 5 --timeout 120 -b 10.218.10.290:9089 "superset.app:create_app()" 3 q. O% v5 d( k( d
- 7 i4 `8 X. H0 f r1 }8 X5 Z @
- # gunicorn 是一个Python WEB服务,可以理解为Tomcat
4 B1 g$ w; C. V- @% t - # -w WORKERS:指定线程数
( `8 h1 H! Q2 M+ r- E# t* S - # --timeout:worker进程超时时间,超过会自动重启
/ m V- } B9 N - # -b BIND:绑定Superset访问地址
_3 v- y: `7 y+ b9 K% S+ V, x# o: t - # --daemon:后台运行
! i/ U' m8 E- r( _
& c) s" ?/ _+ S4 ^' j- # 在能访问10.218.10.290:9089的服务器上打开浏览器,输入刚刚登录的用户名,密码即可。) a1 N$ @; G6 R% L; [
- 0 A4 H' `2 \& O$ o8 s5 u
- % P0 P" ]' l. L4 w0 r
- # 如果没开启后台停止,直接ctrl+c关停
; F6 r' O2 \* N9 L5 l - # 后台进程停止gunicorn& [5 e/ `# e: W( J# m5 G: t
- ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码 ! a% A+ `# x$ s( k. [
9 ~6 u! {2 ], H) ?4.3 安装注意及排错 pip install superset步骤时出现关键字眼Successfully installed证明正确安装,如图4.3.0; 1 R+ q0 P) `/ N# `' d
) O" J5 B' W3 R
图4.3.0 成功安装的提示
( w& u1 v: A, [) G3 |2 s superset fab create-admin配置用户名时提示如图4.3.1。 图4.3.1 配置用户名时提示 , d" h9 q; I8 e3 t/ w1 k
每个人的服务器环境,可能导致缺少的 依赖不同,途中如果遇到bug,可自己百度解决,基本都是python依赖包之类的问题,要耐心。 - # 报错8 L$ e# d: _' ^$ \! z
- ModuleNotFoundError: No module named 'dataclasses'
- d5 I i: l! g+ F; O - # }+ x3 X9 a* {; R1 y
- # 解决9 t. i1 D0 [: p% P& a! I3 V( G
- pip install dataclasses
0 ?, k+ ]5 x+ T/ e - # s! [. w5 M r' A3 P. s* a8 d
- # 报错
8 [& C' j; j+ O' E - No PIL installation found
5 ^" w W. J1 i/ X - # 解决
3 \+ Y! b0 w2 M2 U% q; W# o+ j - pip install pillow
. H" D G* ]" i( c
复制代码 : d$ F( D( O8 L" I
一切解决后,网页登录如图4.3.2; 图4.3.2 登录首页4.4 启动与关闭 " C" L+ ~* P3 g% N
官网提供的直接启动的方法不是很好,博主推荐一个采用gunicorn的方法,先关停superset。
* {: k1 A. n5 i2 `4 D- L
3 Y- Q, @9 ]; k( z2 @" d& y- $ m: ? E" G! W
- #安装好superset后会在venv生成很多文件,切换到venv% X6 s4 w7 \; R, M' g
- cd /usr/local/tools/superset/venv/
8 }/ h2 j, ?6 j, S$ V
9 i2 H' L% y+ ?- ~6 @- ; U+ Z) \! x3 J
- : |. u& H7 V C
- #新建日志文件夹
! ^2 N) U% o R* W - mkdir log
5 p8 C' X: p4 B, c |2 \ - " _% @, b3 ]9 }2 t: r5 _5 @
- #切换到log目录,新权限 日志,错误日志和启动pid文件- M+ ^& f9 a9 S7 m0 H- S
- cd log
( ^, y1 b+ F9 \7 h# ?9 N% a1 H2 ? - touch gunicorn_access.log
# h; j5 ^* m. x! d! m% | - touch gunicorn_error.log
+ o0 `9 x2 r( l6 S* V- { - touch pidfile
0 W) d$ y; B* g% d8 z6 m# [6 Q+ T6 I - chmod 755 ./* #修改权限
; f6 w; }4 c( I2 i" m
+ P8 U* N4 W$ _5 y- \- #切换到/usr/local/tools/superset/venv/bin,写一个gunicorn配置文件,python语言
/ n$ A+ f- W {" U. ?. t! G( \4 ~ - cd ./usr/local/tools/superset/venv/bin- B. P8 L% ^, ^$ f
1 i% I6 a* T+ m4 k X: S; D- 2 Q- u: L+ @" D- v
- vim gunicorn_config.py # 内容如下
/ c" T" o% N/ e5 V8 f; k- a, W
( s$ k X4 o7 l" C% @) m- #内容开始+ x% N: }7 D1 e L* i7 Y8 C
- import multiprocessing
; [, Y" s" R0 n5 u0 Q# q% e! L - ) l1 I! w& P- w8 U
I9 f# X2 H5 \0 h- bind = '10.218.10.290:9089' #绑定ip和端口号
* o3 g% b( A. _: ^ - backlog = 512 #监听队列
2 F7 I# h6 R6 Z4 N, m* W2 p) q - timeout = 30 #超时' [: J% \% A' ?
- worker_class = 'gevent'
' |- G, h2 C' H% V* e! b7 H& y - workers = 5+ L) s7 ~% t4 B& v% o% O! x: a2 L" u
- worker_connections = 1000' T3 w1 f; O( \7 \. U6 m
- threads = 2 #指定每个进程开启的线程数5 k" [ X% Q# |5 l
- loglevel = 'info' # 日志级别) Q& c; D; Y# P; z# T) z
- access_log_format = '%(t)s %(p)s %(h)s "%(r)s" %(s)s %(L)s %(b)s %(f)s" "%(a)s"' #设置gunicorn访问日志格式,错误日志无法设置
5 {( h: e1 t/ a* _$ h% X - - M1 z/ B4 q9 r: t4 u
- 1 l! s1 Y& e4 \9 y: H9 ]$ c7 X
- 0 H2 r9 R: D4 A: s2 }' v
- pidfile = '/usr/local/tools/superset/venv/log/pidfile'
; p# G9 E: x% I% m - errorlog = '/usr/local/tools/superset/venv/log/gunicorn_error.log'
; h7 U9 E& ~" e7 } - accesslog = '/usr/local/tools/superset/venv/log/gunicorn_access.log'' m# I8 Y& c3 e/ k E7 Z2 c# @% X
- 8 U' c$ C! N; G/ {5 X
- print("IP and PORT:"+bind)
2 \ {! L! O: s* o - print("pid_file:"+pidfile)3 Q5 v; t' \$ ?. s5 v& x7 z
- print("error_log:"+errorlog) J; C& P2 P8 F6 H$ `: y
- print("access_log:"+accesslog)
M( H' ~0 l+ a( H
( o% n- Z# v+ [& s% G( h( J* |- #内容结束% g- V4 E, M$ v% _! o$ N
1 R: }/ P2 P5 j8 h8 }- #然后 wq! 保存退出( K3 a8 R8 |# a# f; u9 W
- ) W# [& v. S, B ^! }8 \+ ?
- # gunicorn 启动 -c 配置文件启动;--daemon后台启动,日志可以去配置文件指定的路径查看4 N) {, H( q5 `2 Y9 P) x# V r, t0 j
- gunicorn -c ./gunicorn_config.py "superset.app:create_app()" --daemon
+ e, f4 S" D2 E7 V
) K1 |* r5 i% F1 I% U) s- # 后台进程查看
6 k' Y' C" P6 ~7 t. Z4 @( S - ps -ef | grep gunicorn/ h/ s2 v7 t6 |7 A4 g( W K3 w
2 f" K7 U0 \. }6 e. W! V- # 或者通过端口查看& S2 \, O# K3 \
- netstata -tunlp | grep 9089
2 o& [( L2 ]- C6 c# v% q2 \: P7 z - # 或! e1 j. v1 P# j& H' J4 u
- ss -anp | grep 9089
. d+ K$ h7 f6 F: [% ^$ I, G - & u* c9 F4 \- |- Q3 D
- # 如果没开启后台停止,直接ctrl+c关停" I' P1 A) f; w, d( U" Z/ I$ }
- # 后台进程停止gunicorn
. C- H8 q- A! `- v8 t3 ~8 [1 W - ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码
: p5 \: _8 s( E, y8 e9 S 5. 用户手册(重点)
, q1 S) ^/ L9 f v$ V* a+ Y, m9 s3 Z0 n7 @4 _
5.1 新建Databases(数据库) 新建数据库之前,需要先安装该数据库的python驱动包,具体语句可以参考官网 Database Drivers,如图5.1.0,一般就是pip install XXX,安装好驱动后,记得重启下Superset服务; 新建数据库连接的作用是为数据集Datasets和SQL实验室SQL Lab提供数据库、表的选择,就是提供数据源,当然Data下还有个Upload CSV(最新版本也支持Upload Excel)也可以直接将本地的CSV文件作为数据源上传到Superset站点,直接进行数据探索分析。 图5.1.0 数据库驱动以及连接字符串
8 H3 C% {# b: P! _) n! v" O; K. B1 ~ 登录进Apache Superset后,点击Data,下来选择Databases,然后跳转到图图5.1.1,点击右上侧的+号就可以跳转图5.1.2的数据新增配置界面。 图5.1.1 新建数据库连接
0 g- z& H& J, y, k: e0 q; x# a+ o 图5.1.2,Database是指的新建这个数据库的显示名称,这个随便取,合理即可,SQLAlchemy URI 这个地方就是之前图5.1.0上的数据库连接字符串,确保和你选择的数据库类型一致。 " c3 s5 [; w: d6 ?- _0 r% K
然后点击TEST CONECTION,连接成功后会跳出Seems OK!的弹出框,记得滑到最下面,点击保存,如果连接不成功,请检查数据库的实例,端口,用户名,密码以及自己部署的Apache Superset的服务器访问数据库的端口网络时是否能通,当然也不要忘记SQLAlchemy URI 填写规范,保存后的数据库连接就会列举在图5.1.1上。 ( b9 x1 b: t3 L$ o3 P) I1 q
5 S, @; f1 B% t
图5.1.2 新建数据库连接配置信息 6 t) j6 x! s; A9 R" y& i
5.2 新建Datasets(数据集,老版本也叫Tables) 图5.2.0 新建数据集 & d# p, r8 v3 u; K
如图5.2.0,点击图中的Data下的Datasets,然后点击+号,跳转到图5.2.1,将配置好的数据库名下拉选出,写一个该连接实例下的数据库,然后选择一张表,点击保存即可,保存好的数据集会列举在图5.2.0中,这些知道为啥老板叫Tabels了吧;
6 ~, \, U3 ?, Y" m) g$ {1 ` s8 p 数据集的作用是为后续的Charts(图表)数据可视化作为数据源头。 图5.2.1 新建数据集配置信息 & E; t7 o' @; d* r* n
6 t* a; ?1 g* L e5.3 SQL Lab(SQL实验室) SQL Lab其实就是一个数据库查询客户端,利用SQL语句对数据库的表,字段模型进行查询探索,同时支持智能补全,当然SQL Lab的查询结果也可以直接EXPLORE到Charts(图表),作为数据可视化的数据源。+ |& B9 Q3 _' X
如图5.3.0,SQL Lab有三个选项,三个选项的功能如下: - SQL Editor:进行SQL查询探索
- Saved Queries:保存的通用查询SQL
- Query Search:查询的历史记录" u0 n. r/ o# G+ \& C" N' Z
图5.3.0 主界面进入SQL Lab
K2 s$ V/ @' V: W0 q8 ~ 点击SQL Editor进入图5.3.1的SQL查询探索,左侧上方是配置好的数据库连接名和选择的数据库,左侧下方是将要用到的表及字段模型;右侧上方是写SQL语句的地方,支持RUN(查询),RUN SELECTION(查询鼠标选择局部语句),SAVE(保存),SHARE(分享)等,右下方是数据结果,支持EXPLORE到Charts(图表)可视化,.CSV下载,CLIPBOARD(复制到剪贴板)。 图5.3.1 SQL Lab使用
. q. j4 _! V1 c4 T V5.4 创建Charts(图表) 图表的作用是数据可视化,利不同的图表满足不同的业务需求,图表同时也作为仪表盘的展示的一部分,一个仪表盘内可以展示一个或多个图表。- V k, f# `) p6 c5 s) q8 S
创建图表的方式有两种: - 如图5.4.0,点击Charts,点击+创建新的图表,跳转图5.4.1
- 在SQL LabSQL语句探索查询的结果直接EXPLORE到Charts(图表)可视化
! O0 f* u8 E4 b6 c# M
图5.4.0 创建图表 # G5 P( h9 h6 W+ S: D8 s
如图5.4.1,选择合适需求的数据图表(如图5.4.2,支持的图表类型非常丰富,号称最漂亮的可视化图表展示),选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表;
1 e% p4 a0 J5 P/ x9 y* L+ ]$ \9 W* s+ F2 A& N
图5.4.1 图表可视化配置
) N+ s- S: @0 z* N: J% R, B# I0 ]; a 号称最美可视化展示,支持可视化的图表类型确实丰富多彩,应对各种可视化需求。
0 f6 B, a# ~8 H+ n1 U* M+ O+ K
4 z' N( ?/ D% J0 x# ^图5.4.2 支持的图表类型 - I( x1 J, N& i2 w% j$ h' O) z
5.5 创建Dashboards(仪表盘) 仪表盘就是最后的数据总体呈现,即报表展示。 如图5.5.0,点击Dashboards,然后点击+新建仪表盘,跳转图5.5.1。 图5.5.0 创建仪表盘 g$ G3 P9 ^, C0 ]
点击图5.5.1右上角的编辑仪表盘,之前做好的Charts(图表)拖拽到仪表盘上,注意:第一次拖拽的时候尽量网上拖拽,知道出现这个条蓝色的分解线,否则 无法拖拽过去; 同时也支持一些通用的组件,图表旁的Components下,有Header、Tabs、Row、Column、Markdown、Divider;
# x6 |' `; J& J1 x! d$ J 编辑完后后记得点保存。 图5.5.1 编辑仪表盘
) z$ u5 C% X% ? 保存后的仪表盘支持分享,下载等功能,同时也会根据图表内的数据源刷新来获取新的数据;
, ~# J( I8 l' c6 G9 ?4 }1 p- Y5 M
# _; j8 B7 @" F R9 f( ]图5.5.2 仪表盘功能
9 p$ X0 v& H$ d# Q 分享给别人看到的仪表盘如图5.5.3。 图5.5.3 分享后他人视角的仪表盘
/ c7 v. U E4 l8 G6. 设置 设置包含在菜单栏Settings下,主要设计权限和操作日志等模块,接下来分别讲解。 8 \, {9 A# I/ S7 j% k
G; h7 f2 a8 Y1 _9 [4 R$ r9 q
图6.0.0 通用设置 . J! j* \: k+ C: n a p | r
5 K2 ~' F2 N) x
6.1 角色列表及权限 Apache Superset中的安全性由Flask AppBuilder(FAB)处理,FAB是一个构建在Flask之上的应用程序开发框架。FAB提供身份验证、用户管理、权限和角色,可以查看其相关文档。
- e9 N/ [0 V* X( V1 u* N0 { Apache Superset默认提供了不同的角色,每种角色拥有的权限不同,在运行superset init命令时,与每个角色关联的权限将重新同步到其原始值,不建议更改与每个角色关联的权限(例如,通过删除或添加权限),支持admin再自建角色类型,指定想要的权限,默认的角色及权限如下; - Admin:管理员拥有所有可能的权限,包括授予或撤销其他用户的权限,以及更改其他用户的切片和仪表板;
- Alpha:Alpha用户可以访问所有数据源,但不能授予或撤消其他用户的访问权限。它们也仅限于改变它们所拥有的对象。Alpha用户可以添加和更改数据源。
- Gamma:Gamma用户的访问权限有限。他们只能使用来自通过另一个补充角色访问的数据源的数据。他们只能查看由他们可以访问的数据源制作的切片和仪表板。目前Gamma用户无法更改或添加数据源。我们假设他们主要是内容消费者,尽管他们可以创建切片和仪表盘。另请注意,当Gamma用户查看仪表板和切片列表视图时,他们将只看到他们有权访问的对象。
- sql_lab:sql_lab角色授予对sql lab的访问权限。请注意,虽然管理员用户在默认情况下可以访问所有数据库,但Alpha和Gamma用户都需要在每个数据库的基础上获得访问权限。
- public:要允许注销的用户访问某些超集功能,需要自己配置权限,并将其分配给另一个角色,您希望将其权限传递给该角色。
, m$ o& z4 T' i& i
更多的角色权限可以查看官网 Apache Superset Security,或者点开图6.1.0的编辑角色查看,尽量别改默认角色的权限。
3 Q5 b: @, |2 w2 w" U8 S: U, ^' z% [& f9 E1 j/ `9 i- f
图6.1.0 系统默认角色 & \& O N9 n5 v1 q8 A6 e7 v/ x, F
同时Apache Superset也支持管理员自己新增角色,如图6.1.1,新建角色并指定角色权限。 " k* u `" ^" t
! k0 d/ O9 H* p) }4 K: v& K+ o5 D
图6.1.1 新建角色 / S5 Y/ m+ p2 j3 P$ u' a
1 a: [/ U3 ]* V- F
6.2 用户列表 新建、编辑用户指定角色,用户的权限是绑定在角色里面的,一个用户可以有多个角色,配置信息如图6.2.0。
1 z2 I$ t" q. P! r* x( e B1 U# g. h6 o/ f! H" t2 `
图6.2.0 新建、编辑角色
$ w, ?3 L0 x. V6 r" X: d$ Z0 A# a4 x% ?& i; U
6.3 操作日志 操作日志记录的是在你的Superset平台上不同用户的行为日志,如图6.3.0。 图6.3.0 行为日志查看
8 a. s5 n+ h Z4 a! e4 D, u0 A+ [1 F/ [, ~4 w
6.4 用户信息、退出、版本信息 菜单栏最右侧的个人信息,主要是包含: - 用户信息:修改用户姓名,重置密码;
- 退出:回到登录主界面;
- 版本:目前您安装的Superset版本信息。/ b. m+ N# H, d- S- N) I/ D
# X5 ?) D# t% M0 w
图6.4.0 个人信息模块
4 b5 e8 {/ d# y- s) ^* u T: f; e; t2 F' g( q
6.5 语言选择 作为Apache的顶级项目,自然是运用于全球的,支持世界上一些通用的语言 ,选择一款你最喜欢的即可。 图6.5.0 语言选择
, |9 k* K' T( y6.6 管理设置 针对仪表盘,图表渲染加入自己想要的风格和模板,实际运用的用的不多。 & R; n) u H \! P- h
/ z8 M: `* U4 v) X图6.6.0 管理模块 6 J( q3 q) s5 G# L# e& u8 j
6.7 + NEW 菜单栏的+ NEW其实就是给最通用的三个模块SQL Query、图表、看板(仪表盘)的一个快捷方式,此三者的用法就不在累赘了。 图6.7.0 + NEW模块
( ~7 V- H/ N! m, w$ T3 b( M4 z* r
6 X' _1 ?2 @6 E+ T A
1 g+ C- S! n3 C6 i6 l' Z原文来源: https://blog.csdn.net/LXWalaz1s1s/article/details/119061337
v" F* b+ \& \4 X' T" J |