目 录- 6 z2 X0 x! E: |- H3 \2 ]/ _
1 A# L+ ?& v! M: ~2 U% z! M
t: R, q4 C& v' f2 F. m* U
1. 需求背景1.1 大数据可视化面临的挑战 大数据的兴起,关于数据的存储、计算技术层出不穷,但是最终的数据可视化呈现,数据的探索,也成为颇为重要的一环,这一块并没有像存储、计算技术栈那么百花齐放,大家在做大数据可视化时是否也曾有这些困惑呢? - 传统的可视化对接传统数据库,对大数据组件的hive,spark,presto、elasticsearch、clickhouse等兼容性差,甚至不兼容,每次还需要多一道将大数据集群数据分发到传统数据库的冗余操作;
- 商用产品昂贵、甚至产品设置技术壁垒,很多甚至要求对接该商家的自己的大数据技术方可对接;
- 群众基数大的Excel拖来拽习惯、SQL操作的方便性,排斥自成一派的新技术,网页版账号登录优于用户下载客户端登录;
- 公司开发人员配置紧张,没有多余的人力自研大数据可视化平台,但是决策层希望有一个统一的可视化平台。* c' `- j9 f( K0 M/ S" h4 p. W
诸如此类,确实令人头疼,现在就推荐一款解药Apache Superser——开源的大数据分析探索、可视化报表的神器。 1.2 大数据数据可视化的目标架构5 P9 y6 s! v/ P/ ~9 i, F) X# x" z
5 O r e+ s' n4 L- C% l! s$ x* h图1.2 大数据数据可视化架构 3 L& l+ E+ v( t) x
做事还是需要立一个目标架构,最后所有的事情都是围绕目标架构展开,才能越做越轻松,如图1.2,可是架构分为三个梯队; - 第一梯队:ClickHouse、DorisDB、Kylin等优秀OLAP技术做存储,利用自带的连接引擎,快速响应,同时支持实时数据和离线数据的接入,外接可视化平台,通过权限管控后呈现给用户;
- 第二梯队:数据存在数据仓库Hive内或者NoSQL的Hbase,再通过较为优秀且高效的引擎Presto、Flink、Spark等接入可视化平台,通过权限管控后呈现给用户;
- 剩下就是一个特殊的,如MySQL,临时文件等文件的接入;1 D- [4 d/ I: T. P F @
注意:常用的也还有其它技术架构,如ELK架构,ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成。Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。 Logstash是一个完全开源的工具,他可以对你的日志进行收集、分析,并将其存储供以后使用(如,搜索)。 kibana 也是一个开源和免费的工具,他Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志。这个后续再讲,这里书归正传,先讲讲Apache Superser。 2. Apache Superset简介2.1 Apache Superset是什么? Apache Superset是一款由Python语言为主开发的开源时髦数据探索分析以及可视化的报表平台;她支持丰富的数据源,且拥有多姿多彩的可视化图表选择。
# m, j) z) S6 O+ }6 ~* m
: @# k) B& f6 e; [$ I' K
/ F$ [1 }3 J0 h4 z
4 i' \* |) i' T& C图2.1.1 Apache Superset定义
- p$ o! F8 P$ B: D9 `) N) J$ V' h- [2.2 为什么选Apache Superset?- 支持丰富的数据库作为数据源,基本上平时用到的数据库都支持;如图2.2.0,支持的数据源有:
' t' k/ \; Z2 T! C9 o
- Amazon Athena
- Amazon Redshift
- Apache Drill
- Apache Druid
- Apache Hive
- Apache Impala
- Apache Kylin
- Apache Pinot
- Apache Solr
- Apache Spark SQL
- Ascend.io
- Azure MS SQL
- Big Query
- ClickHouse
- CockroachDB
- Dremio
- Elasticsearch
- Exasol
- Google Sheets
- Hologres
- IBM Db2
- IBM Netezza Performance Server
- MySQL
- Oracle
- PostgreSQL
- Trino
- Presto
- SAP Hana
- Snowflake
- SQLite
- SQL Server
- Teradata
- Vertica0 s: \9 H4 T6 ^8 c) I; e
9 f6 a+ f5 D6 `- F8 Q: H* @
图2.2.0 Apache Superset支持的数据源 , m% q! B3 z% f" F& _7 V" S
- 多姿多彩的可视化图表,Apache Superset拥有非常丰富的图表,来实现不同的可视化需求,如图2.2.1。
5 e- F; e$ s5 ]2 N, V7 G
/ j9 Z- x( i$ `; A
图2.2.1 Apache Superset支持的图表
* X4 o! U6 Q5 d7 z5 q! K- Data:主要功能是新增数据源和数据集Dataset(旧版本也叫Table),Dataset作为数据图表可视化的基础;
- Charts:图表,就是针对准备好的Dataset数据集,选择一款合适的图表呈现;
- Dashboards:仪表盘,其实就是报表、看板大屏展示,可以将多个Charts组合到一个仪表盘内一起展示。
- SQL Lab:SQL实验室,其实就是一个类似DBeaver、Navicat、DataGrip等一样的多功能数据库连接客户端,但是只有查询功能,配置驱动和连接后可以进行数据库、表、字段等模型的SQL查询操作。
- 设置:语言选择,登录注销、人员权限,操作日志等设置;
5 M" N/ I- W6 T7 H K. P; f3 p
图2.2.3 Apache Superset使用预览 $ W/ ~: _7 ~2 Z8 H4 L" ^6 Y
2.3 对比Metabase- 天生自带支持的数据源Apache Superset完胜Metabase;
- 数据图表形式Apache Superset完胜Metabase;
- 操作界面美观丝滑度Apache Superset稍逊Metabase;
- 托拉拽操作Apache Superset稍逊Metabase;0 K; ? s; o7 q# ~; p& M
向来博主都是鱼与熊掌能兼得就兼得,毕竟小孩才做选择嘛,可以考虑两个都装,Metabase用于专注业务数据需求人员,Apache Superset用于懂SQL的数据需求人员,二者生成的通用仪表盘,则可以利用一个统一的网页超链接到一起,形成一个统一的报表平台。 3. 快速上手 这里先快速上手带大家体验一把,细节后续章节细讲,首先配置好数据库连接(配置方法参考后续的 5.1 新建Databases(数据库)),然后打开SQL Lab,选择好配置数据库,写SQL语句分析探索数据,如图3.1.0,然后运行语句,得到数据结果,可以点击保存将常用的探索SQL保存下来,然后点击查询结果上方的EXPLORE按钮,就可以跳转图表分析图3.1.1;
) J+ {% M& u9 l1 }* t
) A; J' d8 R, d4 f1 W$ S# q! S图3.1.0 Apache Superset在SQL Lab上探索数据 5 u8 a( J, k0 `3 d7 \# N- {# }- Z9 o' X
利用SQL Lab探索得到的数据集,选择合适需求的数据图表,选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表;
! Z! z/ N0 w3 Q v
5 D3 [# M; i. m# I- Q, V, G图3.1.1 Apache Superset数据可视化 T7 V5 X! K0 P. D/ m! u# e3 Y( k
新建Dashboard,然后编辑Dashboard,将之前生成好的Charts(图表)拖拽到Dashboard,就完成了数据仪表盘的最终呈现,然后就可以分享给需求方,也可以生成访问链接分享。 注意:拖拽时尽量往Dashboard的上面拖拽,会出现一条蓝色的分界线就可以松手,否则可能出现无法拖拽的情况,这个设计很坑。 图3.1.1 Apache Superset数据仪表盘呈现
4 z( U+ A2 Y+ h6 b8 W# e8 \! \" S4. 部署安装4.1 部署方式及版本- 支持Linux、Windows、Mac的Docker部署
- 支持Linux、Windows、Mac的Python环境代码部署
- 可以在github,官网、或者国内镜像网站查看版本,但是别先下载,因为Apache Superset依赖包很多,最好能在线安装;2 _+ q+ @( _2 |6 D n3 Z* Y& W( l! m
P1 O1 Y3 ?& n# l$ U$ {, |. I
图4.1.0 Apache Superset版本预览 ( P6 L6 q( c2 ?. D7 m+ y
- 博主选的是apache-superset-0.38.1.tar.gz在Linux上的Python环境代码部署。 ?! p6 t9 N4 _: L, e7 j
4.2 配置需求- apache-superset-0.38.1.tar.gz
- CentOS 7 16核 32G(非硬性,一般性能的服务器即可)
- Python 3.6
- 要求服务器网,如果没有,可以使用能联网的代理服务器,依赖很多,采用在线安装的形式
! x0 S% v. \+ B: ^7 n9 Z 4.3 下载安装- 下载安装Python3.6,可以选择安装anaconda集成的python,可以参考博客Linux通过anaconda来安装python,对应的版本是Anaconda3-5.2.0-Linux-x86_64.sh,下载传送门:Anaconda Download;安装好以后,如果老的服务器上存在python2,默认的环境变量启动是python2,没关系,只需要设置一个新的环境变量确保 python3启动是刚刚安装的版本即可。
- 安装python虚拟机,并启动,然后安装Apache Superset。- K+ j4 s: l9 S$ D. L" a
: g2 A5 c& o: V6 K0 M0 ~9 I; _
- # 切换到自己安装软件的目录,博主的是在/usr/local/tools,并新建superset目录) s* Q8 j3 w: m$ r# j$ ^
- cd /usr/local/tools
2 k0 W2 U' c. o2 h* y7 q - mkdir superset
# m4 B' v6 @8 }* j: {1 x, n2 ] - cd superset( m/ R0 l+ g( Y4 s
' b# K1 K$ p7 o& g; Q6 R- # 安装虚拟机,有网就不需要的代理服务器,配置代理服务器10.212.18.34:3129方法:8 e ^; k. v% u0 p
- # 写入配置文件 /etc/profile里面追加* v3 ~ O! a& f# g' C* R' N
- # export http_proxy=10.212.18.34:3129! o5 g5 t6 a, ^) f; z u" d0 f
- # export https_proxy=10.212.18.34:3129
2 y1 }- K& l' j- z# G( Q. B - # 然后wq! 保存退出,source /etc/profile刷新配置文件' n; n( [3 S; p' |9 H8 `/ W
- # 安装完可以删除代理,记得再source /etc/profile
* z6 K" a+ i; \7 o) R( f, W* F0 x - # 如果不想配置/etc/profile或者无权限,可以采用以下命令, m1 @ G6 B; R" n: y9 R
- # pip install virtualenv --proxy=10.212.18.34:3129,每次都需要,烦4 n) e" T% p ]) i
- pip install virtualenv
8 [" J. M; K/ N
! {* Y7 C9 k, j& r7 ?: u6 B- # 配置命名虚拟机0 M, L6 ~. \, ]* t4 j) S
- python3 -m venv venv
8 u1 V [' g5 V; h# X* s; S - + M, M# \" {+ V
- # 启动虚拟机,会在当前目录下自动创建venv目录
: m+ W" O& |8 b5 [ - . venv/bin/activate, ^: d5 |; N7 b' H0 C- _' O7 d, g
- ' I$ x- ?. o4 E6 @) J
- # 退出虚拟机指令,但是这里不需要退出
7 D4 ^% J E/ \$ Y5 v7 w4 O - # 退出虚拟机指令,但是这里不需要退出
8 C' O3 r6 E* s5 a - # 退出虚拟机指令,但是这里不需要退出4 h/ c( a! G7 x3 p
- deactivate1 K! Z. w6 @2 B5 K( x
+ @4 w3 w* X# b" U& J- # 安装更新一些依赖
, Z+ }* @ A5 \- _8 u* G# z - pip install --upgrade setuptools pip -i https://pypi.douban.com/simple/
' ?& _3 x/ x$ G1 F$ c8 e- f
9 {% b! x; X9 b& Q/ L- yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel
1 G! K$ L4 O% u9 X$ A9 ~0 R9 Z
- g& O0 V0 G7 n2 Z- # 如果报错:GPG key retrieval failed: [Errno 14] curl#37 - "Couldn't open file /etc/pki/rpm-gpg/RPM-GPG-KEY-EPEL-7"
- B& K; g" L9 { C$ }. { - # 解决:
# x) H% ]9 N: R+ @' W; k - vi /etc/yum.repos.d/epel.repo* R: t; w! @9 a4 z
- gpgcheck=0
7 h. `# r- z8 R- k( l+ T - # 然后wq!保存再试一次yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel
5 V8 a9 @' A8 O2 o% `; h5 l- x- F
8 w, ?8 {+ N7 _- i8 P- H; B5 z2 a- [- # 先用官网下载,因为官网的会自动把依赖也给你一起安装了,实在不行再用其他网站的镜像, C2 ], A0 w. u! n+ X, F# ~+ o# N0 _
- pip install apache-superset==1.4.2
6 T0 P/ k, C( t% p% q0 O C - ! c% j' Q! {& u* |! p% k* Y
- # 安装superset,指定版本,不指定版本默认是最新版本
3 d9 g/ n* f3 S - pip install superset==0.30.1 -i https://pypi.douban.com/simple& K2 f- A. ]4 \9 ]8 P9 o" J5 ?
- ! n) l8 v, V( i) q* x* k
- # 安装email_validator
, k' o9 Q2 V* p - pip3 install email_validator -i https://pypi.douban.com/simple/. K( W0 _6 Q5 V% n/ t- n! w# C# F
# `# p0 F2 |. b% J- # 更新数据库( d) t# w# C! i
- superset db upgrade1 B q5 u# R, n) ?3 l
- # b# g8 v: o- G2 `! f
- # 创建admin的用户名,用户名随便写,bigdata123,admin都行,写完用户名后会让你输入姓,名,邮箱,这三项可写可不写,不写就直接回车,然后是设置密码,一点要写。. P- {, ]8 R/ u3 K8 O) R l
- export FLASK_APP=superset
y }" |( g* ~& d) T& B1 ~! @ - superset fab create-admin
$ D" \7 g9 M( M* K5 R# H" i
! n: e" A! T* K0 e- # 加载样例数据,考验网络,如果实在一致加载报错就放弃,不影响后续使用。
+ x5 W( ~6 @4 r8 R8 Z$ } - superset load_examples3 w5 W0 A: L! x" {6 z- i- [
- 8 G# w" E% u4 Y( `! R6 Y, o
- # 初始化% m# C I8 w+ ]7 H
- superset init
3 L" `9 t% Q- \: \0 l6 j
( o- g' z) f- q) N/ g6 m- # 启动,官网是superset run -p 8088 --with-threads --reload --debugger- j$ X d& C- x% X& a1 x0 G; K
- # 建议用gunicorn启动,方便快速,先直接启动,确保打印在客户端的日志正常& L! b6 O2 r9 m( \9 {6 y
- pip install gunicorn9 i. J1 T0 U; [1 c4 C6 X
- gunicorn -w 5 --timeout 120 -b 10.218.10.290:9089 "superset.app:create_app()" ! R0 u% t' X7 _3 d( C: F( o
- 4 L9 n2 d& R3 a4 q
- # gunicorn 是一个Python WEB服务,可以理解为Tomcat
( _ s4 m6 X" z - # -w WORKERS:指定线程数
$ |* r# V5 H$ @( t - # --timeout:worker进程超时时间,超过会自动重启
6 y* A# w- a7 W4 ? - # -b BIND:绑定Superset访问地址: j% o) Q6 H' K" `) m+ R& l8 L0 |+ k1 E
- # --daemon:后台运行7 v. Y S* P; x
4 D6 S" o; W7 i4 j- v7 o0 j+ Z+ w- # 在能访问10.218.10.290:9089的服务器上打开浏览器,输入刚刚登录的用户名,密码即可。
7 V8 w' g& E1 S( |- ?. R - 4 C8 o$ t$ s% B3 w1 p
0 h0 ` v1 r1 v8 }- g- ?- # 如果没开启后台停止,直接ctrl+c关停
4 D, ~3 E8 Y$ E - # 后台进程停止gunicorn
! p6 u! w+ S3 @5 M' o9 c - ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码
. V2 b3 n; O# _8 E/ c+ X+ T' u, R: _: X/ t5 U7 _
4.3 安装注意及排错 pip install superset步骤时出现关键字眼Successfully installed证明正确安装,如图4.3.0;
# `1 z4 U5 K3 I3 z5 f4 ~2 H$ m, u
. X1 g1 b( h, w图4.3.0 成功安装的提示
! |( i5 t' q( [" T& z; N% f' X$ a superset fab create-admin配置用户名时提示如图4.3.1。 图4.3.1 配置用户名时提示
* ?) f4 z% {: ?- [ 每个人的服务器环境,可能导致缺少的 依赖不同,途中如果遇到bug,可自己百度解决,基本都是python依赖包之类的问题,要耐心。 - # 报错, R+ U$ k6 ?; n% c& N
- ModuleNotFoundError: No module named 'dataclasses'
) ^& c& w/ o( j8 ?4 o# x. I& m& o - - F8 e# T% H6 M! I/ |' L
- # 解决
# k+ } K+ ^3 n4 q. u7 `1 X - pip install dataclasses
% Y/ Q' r N, l1 P; r8 A) S - / b# o3 K* H4 Y5 O/ l) G
- # 报错
, }/ X; k- e' \9 z - No PIL installation found
! B& t* l6 O, m9 D - # 解决
* ~; K. m& O$ K+ q* t - pip install pillow
W4 P! U" w) s. H) [* X; i4 G
复制代码 ! n5 q; `! Y8 Z' k9 o
一切解决后,网页登录如图4.3.2; 图4.3.2 登录首页4.4 启动与关闭 % |$ E. ^4 w' Q1 H6 g' n3 g0 u1 |
官网提供的直接启动的方法不是很好,博主推荐一个采用gunicorn的方法,先关停superset。 0 |) `" e4 e+ E: U5 {/ i6 u
, c4 Z/ c6 h7 B7 Z* q8 ?
$ I) Z9 t) T& V* y2 g- #安装好superset后会在venv生成很多文件,切换到venv
; r8 f F/ b, e - cd /usr/local/tools/superset/venv/
2 _: ^& p* i8 y8 ~ - ) C. c8 y) ?$ y; [% f9 Y
4 {2 L3 s$ V* p/ ^0 M; d- 0 }' ~7 v$ q3 c+ ^% O! k
- #新建日志文件夹5 X2 \% I. C' ?/ n% R7 q/ G0 C
- mkdir log
! Q- |- m) w8 O2 k$ h6 ^
6 h3 a) K4 Q; u( w9 d! L _- #切换到log目录,新权限 日志,错误日志和启动pid文件
" }) U( L. _9 s4 n- }3 K# w - cd log
- {6 F" w* u& P/ ` - touch gunicorn_access.log
5 ~/ |2 A7 k- `- f - touch gunicorn_error.log
4 U7 T$ s! N+ [8 m! t - touch pidfile+ j: f# O7 K- c# P2 l; L
- chmod 755 ./* #修改权限2 ]' H/ B G4 u2 a3 g# ?# \6 d
- " C' N& d: r/ L( }( A. B
- #切换到/usr/local/tools/superset/venv/bin,写一个gunicorn配置文件,python语言
/ R# b8 o% J* L, ~5 g. s+ i - cd ./usr/local/tools/superset/venv/bin) \7 F# ^( c* H. \) B
- 5 Q7 l2 u/ Z, x$ k6 z
, h7 M9 d) q ]# y/ g u. o- vim gunicorn_config.py # 内容如下8 c5 c- @; ^+ X- s" t) c2 ^) T* C, o
- + {$ p5 D6 B. W* o5 E" Q4 H
- #内容开始' {+ ]* x! D+ X
- import multiprocessing
5 W' U5 R2 K" S. r8 O+ z
; k* H- e% \5 R# K6 Z- 5 ~ G0 s! Z* U0 D' P
- bind = '10.218.10.290:9089' #绑定ip和端口号* h4 y5 j9 r! |
- backlog = 512 #监听队列
& x) E: \$ Z. E. r1 [ - timeout = 30 #超时: D# D4 j! ~& n) I6 F$ h3 s
- worker_class = 'gevent'
/ x3 ^- X3 @) R - workers = 5( d9 ?/ Q1 ~1 r ?$ h) g
- worker_connections = 1000
4 H$ g& z2 u. C. X1 P1 P3 G - threads = 2 #指定每个进程开启的线程数
6 Y0 N6 }8 w& ` - loglevel = 'info' # 日志级别* k0 n8 N2 x, Z: c: B" Y" R, j
- access_log_format = '%(t)s %(p)s %(h)s "%(r)s" %(s)s %(L)s %(b)s %(f)s" "%(a)s"' #设置gunicorn访问日志格式,错误日志无法设置; u, w- G, H; b6 z/ x
- 5 I7 S( K y6 o& B
- : {: s+ `* j! i# |' H
0 @9 p( }3 J' s- pidfile = '/usr/local/tools/superset/venv/log/pidfile'6 R9 s m4 T* r3 F5 h" q
- errorlog = '/usr/local/tools/superset/venv/log/gunicorn_error.log': n/ \6 N F% z% h
- accesslog = '/usr/local/tools/superset/venv/log/gunicorn_access.log'5 F6 M% S% x! J# x _. H# y. p
- ( h, s. g9 B2 j: A+ B8 t8 d
- print("IP and PORT:"+bind)
( ^- B6 s; e3 i% ` - print("pid_file:"+pidfile)
2 X# W# @ w! Y - print("error_log:"+errorlog)
+ L3 C& z- W: _: e- K$ t# _: n1 l5 U - print("access_log:"+accesslog)/ m2 X3 z8 i2 H$ T' |. m: c
$ E7 J& E8 u) ]- #内容结束
; }8 y3 q6 J- A/ c+ M( a R, v - ) a ~/ X5 B% p, {! ~ [* Q" U9 {
- #然后 wq! 保存退出$ H( {! _: r/ B) o
- % `" ~5 V2 S2 V Y8 M* x
- # gunicorn 启动 -c 配置文件启动;--daemon后台启动,日志可以去配置文件指定的路径查看9 m; B2 I# N5 y. E, t# n' u
- gunicorn -c ./gunicorn_config.py "superset.app:create_app()" --daemon- j+ a" M( F( N4 ?8 u! T# G
- 9 F; X( u% m! @5 W8 n7 |9 ~4 u0 E7 w
- # 后台进程查看1 H! R7 y0 V9 c v% |
- ps -ef | grep gunicorn
- u3 q5 G8 j- G8 ~1 K. s - 0 Y- ~$ u+ }; O
- # 或者通过端口查看
! F! _4 T9 G8 L2 b - netstata -tunlp | grep 9089: o T" w3 _" z
- # 或 g C3 u+ s5 Q
- ss -anp | grep 9089
8 a/ v& E; M m1 o, {5 _3 D5 l: H - ; S8 t6 \' r) i" \
- # 如果没开启后台停止,直接ctrl+c关停. y0 Q2 r C( d8 c0 y, i3 }" [4 ?
- # 后台进程停止gunicorn
9 W8 Z: h v' j6 B) m - ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码
, f% _5 J& J h% h 5. 用户手册(重点)
/ X* t( ~& a4 u( A5 d! ~0 U1 R
% a- I! {( \; E! q' P" L. ]- f1 t5.1 新建Databases(数据库) 新建数据库之前,需要先安装该数据库的python驱动包,具体语句可以参考官网 Database Drivers,如图5.1.0,一般就是pip install XXX,安装好驱动后,记得重启下Superset服务; 新建数据库连接的作用是为数据集Datasets和SQL实验室SQL Lab提供数据库、表的选择,就是提供数据源,当然Data下还有个Upload CSV(最新版本也支持Upload Excel)也可以直接将本地的CSV文件作为数据源上传到Superset站点,直接进行数据探索分析。 图5.1.0 数据库驱动以及连接字符串
3 r+ R; @) s* {2 D 登录进Apache Superset后,点击Data,下来选择Databases,然后跳转到图图5.1.1,点击右上侧的+号就可以跳转图5.1.2的数据新增配置界面。 图5.1.1 新建数据库连接
# F/ A6 u. h" @6 v% [ 图5.1.2,Database是指的新建这个数据库的显示名称,这个随便取,合理即可,SQLAlchemy URI 这个地方就是之前图5.1.0上的数据库连接字符串,确保和你选择的数据库类型一致。 & t, b, Z1 K5 ]6 \2 l4 Q' r: ?
然后点击TEST CONECTION,连接成功后会跳出Seems OK!的弹出框,记得滑到最下面,点击保存,如果连接不成功,请检查数据库的实例,端口,用户名,密码以及自己部署的Apache Superset的服务器访问数据库的端口网络时是否能通,当然也不要忘记SQLAlchemy URI 填写规范,保存后的数据库连接就会列举在图5.1.1上。
# Q [7 O) {+ F1 j" j" k& o0 n
- Y9 r* Y6 M& n1 z" f图5.1.2 新建数据库连接配置信息 $ E, g; c( S* ] k
5.2 新建Datasets(数据集,老版本也叫Tables) 图5.2.0 新建数据集
5 I. B* o, u7 |! A# T 如图5.2.0,点击图中的Data下的Datasets,然后点击+号,跳转到图5.2.1,将配置好的数据库名下拉选出,写一个该连接实例下的数据库,然后选择一张表,点击保存即可,保存好的数据集会列举在图5.2.0中,这些知道为啥老板叫Tabels了吧;
& ?3 q1 g$ q% O+ Q' w5 t0 Q 数据集的作用是为后续的Charts(图表)数据可视化作为数据源头。 图5.2.1 新建数据集配置信息
; s' _' i% S0 q" X
1 {* s! C% a/ i& g5.3 SQL Lab(SQL实验室) SQL Lab其实就是一个数据库查询客户端,利用SQL语句对数据库的表,字段模型进行查询探索,同时支持智能补全,当然SQL Lab的查询结果也可以直接EXPLORE到Charts(图表),作为数据可视化的数据源。3 H0 j/ v" {5 y1 m1 z/ X9 r0 o7 g
如图5.3.0,SQL Lab有三个选项,三个选项的功能如下: - SQL Editor:进行SQL查询探索
- Saved Queries:保存的通用查询SQL
- Query Search:查询的历史记录( l' @) B$ R* [* J3 d
图5.3.0 主界面进入SQL Lab
+ Y6 k4 `) Y; h) d8 d 点击SQL Editor进入图5.3.1的SQL查询探索,左侧上方是配置好的数据库连接名和选择的数据库,左侧下方是将要用到的表及字段模型;右侧上方是写SQL语句的地方,支持RUN(查询),RUN SELECTION(查询鼠标选择局部语句),SAVE(保存),SHARE(分享)等,右下方是数据结果,支持EXPLORE到Charts(图表)可视化,.CSV下载,CLIPBOARD(复制到剪贴板)。 图5.3.1 SQL Lab使用 ! P5 @7 g5 [ N( D! K
5.4 创建Charts(图表) 图表的作用是数据可视化,利不同的图表满足不同的业务需求,图表同时也作为仪表盘的展示的一部分,一个仪表盘内可以展示一个或多个图表。
, ~. `4 V- P; c7 r0 u 创建图表的方式有两种: - 如图5.4.0,点击Charts,点击+创建新的图表,跳转图5.4.1
- 在SQL LabSQL语句探索查询的结果直接EXPLORE到Charts(图表)可视化; t* }( i& r$ F- F0 S' D
图5.4.0 创建图表 ; u1 w, Z+ m! q1 p
如图5.4.1,选择合适需求的数据图表(如图5.4.2,支持的图表类型非常丰富,号称最漂亮的可视化图表展示),选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表;
8 j5 n0 p8 P3 B' A4 ?# n/ \8 B5 y7 x' |
图5.4.1 图表可视化配置
. l/ G Q7 L+ G% w& V( a1 R 号称最美可视化展示,支持可视化的图表类型确实丰富多彩,应对各种可视化需求。
( Y1 I' z2 ~& |$ |0 h& y( u9 }9 B
4 ~3 R+ `+ j V9 v& L1 ~: e s9 B5 q" g图5.4.2 支持的图表类型
~- U9 w/ H9 M5.5 创建Dashboards(仪表盘) 仪表盘就是最后的数据总体呈现,即报表展示。 如图5.5.0,点击Dashboards,然后点击+新建仪表盘,跳转图5.5.1。 图5.5.0 创建仪表盘
( k; t o e) D* m8 e 点击图5.5.1右上角的编辑仪表盘,之前做好的Charts(图表)拖拽到仪表盘上,注意:第一次拖拽的时候尽量网上拖拽,知道出现这个条蓝色的分解线,否则 无法拖拽过去; 同时也支持一些通用的组件,图表旁的Components下,有Header、Tabs、Row、Column、Markdown、Divider;
8 m. v0 {9 Z$ _% h$ {0 E; ^. t 编辑完后后记得点保存。 图5.5.1 编辑仪表盘 6 V4 h" H ?. ~5 H" A/ y
保存后的仪表盘支持分享,下载等功能,同时也会根据图表内的数据源刷新来获取新的数据;
$ [! ^ Y5 r' Z: d
3 w2 {0 n: H9 {) V% u图5.5.2 仪表盘功能 / o* {& j% a* A. o) L
分享给别人看到的仪表盘如图5.5.3。 图5.5.3 分享后他人视角的仪表盘
3 b) v ?- ~3 s4 Y( G9 A" E6. 设置 设置包含在菜单栏Settings下,主要设计权限和操作日志等模块,接下来分别讲解。 1 r' e7 ~& R& j" t' u+ z
3 g1 l8 Y% `1 ^7 i图6.0.0 通用设置
& }2 F# z$ R7 m8 H( Z3 [8 ^& K* H$ E) X. J
6.1 角色列表及权限 Apache Superset中的安全性由Flask AppBuilder(FAB)处理,FAB是一个构建在Flask之上的应用程序开发框架。FAB提供身份验证、用户管理、权限和角色,可以查看其相关文档。
/ M" ^; F$ |% E. \( a& f Apache Superset默认提供了不同的角色,每种角色拥有的权限不同,在运行superset init命令时,与每个角色关联的权限将重新同步到其原始值,不建议更改与每个角色关联的权限(例如,通过删除或添加权限),支持admin再自建角色类型,指定想要的权限,默认的角色及权限如下; - Admin:管理员拥有所有可能的权限,包括授予或撤销其他用户的权限,以及更改其他用户的切片和仪表板;
- Alpha:Alpha用户可以访问所有数据源,但不能授予或撤消其他用户的访问权限。它们也仅限于改变它们所拥有的对象。Alpha用户可以添加和更改数据源。
- Gamma:Gamma用户的访问权限有限。他们只能使用来自通过另一个补充角色访问的数据源的数据。他们只能查看由他们可以访问的数据源制作的切片和仪表板。目前Gamma用户无法更改或添加数据源。我们假设他们主要是内容消费者,尽管他们可以创建切片和仪表盘。另请注意,当Gamma用户查看仪表板和切片列表视图时,他们将只看到他们有权访问的对象。
- sql_lab:sql_lab角色授予对sql lab的访问权限。请注意,虽然管理员用户在默认情况下可以访问所有数据库,但Alpha和Gamma用户都需要在每个数据库的基础上获得访问权限。
- public:要允许注销的用户访问某些超集功能,需要自己配置权限,并将其分配给另一个角色,您希望将其权限传递给该角色。
) o V3 @3 d! y# L7 Q* b
图6.1.0 系统默认角色
+ |. F1 U, n2 E6 h) N1 V5 P3 E 同时Apache Superset也支持管理员自己新增角色,如图6.1.1,新建角色并指定角色权限。
+ y8 x7 I c; z9 u0 P% R' A) J0 Z3 R6 O1 s3 A8 H+ s1 U
图6.1.1 新建角色
0 g: ~! L1 Q! M9 `0 j; X$ M! J8 D# M+ c. H2 k( Q+ E {7 i, M, F
6.2 用户列表 新建、编辑用户指定角色,用户的权限是绑定在角色里面的,一个用户可以有多个角色,配置信息如图6.2.0。 0 f! d/ p: S! P: ]
9 r/ `6 x! P3 M; Y! S0 C5 ^图6.2.0 新建、编辑角色
) x/ m+ v5 z0 Z6 V/ {5 v& V9 b. a/ i* E1 u8 K4 X, q
6.3 操作日志 操作日志记录的是在你的Superset平台上不同用户的行为日志,如图6.3.0。 图6.3.0 行为日志查看
* A3 k3 v$ M% `, W# X2 s' i% b& u- x2 q, t- R) k- `5 [
6.4 用户信息、退出、版本信息 菜单栏最右侧的个人信息,主要是包含: - 用户信息:修改用户姓名,重置密码;
- 退出:回到登录主界面;
- 版本:目前您安装的Superset版本信息。
# ^* m) i1 j) G. Y, x. O+ b T4 B! J
图6.4.0 个人信息模块
3 J! y! X! L+ x# L1 M; Y4 k0 {0 A/ v3 X# q* D
6.5 语言选择 作为Apache的顶级项目,自然是运用于全球的,支持世界上一些通用的语言 ,选择一款你最喜欢的即可。 图6.5.0 语言选择
8 x$ h: Z l A# s0 X+ l" X) @6.6 管理设置 针对仪表盘,图表渲染加入自己想要的风格和模板,实际运用的用的不多。 9 h8 T$ x/ i. m; Q1 |/ D
/ ^$ S" h6 u) U% C, p; t+ O$ q
图6.6.0 管理模块
8 o) B4 g6 e* D' e6.7 + NEW 菜单栏的+ NEW其实就是给最通用的三个模块SQL Query、图表、看板(仪表盘)的一个快捷方式,此三者的用法就不在累赘了。 图6.7.0 + NEW模块 2 l: ^! n8 n3 P& g3 Y: ?8 `5 M
( ]. `2 v t# h% S( X) W) o6 B
0 @* N; x4 \9 i/ P# r) X
原文来源: https://blog.csdn.net/LXWalaz1s1s/article/details/119061337 ! g5 K, i" E6 Z7 a! F
|