目 录- 1 i1 g. {; g+ h m& j" U9 |. E- c+ D
4 s7 E: A) y' x j- l
2 K( ?. l3 ^/ e( e5 r# x3 V1. 需求背景1.1 大数据可视化面临的挑战 大数据的兴起,关于数据的存储、计算技术层出不穷,但是最终的数据可视化呈现,数据的探索,也成为颇为重要的一环,这一块并没有像存储、计算技术栈那么百花齐放,大家在做大数据可视化时是否也曾有这些困惑呢? - 传统的可视化对接传统数据库,对大数据组件的hive,spark,presto、elasticsearch、clickhouse等兼容性差,甚至不兼容,每次还需要多一道将大数据集群数据分发到传统数据库的冗余操作;
- 商用产品昂贵、甚至产品设置技术壁垒,很多甚至要求对接该商家的自己的大数据技术方可对接;
- 群众基数大的Excel拖来拽习惯、SQL操作的方便性,排斥自成一派的新技术,网页版账号登录优于用户下载客户端登录;
- 公司开发人员配置紧张,没有多余的人力自研大数据可视化平台,但是决策层希望有一个统一的可视化平台。) J2 t [9 _8 M J$ {% t0 `1 L
诸如此类,确实令人头疼,现在就推荐一款解药Apache Superser——开源的大数据分析探索、可视化报表的神器。 1.2 大数据数据可视化的目标架构
3 ~9 [: I+ a# c& {. H
0 `- l2 h6 P, S5 V, E" e: B/ w图1.2 大数据数据可视化架构
& C3 x$ ~; W8 `. J% M 做事还是需要立一个目标架构,最后所有的事情都是围绕目标架构展开,才能越做越轻松,如图1.2,可是架构分为三个梯队; - 第一梯队:ClickHouse、DorisDB、Kylin等优秀OLAP技术做存储,利用自带的连接引擎,快速响应,同时支持实时数据和离线数据的接入,外接可视化平台,通过权限管控后呈现给用户;
- 第二梯队:数据存在数据仓库Hive内或者NoSQL的Hbase,再通过较为优秀且高效的引擎Presto、Flink、Spark等接入可视化平台,通过权限管控后呈现给用户;
- 剩下就是一个特殊的,如MySQL,临时文件等文件的接入;
; F% c2 y4 d4 d
注意:常用的也还有其它技术架构,如ELK架构,ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成。Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。 Logstash是一个完全开源的工具,他可以对你的日志进行收集、分析,并将其存储供以后使用(如,搜索)。 kibana 也是一个开源和免费的工具,他Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志。这个后续再讲,这里书归正传,先讲讲Apache Superser。 2. Apache Superset简介2.1 Apache Superset是什么? Apache Superset是一款由Python语言为主开发的开源时髦数据探索分析以及可视化的报表平台;她支持丰富的数据源,且拥有多姿多彩的可视化图表选择。 ' A0 e9 l/ S# F. \8 Y: n
: m& e3 x; @" b# v& c6 d6 u( E! T# w4 `8 Z7 p, b& J2 F1 Y' @/ }
3 Z% i: `/ x$ o$ W: c图2.1.1 Apache Superset定义 + i* z. C \5 D. k6 g
2.2 为什么选Apache Superset?- 支持丰富的数据库作为数据源,基本上平时用到的数据库都支持;如图2.2.0,支持的数据源有:# T2 O) ^8 M1 A2 u! u5 i
- Amazon Athena
- Amazon Redshift
- Apache Drill
- Apache Druid
- Apache Hive
- Apache Impala
- Apache Kylin
- Apache Pinot
- Apache Solr
- Apache Spark SQL
- Ascend.io
- Azure MS SQL
- Big Query
- ClickHouse
- CockroachDB
- Dremio
- Elasticsearch
- Exasol
- Google Sheets
- Hologres
- IBM Db2
- IBM Netezza Performance Server
- MySQL
- Oracle
- PostgreSQL
- Trino
- Presto
- SAP Hana
- Snowflake
- SQLite
- SQL Server
- Teradata
- Vertica$ n1 A5 G% ~' I- O4 |/ f( ]- T
5 I0 w8 ~7 s! M$ N+ R3 ]$ b' t' d6 |
图2.2.0 Apache Superset支持的数据源
( R3 K. @8 w: B* c X4 I" e4 L- 多姿多彩的可视化图表,Apache Superset拥有非常丰富的图表,来实现不同的可视化需求,如图2.2.1。
) d0 U& T* j0 |
1 T( _+ W. ?5 s: K3 n Z" U
图2.2.1 Apache Superset支持的图表
$ F) ]' w' O" b9 M2 ]7 K4 j- Data:主要功能是新增数据源和数据集Dataset(旧版本也叫Table),Dataset作为数据图表可视化的基础;
- Charts:图表,就是针对准备好的Dataset数据集,选择一款合适的图表呈现;
- Dashboards:仪表盘,其实就是报表、看板大屏展示,可以将多个Charts组合到一个仪表盘内一起展示。
- SQL Lab:SQL实验室,其实就是一个类似DBeaver、Navicat、DataGrip等一样的多功能数据库连接客户端,但是只有查询功能,配置驱动和连接后可以进行数据库、表、字段等模型的SQL查询操作。
- 设置:语言选择,登录注销、人员权限,操作日志等设置;* Q8 S9 U. ~: C; C! x
图2.2.3 Apache Superset使用预览 , ^, f' q- Q0 C2 E8 V2 P
2.3 对比Metabase- 天生自带支持的数据源Apache Superset完胜Metabase;
- 数据图表形式Apache Superset完胜Metabase;
- 操作界面美观丝滑度Apache Superset稍逊Metabase;
- 托拉拽操作Apache Superset稍逊Metabase;
6 ~( E0 @- G9 t; y& k& O, T' U
向来博主都是鱼与熊掌能兼得就兼得,毕竟小孩才做选择嘛,可以考虑两个都装,Metabase用于专注业务数据需求人员,Apache Superset用于懂SQL的数据需求人员,二者生成的通用仪表盘,则可以利用一个统一的网页超链接到一起,形成一个统一的报表平台。 3. 快速上手 这里先快速上手带大家体验一把,细节后续章节细讲,首先配置好数据库连接(配置方法参考后续的 5.1 新建Databases(数据库)),然后打开SQL Lab,选择好配置数据库,写SQL语句分析探索数据,如图3.1.0,然后运行语句,得到数据结果,可以点击保存将常用的探索SQL保存下来,然后点击查询结果上方的EXPLORE按钮,就可以跳转图表分析图3.1.1;
7 _% [# @5 ~ R, K* ^
3 T, R5 W3 l$ Z图3.1.0 Apache Superset在SQL Lab上探索数据
' R2 ?) B4 k. I 利用SQL Lab探索得到的数据集,选择合适需求的数据图表,选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表; 6 n4 l& H! x. \$ F0 b% L5 S
5 |; D8 y6 d+ p% M
图3.1.1 Apache Superset数据可视化 8 l: g* S3 i. k7 l2 H! \
新建Dashboard,然后编辑Dashboard,将之前生成好的Charts(图表)拖拽到Dashboard,就完成了数据仪表盘的最终呈现,然后就可以分享给需求方,也可以生成访问链接分享。 注意:拖拽时尽量往Dashboard的上面拖拽,会出现一条蓝色的分界线就可以松手,否则可能出现无法拖拽的情况,这个设计很坑。 图3.1.1 Apache Superset数据仪表盘呈现
4 h9 k0 k# B/ k8 e. t4. 部署安装4.1 部署方式及版本- 支持Linux、Windows、Mac的Docker部署
- 支持Linux、Windows、Mac的Python环境代码部署
- 可以在github,官网、或者国内镜像网站查看版本,但是别先下载,因为Apache Superset依赖包很多,最好能在线安装;
' ~$ S3 p: C9 [" T" y, y Y6 g8 ? a: i; n7 M
图4.1.0 Apache Superset版本预览 $ O8 ^6 U+ h! }; X) n3 j. D3 S" R6 P1 t
- 博主选的是apache-superset-0.38.1.tar.gz在Linux上的Python环境代码部署。
) J" Y7 ]# L! E- u% a 4.2 配置需求- apache-superset-0.38.1.tar.gz
- CentOS 7 16核 32G(非硬性,一般性能的服务器即可)
- Python 3.6
- 要求服务器网,如果没有,可以使用能联网的代理服务器,依赖很多,采用在线安装的形式
; F6 ^7 G+ a" q7 E# B7 b 4.3 下载安装- 下载安装Python3.6,可以选择安装anaconda集成的python,可以参考博客Linux通过anaconda来安装python,对应的版本是Anaconda3-5.2.0-Linux-x86_64.sh,下载传送门:Anaconda Download;安装好以后,如果老的服务器上存在python2,默认的环境变量启动是python2,没关系,只需要设置一个新的环境变量确保 python3启动是刚刚安装的版本即可。
- 安装python虚拟机,并启动,然后安装Apache Superset。
$ \, q9 _& {/ E; Y& r$ L" O @& T: E0 L/ y/ w; r
- # 切换到自己安装软件的目录,博主的是在/usr/local/tools,并新建superset目录% |9 ^# j* o& `5 }4 q1 J( x4 K
- cd /usr/local/tools
# H. v' Q& S% j- O5 X2 k8 o1 R E - mkdir superset& k% c! A$ w9 `' {, `1 w
- cd superset
% e' S. s/ ?% W$ |5 k9 t - / L! r( ]( ^- A! t& ~3 d
- # 安装虚拟机,有网就不需要的代理服务器,配置代理服务器10.212.18.34:3129方法:& p) `& p H+ ~9 j w% H; E. K7 M
- # 写入配置文件 /etc/profile里面追加
7 {' ?- g& X% Z( T$ h: s$ i- D - # export http_proxy=10.212.18.34:3129" ]3 I' t6 F5 k+ t8 y
- # export https_proxy=10.212.18.34:3129" R P1 f; ~# |$ X: m
- # 然后wq! 保存退出,source /etc/profile刷新配置文件
K" }$ y$ _1 n. K% A- s$ \/ q/ s - # 安装完可以删除代理,记得再source /etc/profile
6 h' e5 g6 ?. S& B8 h( N - # 如果不想配置/etc/profile或者无权限,可以采用以下命令
: p5 c* @4 a9 F3 c. h' j - # pip install virtualenv --proxy=10.212.18.34:3129,每次都需要,烦1 j O* U' k( t% t% x/ i5 k
- pip install virtualenv( w) o! u) q8 m1 L9 _
9 [- A6 E, P/ G- # 配置命名虚拟机) Q& b9 I0 {' V, a) X6 V
- python3 -m venv venv
4 R c( P2 j: G+ ~ - % X: E* ?$ {! _+ l. z" N. p
- # 启动虚拟机,会在当前目录下自动创建venv目录
0 X( m* _- R) T5 ?: v. j U4 Y - . venv/bin/activate) y/ \3 ^- p$ t: L/ t; a% L/ U
. U8 H) B2 V3 e+ ?* @- T( B- # 退出虚拟机指令,但是这里不需要退出
# O4 o8 ]5 p) V+ ~. w - # 退出虚拟机指令,但是这里不需要退出
" i& e3 L- V1 l" _" i! @ - # 退出虚拟机指令,但是这里不需要退出- m4 F) r2 |" r1 ? n" c
- deactivate
5 h9 ^7 P _6 A) q
s9 B% P0 l B" w' p, j- # 安装更新一些依赖1 i+ h: E; C9 m' M
- pip install --upgrade setuptools pip -i https://pypi.douban.com/simple/
9 \" \3 {1 j5 t
3 b$ m( y. g8 j6 y2 u: M- yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel
- d. g2 B* W; L: W: |% V X - ( m( [; T4 }8 j
- # 如果报错:GPG key retrieval failed: [Errno 14] curl#37 - "Couldn't open file /etc/pki/rpm-gpg/RPM-GPG-KEY-EPEL-7"
! w0 v& @& z& e# \0 C0 S3 X( C - # 解决:
' L6 E& m5 [: z! w) p' R - vi /etc/yum.repos.d/epel.repo
* V+ ?. {8 }* D. ~1 h - gpgcheck=0) x- l" T: ]0 z, ?1 D2 Y" m1 n
- # 然后wq!保存再试一次yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel
% N, K4 a8 A% N: G% ]) g
% u" S2 p9 ?: j/ p' M2 a- # 先用官网下载,因为官网的会自动把依赖也给你一起安装了,实在不行再用其他网站的镜像3 `- p6 Z# L' U4 L! Z
- pip install apache-superset==1.4.2
5 `4 V* O! C# y4 x* c* T, l# t
4 O& }. a0 m& z8 X1 \: F8 \- # 安装superset,指定版本,不指定版本默认是最新版本* u2 O' U2 C! G( Q5 M* L" g; t
- pip install superset==0.30.1 -i https://pypi.douban.com/simple/ `' F2 X, n8 q' z( x( M0 H1 n
& c# }# o2 h) R7 @! p3 \( F' d- # 安装email_validator # a) i: u( T* ]
- pip3 install email_validator -i https://pypi.douban.com/simple/
: k" Q8 T0 m9 }+ S - ! M6 O# o0 U3 {* W% T' D
- # 更新数据库
1 p/ k/ e5 r" A1 @- \ - superset db upgrade5 a# ]" u% h) b0 F7 I' h/ S
G4 |9 i8 U+ ^2 W/ @& u7 o, G5 W- # 创建admin的用户名,用户名随便写,bigdata123,admin都行,写完用户名后会让你输入姓,名,邮箱,这三项可写可不写,不写就直接回车,然后是设置密码,一点要写。$ I" ^3 E. J4 b6 |
- export FLASK_APP=superset9 Z9 ~$ a0 u* C4 a9 r
- superset fab create-admin. i' z3 }6 a6 [
- 9 @+ F# Z! p3 b8 m0 L Z- ~
- # 加载样例数据,考验网络,如果实在一致加载报错就放弃,不影响后续使用。2 c8 O2 ?) x! X) f
- superset load_examples
% X* ]( k! H- |: c' F( w8 c; H
9 G& X/ D# ]5 D6 q- # 初始化
7 \: b. R; B; a- p3 c2 y - superset init
5 Z" u* X) w3 E; Q' V4 h- t( j: o - + f) ^9 y3 S4 I$ u# a0 D( F& U
- # 启动,官网是superset run -p 8088 --with-threads --reload --debugger
* ^" Y, k" J6 m- m. s2 v1 T" ` - # 建议用gunicorn启动,方便快速,先直接启动,确保打印在客户端的日志正常 d: x) W1 h4 e5 O) K7 ?0 c
- pip install gunicorn8 h8 r" c( w, h4 p$ b2 i9 s7 O
- gunicorn -w 5 --timeout 120 -b 10.218.10.290:9089 "superset.app:create_app()" * t8 o( h9 m1 A* H" f
- ! Z* k0 ~2 ]& ^0 v" s0 G D" |. r
- # gunicorn 是一个Python WEB服务,可以理解为Tomcat" l) r9 X% w1 h2 O+ C. f
- # -w WORKERS:指定线程数- c7 p) M, S6 \0 k
- # --timeout:worker进程超时时间,超过会自动重启
+ f& ~7 l1 f* W2 ~9 M - # -b BIND:绑定Superset访问地址0 _3 b6 D8 P0 ~+ F8 B+ d+ r7 ]
- # --daemon:后台运行# k5 M" D5 J+ n& m& L
- ) N- A L4 N& `* A) N: D' I. G5 A8 X! v
- # 在能访问10.218.10.290:9089的服务器上打开浏览器,输入刚刚登录的用户名,密码即可。
9 A8 v. |( c! X3 W# B% C; { - Y f1 b. F( x) z! [
- " ]' c1 J s& I1 g9 `; Y
- # 如果没开启后台停止,直接ctrl+c关停
N' k( a' y' I- ?9 F2 U - # 后台进程停止gunicorn, Y( U9 q5 _# ~& \( X
- ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码 4 K8 q/ |7 n h/ ] q S! h
3 \: q( z- o! F; ]0 X4.3 安装注意及排错 pip install superset步骤时出现关键字眼Successfully installed证明正确安装,如图4.3.0;
7 _" l7 X* Z8 j6 \% N) w/ Y+ c+ f; ?' d, u4 h
图4.3.0 成功安装的提示
. A) G/ ^5 Z. f# ~, {& ]. G superset fab create-admin配置用户名时提示如图4.3.1。 图4.3.1 配置用户名时提示 3 Y( \) { F- n+ o5 M$ D
每个人的服务器环境,可能导致缺少的 依赖不同,途中如果遇到bug,可自己百度解决,基本都是python依赖包之类的问题,要耐心。 - # 报错
5 o! [* L- J/ X) ` |. z - ModuleNotFoundError: No module named 'dataclasses'7 b* r& [5 P2 ^ {/ G
. B. w' s7 y; K. N7 g- # 解决
+ t `4 B+ V3 f0 N u - pip install dataclasses W3 K0 Q+ @5 K+ k$ f
4 L, ^; m3 _* Y" m+ @; |- # 报错
2 a C2 s n" d; q - No PIL installation found
: ]' a' k2 Q: V' V - # 解决* j( I( c# H" m; D2 ]: w; \+ @, ?
- pip install pillow8 G5 [ x1 M! B" Q8 u/ f+ W
复制代码 # e. P5 J- ?1 h! W; N$ C% O
一切解决后,网页登录如图4.3.2; 图4.3.2 登录首页4.4 启动与关闭 0 ]* ^- w6 q p. ]. @7 |
官网提供的直接启动的方法不是很好,博主推荐一个采用gunicorn的方法,先关停superset。 8 c5 f/ ?7 I' i [: { |
$ ~9 Z# I: R. b; ~# `6 C% x
- 4 N" A2 h- Q: N3 e" }" X0 B
- #安装好superset后会在venv生成很多文件,切换到venv
, W9 n3 i2 }3 Q7 [) v* v) E, U9 Y - cd /usr/local/tools/superset/venv/
" I# m7 F; ^8 {6 Y# E/ K+ e8 N - 6 @) P( }) o5 l+ _
9 a( \& O3 \ w% f- a* M/ Z# D
& g' J: M+ ]3 ?( Q# I8 U+ r- #新建日志文件夹9 k9 R$ B6 l+ Y/ {
- mkdir log
. z8 E* ]' I5 o, p" E# | - . {/ A0 q ^3 X% z" `8 U' _/ k- P
- #切换到log目录,新权限 日志,错误日志和启动pid文件; i% ^; d3 _1 k3 I7 i
- cd log# O6 a' T, _7 e( C: e9 c8 y3 {
- touch gunicorn_access.log
4 {, _# S$ l; G9 B! [1 W. x - touch gunicorn_error.log) a+ O" t! U( k6 C# P1 k3 z
- touch pidfile
) P m! z4 A, h0 t3 s1 f2 F - chmod 755 ./* #修改权限 m6 v* ?2 P! E/ W6 I: P5 ~
- 2 t6 O" y7 ~4 m; Q
- #切换到/usr/local/tools/superset/venv/bin,写一个gunicorn配置文件,python语言
) E1 ^$ Y- {% Z' G8 k1 A% F$ ] - cd ./usr/local/tools/superset/venv/bin
" M+ J4 ]8 f0 Z, E; a
! Y, |1 R! k, _+ \6 S3 ?& f2 K( `. Y
' J3 {: ?+ V) N4 F$ Q7 k/ R- vim gunicorn_config.py # 内容如下
! Z1 R6 T( O( _: B3 c. w
/ n5 z/ l/ h O& ~0 _- #内容开始
4 Z/ }" C$ x6 u - import multiprocessing
- v' |7 d0 _$ z# X, E, ^+ Y
. v* |& |+ p0 @0 }
' n* Q' I8 s) l' L8 s: ^ w- bind = '10.218.10.290:9089' #绑定ip和端口号* e4 k& @4 }( q6 X0 e" O7 Y: C x7 p
- backlog = 512 #监听队列
# F+ }% ]% m8 |( n- k$ l - timeout = 30 #超时3 y7 I; F8 b% R, ^8 [
- worker_class = 'gevent'5 P; @9 |. o+ @/ @# V
- workers = 5- J4 T {! d9 C; |; u! ]0 |1 y
- worker_connections = 1000( w' E3 {3 j: W) I+ e, X( Y
- threads = 2 #指定每个进程开启的线程数. p8 e2 d. D+ N) K
- loglevel = 'info' # 日志级别
- X7 ]0 B/ Y) C6 j" G8 N - access_log_format = '%(t)s %(p)s %(h)s "%(r)s" %(s)s %(L)s %(b)s %(f)s" "%(a)s"' #设置gunicorn访问日志格式,错误日志无法设置' f7 Q2 _5 t( R1 G' ^, I3 l* q6 V
. M# J0 g3 |1 a& o5 s' n- ) X; G' ]. R" w: n5 e& |5 B
- 7 m3 Y$ d$ X: f8 f) {$ g3 s' i1 h
- pidfile = '/usr/local/tools/superset/venv/log/pidfile'! w: @# B7 b* Q5 x% V
- errorlog = '/usr/local/tools/superset/venv/log/gunicorn_error.log' M) J- c/ O" e% f7 c
- accesslog = '/usr/local/tools/superset/venv/log/gunicorn_access.log'
/ D0 f- L1 i3 i$ F) f
! g( x% M$ h$ C) g" p2 p2 P y- print("IP and PORT:"+bind)
8 [' U9 N% B z( u' A* Q' @ - print("pid_file:"+pidfile)
J6 F" U* r$ M& [9 n4 V& ~ - print("error_log:"+errorlog)9 E( m* {+ B i8 Q5 w, h
- print("access_log:"+accesslog)9 _7 r" f8 H$ f2 ]; F9 z
+ {6 l' ^: y/ E5 Z6 z- m, I- #内容结束8 u' X- l3 {, ^4 h. y
- ( d# q5 R( a, K% X7 j. q2 x
- #然后 wq! 保存退出
7 H8 k* a; B/ K5 O: q
8 G! Y- j! T/ r, c9 r- n- # gunicorn 启动 -c 配置文件启动;--daemon后台启动,日志可以去配置文件指定的路径查看
6 ~, I; z+ a) o4 j+ Y' _ - gunicorn -c ./gunicorn_config.py "superset.app:create_app()" --daemon
u& }5 P: s; G0 h1 s1 J: g
7 c9 m& a# p v' o+ ^4 Y( k- # 后台进程查看
$ p# N# J: Q0 v2 O8 h5 S r1 A - ps -ef | grep gunicorn- W9 f7 Z" z& W1 L ^; C
- 9 D) s+ e4 f( y$ p
- # 或者通过端口查看
+ k6 F4 q$ C# o; g \6 I - netstata -tunlp | grep 9089& s! g/ ?8 g: G+ H0 w: F1 q
- # 或 J: w s7 T# q$ c
- ss -anp | grep 9089
* E6 [& M T" ^
1 B" v. |; s: Q/ Y! Y0 i8 r, w- # 如果没开启后台停止,直接ctrl+c关停
! `- N7 ~. M2 L) p+ o - # 后台进程停止gunicorn2 C. `4 Y, w# {3 e' @
- ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码 ( d* }5 i" u- S& ?9 u7 a4 q
5. 用户手册(重点)8 W/ I h6 X7 ^# R
! N, Z( |' V' q! L6 h0 Z( i
5.1 新建Databases(数据库) 新建数据库之前,需要先安装该数据库的python驱动包,具体语句可以参考官网 Database Drivers,如图5.1.0,一般就是pip install XXX,安装好驱动后,记得重启下Superset服务; 新建数据库连接的作用是为数据集Datasets和SQL实验室SQL Lab提供数据库、表的选择,就是提供数据源,当然Data下还有个Upload CSV(最新版本也支持Upload Excel)也可以直接将本地的CSV文件作为数据源上传到Superset站点,直接进行数据探索分析。 图5.1.0 数据库驱动以及连接字符串 ) |# l/ t( z. W# L1 E, v- M
登录进Apache Superset后,点击Data,下来选择Databases,然后跳转到图图5.1.1,点击右上侧的+号就可以跳转图5.1.2的数据新增配置界面。 图5.1.1 新建数据库连接
+ u( s' h* ?" c- K- V 图5.1.2,Database是指的新建这个数据库的显示名称,这个随便取,合理即可,SQLAlchemy URI 这个地方就是之前图5.1.0上的数据库连接字符串,确保和你选择的数据库类型一致。 $ A& O ^1 E3 U% l1 H+ c
然后点击TEST CONECTION,连接成功后会跳出Seems OK!的弹出框,记得滑到最下面,点击保存,如果连接不成功,请检查数据库的实例,端口,用户名,密码以及自己部署的Apache Superset的服务器访问数据库的端口网络时是否能通,当然也不要忘记SQLAlchemy URI 填写规范,保存后的数据库连接就会列举在图5.1.1上。
8 ?+ ?$ h! M7 |" `0 v) }3 i, o C+ x: r% ~; ~' A3 f. p! f
图5.1.2 新建数据库连接配置信息 ; L# W& L' r' Y+ k
5.2 新建Datasets(数据集,老版本也叫Tables) 图5.2.0 新建数据集
, V" }5 I' M# c/ F 如图5.2.0,点击图中的Data下的Datasets,然后点击+号,跳转到图5.2.1,将配置好的数据库名下拉选出,写一个该连接实例下的数据库,然后选择一张表,点击保存即可,保存好的数据集会列举在图5.2.0中,这些知道为啥老板叫Tabels了吧;! `& }6 f$ a! K1 y1 J) R
数据集的作用是为后续的Charts(图表)数据可视化作为数据源头。 图5.2.1 新建数据集配置信息
. I U$ d8 c" [# h' |4 Y1 q2 m0 d8 w
5.3 SQL Lab(SQL实验室) SQL Lab其实就是一个数据库查询客户端,利用SQL语句对数据库的表,字段模型进行查询探索,同时支持智能补全,当然SQL Lab的查询结果也可以直接EXPLORE到Charts(图表),作为数据可视化的数据源。# G1 a1 R9 C/ c! B
如图5.3.0,SQL Lab有三个选项,三个选项的功能如下: - SQL Editor:进行SQL查询探索
- Saved Queries:保存的通用查询SQL
- Query Search:查询的历史记录: P' g6 C% @+ q0 P! N
图5.3.0 主界面进入SQL Lab
& N0 d# T* X8 `4 C8 j+ B: I 点击SQL Editor进入图5.3.1的SQL查询探索,左侧上方是配置好的数据库连接名和选择的数据库,左侧下方是将要用到的表及字段模型;右侧上方是写SQL语句的地方,支持RUN(查询),RUN SELECTION(查询鼠标选择局部语句),SAVE(保存),SHARE(分享)等,右下方是数据结果,支持EXPLORE到Charts(图表)可视化,.CSV下载,CLIPBOARD(复制到剪贴板)。 图5.3.1 SQL Lab使用 $ c, G& {) a. n$ w
5.4 创建Charts(图表) 图表的作用是数据可视化,利不同的图表满足不同的业务需求,图表同时也作为仪表盘的展示的一部分,一个仪表盘内可以展示一个或多个图表。6 s, c; B" R( Z; S
创建图表的方式有两种: - 如图5.4.0,点击Charts,点击+创建新的图表,跳转图5.4.1
- 在SQL LabSQL语句探索查询的结果直接EXPLORE到Charts(图表)可视化1 j2 M J$ X% s7 V. \
图5.4.0 创建图表
8 B ~( q( R1 i& x! S 如图5.4.1,选择合适需求的数据图表(如图5.4.2,支持的图表类型非常丰富,号称最漂亮的可视化图表展示),选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表;
6 n; \* d3 L L& F/ y/ _) I: ?" S9 G/ G6 S
图5.4.1 图表可视化配置 # i' B- h& j, x! t& U. r
号称最美可视化展示,支持可视化的图表类型确实丰富多彩,应对各种可视化需求。
; `3 I' u, a5 G: M. [0 w9 i2 n, @; w2 w4 y4 E
图5.4.2 支持的图表类型
# U, Z1 X: _6 z5.5 创建Dashboards(仪表盘) 仪表盘就是最后的数据总体呈现,即报表展示。 如图5.5.0,点击Dashboards,然后点击+新建仪表盘,跳转图5.5.1。 图5.5.0 创建仪表盘
$ _- m8 [) H4 \, Y' I/ t 点击图5.5.1右上角的编辑仪表盘,之前做好的Charts(图表)拖拽到仪表盘上,注意:第一次拖拽的时候尽量网上拖拽,知道出现这个条蓝色的分解线,否则 无法拖拽过去; 同时也支持一些通用的组件,图表旁的Components下,有Header、Tabs、Row、Column、Markdown、Divider;
- T& M- s! h5 T2 n- N 编辑完后后记得点保存。 图5.5.1 编辑仪表盘 9 n4 O( o( X) x& U2 M1 W; z$ J
保存后的仪表盘支持分享,下载等功能,同时也会根据图表内的数据源刷新来获取新的数据; $ w) O8 E8 p$ \" S" U- A9 Q {
1 c1 e4 x* Z; s, G5 Q1 f4 M
图5.5.2 仪表盘功能 5 n& {4 m- t$ E( q' o
分享给别人看到的仪表盘如图5.5.3。 图5.5.3 分享后他人视角的仪表盘 ' x2 F0 n# {3 y% x
6. 设置 设置包含在菜单栏Settings下,主要设计权限和操作日志等模块,接下来分别讲解。
. \' P, u. Q8 q/ Z% h$ {+ J' ^ N" G
图6.0.0 通用设置
6 y) V2 q: Z+ T$ S
. ]) p# y% X) R1 k$ p7 m9 i% L6.1 角色列表及权限 Apache Superset中的安全性由Flask AppBuilder(FAB)处理,FAB是一个构建在Flask之上的应用程序开发框架。FAB提供身份验证、用户管理、权限和角色,可以查看其相关文档。
. ^. d4 c$ |. c. i Apache Superset默认提供了不同的角色,每种角色拥有的权限不同,在运行superset init命令时,与每个角色关联的权限将重新同步到其原始值,不建议更改与每个角色关联的权限(例如,通过删除或添加权限),支持admin再自建角色类型,指定想要的权限,默认的角色及权限如下; - Admin:管理员拥有所有可能的权限,包括授予或撤销其他用户的权限,以及更改其他用户的切片和仪表板;
- Alpha:Alpha用户可以访问所有数据源,但不能授予或撤消其他用户的访问权限。它们也仅限于改变它们所拥有的对象。Alpha用户可以添加和更改数据源。
- Gamma:Gamma用户的访问权限有限。他们只能使用来自通过另一个补充角色访问的数据源的数据。他们只能查看由他们可以访问的数据源制作的切片和仪表板。目前Gamma用户无法更改或添加数据源。我们假设他们主要是内容消费者,尽管他们可以创建切片和仪表盘。另请注意,当Gamma用户查看仪表板和切片列表视图时,他们将只看到他们有权访问的对象。
- sql_lab:sql_lab角色授予对sql lab的访问权限。请注意,虽然管理员用户在默认情况下可以访问所有数据库,但Alpha和Gamma用户都需要在每个数据库的基础上获得访问权限。
- public:要允许注销的用户访问某些超集功能,需要自己配置权限,并将其分配给另一个角色,您希望将其权限传递给该角色。
& A* O2 C/ K. y
图6.1.0 系统默认角色 % \( I5 V( ?* d, l+ E0 ]- }
同时Apache Superset也支持管理员自己新增角色,如图6.1.1,新建角色并指定角色权限。
) r3 V5 j$ ^/ L% b0 g8 N# ~! A. v
图6.1.1 新建角色
, E# A9 z. v* `
3 b6 ?" U5 }& o* n* _6.2 用户列表 新建、编辑用户指定角色,用户的权限是绑定在角色里面的,一个用户可以有多个角色,配置信息如图6.2.0。
) t2 a' T( H2 k4 e: y
! {. ?6 X5 G- \* G0 y图6.2.0 新建、编辑角色
9 l+ q& ?7 ]. R$ t; ]' s
( U" K5 L* _, a, ^6 I/ T4 X6.3 操作日志 操作日志记录的是在你的Superset平台上不同用户的行为日志,如图6.3.0。 图6.3.0 行为日志查看
$ u+ r8 T; \! \1 s8 _
; H W1 I) e2 e6 \3 R6.4 用户信息、退出、版本信息 菜单栏最右侧的个人信息,主要是包含: - 用户信息:修改用户姓名,重置密码;
- 退出:回到登录主界面;
- 版本:目前您安装的Superset版本信息。3 B7 r5 V5 E! a$ t
5 a/ \ h3 N$ h4 B! M. j2 H |4 W/ N
图6.4.0 个人信息模块
, |4 y" V* s5 v( i( n
: z* s$ y7 f6 X# s6.5 语言选择 作为Apache的顶级项目,自然是运用于全球的,支持世界上一些通用的语言 ,选择一款你最喜欢的即可。 图6.5.0 语言选择
! f: w; S8 D7 l; c' ^, m9 p H5 b6.6 管理设置 针对仪表盘,图表渲染加入自己想要的风格和模板,实际运用的用的不多。
3 ^! g: D& w2 Y' y) b. _8 I0 c( h6 G* a& N; p! j! i
图6.6.0 管理模块 " b2 @* f7 H" t; Z w% C
6.7 + NEW 菜单栏的+ NEW其实就是给最通用的三个模块SQL Query、图表、看板(仪表盘)的一个快捷方式,此三者的用法就不在累赘了。 图6.7.0 + NEW模块
# w2 W# |7 g2 |# w; ?% y% m- a% M3 A j+ S& N# I! {: M' o m
. z8 H: ?& Y b6 a( O/ z# c, i n9 i6 F原文来源: https://blog.csdn.net/LXWalaz1s1s/article/details/119061337
- O! v4 K) k! J' O! a. L8 O |