目 录' f9 B5 j7 d2 m
& O# Z* a, ]1 q) x
1. 需求背景1.1 大数据可视化面临的挑战 大数据的兴起,关于数据的存储、计算技术层出不穷,但是最终的数据可视化呈现,数据的探索,也成为颇为重要的一环,这一块并没有像存储、计算技术栈那么百花齐放,大家在做大数据可视化时是否也曾有这些困惑呢? - 传统的可视化对接传统数据库,对大数据组件的hive,spark,presto、elasticsearch、clickhouse等兼容性差,甚至不兼容,每次还需要多一道将大数据集群数据分发到传统数据库的冗余操作;
- 商用产品昂贵、甚至产品设置技术壁垒,很多甚至要求对接该商家的自己的大数据技术方可对接;
- 群众基数大的Excel拖来拽习惯、SQL操作的方便性,排斥自成一派的新技术,网页版账号登录优于用户下载客户端登录;
- 公司开发人员配置紧张,没有多余的人力自研大数据可视化平台,但是决策层希望有一个统一的可视化平台。/ y+ }8 k b" ?. B( R
诸如此类,确实令人头疼,现在就推荐一款解药Apache Superser——开源的大数据分析探索、可视化报表的神器。 1.2 大数据数据可视化的目标架构
! Z1 H% }% ~8 G* p3 f }! _8 t
5 J) b0 m$ }7 \/ D/ K图1.2 大数据数据可视化架构
: Z' j! T Q1 z3 q- F 做事还是需要立一个目标架构,最后所有的事情都是围绕目标架构展开,才能越做越轻松,如图1.2,可是架构分为三个梯队; - 第一梯队:ClickHouse、DorisDB、Kylin等优秀OLAP技术做存储,利用自带的连接引擎,快速响应,同时支持实时数据和离线数据的接入,外接可视化平台,通过权限管控后呈现给用户;
- 第二梯队:数据存在数据仓库Hive内或者NoSQL的Hbase,再通过较为优秀且高效的引擎Presto、Flink、Spark等接入可视化平台,通过权限管控后呈现给用户;
- 剩下就是一个特殊的,如MySQL,临时文件等文件的接入;& b" }* q/ C$ O" |
注意:常用的也还有其它技术架构,如ELK架构,ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成。Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。 Logstash是一个完全开源的工具,他可以对你的日志进行收集、分析,并将其存储供以后使用(如,搜索)。 kibana 也是一个开源和免费的工具,他Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志。这个后续再讲,这里书归正传,先讲讲Apache Superser。 2. Apache Superset简介2.1 Apache Superset是什么? Apache Superset是一款由Python语言为主开发的开源时髦数据探索分析以及可视化的报表平台;她支持丰富的数据源,且拥有多姿多彩的可视化图表选择。
. b8 [4 N( [/ S8 g+ p/ u0 J0 j, A/ F2 B% y
( x# L! J+ ?- m l. y( W: I, z
' S T0 z2 _: H% D1 C! B
图2.1.1 Apache Superset定义
9 x2 p6 P( s3 W9 e& G$ P+ ~% V9 k! J2.2 为什么选Apache Superset?- 支持丰富的数据库作为数据源,基本上平时用到的数据库都支持;如图2.2.0,支持的数据源有:
. F: t3 @, g1 K
- Amazon Athena
- Amazon Redshift
- Apache Drill
- Apache Druid
- Apache Hive
- Apache Impala
- Apache Kylin
- Apache Pinot
- Apache Solr
- Apache Spark SQL
- Ascend.io
- Azure MS SQL
- Big Query
- ClickHouse
- CockroachDB
- Dremio
- Elasticsearch
- Exasol
- Google Sheets
- Hologres
- IBM Db2
- IBM Netezza Performance Server
- MySQL
- Oracle
- PostgreSQL
- Trino
- Presto
- SAP Hana
- Snowflake
- SQLite
- SQL Server
- Teradata
- Vertica
* V7 }1 w$ S# @. `/ v3 O: d9 L$ [' P. N9 d% W
图2.2.0 Apache Superset支持的数据源
9 ?, K$ B2 G8 \2 ]/ e4 \& ?9 P- 多姿多彩的可视化图表,Apache Superset拥有非常丰富的图表,来实现不同的可视化需求,如图2.2.1。
: G- i, Y- p) F" P9 `' t/ _
6 T2 L' K2 f0 B: D) h- p
图2.2.1 Apache Superset支持的图表
3 p G1 q) L0 v- ?% t/ C- Data:主要功能是新增数据源和数据集Dataset(旧版本也叫Table),Dataset作为数据图表可视化的基础;
- Charts:图表,就是针对准备好的Dataset数据集,选择一款合适的图表呈现;
- Dashboards:仪表盘,其实就是报表、看板大屏展示,可以将多个Charts组合到一个仪表盘内一起展示。
- SQL Lab:SQL实验室,其实就是一个类似DBeaver、Navicat、DataGrip等一样的多功能数据库连接客户端,但是只有查询功能,配置驱动和连接后可以进行数据库、表、字段等模型的SQL查询操作。
- 设置:语言选择,登录注销、人员权限,操作日志等设置;
' U s" d2 ?8 b' n
图2.2.3 Apache Superset使用预览
1 n" v8 I# o. H1 o2.3 对比Metabase- 天生自带支持的数据源Apache Superset完胜Metabase;
- 数据图表形式Apache Superset完胜Metabase;
- 操作界面美观丝滑度Apache Superset稍逊Metabase;
- 托拉拽操作Apache Superset稍逊Metabase;
$ ?$ w" |& @3 v- E& S' R
向来博主都是鱼与熊掌能兼得就兼得,毕竟小孩才做选择嘛,可以考虑两个都装,Metabase用于专注业务数据需求人员,Apache Superset用于懂SQL的数据需求人员,二者生成的通用仪表盘,则可以利用一个统一的网页超链接到一起,形成一个统一的报表平台。 3. 快速上手 这里先快速上手带大家体验一把,细节后续章节细讲,首先配置好数据库连接(配置方法参考后续的 5.1 新建Databases(数据库)),然后打开SQL Lab,选择好配置数据库,写SQL语句分析探索数据,如图3.1.0,然后运行语句,得到数据结果,可以点击保存将常用的探索SQL保存下来,然后点击查询结果上方的EXPLORE按钮,就可以跳转图表分析图3.1.1; ) U6 o5 R2 C7 y3 W* t
3 y7 Z, I7 Q5 |8 L/ _7 z+ z! N8 o
图3.1.0 Apache Superset在SQL Lab上探索数据 8 n/ F0 A1 d# O4 _+ H/ V
利用SQL Lab探索得到的数据集,选择合适需求的数据图表,选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表; & k# p! V4 _% ?6 o% }" `2 u9 [( a! P
! a; S* @' H2 V" w' k7 Y
图3.1.1 Apache Superset数据可视化 ! N9 E% M2 g) N3 ` s
新建Dashboard,然后编辑Dashboard,将之前生成好的Charts(图表)拖拽到Dashboard,就完成了数据仪表盘的最终呈现,然后就可以分享给需求方,也可以生成访问链接分享。 注意:拖拽时尽量往Dashboard的上面拖拽,会出现一条蓝色的分界线就可以松手,否则可能出现无法拖拽的情况,这个设计很坑。 图3.1.1 Apache Superset数据仪表盘呈现
& ?9 S6 U* D1 G3 |/ J4. 部署安装4.1 部署方式及版本- 支持Linux、Windows、Mac的Docker部署
- 支持Linux、Windows、Mac的Python环境代码部署
- 可以在github,官网、或者国内镜像网站查看版本,但是别先下载,因为Apache Superset依赖包很多,最好能在线安装;
* G$ w& u3 v5 u; J+ [3 a+ \5 U1 R
. W( N7 d/ p" M# J
图4.1.0 Apache Superset版本预览
2 l- I; m/ `$ Z% y, x6 w& I- 博主选的是apache-superset-0.38.1.tar.gz在Linux上的Python环境代码部署。1 q5 R$ ~% w6 f z5 Y9 ?# ]6 T
4.2 配置需求- apache-superset-0.38.1.tar.gz
- CentOS 7 16核 32G(非硬性,一般性能的服务器即可)
- Python 3.6
- 要求服务器网,如果没有,可以使用能联网的代理服务器,依赖很多,采用在线安装的形式
1 l% z+ p" Y& M u$ P 4.3 下载安装- 下载安装Python3.6,可以选择安装anaconda集成的python,可以参考博客Linux通过anaconda来安装python,对应的版本是Anaconda3-5.2.0-Linux-x86_64.sh,下载传送门:Anaconda Download;安装好以后,如果老的服务器上存在python2,默认的环境变量启动是python2,没关系,只需要设置一个新的环境变量确保 python3启动是刚刚安装的版本即可。
- 安装python虚拟机,并启动,然后安装Apache Superset。
% r4 n) ] n7 x% l- c5 Y ) \! Q, U3 _( H+ R; q) X# W3 u8 e
- # 切换到自己安装软件的目录,博主的是在/usr/local/tools,并新建superset目录
; P/ U. v; n. d4 e/ ~: Q8 {) t# _ - cd /usr/local/tools
( A D7 T. G1 s4 _$ d& } - mkdir superset& w6 P3 \' w' y% I
- cd superset4 R" a1 M/ g/ J H6 r$ t
- ' q' J& a, c3 n' l9 _0 n; L; G
- # 安装虚拟机,有网就不需要的代理服务器,配置代理服务器10.212.18.34:3129方法:) H d1 y' ]/ l7 g
- # 写入配置文件 /etc/profile里面追加4 C& S! M. X% P0 z
- # export http_proxy=10.212.18.34:3129- T& z$ N1 h7 d
- # export https_proxy=10.212.18.34:31293 l+ W9 q) N$ F+ x* x: A5 ?
- # 然后wq! 保存退出,source /etc/profile刷新配置文件
1 R1 t _7 V; p# X' F# ^ - # 安装完可以删除代理,记得再source /etc/profile
* m! N# s2 m7 u* ?2 G- }( B. O - # 如果不想配置/etc/profile或者无权限,可以采用以下命令
/ c7 T" J& O( Q9 g# O - # pip install virtualenv --proxy=10.212.18.34:3129,每次都需要,烦
3 |% B4 k+ ~; u! M9 C - pip install virtualenv
! D2 U Y! z3 q! t [* n1 B! K - 1 N8 f! g& w, i4 E; |( D. @, V
- # 配置命名虚拟机
, x% ^6 m" v) b# |- `8 c0 J: ` - python3 -m venv venv
) b. U/ d2 d+ U! J: l% _* i - 4 v, N( q& s, t7 U
- # 启动虚拟机,会在当前目录下自动创建venv目录! \, q( G. w8 u
- . venv/bin/activate
) v( N) L7 P) o! a& F5 o4 a. f1 ~! y - . R z1 m& R9 e0 l( e% i
- # 退出虚拟机指令,但是这里不需要退出
% @: Y0 k0 ?9 X1 |' N" P* m - # 退出虚拟机指令,但是这里不需要退出4 G3 Y( P; G8 S, k0 S! n T% d
- # 退出虚拟机指令,但是这里不需要退出) ~' J" i. P- P2 g: Q
- deactivate9 \) R! q% V8 @5 D1 j5 @; v
- 9 o( S3 s/ N+ v u& q: |" Z
- # 安装更新一些依赖
! x1 E) M; i, H% D# Y - pip install --upgrade setuptools pip -i https://pypi.douban.com/simple/" E. A- q# w* C9 Q, f- Z1 m8 e
- 5 a: i4 H5 B) F' d5 z( a5 D
- yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel
" z, L! f. L3 d( C! b - # c$ |# r. d z$ L7 Q/ z2 Q0 `
- # 如果报错:GPG key retrieval failed: [Errno 14] curl#37 - "Couldn't open file /etc/pki/rpm-gpg/RPM-GPG-KEY-EPEL-7"6 E/ @, l0 j& u0 ~% x6 x/ D# G
- # 解决:
$ x+ n4 Q9 ~2 s- a3 i) V - vi /etc/yum.repos.d/epel.repo
: b0 M8 e7 `# t0 }; B# Y/ W - gpgcheck=0% k% i7 d& a) H9 h2 B, a4 H* V
- # 然后wq!保存再试一次yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel
7 {+ Z. R3 R! h Y l3 \. g7 \6 G+ B - 2 {: j- c1 {8 W( e1 [5 [, y
- # 先用官网下载,因为官网的会自动把依赖也给你一起安装了,实在不行再用其他网站的镜像
3 @! |7 i9 E* p' _, _ - pip install apache-superset==1.4.2
- a% A- s. _4 k/ j% J - / }6 g( i# a: e0 S
- # 安装superset,指定版本,不指定版本默认是最新版本4 {5 Q0 M: r/ E* G Z* ?! i% }+ e
- pip install superset==0.30.1 -i https://pypi.douban.com/simple
, [% p5 W6 `/ i7 [) T
; `" H9 v7 S! X* V" a( ?- # 安装email_validator 8 {5 t! t: Z* n. `
- pip3 install email_validator -i https://pypi.douban.com/simple/& s# T& W& A3 D% Q5 }
- + t' I9 S6 L, R" z# y
- # 更新数据库
0 P; z5 q8 W8 n" S7 S( k' N0 _% y - superset db upgrade
' d6 Y: T: t$ w% A. e# }
# G, o& f) M3 ~* {4 |8 V8 _ _" ?' r- # 创建admin的用户名,用户名随便写,bigdata123,admin都行,写完用户名后会让你输入姓,名,邮箱,这三项可写可不写,不写就直接回车,然后是设置密码,一点要写。: S% r( z9 \5 u- f0 q
- export FLASK_APP=superset- D' v3 _3 y. P' {. c# i# `
- superset fab create-admin6 m5 g% A4 L6 U; Z% T
- % ~4 k8 a! O! _2 _* S5 X
- # 加载样例数据,考验网络,如果实在一致加载报错就放弃,不影响后续使用。
5 T, @; m$ l- a0 j - superset load_examples8 k/ N6 g" Z' T# |* ?+ X& W
- 1 t' S& w2 ]1 L" L4 d3 b
- # 初始化5 Z( u% y3 M5 Y( k1 o5 ^* j( h
- superset init
% O$ |& Y9 c6 m$ {+ \( E7 K
7 Q% y' }4 @* S0 u/ S- # 启动,官网是superset run -p 8088 --with-threads --reload --debugger
q! y3 Y4 v h" ^3 K - # 建议用gunicorn启动,方便快速,先直接启动,确保打印在客户端的日志正常
7 v/ _! i. {- Z. P1 z - pip install gunicorn: _. f1 q4 t9 S# n' s: u D
- gunicorn -w 5 --timeout 120 -b 10.218.10.290:9089 "superset.app:create_app()"
& o6 V/ N3 B5 X( V2 V
3 L( M/ H4 W% c5 v- # gunicorn 是一个Python WEB服务,可以理解为Tomcat: |* X! u9 P. d) ]9 e5 `
- # -w WORKERS:指定线程数) `/ d+ N, T: o. x& j& Z' T: |
- # --timeout:worker进程超时时间,超过会自动重启
8 j9 m' t8 ~0 G& [8 l( ? - # -b BIND:绑定Superset访问地址# X2 l( x: T, U: I
- # --daemon:后台运行
+ O8 ^8 E# G4 Q' R$ g, e. I, `: ] - + {/ U* V* J( l
- # 在能访问10.218.10.290:9089的服务器上打开浏览器,输入刚刚登录的用户名,密码即可。" i( L7 R( {8 m4 g
# W6 a5 {% S4 U
% F0 C( Z9 [. K1 ?- # 如果没开启后台停止,直接ctrl+c关停
+ t3 a8 A7 D4 o0 t/ G$ Z - # 后台进程停止gunicorn; Q) z' F8 `0 ?/ e
- ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码
) ]' e& D5 S/ S% s: W( H5 }
8 F0 V& g. w) L4 `4.3 安装注意及排错 pip install superset步骤时出现关键字眼Successfully installed证明正确安装,如图4.3.0; , y; q1 R; b, U9 y/ T
# ?& c3 b% n& q- W
图4.3.0 成功安装的提示 1 O7 e! K* \; _$ F. w3 s
superset fab create-admin配置用户名时提示如图4.3.1。 图4.3.1 配置用户名时提示 4 L9 x1 H5 ^) X, U% E; V
每个人的服务器环境,可能导致缺少的 依赖不同,途中如果遇到bug,可自己百度解决,基本都是python依赖包之类的问题,要耐心。 - # 报错8 X- O3 z4 ^) z9 ]: ?% p
- ModuleNotFoundError: No module named 'dataclasses'
; r& `9 Z/ d: h. |; `# c
7 n2 q3 g0 e4 S3 X }- # 解决$ ?- U* E7 j; J. H. ]
- pip install dataclasses
0 l9 ]8 G5 s8 b0 n" u - 7 e l9 F: O! s" E- E w% e) d
- # 报错
# T6 P" o S6 V - No PIL installation found
6 U |7 r2 L$ y - # 解决
9 D4 t- |# \* t) e - pip install pillow$ n0 r% O+ y' q% m$ H, I
复制代码
. E$ w* d; Q* h! O0 t8 ` 一切解决后,网页登录如图4.3.2; 图4.3.2 登录首页4.4 启动与关闭
4 E6 g, p$ {5 W7 Z+ M' g, f! ` 官网提供的直接启动的方法不是很好,博主推荐一个采用gunicorn的方法,先关停superset。 ( f8 V. a1 N" d- {8 y
) n& i+ s. p( e* G
- , e4 J3 o# O/ y5 J! j
- #安装好superset后会在venv生成很多文件,切换到venv
# W7 q9 o$ e" O, A8 s - cd /usr/local/tools/superset/venv/
8 _! z, E% x% K2 r4 v# \* U - + {8 {" L" F2 y2 d# K
- : Z# y5 O, k! r5 ^# U
- ; I2 N4 z' Q& s
- #新建日志文件夹
# O, W8 {. a* K7 x ?$ k( ]5 B/ f0 M - mkdir log
' j" z+ V. x4 L. t9 Q5 U, f! q! X' a$ F - : @+ q! w2 {1 C4 C4 P& }: ~
- #切换到log目录,新权限 日志,错误日志和启动pid文件
+ y8 }/ e& T6 y7 p - cd log1 p) J( V1 c7 d5 O3 P/ s
- touch gunicorn_access.log
1 J( L1 v3 c# }* F. n* ] - touch gunicorn_error.log
; o# g. _( n3 b - touch pidfile8 Y+ p* j9 y) H' j; ~6 F
- chmod 755 ./* #修改权限
9 _# k4 R' F" P9 T4 p0 l' B - * `1 d8 C# G6 W$ @
- #切换到/usr/local/tools/superset/venv/bin,写一个gunicorn配置文件,python语言7 F6 k/ t2 u5 E
- cd ./usr/local/tools/superset/venv/bin) U! p* k8 M$ ^
& t- ?1 K4 @, z
" P1 h& ?5 L; s2 H$ N9 G- vim gunicorn_config.py # 内容如下. s9 Q7 P, g" p& s
& h3 Y/ x5 K$ Z2 ~# G6 d- #内容开始
5 {2 }& b4 Y# e - import multiprocessing; a6 B3 h' o- V+ x# p% N" s
- 5 Y9 l9 P( O& B5 _" d' Q
- 0 g$ K9 ~, U2 Z
- bind = '10.218.10.290:9089' #绑定ip和端口号
3 B7 s7 p7 b: k - backlog = 512 #监听队列
& K- r5 I/ T' ]; n- P0 A - timeout = 30 #超时 \8 q: w' }6 V3 W
- worker_class = 'gevent'
& R) b0 C* ^& G2 y% I* Y* o - workers = 5! F/ V- {- t6 {1 R+ q
- worker_connections = 1000
3 V/ [; Z' \8 D, m' A1 v - threads = 2 #指定每个进程开启的线程数+ _8 J% P6 z% t/ g* c+ T$ x
- loglevel = 'info' # 日志级别
* R/ c+ o& z9 R - access_log_format = '%(t)s %(p)s %(h)s "%(r)s" %(s)s %(L)s %(b)s %(f)s" "%(a)s"' #设置gunicorn访问日志格式,错误日志无法设置6 O+ l4 w/ W+ p# N
- ' J0 i/ @3 S! |4 _
- ; Q. r, w' R- N) C' r
2 X0 C% Y1 c. S8 _. w2 |- pidfile = '/usr/local/tools/superset/venv/log/pidfile'1 k2 w7 n* h& T- p1 J# c2 G% G5 K
- errorlog = '/usr/local/tools/superset/venv/log/gunicorn_error.log'& k# h% @9 a, x
- accesslog = '/usr/local/tools/superset/venv/log/gunicorn_access.log'9 i$ Y5 v2 I, P
3 y; q: n( t& B' h& x- print("IP and PORT:"+bind)
/ B& m' G% S6 Y' i( u5 v - print("pid_file:"+pidfile)8 ]4 V8 _$ B0 j) j( T
- print("error_log:"+errorlog)
( @" S9 w6 o5 B: z! ? - print("access_log:"+accesslog); h# @% J" c% n. W n3 |2 Y" Y q
{7 g% Z: X! `. N% E- #内容结束3 |1 h7 ]/ o: t' I) S: k; s6 K, A
- ) } B4 A4 o9 L" z# u. S( y+ [
- #然后 wq! 保存退出
8 F/ ^8 @! W- k4 }% \
6 Y( s; M8 b2 Z0 P1 {% y6 R- # gunicorn 启动 -c 配置文件启动;--daemon后台启动,日志可以去配置文件指定的路径查看
/ i( C5 Q" V; ^( q0 U+ p - gunicorn -c ./gunicorn_config.py "superset.app:create_app()" --daemon9 i; h* v' M7 h' {5 F- c
) W( G N# W) e, w0 j- ?% n- # 后台进程查看
3 I( B& j# Z7 n - ps -ef | grep gunicorn
8 s) E* y- S/ c9 r - # A" b; O5 b4 r: Y! ^
- # 或者通过端口查看
% y2 K/ [) n+ I - netstata -tunlp | grep 9089" g0 i N% H0 k4 v: L
- # 或
5 ~: `) R# y" E - ss -anp | grep 90896 P# D: L, l) [
- 6 t0 G& O& s; R. l$ p+ s! a# }
- # 如果没开启后台停止,直接ctrl+c关停3 q0 J5 x( G% I4 |2 u; k
- # 后台进程停止gunicorn/ W3 u( H# n: Q! x
- ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码 $ N( |8 O4 t2 {4 ^
5. 用户手册(重点)
1 z0 H" u. M: p1 G# o2 x9 P/ X5 \! P# n4 E2 q7 r
5.1 新建Databases(数据库) 新建数据库之前,需要先安装该数据库的python驱动包,具体语句可以参考官网 Database Drivers,如图5.1.0,一般就是pip install XXX,安装好驱动后,记得重启下Superset服务; 新建数据库连接的作用是为数据集Datasets和SQL实验室SQL Lab提供数据库、表的选择,就是提供数据源,当然Data下还有个Upload CSV(最新版本也支持Upload Excel)也可以直接将本地的CSV文件作为数据源上传到Superset站点,直接进行数据探索分析。 图5.1.0 数据库驱动以及连接字符串 4 F' O: s% p. n- U; p" G* R& T
登录进Apache Superset后,点击Data,下来选择Databases,然后跳转到图图5.1.1,点击右上侧的+号就可以跳转图5.1.2的数据新增配置界面。 图5.1.1 新建数据库连接
$ N7 ^$ ]6 [7 f3 i 图5.1.2,Database是指的新建这个数据库的显示名称,这个随便取,合理即可,SQLAlchemy URI 这个地方就是之前图5.1.0上的数据库连接字符串,确保和你选择的数据库类型一致。 / [' R% C1 I# i; x
然后点击TEST CONECTION,连接成功后会跳出Seems OK!的弹出框,记得滑到最下面,点击保存,如果连接不成功,请检查数据库的实例,端口,用户名,密码以及自己部署的Apache Superset的服务器访问数据库的端口网络时是否能通,当然也不要忘记SQLAlchemy URI 填写规范,保存后的数据库连接就会列举在图5.1.1上。 7 ~8 F' E7 o+ Y! m: M3 ]
$ D+ F7 `7 I, W p" V图5.1.2 新建数据库连接配置信息 ' q4 x6 u; h1 x1 L# L
5.2 新建Datasets(数据集,老版本也叫Tables) 图5.2.0 新建数据集
" h! N3 i1 o! k; I; Q I 如图5.2.0,点击图中的Data下的Datasets,然后点击+号,跳转到图5.2.1,将配置好的数据库名下拉选出,写一个该连接实例下的数据库,然后选择一张表,点击保存即可,保存好的数据集会列举在图5.2.0中,这些知道为啥老板叫Tabels了吧;
) M8 _7 O" w: O' J9 S6 j- _ 数据集的作用是为后续的Charts(图表)数据可视化作为数据源头。 图5.2.1 新建数据集配置信息 / x7 F. w! U8 c0 n- J; ~
7 O# `+ z5 d! p( L; a: [5 Q
5.3 SQL Lab(SQL实验室) SQL Lab其实就是一个数据库查询客户端,利用SQL语句对数据库的表,字段模型进行查询探索,同时支持智能补全,当然SQL Lab的查询结果也可以直接EXPLORE到Charts(图表),作为数据可视化的数据源。
0 l. h/ H, i& r: h1 C. L 如图5.3.0,SQL Lab有三个选项,三个选项的功能如下: - SQL Editor:进行SQL查询探索
- Saved Queries:保存的通用查询SQL
- Query Search:查询的历史记录
- b% d/ g" T! y; g1 v+ C. k
图5.3.0 主界面进入SQL Lab
4 p0 | ]+ z, K6 G4 f 点击SQL Editor进入图5.3.1的SQL查询探索,左侧上方是配置好的数据库连接名和选择的数据库,左侧下方是将要用到的表及字段模型;右侧上方是写SQL语句的地方,支持RUN(查询),RUN SELECTION(查询鼠标选择局部语句),SAVE(保存),SHARE(分享)等,右下方是数据结果,支持EXPLORE到Charts(图表)可视化,.CSV下载,CLIPBOARD(复制到剪贴板)。 图5.3.1 SQL Lab使用
6 J9 h6 `8 m/ K7 Z9 N5.4 创建Charts(图表) 图表的作用是数据可视化,利不同的图表满足不同的业务需求,图表同时也作为仪表盘的展示的一部分,一个仪表盘内可以展示一个或多个图表。: b" ]$ }# G' g; @ R
创建图表的方式有两种: - 如图5.4.0,点击Charts,点击+创建新的图表,跳转图5.4.1
- 在SQL LabSQL语句探索查询的结果直接EXPLORE到Charts(图表)可视化/ n3 w" N1 n* B! s5 P( M: P. Z- ~
图5.4.0 创建图表
: F' x E( W% _ 如图5.4.1,选择合适需求的数据图表(如图5.4.2,支持的图表类型非常丰富,号称最漂亮的可视化图表展示),选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表; 6 Y& ~( U5 x. P9 h i1 F
0 V0 G. N! p9 l. C. H) K. j8 H1 b图5.4.1 图表可视化配置
4 Q* d8 t4 B* V& h% w4 {* g8 A 号称最美可视化展示,支持可视化的图表类型确实丰富多彩,应对各种可视化需求。
( e0 O# W9 U# \/ _1 h: ]1 o/ u5 U4 s; J' b+ X4 r6 T; w0 A0 r
图5.4.2 支持的图表类型
9 B8 F7 R3 ~4 y+ i' E5.5 创建Dashboards(仪表盘) 仪表盘就是最后的数据总体呈现,即报表展示。 如图5.5.0,点击Dashboards,然后点击+新建仪表盘,跳转图5.5.1。 图5.5.0 创建仪表盘
* W- t" v8 d4 S# K) r0 A 点击图5.5.1右上角的编辑仪表盘,之前做好的Charts(图表)拖拽到仪表盘上,注意:第一次拖拽的时候尽量网上拖拽,知道出现这个条蓝色的分解线,否则 无法拖拽过去; 同时也支持一些通用的组件,图表旁的Components下,有Header、Tabs、Row、Column、Markdown、Divider;
6 Q& D# f7 }$ j9 Z! g' y 编辑完后后记得点保存。 图5.5.1 编辑仪表盘
s* d1 B" x& b. u! h! u 保存后的仪表盘支持分享,下载等功能,同时也会根据图表内的数据源刷新来获取新的数据;
6 i1 b$ i3 } O" g: Q/ Z+ ^; j5 G" B8 k5 F
图5.5.2 仪表盘功能
l [) w" F S) V 分享给别人看到的仪表盘如图5.5.3。 图5.5.3 分享后他人视角的仪表盘 0 W# _1 }7 B# ~. }
6. 设置 设置包含在菜单栏Settings下,主要设计权限和操作日志等模块,接下来分别讲解。
4 x7 n) E% i9 K p) H3 _3 F ]' N0 a( o' v2 Q
图6.0.0 通用设置
; R8 |& Q9 H8 M/ e' g/ U9 g
: K: n, |+ J% q; D& q. j6.1 角色列表及权限 Apache Superset中的安全性由Flask AppBuilder(FAB)处理,FAB是一个构建在Flask之上的应用程序开发框架。FAB提供身份验证、用户管理、权限和角色,可以查看其相关文档。
2 \0 g& W& e. M w Apache Superset默认提供了不同的角色,每种角色拥有的权限不同,在运行superset init命令时,与每个角色关联的权限将重新同步到其原始值,不建议更改与每个角色关联的权限(例如,通过删除或添加权限),支持admin再自建角色类型,指定想要的权限,默认的角色及权限如下; - Admin:管理员拥有所有可能的权限,包括授予或撤销其他用户的权限,以及更改其他用户的切片和仪表板;
- Alpha:Alpha用户可以访问所有数据源,但不能授予或撤消其他用户的访问权限。它们也仅限于改变它们所拥有的对象。Alpha用户可以添加和更改数据源。
- Gamma:Gamma用户的访问权限有限。他们只能使用来自通过另一个补充角色访问的数据源的数据。他们只能查看由他们可以访问的数据源制作的切片和仪表板。目前Gamma用户无法更改或添加数据源。我们假设他们主要是内容消费者,尽管他们可以创建切片和仪表盘。另请注意,当Gamma用户查看仪表板和切片列表视图时,他们将只看到他们有权访问的对象。
- sql_lab:sql_lab角色授予对sql lab的访问权限。请注意,虽然管理员用户在默认情况下可以访问所有数据库,但Alpha和Gamma用户都需要在每个数据库的基础上获得访问权限。
- public:要允许注销的用户访问某些超集功能,需要自己配置权限,并将其分配给另一个角色,您希望将其权限传递给该角色。+ s- G6 `5 J$ |& ~. F
更多的角色权限可以查看官网 Apache Superset Security,或者点开图6.1.0的编辑角色查看,尽量别改默认角色的权限。
6 j( Y- c. w! N3 Z3 R% ~- Q8 s7 R$ G, Q- Y/ ~$ D9 M# Y
图6.1.0 系统默认角色 # W0 g5 @" n$ I: n# {# ^ ]
同时Apache Superset也支持管理员自己新增角色,如图6.1.1,新建角色并指定角色权限。
# {) l1 X, A2 i1 v2 ]7 E9 D
: q* I2 V( _# [8 M: H" n" ~: m图6.1.1 新建角色
: x. y: j% r- s0 d3 ]5 r" a r) e! \/ [. g$ }
6.2 用户列表 新建、编辑用户指定角色,用户的权限是绑定在角色里面的,一个用户可以有多个角色,配置信息如图6.2.0。
! w! S" J' d+ P! n4 n! U) b1 _
, b5 v1 \( Z8 g6 w, C# B图6.2.0 新建、编辑角色 / m0 V$ v9 e. l% M
4 I( {( F- j* U. q/ ~% p) p6.3 操作日志 操作日志记录的是在你的Superset平台上不同用户的行为日志,如图6.3.0。 图6.3.0 行为日志查看
- E% }4 |% r& o% A: H0 c3 I7 |# |6 a: y0 G& D) P; P
6.4 用户信息、退出、版本信息 菜单栏最右侧的个人信息,主要是包含: - 用户信息:修改用户姓名,重置密码;
- 退出:回到登录主界面;
- 版本:目前您安装的Superset版本信息。
: @+ M9 P( |+ |/ H5 j3 b: J" Z
( f4 c4 a5 n, f5 o! Q7 c1 A/ R
图6.4.0 个人信息模块
, [. N) n/ T- D! S# }" O3 ]) D& B' q9 q3 E
6.5 语言选择 作为Apache的顶级项目,自然是运用于全球的,支持世界上一些通用的语言 ,选择一款你最喜欢的即可。 图6.5.0 语言选择
( _9 s/ g# T! d( G+ C1 b6.6 管理设置 针对仪表盘,图表渲染加入自己想要的风格和模板,实际运用的用的不多。 + n% u! x+ i* L8 P4 J% G: r+ v
1 }5 l0 ]" ^4 P& I7 K# F图6.6.0 管理模块 0 h4 e* C' E2 O6 ?
6.7 + NEW 菜单栏的+ NEW其实就是给最通用的三个模块SQL Query、图表、看板(仪表盘)的一个快捷方式,此三者的用法就不在累赘了。 图6.7.0 + NEW模块
7 Z% X0 F2 g- z& i" x4 \4 T, \$ k( U
6 x9 P" m( `( g( s8 b5 N
原文来源: https://blog.csdn.net/LXWalaz1s1s/article/details/119061337 ' |# z6 S+ T% f1 k. Y0 y6 U# K
|