目 录
" X0 S8 M. O! v+ V9 Q( b$ t3 h
6 ~ k6 _8 F" Y) k7 |4 S$ a1 i+ v" A! s9 j
1. 需求背景1.1 大数据可视化面临的挑战 大数据的兴起,关于数据的存储、计算技术层出不穷,但是最终的数据可视化呈现,数据的探索,也成为颇为重要的一环,这一块并没有像存储、计算技术栈那么百花齐放,大家在做大数据可视化时是否也曾有这些困惑呢? - 传统的可视化对接传统数据库,对大数据组件的hive,spark,presto、elasticsearch、clickhouse等兼容性差,甚至不兼容,每次还需要多一道将大数据集群数据分发到传统数据库的冗余操作;
- 商用产品昂贵、甚至产品设置技术壁垒,很多甚至要求对接该商家的自己的大数据技术方可对接;
- 群众基数大的Excel拖来拽习惯、SQL操作的方便性,排斥自成一派的新技术,网页版账号登录优于用户下载客户端登录;
- 公司开发人员配置紧张,没有多余的人力自研大数据可视化平台,但是决策层希望有一个统一的可视化平台。2 P- @ r% W7 I* t" c+ D: Z) Z) f4 G
诸如此类,确实令人头疼,现在就推荐一款解药Apache Superser——开源的大数据分析探索、可视化报表的神器。 1.2 大数据数据可视化的目标架构
; \6 f& B8 j9 Y; M! U+ e, f- @6 m: p% b% s: [7 X' o, }7 g3 N
图1.2 大数据数据可视化架构
* M1 i. u3 }+ `0 V s3 { 做事还是需要立一个目标架构,最后所有的事情都是围绕目标架构展开,才能越做越轻松,如图1.2,可是架构分为三个梯队; - 第一梯队:ClickHouse、DorisDB、Kylin等优秀OLAP技术做存储,利用自带的连接引擎,快速响应,同时支持实时数据和离线数据的接入,外接可视化平台,通过权限管控后呈现给用户;
- 第二梯队:数据存在数据仓库Hive内或者NoSQL的Hbase,再通过较为优秀且高效的引擎Presto、Flink、Spark等接入可视化平台,通过权限管控后呈现给用户;
- 剩下就是一个特殊的,如MySQL,临时文件等文件的接入;
9 h$ w2 [5 p# K% N
注意:常用的也还有其它技术架构,如ELK架构,ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成。Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。 Logstash是一个完全开源的工具,他可以对你的日志进行收集、分析,并将其存储供以后使用(如,搜索)。 kibana 也是一个开源和免费的工具,他Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志。这个后续再讲,这里书归正传,先讲讲Apache Superser。 2. Apache Superset简介2.1 Apache Superset是什么? Apache Superset是一款由Python语言为主开发的开源时髦数据探索分析以及可视化的报表平台;她支持丰富的数据源,且拥有多姿多彩的可视化图表选择。 0 B- v6 j- u& d! `) k
, w' _& T7 y4 [- m2 {
: ?9 \/ s5 W( F% j( ~
7 A8 b- ]3 J6 M2 Q! J; l4 f
图2.1.1 Apache Superset定义 7 t# [) v9 K- L- Y8 o
2.2 为什么选Apache Superset?- 支持丰富的数据库作为数据源,基本上平时用到的数据库都支持;如图2.2.0,支持的数据源有: b {4 P3 _1 p* b
- Amazon Athena
- Amazon Redshift
- Apache Drill
- Apache Druid
- Apache Hive
- Apache Impala
- Apache Kylin
- Apache Pinot
- Apache Solr
- Apache Spark SQL
- Ascend.io
- Azure MS SQL
- Big Query
- ClickHouse
- CockroachDB
- Dremio
- Elasticsearch
- Exasol
- Google Sheets
- Hologres
- IBM Db2
- IBM Netezza Performance Server
- MySQL
- Oracle
- PostgreSQL
- Trino
- Presto
- SAP Hana
- Snowflake
- SQLite
- SQL Server
- Teradata
- Vertica1 |( f6 {& X& c. M! ^" L% i
4 @2 o5 A- q+ \! J1 b6 I
图2.2.0 Apache Superset支持的数据源
3 D' c. z: H+ B9 n) E- 多姿多彩的可视化图表,Apache Superset拥有非常丰富的图表,来实现不同的可视化需求,如图2.2.1。3 o* ] a; V. w# i% V9 d
7 w' @/ R& l( V/ D9 V9 d; Z
图2.2.1 Apache Superset支持的图表 4 u2 h+ W* J# X8 ?* R4 g4 v! T0 b- N
- Data:主要功能是新增数据源和数据集Dataset(旧版本也叫Table),Dataset作为数据图表可视化的基础;
- Charts:图表,就是针对准备好的Dataset数据集,选择一款合适的图表呈现;
- Dashboards:仪表盘,其实就是报表、看板大屏展示,可以将多个Charts组合到一个仪表盘内一起展示。
- SQL Lab:SQL实验室,其实就是一个类似DBeaver、Navicat、DataGrip等一样的多功能数据库连接客户端,但是只有查询功能,配置驱动和连接后可以进行数据库、表、字段等模型的SQL查询操作。
- 设置:语言选择,登录注销、人员权限,操作日志等设置;
' b2 T. s& D% J& e+ I4 `! O
图2.2.3 Apache Superset使用预览
* P W: }8 Q2 V( K- i2 M. I2.3 对比Metabase- 天生自带支持的数据源Apache Superset完胜Metabase;
- 数据图表形式Apache Superset完胜Metabase;
- 操作界面美观丝滑度Apache Superset稍逊Metabase;
- 托拉拽操作Apache Superset稍逊Metabase;
9 B. J4 y, |- N
向来博主都是鱼与熊掌能兼得就兼得,毕竟小孩才做选择嘛,可以考虑两个都装,Metabase用于专注业务数据需求人员,Apache Superset用于懂SQL的数据需求人员,二者生成的通用仪表盘,则可以利用一个统一的网页超链接到一起,形成一个统一的报表平台。 3. 快速上手 这里先快速上手带大家体验一把,细节后续章节细讲,首先配置好数据库连接(配置方法参考后续的 5.1 新建Databases(数据库)),然后打开SQL Lab,选择好配置数据库,写SQL语句分析探索数据,如图3.1.0,然后运行语句,得到数据结果,可以点击保存将常用的探索SQL保存下来,然后点击查询结果上方的EXPLORE按钮,就可以跳转图表分析图3.1.1; ! j, [% Z, y. g
0 a" i4 f9 q* O; x* L$ d
图3.1.0 Apache Superset在SQL Lab上探索数据
/ ^: j5 e5 m. \ ^ 利用SQL Lab探索得到的数据集,选择合适需求的数据图表,选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表;
1 ^4 g- [ S$ U
8 i5 a8 L) d% {+ {8 x图3.1.1 Apache Superset数据可视化 / x7 Y1 K$ o- v
新建Dashboard,然后编辑Dashboard,将之前生成好的Charts(图表)拖拽到Dashboard,就完成了数据仪表盘的最终呈现,然后就可以分享给需求方,也可以生成访问链接分享。 注意:拖拽时尽量往Dashboard的上面拖拽,会出现一条蓝色的分界线就可以松手,否则可能出现无法拖拽的情况,这个设计很坑。 图3.1.1 Apache Superset数据仪表盘呈现
2 v) V1 Z% c+ [8 y! s. \4. 部署安装4.1 部署方式及版本- 支持Linux、Windows、Mac的Docker部署
- 支持Linux、Windows、Mac的Python环境代码部署
- 可以在github,官网、或者国内镜像网站查看版本,但是别先下载,因为Apache Superset依赖包很多,最好能在线安装;8 E1 J" z3 q) r) c2 X" A: \
! {& S+ @& k0 N2 u) w
图4.1.0 Apache Superset版本预览
( X9 ~" H1 m9 q* n- 博主选的是apache-superset-0.38.1.tar.gz在Linux上的Python环境代码部署。
! R" m1 d& A {+ E* k8 k; E6 Q% U 4.2 配置需求- apache-superset-0.38.1.tar.gz
- CentOS 7 16核 32G(非硬性,一般性能的服务器即可)
- Python 3.6
- 要求服务器网,如果没有,可以使用能联网的代理服务器,依赖很多,采用在线安装的形式
% ?! Q9 s; f; u: L1 o+ ?. @ 4.3 下载安装- 下载安装Python3.6,可以选择安装anaconda集成的python,可以参考博客Linux通过anaconda来安装python,对应的版本是Anaconda3-5.2.0-Linux-x86_64.sh,下载传送门:Anaconda Download;安装好以后,如果老的服务器上存在python2,默认的环境变量启动是python2,没关系,只需要设置一个新的环境变量确保 python3启动是刚刚安装的版本即可。
- 安装python虚拟机,并启动,然后安装Apache Superset。
0 @, X4 f$ E0 `. e& M) E3 f
3 }% r9 M' [: E3 h5 ~7 u% Z- # 切换到自己安装软件的目录,博主的是在/usr/local/tools,并新建superset目录' O5 u. u) I. d. [/ S: }+ o. v
- cd /usr/local/tools! j; U3 A* s7 } y$ J
- mkdir superset
! M; A' N, z6 E0 Z* Q - cd superset) |+ q& Z" N, e# G+ d3 f
- " r, Z- h! h" L4 ]3 ^- H$ e
- # 安装虚拟机,有网就不需要的代理服务器,配置代理服务器10.212.18.34:3129方法:
2 W& r5 U( z; @3 ^$ {( V# e - # 写入配置文件 /etc/profile里面追加
7 F. }0 s% o* Z# N6 G* w0 l% W - # export http_proxy=10.212.18.34:3129
l( {8 I% ? p$ J) l - # export https_proxy=10.212.18.34:3129/ d4 y, y4 D# X5 p! x2 v4 G5 m; l
- # 然后wq! 保存退出,source /etc/profile刷新配置文件
; s+ ] G7 e, N3 m% \) s: t - # 安装完可以删除代理,记得再source /etc/profile) a) b1 T4 B2 I2 f" d6 t0 a: y& I4 Z$ }
- # 如果不想配置/etc/profile或者无权限,可以采用以下命令
6 G' Y+ i( t5 ~" E - # pip install virtualenv --proxy=10.212.18.34:3129,每次都需要,烦$ @; c2 {- T" _' S" C' c K7 B) W
- pip install virtualenv
$ q& c7 D+ T- }* U
3 [. U( K1 \3 P2 I! b* ^$ o: T- # 配置命名虚拟机
# V6 e0 b1 @. f; n6 @* [; y. H - python3 -m venv venv
# f- r8 d+ ~' _( m( F - 5 J, p, P! m8 w" D+ E3 ]
- # 启动虚拟机,会在当前目录下自动创建venv目录
' O- @9 e5 o- ?8 k5 ~ - . venv/bin/activate
7 z" K- y) p) c# W" v/ ^
0 ]$ M' y! f: G- # 退出虚拟机指令,但是这里不需要退出
1 f1 g, Q. s& E; p - # 退出虚拟机指令,但是这里不需要退出
+ {( i1 T6 y) m, I - # 退出虚拟机指令,但是这里不需要退出2 t$ C3 l5 r" G2 X4 B5 W
- deactivate# Z- P# t z0 i
- - Q; Q4 }. f# r6 r! G) c
- # 安装更新一些依赖
/ G) C% c/ g# J5 F# d1 B% r0 [ - pip install --upgrade setuptools pip -i https://pypi.douban.com/simple/. U4 H. S8 b1 j8 ?9 r
- , J0 G: R3 G/ n0 m
- yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel8 f5 c' @4 l! ?# J4 o
- 1 J L: R+ t: ]# a
- # 如果报错:GPG key retrieval failed: [Errno 14] curl#37 - "Couldn't open file /etc/pki/rpm-gpg/RPM-GPG-KEY-EPEL-7"' t+ X( \3 z8 q# |! E. s1 m2 h$ E
- # 解决:: y! k: C1 A" {7 ]' C' \& P
- vi /etc/yum.repos.d/epel.repo- G6 B- s0 ^0 m8 q
- gpgcheck=0
4 O' a, R; t7 `. p - # 然后wq!保存再试一次yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel0 U/ E! z2 t; N; K2 u5 h* Q
2 n% B( z' M5 f* J) R9 n/ I- # 先用官网下载,因为官网的会自动把依赖也给你一起安装了,实在不行再用其他网站的镜像
! J0 D& w! i# l9 ^% l - pip install apache-superset==1.4.2
/ F' e* p# X7 p* P; v% u - ) w" H% R9 f: v
- # 安装superset,指定版本,不指定版本默认是最新版本; _' J+ ^$ \9 k; N8 T
- pip install superset==0.30.1 -i https://pypi.douban.com/simple
8 P! Q/ `6 n `/ E* [% @ - ' H! s3 _% ]: @7 Y {0 m
- # 安装email_validator
- W! l1 v; ^) P% Q# Y- S8 `% _ - pip3 install email_validator -i https://pypi.douban.com/simple/
R6 b6 z0 \7 I% q5 x - 8 e" ~, j* l' u1 ?$ R
- # 更新数据库" _% Q- t9 v; [+ N$ [
- superset db upgrade
9 K0 t: z. R% J' o# l! }' h
$ ~% Q) m3 P7 X3 @- u7 Y4 e- # 创建admin的用户名,用户名随便写,bigdata123,admin都行,写完用户名后会让你输入姓,名,邮箱,这三项可写可不写,不写就直接回车,然后是设置密码,一点要写。
3 l1 [1 p8 J% t' W' h - export FLASK_APP=superset
/ w" s& r# {5 x3 ^: p - superset fab create-admin6 T3 ?0 D( \% ?8 L, U8 H
6 O- M) v5 \3 A5 \( Q1 f- # 加载样例数据,考验网络,如果实在一致加载报错就放弃,不影响后续使用。
. T3 O( @- F$ S; t+ O: e - superset load_examples: X) e8 I3 u! v. {
7 q/ a+ G6 m, v9 e# {5 G% U0 N. i- # 初始化
( q$ P5 P2 p& W; n - superset init
, _% m- A; ]0 a. u2 H; u, n" z
6 n# ~0 T8 F1 X" z- # 启动,官网是superset run -p 8088 --with-threads --reload --debugger
. q& z- i) }. P7 [$ q" T9 N+ X - # 建议用gunicorn启动,方便快速,先直接启动,确保打印在客户端的日志正常
' Q2 b7 @& U4 Y j - pip install gunicorn
0 n& z5 ]4 K$ c" L' C - gunicorn -w 5 --timeout 120 -b 10.218.10.290:9089 "superset.app:create_app()" 5 y: r3 |9 [! H) K
- 3 l, O# Q9 r) m% S1 j$ E0 d* X% L
- # gunicorn 是一个Python WEB服务,可以理解为Tomcat
# p2 `- s3 C H' B6 z. r - # -w WORKERS:指定线程数, ^, \6 {3 V$ f; a
- # --timeout:worker进程超时时间,超过会自动重启( j& B% \: D5 n
- # -b BIND:绑定Superset访问地址
$ \# T; A1 C: ?0 B* u - # --daemon:后台运行
7 |6 J \* c4 j! n) ^) _
% H7 {5 ]) D' _( L. l- }9 b4 [- # 在能访问10.218.10.290:9089的服务器上打开浏览器,输入刚刚登录的用户名,密码即可。
0 W5 d% T1 X2 r0 q# X
8 @& W% \) f0 J0 R- " ~7 N' O* a u6 }2 s
- # 如果没开启后台停止,直接ctrl+c关停4 @* j2 k! D" D
- # 后台进程停止gunicorn' N1 d- F5 I3 N! G
- ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码
1 x0 v7 U0 L f0 T$ e" j) e5 A& b/ t" l& x) F
4.3 安装注意及排错 pip install superset步骤时出现关键字眼Successfully installed证明正确安装,如图4.3.0; 6 j" s* N1 b$ ?* c8 ]3 W
# _! r/ g4 S9 d7 a图4.3.0 成功安装的提示 * P1 y/ Q0 D- O% E) E! \# L( a" Y
superset fab create-admin配置用户名时提示如图4.3.1。 图4.3.1 配置用户名时提示 Y. `9 c$ o4 D( f! Q: q) E
每个人的服务器环境,可能导致缺少的 依赖不同,途中如果遇到bug,可自己百度解决,基本都是python依赖包之类的问题,要耐心。 - # 报错
3 M% d9 x* ?$ C% d" N5 D - ModuleNotFoundError: No module named 'dataclasses'
* X% q3 e, L1 O7 A! c- e/ S
' ]+ r1 D. G2 _1 b! y- # 解决% m8 p- l1 i7 r' `- y) v% b' ]. z
- pip install dataclasses
5 H1 c& u( q( N* M
- b% K2 P$ z; Z# J- # 报错
# I2 g0 o, v, L - No PIL installation found
; J; V5 z/ x2 @+ H8 O( x - # 解决
9 q, p0 C( c. d) n2 x; n - pip install pillow
7 r. t" w! z( g+ j4 `$ ~
复制代码 5 h( J E4 V! e7 ]9 L" `) f$ W
一切解决后,网页登录如图4.3.2; 图4.3.2 登录首页4.4 启动与关闭 % h2 \$ l5 p( F9 ^$ M/ N5 Q
官网提供的直接启动的方法不是很好,博主推荐一个采用gunicorn的方法,先关停superset。 6 V9 r' X {& f5 z. k# I
- Z8 o2 g; z6 Y4 u, A% Z- [- r
- 0 Q$ f+ Q! d) B, e
- #安装好superset后会在venv生成很多文件,切换到venv0 ~8 N9 ]: G7 k! y' d2 z1 i7 c
- cd /usr/local/tools/superset/venv/
0 W! R- ^2 V; P2 D' d- F - 8 C! `- P9 H+ k
5 F- Z, R; d y6 @/ K( @/ I! Y
0 {. R6 R4 w+ p+ P. \/ {$ U1 U2 S- #新建日志文件夹
3 R; H. k- s6 a$ S& W R. H - mkdir log( E8 m# E- ~0 d! `0 s
- ]+ {( K$ P: J/ n
- #切换到log目录,新权限 日志,错误日志和启动pid文件
/ p) V# W6 W2 G8 q" A - cd log
/ K& {6 U% f# p/ N - touch gunicorn_access.log& G8 F+ e, f0 N8 k0 K# R+ |
- touch gunicorn_error.log% X9 D) k* W/ h- `; U* P( W
- touch pidfile( O$ [' K7 G3 a8 Z
- chmod 755 ./* #修改权限
( |4 |7 N6 s p. e' Y8 E9 X
3 `" a& x. _8 w) s9 n- #切换到/usr/local/tools/superset/venv/bin,写一个gunicorn配置文件,python语言" i4 V/ \/ `2 \- l5 |
- cd ./usr/local/tools/superset/venv/bin
" p: g, c. Z/ |6 W: a" l+ @
0 `+ J& ^' t) U/ B$ D4 O4 ~5 ~' A- 8 C8 Q; f' l5 b# r& S
- vim gunicorn_config.py # 内容如下
) o; }* o/ l# D/ C2 @
& T. w5 e& q* `+ H- #内容开始1 B% b. m8 W; t
- import multiprocessing) v5 {3 m" Q. [$ y# }0 \* E
" a+ p4 @; R. s6 z/ @3 L
' W% {8 J# Q% ^1 a- bind = '10.218.10.290:9089' #绑定ip和端口号
6 W- \! @/ x/ G/ r: H6 g! H - backlog = 512 #监听队列
1 k; s3 S2 Y; g - timeout = 30 #超时2 I. N; t, ]! y
- worker_class = 'gevent'% Q! Z- \" |: I: D, {. l
- workers = 51 L9 P v* J' s% ^' A( ^, ]# Z
- worker_connections = 1000
5 K5 l1 D! a- j( X: K' E. W. Z - threads = 2 #指定每个进程开启的线程数- [, o0 y" s7 }5 x4 X, |0 r
- loglevel = 'info' # 日志级别/ S! l2 B4 y) F9 ]8 w
- access_log_format = '%(t)s %(p)s %(h)s "%(r)s" %(s)s %(L)s %(b)s %(f)s" "%(a)s"' #设置gunicorn访问日志格式,错误日志无法设置8 G9 J2 Z( A, @3 J
! s! t! \- n: O- @% Y1 g w- / m5 t; }2 f0 G9 Q }) Z3 N
- 1 O2 J4 M D _3 Z6 ]
- pidfile = '/usr/local/tools/superset/venv/log/pidfile'' r( [, L, ?, B2 J* p
- errorlog = '/usr/local/tools/superset/venv/log/gunicorn_error.log'
$ i0 K3 S& [- } - accesslog = '/usr/local/tools/superset/venv/log/gunicorn_access.log'
* [% R* C& o4 f - / @" s. Z, ^8 s8 l+ z h
- print("IP and PORT:"+bind)
% I1 A0 W4 {" r - print("pid_file:"+pidfile)
& d- J y5 P" Q$ |2 P - print("error_log:"+errorlog)) M; v$ {9 L, c) d8 T, ~
- print("access_log:"+accesslog)/ A) l% Y8 l( M; K
- $ p. \; ]3 x( z! d* B) a
- #内容结束$ `2 _! r7 [/ T/ z7 v4 i
( Y# ^' [! b% f3 G; b: w# Y, L- #然后 wq! 保存退出& ~: w3 |$ I/ X# W/ R
7 n8 q' C9 p: {# l/ z; b- # gunicorn 启动 -c 配置文件启动;--daemon后台启动,日志可以去配置文件指定的路径查看
* G+ t1 G6 g5 F6 Z - gunicorn -c ./gunicorn_config.py "superset.app:create_app()" --daemon* {& T9 p7 n- J
) ^# C& v6 H( v0 V+ A$ U- # 后台进程查看
2 U/ X( i( b8 |, C7 i' y$ K - ps -ef | grep gunicorn
# N6 c+ A7 f/ B+ A* ]% w) T
3 o0 X; N8 H' N5 o8 H3 W- # 或者通过端口查看2 J7 H3 a: _' ^' E3 l$ @! h2 b) s
- netstata -tunlp | grep 90896 n& { y. r5 X6 E1 V4 p
- # 或, }8 K( S+ T, ?( Y, D2 b
- ss -anp | grep 9089
2 Z& O8 Q9 V+ }# G) f* Y# H' I - # D3 c" f5 q& A" h) s
- # 如果没开启后台停止,直接ctrl+c关停* ^: W7 J6 z" f8 l) \0 `7 D3 z
- # 后台进程停止gunicorn: m& T" \8 X* [) S
- ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码
9 r J. Y3 y9 _- t' l+ g, | 5. 用户手册(重点)
" @* y" J. J+ H6 y
5 U* b& T8 [, B8 z6 ?5 T6 | |5.1 新建Databases(数据库) 新建数据库之前,需要先安装该数据库的python驱动包,具体语句可以参考官网 Database Drivers,如图5.1.0,一般就是pip install XXX,安装好驱动后,记得重启下Superset服务; 新建数据库连接的作用是为数据集Datasets和SQL实验室SQL Lab提供数据库、表的选择,就是提供数据源,当然Data下还有个Upload CSV(最新版本也支持Upload Excel)也可以直接将本地的CSV文件作为数据源上传到Superset站点,直接进行数据探索分析。 图5.1.0 数据库驱动以及连接字符串 + J2 y' a3 [: J9 J" n
登录进Apache Superset后,点击Data,下来选择Databases,然后跳转到图图5.1.1,点击右上侧的+号就可以跳转图5.1.2的数据新增配置界面。 图5.1.1 新建数据库连接 7 O" `; r1 d) D+ S+ |
图5.1.2,Database是指的新建这个数据库的显示名称,这个随便取,合理即可,SQLAlchemy URI 这个地方就是之前图5.1.0上的数据库连接字符串,确保和你选择的数据库类型一致。 7 s- D( A# d+ S1 w7 G5 x. F1 D
然后点击TEST CONECTION,连接成功后会跳出Seems OK!的弹出框,记得滑到最下面,点击保存,如果连接不成功,请检查数据库的实例,端口,用户名,密码以及自己部署的Apache Superset的服务器访问数据库的端口网络时是否能通,当然也不要忘记SQLAlchemy URI 填写规范,保存后的数据库连接就会列举在图5.1.1上。
* r0 k4 o8 A1 {
. x- g, A) r$ P. O; i图5.1.2 新建数据库连接配置信息
0 Z* G0 ^* f1 `3 c' o5.2 新建Datasets(数据集,老版本也叫Tables) 图5.2.0 新建数据集
! t* X- M0 E, n3 V7 \$ S) K9 Q7 J$ F; [ 如图5.2.0,点击图中的Data下的Datasets,然后点击+号,跳转到图5.2.1,将配置好的数据库名下拉选出,写一个该连接实例下的数据库,然后选择一张表,点击保存即可,保存好的数据集会列举在图5.2.0中,这些知道为啥老板叫Tabels了吧;: N" Q/ f7 B. ?$ ^5 P
数据集的作用是为后续的Charts(图表)数据可视化作为数据源头。 图5.2.1 新建数据集配置信息 e2 [# b1 J& G
( G( m$ L" |+ r8 Z- }
5.3 SQL Lab(SQL实验室) SQL Lab其实就是一个数据库查询客户端,利用SQL语句对数据库的表,字段模型进行查询探索,同时支持智能补全,当然SQL Lab的查询结果也可以直接EXPLORE到Charts(图表),作为数据可视化的数据源。
G: W+ R! j ~/ { 如图5.3.0,SQL Lab有三个选项,三个选项的功能如下: - SQL Editor:进行SQL查询探索
- Saved Queries:保存的通用查询SQL
- Query Search:查询的历史记录8 i* y( s0 i% u9 T1 d7 M. f5 y5 q
图5.3.0 主界面进入SQL Lab 8 Z" Z5 M! Q7 |* X
点击SQL Editor进入图5.3.1的SQL查询探索,左侧上方是配置好的数据库连接名和选择的数据库,左侧下方是将要用到的表及字段模型;右侧上方是写SQL语句的地方,支持RUN(查询),RUN SELECTION(查询鼠标选择局部语句),SAVE(保存),SHARE(分享)等,右下方是数据结果,支持EXPLORE到Charts(图表)可视化,.CSV下载,CLIPBOARD(复制到剪贴板)。 图5.3.1 SQL Lab使用
" J% n$ W! N* Q6 P( w5.4 创建Charts(图表) 图表的作用是数据可视化,利不同的图表满足不同的业务需求,图表同时也作为仪表盘的展示的一部分,一个仪表盘内可以展示一个或多个图表。
' x0 }% W) b# y" I, e* ] 创建图表的方式有两种: - 如图5.4.0,点击Charts,点击+创建新的图表,跳转图5.4.1
- 在SQL LabSQL语句探索查询的结果直接EXPLORE到Charts(图表)可视化; V' Z/ f# G; E0 I0 I- ]# s1 M
图5.4.0 创建图表 4 _" p. j" T! Y4 f
如图5.4.1,选择合适需求的数据图表(如图5.4.2,支持的图表类型非常丰富,号称最漂亮的可视化图表展示),选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表; ( S3 N2 R0 \8 i+ k( G8 |3 v8 r z
& [7 V% j! d1 o7 W c S* O" V
图5.4.1 图表可视化配置
! U9 a, N; ^1 W) `& Q% G 号称最美可视化展示,支持可视化的图表类型确实丰富多彩,应对各种可视化需求。
$ K$ |' n* e) E" {2 J6 ~2 [* w8 j6 v$ u- N: T4 q
图5.4.2 支持的图表类型
. A; @. _* V- F* O6 m5.5 创建Dashboards(仪表盘) 仪表盘就是最后的数据总体呈现,即报表展示。 如图5.5.0,点击Dashboards,然后点击+新建仪表盘,跳转图5.5.1。 图5.5.0 创建仪表盘 : i( u7 E) y. u
点击图5.5.1右上角的编辑仪表盘,之前做好的Charts(图表)拖拽到仪表盘上,注意:第一次拖拽的时候尽量网上拖拽,知道出现这个条蓝色的分解线,否则 无法拖拽过去; 同时也支持一些通用的组件,图表旁的Components下,有Header、Tabs、Row、Column、Markdown、Divider;0 u# z2 C; t: j! R: t
编辑完后后记得点保存。 图5.5.1 编辑仪表盘
( b3 ]3 y1 a% U5 v2 m ? 保存后的仪表盘支持分享,下载等功能,同时也会根据图表内的数据源刷新来获取新的数据; ' w& X# F$ U; C' T% W( N% h ?
% r0 C9 e( F, E5 ~/ J4 U
图5.5.2 仪表盘功能
# V8 H+ l9 {1 t# M/ r1 B _ 分享给别人看到的仪表盘如图5.5.3。 图5.5.3 分享后他人视角的仪表盘
$ e& b/ m; `( d1 D/ a6. 设置 设置包含在菜单栏Settings下,主要设计权限和操作日志等模块,接下来分别讲解。 ' I9 O% u; K0 y1 M# H
5 T9 K2 {! L. y, w
图6.0.0 通用设置 " ?5 V) O4 v; L. G
0 S2 ?3 N, a: r+ p3 m7 e- J6.1 角色列表及权限 Apache Superset中的安全性由Flask AppBuilder(FAB)处理,FAB是一个构建在Flask之上的应用程序开发框架。FAB提供身份验证、用户管理、权限和角色,可以查看其相关文档。
" P6 k: R) i* Q% t& Y+ Z. O3 y5 r Apache Superset默认提供了不同的角色,每种角色拥有的权限不同,在运行superset init命令时,与每个角色关联的权限将重新同步到其原始值,不建议更改与每个角色关联的权限(例如,通过删除或添加权限),支持admin再自建角色类型,指定想要的权限,默认的角色及权限如下; - Admin:管理员拥有所有可能的权限,包括授予或撤销其他用户的权限,以及更改其他用户的切片和仪表板;
- Alpha:Alpha用户可以访问所有数据源,但不能授予或撤消其他用户的访问权限。它们也仅限于改变它们所拥有的对象。Alpha用户可以添加和更改数据源。
- Gamma:Gamma用户的访问权限有限。他们只能使用来自通过另一个补充角色访问的数据源的数据。他们只能查看由他们可以访问的数据源制作的切片和仪表板。目前Gamma用户无法更改或添加数据源。我们假设他们主要是内容消费者,尽管他们可以创建切片和仪表盘。另请注意,当Gamma用户查看仪表板和切片列表视图时,他们将只看到他们有权访问的对象。
- sql_lab:sql_lab角色授予对sql lab的访问权限。请注意,虽然管理员用户在默认情况下可以访问所有数据库,但Alpha和Gamma用户都需要在每个数据库的基础上获得访问权限。
- public:要允许注销的用户访问某些超集功能,需要自己配置权限,并将其分配给另一个角色,您希望将其权限传递给该角色。
6 h5 V( j% h' n0 x, T: _
更多的角色权限可以查看官网 Apache Superset Security,或者点开图6.1.0的编辑角色查看,尽量别改默认角色的权限。 3 M( s3 l) `+ @4 E2 M- F1 p- A
4 i' T# e8 x- ~) ~! D) Q
图6.1.0 系统默认角色 & C! G% d; g) o0 H
同时Apache Superset也支持管理员自己新增角色,如图6.1.1,新建角色并指定角色权限。 $ _. s7 U e! b: `$ q
+ y8 ?& c/ F. t4 @* c' q
图6.1.1 新建角色
, |5 k+ C" v+ P3 y, A9 o
# ^9 V6 F9 W4 P7 k( O6.2 用户列表 新建、编辑用户指定角色,用户的权限是绑定在角色里面的,一个用户可以有多个角色,配置信息如图6.2.0。 - d+ E* G! z# |- G, Q8 m$ ]
! f# y& E& L K, E# a) `0 {
图6.2.0 新建、编辑角色 , d6 i* V: ]6 P! m Z8 i
7 m4 j! s2 M5 i3 d
6.3 操作日志 操作日志记录的是在你的Superset平台上不同用户的行为日志,如图6.3.0。 图6.3.0 行为日志查看
# S" s* W# i0 ~; T* L/ _, P6 F6 a" r/ q: p9 ]- C, H$ r
6.4 用户信息、退出、版本信息 菜单栏最右侧的个人信息,主要是包含: - 用户信息:修改用户姓名,重置密码;
- 退出:回到登录主界面;
- 版本:目前您安装的Superset版本信息。
5 B( S, ~/ U B$ N7 e& z ]/ J3 U- t* X
图6.4.0 个人信息模块 2 E" U4 F. |/ c' ^* V+ x$ F6 d
7 u6 k( Y; M$ X" G4 v9 R( J6.5 语言选择 作为Apache的顶级项目,自然是运用于全球的,支持世界上一些通用的语言 ,选择一款你最喜欢的即可。 图6.5.0 语言选择
& B2 F6 ]) V, G5 D: b6 o# z8 L6.6 管理设置 针对仪表盘,图表渲染加入自己想要的风格和模板,实际运用的用的不多。
2 }. B% y; {9 w+ b! N: g
" ?2 Z" H5 V- N, [图6.6.0 管理模块
! _/ I- I# I* \9 h$ A- o# e1 u6.7 + NEW 菜单栏的+ NEW其实就是给最通用的三个模块SQL Query、图表、看板(仪表盘)的一个快捷方式,此三者的用法就不在累赘了。 图6.7.0 + NEW模块
1 R8 Z- }2 w7 i/ t% w# `7 V% O7 {9 F: B1 C2 \
, D, m8 P5 n, q/ G原文来源: https://blog.csdn.net/LXWalaz1s1s/article/details/119061337
' _3 U, `" P( F) P& v |