目 录- 7 B+ `. N! N' w: h' E# _* j+ a
/ F: m# m' }7 k1 ~
& r9 n& [5 f' S3 |5 h: z0 D( ]' q
1. 需求背景1.1 大数据可视化面临的挑战 大数据的兴起,关于数据的存储、计算技术层出不穷,但是最终的数据可视化呈现,数据的探索,也成为颇为重要的一环,这一块并没有像存储、计算技术栈那么百花齐放,大家在做大数据可视化时是否也曾有这些困惑呢? - 传统的可视化对接传统数据库,对大数据组件的hive,spark,presto、elasticsearch、clickhouse等兼容性差,甚至不兼容,每次还需要多一道将大数据集群数据分发到传统数据库的冗余操作;
- 商用产品昂贵、甚至产品设置技术壁垒,很多甚至要求对接该商家的自己的大数据技术方可对接;
- 群众基数大的Excel拖来拽习惯、SQL操作的方便性,排斥自成一派的新技术,网页版账号登录优于用户下载客户端登录;
- 公司开发人员配置紧张,没有多余的人力自研大数据可视化平台,但是决策层希望有一个统一的可视化平台。
: A. r2 R+ v1 Z; A
诸如此类,确实令人头疼,现在就推荐一款解药Apache Superser——开源的大数据分析探索、可视化报表的神器。 1.2 大数据数据可视化的目标架构7 X% d6 |9 f, k% B5 U I
) O8 L7 K! p* p8 ?' f; r图1.2 大数据数据可视化架构 0 i$ ]7 Z0 M- s6 u. j
做事还是需要立一个目标架构,最后所有的事情都是围绕目标架构展开,才能越做越轻松,如图1.2,可是架构分为三个梯队; - 第一梯队:ClickHouse、DorisDB、Kylin等优秀OLAP技术做存储,利用自带的连接引擎,快速响应,同时支持实时数据和离线数据的接入,外接可视化平台,通过权限管控后呈现给用户;
- 第二梯队:数据存在数据仓库Hive内或者NoSQL的Hbase,再通过较为优秀且高效的引擎Presto、Flink、Spark等接入可视化平台,通过权限管控后呈现给用户;
- 剩下就是一个特殊的,如MySQL,临时文件等文件的接入;
0 |& f+ j% b2 \- v, R
注意:常用的也还有其它技术架构,如ELK架构,ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成。Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。 Logstash是一个完全开源的工具,他可以对你的日志进行收集、分析,并将其存储供以后使用(如,搜索)。 kibana 也是一个开源和免费的工具,他Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志。这个后续再讲,这里书归正传,先讲讲Apache Superser。 2. Apache Superset简介2.1 Apache Superset是什么? Apache Superset是一款由Python语言为主开发的开源时髦数据探索分析以及可视化的报表平台;她支持丰富的数据源,且拥有多姿多彩的可视化图表选择。
" m2 P$ m/ B( \ L0 p. [5 }. s# R% j$ o
" m2 A1 h' ]8 X) D( I( A. q
9 K5 i: n) I; i! W( I' L0 u) u: |1 b图2.1.1 Apache Superset定义
, d6 d0 g- \1 F2.2 为什么选Apache Superset?- 支持丰富的数据库作为数据源,基本上平时用到的数据库都支持;如图2.2.0,支持的数据源有:! j, |5 R' [9 n7 ^2 B
- Amazon Athena
- Amazon Redshift
- Apache Drill
- Apache Druid
- Apache Hive
- Apache Impala
- Apache Kylin
- Apache Pinot
- Apache Solr
- Apache Spark SQL
- Ascend.io
- Azure MS SQL
- Big Query
- ClickHouse
- CockroachDB
- Dremio
- Elasticsearch
- Exasol
- Google Sheets
- Hologres
- IBM Db2
- IBM Netezza Performance Server
- MySQL
- Oracle
- PostgreSQL
- Trino
- Presto
- SAP Hana
- Snowflake
- SQLite
- SQL Server
- Teradata
- Vertica8 p2 N+ k5 J( U- n, W8 n
' X) z1 ^8 \7 W$ {. e, k2 v
图2.2.0 Apache Superset支持的数据源
; X7 k8 ^4 {& _9 {" b) s- Z0 p- 多姿多彩的可视化图表,Apache Superset拥有非常丰富的图表,来实现不同的可视化需求,如图2.2.1。( k/ W+ ^# A8 q0 r+ j9 u+ M
. L9 Q/ \& t& D- J( J# |# c; m( J
图2.2.1 Apache Superset支持的图表 ' @4 l7 k" x+ h8 A1 i% _2 ~3 U
- Data:主要功能是新增数据源和数据集Dataset(旧版本也叫Table),Dataset作为数据图表可视化的基础;
- Charts:图表,就是针对准备好的Dataset数据集,选择一款合适的图表呈现;
- Dashboards:仪表盘,其实就是报表、看板大屏展示,可以将多个Charts组合到一个仪表盘内一起展示。
- SQL Lab:SQL实验室,其实就是一个类似DBeaver、Navicat、DataGrip等一样的多功能数据库连接客户端,但是只有查询功能,配置驱动和连接后可以进行数据库、表、字段等模型的SQL查询操作。
- 设置:语言选择,登录注销、人员权限,操作日志等设置;9 N) v6 a9 M& J0 u+ E/ w7 c
图2.2.3 Apache Superset使用预览
c! `1 @- a V+ v' Y2.3 对比Metabase- 天生自带支持的数据源Apache Superset完胜Metabase;
- 数据图表形式Apache Superset完胜Metabase;
- 操作界面美观丝滑度Apache Superset稍逊Metabase;
- 托拉拽操作Apache Superset稍逊Metabase;1 ~1 p! G* O$ C
向来博主都是鱼与熊掌能兼得就兼得,毕竟小孩才做选择嘛,可以考虑两个都装,Metabase用于专注业务数据需求人员,Apache Superset用于懂SQL的数据需求人员,二者生成的通用仪表盘,则可以利用一个统一的网页超链接到一起,形成一个统一的报表平台。 3. 快速上手 这里先快速上手带大家体验一把,细节后续章节细讲,首先配置好数据库连接(配置方法参考后续的 5.1 新建Databases(数据库)),然后打开SQL Lab,选择好配置数据库,写SQL语句分析探索数据,如图3.1.0,然后运行语句,得到数据结果,可以点击保存将常用的探索SQL保存下来,然后点击查询结果上方的EXPLORE按钮,就可以跳转图表分析图3.1.1; & \. t8 C; u4 i2 ?3 r1 l
9 N" b* L( e* g, f+ c) c, U; d& j
图3.1.0 Apache Superset在SQL Lab上探索数据 ) ^# W% @6 g( n6 R7 d; k
利用SQL Lab探索得到的数据集,选择合适需求的数据图表,选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表; * p6 |+ ~+ ]* E$ |
* K6 c8 m( P2 G. _
图3.1.1 Apache Superset数据可视化 6 V2 s$ b) `. b5 {) f1 a
新建Dashboard,然后编辑Dashboard,将之前生成好的Charts(图表)拖拽到Dashboard,就完成了数据仪表盘的最终呈现,然后就可以分享给需求方,也可以生成访问链接分享。 注意:拖拽时尽量往Dashboard的上面拖拽,会出现一条蓝色的分界线就可以松手,否则可能出现无法拖拽的情况,这个设计很坑。 图3.1.1 Apache Superset数据仪表盘呈现
1 {$ d6 }9 d$ L) h8 A6 `4 g4. 部署安装4.1 部署方式及版本- 支持Linux、Windows、Mac的Docker部署
- 支持Linux、Windows、Mac的Python环境代码部署
- 可以在github,官网、或者国内镜像网站查看版本,但是别先下载,因为Apache Superset依赖包很多,最好能在线安装;
1 i$ U) C8 z$ w. p. R' C# p& z" G' v
, Z+ h* N' W" V7 B3 L: G/ N+ ~
图4.1.0 Apache Superset版本预览 * ~) m; V! G( K8 \0 p- J
- 博主选的是apache-superset-0.38.1.tar.gz在Linux上的Python环境代码部署。
4 M! E6 a- M3 M4 e2 b2 \ 4.2 配置需求- apache-superset-0.38.1.tar.gz
- CentOS 7 16核 32G(非硬性,一般性能的服务器即可)
- Python 3.6
- 要求服务器网,如果没有,可以使用能联网的代理服务器,依赖很多,采用在线安装的形式+ T7 U3 x. Z3 X. B) S& S/ V
4.3 下载安装- 下载安装Python3.6,可以选择安装anaconda集成的python,可以参考博客Linux通过anaconda来安装python,对应的版本是Anaconda3-5.2.0-Linux-x86_64.sh,下载传送门:Anaconda Download;安装好以后,如果老的服务器上存在python2,默认的环境变量启动是python2,没关系,只需要设置一个新的环境变量确保 python3启动是刚刚安装的版本即可。
- 安装python虚拟机,并启动,然后安装Apache Superset。
% q5 I# @" `, e8 k. }: [
/ B, c1 J6 K1 d, d/ `' g0 x- @- # 切换到自己安装软件的目录,博主的是在/usr/local/tools,并新建superset目录1 ^+ B$ b7 D; F; _& m8 ^! v
- cd /usr/local/tools* \! E% Y" B0 M6 D
- mkdir superset
Q0 @# U& L2 _ B - cd superset
% v+ t Q7 d* R: R9 b8 }5 f - # U& w$ d( W( m& \% r* P Y
- # 安装虚拟机,有网就不需要的代理服务器,配置代理服务器10.212.18.34:3129方法:! T( R7 b8 y9 p( Z, R6 G: f8 h2 m6 u
- # 写入配置文件 /etc/profile里面追加3 B* ^6 q! P' e# L3 u5 t
- # export http_proxy=10.212.18.34:3129 x0 S. S/ y& l& h# |3 ^. ^4 t
- # export https_proxy=10.212.18.34:3129
) o5 C" ^/ b% m4 T9 d/ ?% S - # 然后wq! 保存退出,source /etc/profile刷新配置文件0 B7 F" j) L( W( t
- # 安装完可以删除代理,记得再source /etc/profile% q( t2 m0 E/ b
- # 如果不想配置/etc/profile或者无权限,可以采用以下命令
: n3 e2 K! C; V- J1 u; C" U, U; Z - # pip install virtualenv --proxy=10.212.18.34:3129,每次都需要,烦' b* k( G+ w+ L6 f* G4 j
- pip install virtualenv
0 V$ p6 p+ P; `- Q W; L, j. \
$ |: X' A! X8 U; F8 W0 b- # 配置命名虚拟机; l- n9 H; f3 p- U
- python3 -m venv venv3 ~# c7 ^. S+ `+ q+ I7 _; D
- 1 Z, A/ ?. x0 F# E- N) b
- # 启动虚拟机,会在当前目录下自动创建venv目录
- e, i3 L0 A; s+ T( K - . venv/bin/activate
0 ^$ U, |) ]2 w3 ] - * ] \- E7 P: l: z8 {! t K, T
- # 退出虚拟机指令,但是这里不需要退出
7 M4 D- \7 ~" | I. F - # 退出虚拟机指令,但是这里不需要退出% g8 s( o6 U7 @6 {" K7 q
- # 退出虚拟机指令,但是这里不需要退出
& q. k `: B/ G - deactivate, h2 O6 H( ~) H7 v# t
- + y+ d; G! x$ m7 }! m( q6 P
- # 安装更新一些依赖, ?7 j0 A- k/ x, X1 H- f+ o# o
- pip install --upgrade setuptools pip -i https://pypi.douban.com/simple/
: v, s" \. ]" q7 p3 L" U - 2 R2 @+ u6 I1 b% W
- yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel! _# h% R6 X+ O/ R
- , L# Q# D6 g0 |# N- F
- # 如果报错:GPG key retrieval failed: [Errno 14] curl#37 - "Couldn't open file /etc/pki/rpm-gpg/RPM-GPG-KEY-EPEL-7"' [; v% C6 _8 ?2 t @3 o! V* F. b
- # 解决:
9 t$ ^5 Q+ K T0 \3 S - vi /etc/yum.repos.d/epel.repo
0 J2 {3 E! z8 }. O* h r - gpgcheck=0
; ^% |- X1 h0 M' X j* u& D - # 然后wq!保存再试一次yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel* e- |% `& l. k1 R8 F6 \
4 y1 _+ \' G2 `1 e2 z r3 @3 A- # 先用官网下载,因为官网的会自动把依赖也给你一起安装了,实在不行再用其他网站的镜像7 l8 n, ~( O9 _3 k
- pip install apache-superset==1.4.2/ l5 n" |. K& H, y' q' w+ W
1 W. r, l. S0 O! ]9 z- # 安装superset,指定版本,不指定版本默认是最新版本
! x& s9 x8 L3 r! W8 Q, } - pip install superset==0.30.1 -i https://pypi.douban.com/simple N4 S# e% N, c1 e$ \9 n! G
* r: I# G- Z+ H0 Q; ]- # 安装email_validator / T8 m+ Q( w: l) J
- pip3 install email_validator -i https://pypi.douban.com/simple/
6 u& Z$ ?" U4 w. o9 L- Y
A5 J1 z& x: [. m- K- # 更新数据库# d6 E: d9 Q% L! E& r: X
- superset db upgrade
. c) U. G/ m7 T8 Y1 ?; A" n
& n% }6 B) ^1 _! @9 D- # 创建admin的用户名,用户名随便写,bigdata123,admin都行,写完用户名后会让你输入姓,名,邮箱,这三项可写可不写,不写就直接回车,然后是设置密码,一点要写。7 G9 y1 j# n C$ l+ ?( ?/ M; n$ h
- export FLASK_APP=superset8 u. h" ]6 x6 D" k1 R2 T Q
- superset fab create-admin
% E& Y# ^+ o' m% M" g, r - 8 v' H( y% R& |& H L: p
- # 加载样例数据,考验网络,如果实在一致加载报错就放弃,不影响后续使用。2 n2 c4 c( y* o5 e% D
- superset load_examples
h L8 x) k* T. r+ o" s9 J, U$ w - 1 s; U0 S( j! y! ?7 P" e
- # 初始化. e% c8 ?, @5 w: s
- superset init3 }& t! k! |' M
- % O/ v% ~. i* [; f
- # 启动,官网是superset run -p 8088 --with-threads --reload --debugger
5 R! n4 N7 n5 M' [7 v- x; t - # 建议用gunicorn启动,方便快速,先直接启动,确保打印在客户端的日志正常5 m" c* i2 F- c4 Y8 m5 o9 @
- pip install gunicorn
; @, u ^- R9 @" T+ D7 m8 ^ - gunicorn -w 5 --timeout 120 -b 10.218.10.290:9089 "superset.app:create_app()" P* E* g7 ^9 n% a. i3 t+ n
- 3 Y7 b; L4 Z! j- M3 c& I
- # gunicorn 是一个Python WEB服务,可以理解为Tomcat
% F0 ?3 e2 }/ X6 l+ F9 | - # -w WORKERS:指定线程数! V( p) j" w# Q: d7 j$ x/ }9 Y" y
- # --timeout:worker进程超时时间,超过会自动重启
, F; Z, j) |3 \: t/ d" k - # -b BIND:绑定Superset访问地址
; v- t) z' X4 a0 E - # --daemon:后台运行
4 ~, d4 y& S/ y* y3 }( A) {& i
! C5 d* E2 l! ]& z) r- # 在能访问10.218.10.290:9089的服务器上打开浏览器,输入刚刚登录的用户名,密码即可。* v& O. v. C- b% N
- % P8 p" ^ V& y. j
- " t; l8 x5 o) Q3 E! L
- # 如果没开启后台停止,直接ctrl+c关停+ `4 }! F; p: j. ]
- # 后台进程停止gunicorn
3 p$ N! Z8 |' [6 [2 Y. o$ Q% e- I - ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码 7 [+ ~7 V( l# Q; |9 _
# f$ ~9 ]- i) j2 D! j7 }5 C9 [
4.3 安装注意及排错 pip install superset步骤时出现关键字眼Successfully installed证明正确安装,如图4.3.0; 7 q7 r3 j( d9 m, Y* Y0 C# x
, u- d2 C4 Z, n& q# w% k: B$ q9 N7 ^8 C$ `图4.3.0 成功安装的提示 1 W- b9 E7 {& e0 x- D
superset fab create-admin配置用户名时提示如图4.3.1。 图4.3.1 配置用户名时提示 ) Q& m3 H9 t, W; ?; y" H
每个人的服务器环境,可能导致缺少的 依赖不同,途中如果遇到bug,可自己百度解决,基本都是python依赖包之类的问题,要耐心。 - # 报错
& Z4 {' B; V$ @4 f0 ~; N% _; l - ModuleNotFoundError: No module named 'dataclasses'
5 L' I& x! T6 s( } c
& b! n3 j) y: i$ A" E2 r& Q- # 解决 G! g7 F% l$ n
- pip install dataclasses. m' g% a4 F2 L5 O! H
6 w( N! I* [# W: I/ \, a: u, J) }- # 报错
5 `$ e1 R5 L3 p9 N A8 t - No PIL installation found
0 K. p) i; G+ a/ { - # 解决
# Y6 w% Q4 o% G* N5 \% w4 y - pip install pillow8 {. P* B4 `# P8 S9 e# h, ^
复制代码
9 g" R- D- ~& d9 z 一切解决后,网页登录如图4.3.2; 图4.3.2 登录首页4.4 启动与关闭 * N6 _ X4 b* ?3 V' ~
官网提供的直接启动的方法不是很好,博主推荐一个采用gunicorn的方法,先关停superset。 % s# @& W6 Z( i" v# H
7 E4 A& D9 N. ~+ W- S* r, q) @
: E4 e; `& L$ H7 y' h2 Q. W u9 |- #安装好superset后会在venv生成很多文件,切换到venv8 |+ G- q7 G1 S: p" V' R0 \7 Z! {% s
- cd /usr/local/tools/superset/venv// O2 j, P4 N. l0 o
, |/ q! f, Q. ]) f7 j- 0 h- e2 ?' y# c8 o- o
- ; }/ W+ z' \! |1 m2 ?. \
- #新建日志文件夹) G+ ]. s0 }, Q6 p9 ^% z$ l& X3 h
- mkdir log. L& ^* V% D- u8 c. d' O
- - m% |5 [. N5 V* @ F# V0 C
- #切换到log目录,新权限 日志,错误日志和启动pid文件5 ]. C; c1 \, }1 d9 |
- cd log
0 Q. H) S' T3 z. O - touch gunicorn_access.log; n8 n& P( F: h( c8 N7 L2 P
- touch gunicorn_error.log
& T) _4 m1 |- ^9 f - touch pidfile
/ e# u, D5 i8 H) } - chmod 755 ./* #修改权限
+ q% P0 r% Q; c' q" l' D. D - 8 o& C6 H0 G5 y8 m0 k
- #切换到/usr/local/tools/superset/venv/bin,写一个gunicorn配置文件,python语言$ T% D. l+ k, E8 O% f1 I: c. z
- cd ./usr/local/tools/superset/venv/bin
! k; x# w n5 z1 l3 I+ i - M: i2 J# F9 v6 q8 R" x7 e
4 f7 E! N, P, i; ]! D- vim gunicorn_config.py # 内容如下6 Z$ i" r6 ~2 g L5 u; O
- 7 `0 G. O5 e! N; B9 o& A
- #内容开始
- K+ {1 b5 D2 a3 Z& [% N# ^0 u - import multiprocessing
. p. @4 D& W( W
) ]4 A2 A. E7 h' W. @& k `. Q' K- ( h, q; O4 u: c% _) l
- bind = '10.218.10.290:9089' #绑定ip和端口号! O; j2 l3 h9 X* Y! ?; k
- backlog = 512 #监听队列) A1 O1 E9 j" {! m
- timeout = 30 #超时$ ^9 s* o4 p, X4 k6 x! z+ s
- worker_class = 'gevent'; H/ F i" \ a1 v3 G0 m& f( `
- workers = 5
8 V. B* W6 `7 z4 x- K' W) f# | - worker_connections = 1000
- a6 `; T% q# U' P, w4 N& l - threads = 2 #指定每个进程开启的线程数
/ K( E# g& `9 O9 @) Q: {! S g - loglevel = 'info' # 日志级别2 J, F3 U9 `7 `, h( e
- access_log_format = '%(t)s %(p)s %(h)s "%(r)s" %(s)s %(L)s %(b)s %(f)s" "%(a)s"' #设置gunicorn访问日志格式,错误日志无法设置2 b$ u! s: z7 x9 [% s
) o4 i" x/ U4 k! X1 O- Z
: G4 j5 [7 F4 R" x" Q) l* A- ( c8 q3 P7 ~) B3 r4 o$ u# a
- pidfile = '/usr/local/tools/superset/venv/log/pidfile'2 X) R$ {# F4 t
- errorlog = '/usr/local/tools/superset/venv/log/gunicorn_error.log') E- d: ?8 @9 L) M) x
- accesslog = '/usr/local/tools/superset/venv/log/gunicorn_access.log'
% B/ z, v: [/ N7 g; y - 4 K2 |( v) ]$ N- S% D" H* W
- print("IP and PORT:"+bind)
* s; Y+ R, \+ _# T+ ]1 } - print("pid_file:"+pidfile)
( r* x* Z& {+ J9 J- m9 k5 Z% f; M5 M - print("error_log:"+errorlog)3 C7 D* v4 i0 o: Y& }4 G4 [
- print("access_log:"+accesslog)
% N) M- C- j7 |3 e$ h+ [! C# k - ' m3 }' m6 r+ d: P. a
- #内容结束
& l# u5 k* F2 v( b0 K - ; r; Y0 A0 w0 n0 p
- #然后 wq! 保存退出) T0 i* M$ p, y4 ~$ S* N
- ) I" Z/ l6 o) N8 q
- # gunicorn 启动 -c 配置文件启动;--daemon后台启动,日志可以去配置文件指定的路径查看; B; {1 w& E( b" b9 D& d
- gunicorn -c ./gunicorn_config.py "superset.app:create_app()" --daemon- r+ v$ m2 w& ~, v) S
: z/ y$ S' ]; n2 C% R- # 后台进程查看
* Y+ a9 ^: g+ [1 M4 f - ps -ef | grep gunicorn0 h, w% ]" u" O q' Y l
$ G* z. D7 _5 m1 m- # 或者通过端口查看/ \$ j/ E) a: [2 P! w7 \, C
- netstata -tunlp | grep 9089
) t" g/ ~; A3 T. O3 c7 l - # 或
# Y M F6 h1 ^ - ss -anp | grep 9089" C* M5 t: w" ^0 k( ?4 M4 b! j5 p
- / c. d2 E# C4 e. v) Y" C
- # 如果没开启后台停止,直接ctrl+c关停/ j6 E, a& _0 S4 I) t' Y- b
- # 后台进程停止gunicorn# N ^: R) q) \9 Y) r4 Q" ]
- ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码 3 @3 L3 r" I0 R5 A: R; |
5. 用户手册(重点)
# x7 S9 Z) E0 Y/ v, _5 o! i
: b) D/ l2 O" b5.1 新建Databases(数据库) 新建数据库之前,需要先安装该数据库的python驱动包,具体语句可以参考官网 Database Drivers,如图5.1.0,一般就是pip install XXX,安装好驱动后,记得重启下Superset服务; 新建数据库连接的作用是为数据集Datasets和SQL实验室SQL Lab提供数据库、表的选择,就是提供数据源,当然Data下还有个Upload CSV(最新版本也支持Upload Excel)也可以直接将本地的CSV文件作为数据源上传到Superset站点,直接进行数据探索分析。 图5.1.0 数据库驱动以及连接字符串
0 t7 b! U+ a, y2 G; G 登录进Apache Superset后,点击Data,下来选择Databases,然后跳转到图图5.1.1,点击右上侧的+号就可以跳转图5.1.2的数据新增配置界面。 图5.1.1 新建数据库连接
% z9 X' b7 c! C7 n8 J" N8 c 图5.1.2,Database是指的新建这个数据库的显示名称,这个随便取,合理即可,SQLAlchemy URI 这个地方就是之前图5.1.0上的数据库连接字符串,确保和你选择的数据库类型一致。
. ?) g, Y8 r( w0 `2 i# y然后点击TEST CONECTION,连接成功后会跳出Seems OK!的弹出框,记得滑到最下面,点击保存,如果连接不成功,请检查数据库的实例,端口,用户名,密码以及自己部署的Apache Superset的服务器访问数据库的端口网络时是否能通,当然也不要忘记SQLAlchemy URI 填写规范,保存后的数据库连接就会列举在图5.1.1上。 ! V7 c& b/ Y; {) N; D( m& U/ d
* h# N& H( _/ i图5.1.2 新建数据库连接配置信息 " l! j+ ^; |+ d; Z' f
5.2 新建Datasets(数据集,老版本也叫Tables) 图5.2.0 新建数据集 + D* b7 p, |: p; y% B- o# X
如图5.2.0,点击图中的Data下的Datasets,然后点击+号,跳转到图5.2.1,将配置好的数据库名下拉选出,写一个该连接实例下的数据库,然后选择一张表,点击保存即可,保存好的数据集会列举在图5.2.0中,这些知道为啥老板叫Tabels了吧;8 k; F1 g1 u6 f+ k9 t
数据集的作用是为后续的Charts(图表)数据可视化作为数据源头。 图5.2.1 新建数据集配置信息 2 g# O' u; }& [7 L7 Y) v
. A# o0 {; V! W b6 [2 F; Q& K9 Z8 c5.3 SQL Lab(SQL实验室) SQL Lab其实就是一个数据库查询客户端,利用SQL语句对数据库的表,字段模型进行查询探索,同时支持智能补全,当然SQL Lab的查询结果也可以直接EXPLORE到Charts(图表),作为数据可视化的数据源。
+ u0 { i8 F" t' c$ F. O! {- j 如图5.3.0,SQL Lab有三个选项,三个选项的功能如下: - SQL Editor:进行SQL查询探索
- Saved Queries:保存的通用查询SQL
- Query Search:查询的历史记录0 V' X. s( K0 F; ^: B
图5.3.0 主界面进入SQL Lab & z! H! P' X" P- K j* `; d
点击SQL Editor进入图5.3.1的SQL查询探索,左侧上方是配置好的数据库连接名和选择的数据库,左侧下方是将要用到的表及字段模型;右侧上方是写SQL语句的地方,支持RUN(查询),RUN SELECTION(查询鼠标选择局部语句),SAVE(保存),SHARE(分享)等,右下方是数据结果,支持EXPLORE到Charts(图表)可视化,.CSV下载,CLIPBOARD(复制到剪贴板)。 图5.3.1 SQL Lab使用
5 i9 m, r4 Q& ?4 s4 b, h) y" y0 \5.4 创建Charts(图表) 图表的作用是数据可视化,利不同的图表满足不同的业务需求,图表同时也作为仪表盘的展示的一部分,一个仪表盘内可以展示一个或多个图表。$ @3 d1 a3 w+ y
创建图表的方式有两种: - 如图5.4.0,点击Charts,点击+创建新的图表,跳转图5.4.1
- 在SQL LabSQL语句探索查询的结果直接EXPLORE到Charts(图表)可视化
4 W$ s* \+ W2 q2 h. g
图5.4.0 创建图表 ' U! ?3 U0 e \; I
如图5.4.1,选择合适需求的数据图表(如图5.4.2,支持的图表类型非常丰富,号称最漂亮的可视化图表展示),选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表;
4 c" v% g) ~& j; t; z, Q
6 q( f8 T9 k$ V% N" k6 j) Q图5.4.1 图表可视化配置 ' c+ C5 N$ e2 a9 b
号称最美可视化展示,支持可视化的图表类型确实丰富多彩,应对各种可视化需求。 . v0 O; W* u* E5 y6 ~7 k' @
& J' |" P- u! d U* A* g
图5.4.2 支持的图表类型
: L9 D/ `' X$ G ?+ N$ T) t% r4 \/ k$ g) q5.5 创建Dashboards(仪表盘) 仪表盘就是最后的数据总体呈现,即报表展示。 如图5.5.0,点击Dashboards,然后点击+新建仪表盘,跳转图5.5.1。 图5.5.0 创建仪表盘 ; V. ^; d6 q( U6 i- w, ?3 v. J1 g
点击图5.5.1右上角的编辑仪表盘,之前做好的Charts(图表)拖拽到仪表盘上,注意:第一次拖拽的时候尽量网上拖拽,知道出现这个条蓝色的分解线,否则 无法拖拽过去; 同时也支持一些通用的组件,图表旁的Components下,有Header、Tabs、Row、Column、Markdown、Divider;1 B$ }1 Y7 o j# ` o3 S5 N
编辑完后后记得点保存。 图5.5.1 编辑仪表盘 / w8 t2 z- M7 c
保存后的仪表盘支持分享,下载等功能,同时也会根据图表内的数据源刷新来获取新的数据;
9 d8 M! R6 x2 g! E- P7 _
; V B* e+ H6 k7 Y4 m7 F图5.5.2 仪表盘功能 % V% z e. R6 a, m+ m9 I
分享给别人看到的仪表盘如图5.5.3。 图5.5.3 分享后他人视角的仪表盘 9 A, ]( U0 Q& i* Y2 A
6. 设置 设置包含在菜单栏Settings下,主要设计权限和操作日志等模块,接下来分别讲解。
3 O0 Q3 G8 f2 V$ s! G/ Q2 y( P5 P/ K
图6.0.0 通用设置
8 G# z1 U1 b( }/ {# m
. a; R7 r2 s* O. m% D# u$ [6.1 角色列表及权限 Apache Superset中的安全性由Flask AppBuilder(FAB)处理,FAB是一个构建在Flask之上的应用程序开发框架。FAB提供身份验证、用户管理、权限和角色,可以查看其相关文档。
; `- r+ N( k# a% Y- o& Y* \8 }/ l Apache Superset默认提供了不同的角色,每种角色拥有的权限不同,在运行superset init命令时,与每个角色关联的权限将重新同步到其原始值,不建议更改与每个角色关联的权限(例如,通过删除或添加权限),支持admin再自建角色类型,指定想要的权限,默认的角色及权限如下; - Admin:管理员拥有所有可能的权限,包括授予或撤销其他用户的权限,以及更改其他用户的切片和仪表板;
- Alpha:Alpha用户可以访问所有数据源,但不能授予或撤消其他用户的访问权限。它们也仅限于改变它们所拥有的对象。Alpha用户可以添加和更改数据源。
- Gamma:Gamma用户的访问权限有限。他们只能使用来自通过另一个补充角色访问的数据源的数据。他们只能查看由他们可以访问的数据源制作的切片和仪表板。目前Gamma用户无法更改或添加数据源。我们假设他们主要是内容消费者,尽管他们可以创建切片和仪表盘。另请注意,当Gamma用户查看仪表板和切片列表视图时,他们将只看到他们有权访问的对象。
- sql_lab:sql_lab角色授予对sql lab的访问权限。请注意,虽然管理员用户在默认情况下可以访问所有数据库,但Alpha和Gamma用户都需要在每个数据库的基础上获得访问权限。
- public:要允许注销的用户访问某些超集功能,需要自己配置权限,并将其分配给另一个角色,您希望将其权限传递给该角色。
8 Y/ K- B( f" ?+ t8 r6 [
图6.1.0 系统默认角色
* T: t2 w, C/ C) Q, i6 W: R/ h" M 同时Apache Superset也支持管理员自己新增角色,如图6.1.1,新建角色并指定角色权限。
& ?5 A }( Q0 h, j6 X) _% V0 l' w! A4 _1 z
图6.1.1 新建角色
" D! _! _: P* c* z- d; ^$ C7 ?! a9 I. `9 W* y
6.2 用户列表 新建、编辑用户指定角色,用户的权限是绑定在角色里面的,一个用户可以有多个角色,配置信息如图6.2.0。
3 M6 ]; ?# X- H7 o$ B% c# |& ^+ S. u- R% O; P
图6.2.0 新建、编辑角色 . U0 u8 z- R7 Z
& c7 P8 v! R1 e2 o' B) {1 N8 F
6.3 操作日志 操作日志记录的是在你的Superset平台上不同用户的行为日志,如图6.3.0。 图6.3.0 行为日志查看 . d: ^$ z- \) U" N& m, S7 n1 F
$ T3 m( \0 H5 c6.4 用户信息、退出、版本信息 菜单栏最右侧的个人信息,主要是包含: - 用户信息:修改用户姓名,重置密码;
- 退出:回到登录主界面;
- 版本:目前您安装的Superset版本信息。
0 Z7 I- j4 w a5 E+ R
) k ]$ h/ O- p
图6.4.0 个人信息模块
" w& h" T. U+ I ^
$ y& d" w+ V# A3 L6.5 语言选择 作为Apache的顶级项目,自然是运用于全球的,支持世界上一些通用的语言 ,选择一款你最喜欢的即可。 图6.5.0 语言选择 $ a& P4 m6 u2 x7 a7 G% D
6.6 管理设置 针对仪表盘,图表渲染加入自己想要的风格和模板,实际运用的用的不多。
$ K: _: x0 Y& c( W c/ p( i
9 D% w; F/ m2 V图6.6.0 管理模块 . d% R$ r, Z: y# ]
6.7 + NEW 菜单栏的+ NEW其实就是给最通用的三个模块SQL Query、图表、看板(仪表盘)的一个快捷方式,此三者的用法就不在累赘了。 图6.7.0 + NEW模块
7 g9 C9 F7 N7 _- A: @( a
( h0 r+ {" b. V* Z3 B7 D) V9 C* ~- f/ N2 E
原文来源: https://blog.csdn.net/LXWalaz1s1s/article/details/119061337 J) ~. t/ A* N2 s0 `. E
|