目 录
% x- \" d& v4 V$ `! v, }7 [0 s4 Q h1 W; `
1. 需求背景1.1 大数据可视化面临的挑战 大数据的兴起,关于数据的存储、计算技术层出不穷,但是最终的数据可视化呈现,数据的探索,也成为颇为重要的一环,这一块并没有像存储、计算技术栈那么百花齐放,大家在做大数据可视化时是否也曾有这些困惑呢? - 传统的可视化对接传统数据库,对大数据组件的hive,spark,presto、elasticsearch、clickhouse等兼容性差,甚至不兼容,每次还需要多一道将大数据集群数据分发到传统数据库的冗余操作;
- 商用产品昂贵、甚至产品设置技术壁垒,很多甚至要求对接该商家的自己的大数据技术方可对接;
- 群众基数大的Excel拖来拽习惯、SQL操作的方便性,排斥自成一派的新技术,网页版账号登录优于用户下载客户端登录;
- 公司开发人员配置紧张,没有多余的人力自研大数据可视化平台,但是决策层希望有一个统一的可视化平台。) C3 f# s E6 w% o8 E: S
诸如此类,确实令人头疼,现在就推荐一款解药Apache Superser——开源的大数据分析探索、可视化报表的神器。 1.2 大数据数据可视化的目标架构 j; { O: H8 \2 Y& Y
$ w6 W* a" f1 u2 M4 q/ r0 I) k
图1.2 大数据数据可视化架构
5 D) i1 G0 Z- ~& Y9 I! u; j 做事还是需要立一个目标架构,最后所有的事情都是围绕目标架构展开,才能越做越轻松,如图1.2,可是架构分为三个梯队; - 第一梯队:ClickHouse、DorisDB、Kylin等优秀OLAP技术做存储,利用自带的连接引擎,快速响应,同时支持实时数据和离线数据的接入,外接可视化平台,通过权限管控后呈现给用户;
- 第二梯队:数据存在数据仓库Hive内或者NoSQL的Hbase,再通过较为优秀且高效的引擎Presto、Flink、Spark等接入可视化平台,通过权限管控后呈现给用户;
- 剩下就是一个特殊的,如MySQL,临时文件等文件的接入;
- g8 L; t% S$ ?3 Z/ L" \2 h
注意:常用的也还有其它技术架构,如ELK架构,ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成。Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。 Logstash是一个完全开源的工具,他可以对你的日志进行收集、分析,并将其存储供以后使用(如,搜索)。 kibana 也是一个开源和免费的工具,他Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志。这个后续再讲,这里书归正传,先讲讲Apache Superser。 2. Apache Superset简介2.1 Apache Superset是什么? Apache Superset是一款由Python语言为主开发的开源时髦数据探索分析以及可视化的报表平台;她支持丰富的数据源,且拥有多姿多彩的可视化图表选择。 " |4 M$ |, v' h7 T5 i$ h N [
u# _& K/ O0 a _4 m3 y5 C
# X' Q) u7 N: H. r& O2 W
2 t |/ h1 O7 [% X. I: D* G图2.1.1 Apache Superset定义 " t% T' G$ ?- |) P) h. ~
2.2 为什么选Apache Superset?- 支持丰富的数据库作为数据源,基本上平时用到的数据库都支持;如图2.2.0,支持的数据源有:8 f/ B6 J7 v! b) `$ [1 q5 {, o
- Amazon Athena
- Amazon Redshift
- Apache Drill
- Apache Druid
- Apache Hive
- Apache Impala
- Apache Kylin
- Apache Pinot
- Apache Solr
- Apache Spark SQL
- Ascend.io
- Azure MS SQL
- Big Query
- ClickHouse
- CockroachDB
- Dremio
- Elasticsearch
- Exasol
- Google Sheets
- Hologres
- IBM Db2
- IBM Netezza Performance Server
- MySQL
- Oracle
- PostgreSQL
- Trino
- Presto
- SAP Hana
- Snowflake
- SQLite
- SQL Server
- Teradata
- Vertica
2 ~+ t) r5 P! @; a9 G7 x0 y: [1 {6 O+ [0 d/ r
图2.2.0 Apache Superset支持的数据源
2 \( W+ I9 b! Y; k- 多姿多彩的可视化图表,Apache Superset拥有非常丰富的图表,来实现不同的可视化需求,如图2.2.1。
3 U: [! \ \" ]3 H, M/ O0 h; _# c6 t& H
图2.2.1 Apache Superset支持的图表
! X) E' S8 o8 n* D6 O. E+ h- Data:主要功能是新增数据源和数据集Dataset(旧版本也叫Table),Dataset作为数据图表可视化的基础;
- Charts:图表,就是针对准备好的Dataset数据集,选择一款合适的图表呈现;
- Dashboards:仪表盘,其实就是报表、看板大屏展示,可以将多个Charts组合到一个仪表盘内一起展示。
- SQL Lab:SQL实验室,其实就是一个类似DBeaver、Navicat、DataGrip等一样的多功能数据库连接客户端,但是只有查询功能,配置驱动和连接后可以进行数据库、表、字段等模型的SQL查询操作。
- 设置:语言选择,登录注销、人员权限,操作日志等设置;
! F5 b- k0 u, G1 U2 ?
图2.2.3 Apache Superset使用预览
* P+ e, q- Z+ W4 | b6 ~+ i2.3 对比Metabase- 天生自带支持的数据源Apache Superset完胜Metabase;
- 数据图表形式Apache Superset完胜Metabase;
- 操作界面美观丝滑度Apache Superset稍逊Metabase;
- 托拉拽操作Apache Superset稍逊Metabase;" {* F" R9 l8 D* u9 y
向来博主都是鱼与熊掌能兼得就兼得,毕竟小孩才做选择嘛,可以考虑两个都装,Metabase用于专注业务数据需求人员,Apache Superset用于懂SQL的数据需求人员,二者生成的通用仪表盘,则可以利用一个统一的网页超链接到一起,形成一个统一的报表平台。 3. 快速上手 这里先快速上手带大家体验一把,细节后续章节细讲,首先配置好数据库连接(配置方法参考后续的 5.1 新建Databases(数据库)),然后打开SQL Lab,选择好配置数据库,写SQL语句分析探索数据,如图3.1.0,然后运行语句,得到数据结果,可以点击保存将常用的探索SQL保存下来,然后点击查询结果上方的EXPLORE按钮,就可以跳转图表分析图3.1.1;
& R' n6 x# z: Y6 H' E, H
: `% T: h& f9 R! r: C1 P# b! Z图3.1.0 Apache Superset在SQL Lab上探索数据 % h: n$ I9 S) L+ ]( T
利用SQL Lab探索得到的数据集,选择合适需求的数据图表,选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表; 6 {/ b& X" C3 E6 b1 k
) T; j& c2 M7 ]. f: g
图3.1.1 Apache Superset数据可视化
! c4 N/ ^$ ^3 F; S7 H6 U 新建Dashboard,然后编辑Dashboard,将之前生成好的Charts(图表)拖拽到Dashboard,就完成了数据仪表盘的最终呈现,然后就可以分享给需求方,也可以生成访问链接分享。 注意:拖拽时尽量往Dashboard的上面拖拽,会出现一条蓝色的分界线就可以松手,否则可能出现无法拖拽的情况,这个设计很坑。 图3.1.1 Apache Superset数据仪表盘呈现
8 C9 o! p# u. c1 K; j4. 部署安装4.1 部署方式及版本- 支持Linux、Windows、Mac的Docker部署
- 支持Linux、Windows、Mac的Python环境代码部署
- 可以在github,官网、或者国内镜像网站查看版本,但是别先下载,因为Apache Superset依赖包很多,最好能在线安装;
/ U4 l' ~) L' N* z) e8 @- | n' u" ~6 d5 n/ }
图4.1.0 Apache Superset版本预览
5 i3 B! {7 ?- U- 博主选的是apache-superset-0.38.1.tar.gz在Linux上的Python环境代码部署。
" A, X8 U5 Y' C) F3 h 4.2 配置需求- apache-superset-0.38.1.tar.gz
- CentOS 7 16核 32G(非硬性,一般性能的服务器即可)
- Python 3.6
- 要求服务器网,如果没有,可以使用能联网的代理服务器,依赖很多,采用在线安装的形式8 q C4 M+ S: p: a& m- K1 |
4.3 下载安装- 下载安装Python3.6,可以选择安装anaconda集成的python,可以参考博客Linux通过anaconda来安装python,对应的版本是Anaconda3-5.2.0-Linux-x86_64.sh,下载传送门:Anaconda Download;安装好以后,如果老的服务器上存在python2,默认的环境变量启动是python2,没关系,只需要设置一个新的环境变量确保 python3启动是刚刚安装的版本即可。
- 安装python虚拟机,并启动,然后安装Apache Superset。
( U% O& S8 G- X 2 k5 P3 B8 K v3 P0 o" N
- # 切换到自己安装软件的目录,博主的是在/usr/local/tools,并新建superset目录
6 T3 i0 h+ i2 z - cd /usr/local/tools0 q3 w7 A' R/ D) p$ Q+ z
- mkdir superset
7 i/ v" G! {# C6 |# @) u' O: C - cd superset
% s) x6 U3 h% C% f - 5 A/ g* K; [1 X' a E* p4 `7 T( j
- # 安装虚拟机,有网就不需要的代理服务器,配置代理服务器10.212.18.34:3129方法:' T( `$ ^/ z1 o! j
- # 写入配置文件 /etc/profile里面追加0 o( t# @( S+ }4 V6 g
- # export http_proxy=10.212.18.34:3129
) U: C2 U! m; ?' }9 r6 d( P. T - # export https_proxy=10.212.18.34:31297 m# o- A* D: X3 n( d2 b6 a
- # 然后wq! 保存退出,source /etc/profile刷新配置文件
2 y; ]5 b1 R8 I% { - # 安装完可以删除代理,记得再source /etc/profile: `7 F- ]3 G: B9 \! `
- # 如果不想配置/etc/profile或者无权限,可以采用以下命令
0 @" a. a/ T. A, _" b - # pip install virtualenv --proxy=10.212.18.34:3129,每次都需要,烦
; H+ Q% Y0 N9 v/ | - pip install virtualenv8 e- i# @- o" \4 n: C# d2 O
- ; n+ F. L: F2 N- c& n) ~0 P
- # 配置命名虚拟机' L0 a5 A9 M0 \; v$ m$ n( ?; ^0 Z
- python3 -m venv venv2 B+ Q/ [$ Y+ v4 |
. U1 p$ S; l, w7 ~$ S% o& w. f# s- # 启动虚拟机,会在当前目录下自动创建venv目录
, B% W/ k, U/ o1 \3 v4 w- f - . venv/bin/activate
: L. ]5 [* P- _ - 5 Y) b0 c1 J0 K9 E/ u3 {
- # 退出虚拟机指令,但是这里不需要退出
( l0 {. n% M/ L; M - # 退出虚拟机指令,但是这里不需要退出
, q0 w3 b" X- j' {+ z/ b8 d - # 退出虚拟机指令,但是这里不需要退出
% Q2 z2 A2 d* c* L- w+ W. ] - deactivate" \% [* K# C- `. `. C) L
! t! T' ^% S6 j8 M6 n2 o- # 安装更新一些依赖 w" S3 P" P4 X! h
- pip install --upgrade setuptools pip -i https://pypi.douban.com/simple/
# [( f ?8 S( {: O - 9 |) R$ {; x( Z9 g0 N* }7 U" L
- yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel
* i3 C5 Z( N1 A- \5 x1 X# n- c4 O7 F
6 ?6 N( ]) v% g" Z$ L- # 如果报错:GPG key retrieval failed: [Errno 14] curl#37 - "Couldn't open file /etc/pki/rpm-gpg/RPM-GPG-KEY-EPEL-7"
$ W, ]4 O7 t1 m - # 解决:1 d+ i7 h; p* r# C2 x# ~
- vi /etc/yum.repos.d/epel.repo" P, ?1 g1 N7 g- c3 d
- gpgcheck=0( B# k' s0 C2 e1 T7 Q
- # 然后wq!保存再试一次yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel
( t# X& y. M! w( v$ g% P) j [3 Y - 3 Z O' S; V! J
- # 先用官网下载,因为官网的会自动把依赖也给你一起安装了,实在不行再用其他网站的镜像
2 S, B3 F) h' }& C - pip install apache-superset==1.4.2
. T4 J, S+ x4 `4 }4 L% U, X - 5 O8 `, G( e- l( r5 c) j
- # 安装superset,指定版本,不指定版本默认是最新版本+ s% l2 ]( f% Z
- pip install superset==0.30.1 -i https://pypi.douban.com/simple
! Y. c; C' l9 J" Q - m8 a; f$ c0 M
- # 安装email_validator
. ]2 ]% Q* E k! X9 j. B4 m: \6 Z9 j - pip3 install email_validator -i https://pypi.douban.com/simple/
9 @) P" Z% V/ Z% {% H X
' Z* ?- B$ f3 Y, }8 p) P. d- # 更新数据库9 d+ S; F0 O) t
- superset db upgrade
4 U7 S/ m* I& q - 5 W( k, e4 y- [5 {7 i; w
- # 创建admin的用户名,用户名随便写,bigdata123,admin都行,写完用户名后会让你输入姓,名,邮箱,这三项可写可不写,不写就直接回车,然后是设置密码,一点要写。
/ r; ^: f1 H+ i! \! k" u! @1 M - export FLASK_APP=superset; U' H8 c0 q! I5 B" t
- superset fab create-admin
# ?6 L8 L, U8 @( r8 L: E - 9 i4 g \# g' ~) W
- # 加载样例数据,考验网络,如果实在一致加载报错就放弃,不影响后续使用。
+ Z3 w; D: [: i3 M. C - superset load_examples
1 t. T! @5 [' P0 n& x2 i) {
2 Y/ C6 ~( z4 ^" c# g4 ^- # 初始化 s+ w0 @. R: z+ Z9 ]6 Q- J$ ~
- superset init& U3 j& {; i/ |# F# o0 _+ H5 _9 M2 u
% A: k. z0 r, p* w0 B5 B- # 启动,官网是superset run -p 8088 --with-threads --reload --debugger5 l: H, v/ A) D4 W8 W7 ]& f, y
- # 建议用gunicorn启动,方便快速,先直接启动,确保打印在客户端的日志正常
4 x" g5 U9 \2 \0 E" j3 P - pip install gunicorn; t1 H1 S* }3 Y W6 Q
- gunicorn -w 5 --timeout 120 -b 10.218.10.290:9089 "superset.app:create_app()"
9 i. j8 }( H' L7 h8 q - 0 E0 f6 U" t5 u3 ~! Y' U% Y' v
- # gunicorn 是一个Python WEB服务,可以理解为Tomcat
* V; U5 ~' J9 e1 j1 s' p$ v0 p - # -w WORKERS:指定线程数6 [4 \: B1 V* F3 l/ d; k
- # --timeout:worker进程超时时间,超过会自动重启
$ g% x! a( a, `( D - # -b BIND:绑定Superset访问地址4 {+ ~7 y3 f" a- g8 x9 y. p Z3 Y
- # --daemon:后台运行: d' j1 W1 S" [* F+ B
: j% Q& s) r; r; [! V- # 在能访问10.218.10.290:9089的服务器上打开浏览器,输入刚刚登录的用户名,密码即可。( }$ w9 k: ^2 x$ q+ g- J1 x
- $ Q3 v6 h+ Q% v) `9 u/ J
- ) }# j7 G" c8 C8 ]
- # 如果没开启后台停止,直接ctrl+c关停$ V+ [8 z: y6 m# o
- # 后台进程停止gunicorn+ k9 r* t( ~) j1 J6 q% y9 m1 M( D
- ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码 : K+ v4 t! q9 R+ R
" F2 j1 B( q6 J d" x7 E# ?( U
4.3 安装注意及排错 pip install superset步骤时出现关键字眼Successfully installed证明正确安装,如图4.3.0;
7 ?$ x/ u* p1 |
; `2 a0 L. F7 m" ^5 o! K0 |8 ]图4.3.0 成功安装的提示 7 F4 X. ~& D* w( C4 A* X
superset fab create-admin配置用户名时提示如图4.3.1。 图4.3.1 配置用户名时提示 5 I) u# B8 C4 h9 J, ], a
每个人的服务器环境,可能导致缺少的 依赖不同,途中如果遇到bug,可自己百度解决,基本都是python依赖包之类的问题,要耐心。 - # 报错- h6 X9 V# R: G2 _% t* i
- ModuleNotFoundError: No module named 'dataclasses'
: N) r, o7 i. c8 C5 `
3 U3 d7 u C7 }! e- i- # 解决7 u$ \" p+ r3 o* c* y
- pip install dataclasses
- M$ W7 x3 D* E4 A) `; x# `4 F
+ e+ `, c& w" Z% P2 y3 i7 g/ ]- # 报错( r( i6 v7 f% B0 ^) ^% Z" d3 d9 E# A
- No PIL installation found
{& m3 J3 o1 l( ~# |/ G V3 e - # 解决4 |7 X3 {6 N) c3 Q) a( c
- pip install pillow
) v8 s( T+ \) w
复制代码
" X: A# n1 R0 X( t# J3 I" X' Z9 u 一切解决后,网页登录如图4.3.2; 图4.3.2 登录首页4.4 启动与关闭 2 T* V# w* q7 t* o$ t3 F
官网提供的直接启动的方法不是很好,博主推荐一个采用gunicorn的方法,先关停superset。 & T& _/ a. B9 @4 S& v8 o3 j
" R4 Z; l# K* `/ d$ h4 O- % V8 ~" n5 G4 @4 H' s# b! i% \2 l6 @
- #安装好superset后会在venv生成很多文件,切换到venv
! g* }! y9 v1 T% J1 O1 Y8 P0 R - cd /usr/local/tools/superset/venv/
6 E" w& d9 c* _5 ]& c - , G1 g# m/ z; T! `2 H9 k
- # e( \! R7 C, e2 _8 ?4 G
# I) I' z5 j: g+ y- #新建日志文件夹
w' `8 D) ?5 Y - mkdir log! C5 K2 v9 K# h
2 G* l( e5 [$ O0 s2 q8 v# d* Y6 V- #切换到log目录,新权限 日志,错误日志和启动pid文件, h/ P1 m0 D$ n. @5 S6 q7 ]2 `
- cd log' N0 Z8 D, @1 C% B& w6 p& Q5 k# y2 c( R
- touch gunicorn_access.log5 e/ p& U! d, I2 `- j
- touch gunicorn_error.log
$ D* F) S5 U" \# o - touch pidfile
! l @- Z% `: Z, N - chmod 755 ./* #修改权限. [7 e: S& K/ j
- 8 O! N" r/ E( d1 K5 |, I
- #切换到/usr/local/tools/superset/venv/bin,写一个gunicorn配置文件,python语言! u- Y$ i0 v- M
- cd ./usr/local/tools/superset/venv/bin) [! j! Y- l2 Y# ^8 @* F% B( ]8 M; q
& d5 H( m, W/ c$ W& B' k+ K- I
6 T& A* P% H1 X1 @9 b* g& k6 z- vim gunicorn_config.py # 内容如下2 n+ W+ n, Q+ p# C+ f) B
: U; {$ m% w! b( ]8 G: b) Q- #内容开始
7 S; p% ]# T# N* G - import multiprocessing
k$ q# {8 Y. A - 9 n$ M* |: c3 F5 d
: n% f* @* [9 B. s6 w- bind = '10.218.10.290:9089' #绑定ip和端口号6 L2 K8 t' z0 }. i ]# o
- backlog = 512 #监听队列) G# F# c# p* Y, m, X' |$ \
- timeout = 30 #超时
! x1 p8 s% C; f, p0 r - worker_class = 'gevent'( @3 N1 I. A# V) n) c
- workers = 5
K. C$ ^4 E+ Q5 |; Z - worker_connections = 1000
6 x+ y( u0 F5 j2 T5 m - threads = 2 #指定每个进程开启的线程数2 ^7 B0 K# P J, L" b
- loglevel = 'info' # 日志级别
9 i% c4 b8 h& R7 X4 K$ G - access_log_format = '%(t)s %(p)s %(h)s "%(r)s" %(s)s %(L)s %(b)s %(f)s" "%(a)s"' #设置gunicorn访问日志格式,错误日志无法设置
% x- }/ I1 g' s! {; F. |, E" U- x6 T - ! t t: T2 N% `3 |" V, l% m- C9 U! m3 f
- 0 Z. T5 H, U& P
- 3 h+ q' s) B$ h& Y- t" w
- pidfile = '/usr/local/tools/superset/venv/log/pidfile'' s$ X6 p! }. E! |) s" g- L3 o
- errorlog = '/usr/local/tools/superset/venv/log/gunicorn_error.log'
' `# L2 s0 d6 z' A. P. r% y' P8 j - accesslog = '/usr/local/tools/superset/venv/log/gunicorn_access.log'
! O! J" d/ W$ v0 O8 m0 i
`3 ^- ?# @9 V" g# B- print("IP and PORT:"+bind)% A3 U* G0 d# n$ _8 p( S
- print("pid_file:"+pidfile)% v7 ~3 p8 Z1 K
- print("error_log:"+errorlog) o! e5 k! W; |0 `* Y8 B V
- print("access_log:"+accesslog)
' e$ A x" h* [# m - ) D% J" t. t+ f, {* t
- #内容结束9 `6 t. v* g a! P. A
; H5 C1 `& E6 l/ \/ g; C- #然后 wq! 保存退出
9 _2 R7 e2 y# H
+ {% [* b5 u6 j5 b, ]1 ]! J9 e v- # gunicorn 启动 -c 配置文件启动;--daemon后台启动,日志可以去配置文件指定的路径查看
9 q' Z4 u! o2 r6 A0 u - gunicorn -c ./gunicorn_config.py "superset.app:create_app()" --daemon
2 Z9 y/ u* m8 m4 p/ z: K - % }/ \' M3 T/ e7 D; F
- # 后台进程查看
C$ n* w- m. m3 v* [ - ps -ef | grep gunicorn- [; |. C+ M( o. B+ E K
7 O# A1 k1 i% I* }1 F- # 或者通过端口查看- j. @# w1 }# u# F
- netstata -tunlp | grep 9089
2 s5 m e4 H4 R* h1 j8 o - # 或7 ~( M9 j. J9 M2 @
- ss -anp | grep 9089
; T" S9 z: w1 N - / G2 q$ U p2 @6 r2 ^' c, e$ a
- # 如果没开启后台停止,直接ctrl+c关停9 _' ^& r1 G+ o. L4 v/ U' l
- # 后台进程停止gunicorn
. m# i6 E7 M/ e) ^5 v- ?+ C3 n: B+ q" V - ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码 ; G/ I3 d: d. \3 p2 f
5. 用户手册(重点)
# j4 i1 x5 X" \0 ?; w6 \. o! O9 J* k! ]- ^) y8 J
5.1 新建Databases(数据库) 新建数据库之前,需要先安装该数据库的python驱动包,具体语句可以参考官网 Database Drivers,如图5.1.0,一般就是pip install XXX,安装好驱动后,记得重启下Superset服务; 新建数据库连接的作用是为数据集Datasets和SQL实验室SQL Lab提供数据库、表的选择,就是提供数据源,当然Data下还有个Upload CSV(最新版本也支持Upload Excel)也可以直接将本地的CSV文件作为数据源上传到Superset站点,直接进行数据探索分析。 图5.1.0 数据库驱动以及连接字符串 9 U' J8 z9 S( a$ L. ^
登录进Apache Superset后,点击Data,下来选择Databases,然后跳转到图图5.1.1,点击右上侧的+号就可以跳转图5.1.2的数据新增配置界面。 图5.1.1 新建数据库连接 , K0 Q4 B8 F' b L2 Y/ y5 w
图5.1.2,Database是指的新建这个数据库的显示名称,这个随便取,合理即可,SQLAlchemy URI 这个地方就是之前图5.1.0上的数据库连接字符串,确保和你选择的数据库类型一致。
+ @9 i% ?, r- a$ e6 _& r然后点击TEST CONECTION,连接成功后会跳出Seems OK!的弹出框,记得滑到最下面,点击保存,如果连接不成功,请检查数据库的实例,端口,用户名,密码以及自己部署的Apache Superset的服务器访问数据库的端口网络时是否能通,当然也不要忘记SQLAlchemy URI 填写规范,保存后的数据库连接就会列举在图5.1.1上。 2 O( U. T0 |' y! r2 U* r
0 z$ i# Z2 W8 B7 \
图5.1.2 新建数据库连接配置信息 8 i. ~: E4 R$ u. t" N
5.2 新建Datasets(数据集,老版本也叫Tables) 图5.2.0 新建数据集 % x- |6 Z$ D; R; w- l4 b
如图5.2.0,点击图中的Data下的Datasets,然后点击+号,跳转到图5.2.1,将配置好的数据库名下拉选出,写一个该连接实例下的数据库,然后选择一张表,点击保存即可,保存好的数据集会列举在图5.2.0中,这些知道为啥老板叫Tabels了吧;4 Z; k- [' B% g, s5 A2 R1 w; g
数据集的作用是为后续的Charts(图表)数据可视化作为数据源头。 图5.2.1 新建数据集配置信息
9 P* A+ p S! u5 m! `$ G5 H
' G+ V( |+ g6 W1 L# k) v5.3 SQL Lab(SQL实验室) SQL Lab其实就是一个数据库查询客户端,利用SQL语句对数据库的表,字段模型进行查询探索,同时支持智能补全,当然SQL Lab的查询结果也可以直接EXPLORE到Charts(图表),作为数据可视化的数据源。( w9 Y# U6 w5 K
如图5.3.0,SQL Lab有三个选项,三个选项的功能如下: - SQL Editor:进行SQL查询探索
- Saved Queries:保存的通用查询SQL
- Query Search:查询的历史记录
5 S1 u0 h) `6 i6 r" f, v9 ?) S4 t/ H
图5.3.0 主界面进入SQL Lab 9 S! p! D0 a. G
点击SQL Editor进入图5.3.1的SQL查询探索,左侧上方是配置好的数据库连接名和选择的数据库,左侧下方是将要用到的表及字段模型;右侧上方是写SQL语句的地方,支持RUN(查询),RUN SELECTION(查询鼠标选择局部语句),SAVE(保存),SHARE(分享)等,右下方是数据结果,支持EXPLORE到Charts(图表)可视化,.CSV下载,CLIPBOARD(复制到剪贴板)。 图5.3.1 SQL Lab使用
, m7 Q" M3 }( ^$ G: k' }- t# y5.4 创建Charts(图表) 图表的作用是数据可视化,利不同的图表满足不同的业务需求,图表同时也作为仪表盘的展示的一部分,一个仪表盘内可以展示一个或多个图表。
0 a' s% A5 f. l, h 创建图表的方式有两种: - 如图5.4.0,点击Charts,点击+创建新的图表,跳转图5.4.1
- 在SQL LabSQL语句探索查询的结果直接EXPLORE到Charts(图表)可视化! g# z, s. S2 a( I9 m
图5.4.0 创建图表
0 t$ ?6 T8 W8 o$ r' E* N4 H 如图5.4.1,选择合适需求的数据图表(如图5.4.2,支持的图表类型非常丰富,号称最漂亮的可视化图表展示),选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表; $ J: g3 o+ U- p
7 P% ]" \3 S7 J& v: f& Z2 _; `$ C) U. [图5.4.1 图表可视化配置
- ]4 X$ }! W% b7 O! a 号称最美可视化展示,支持可视化的图表类型确实丰富多彩,应对各种可视化需求。 % S j( V( V2 ~/ f/ ~7 y& |! M$ k! S
7 B) H' X' {2 a' _
图5.4.2 支持的图表类型 7 ]" \" S! l/ i- U
5.5 创建Dashboards(仪表盘) 仪表盘就是最后的数据总体呈现,即报表展示。 如图5.5.0,点击Dashboards,然后点击+新建仪表盘,跳转图5.5.1。 图5.5.0 创建仪表盘
- d9 ]9 a5 ~/ w/ s/ Q 点击图5.5.1右上角的编辑仪表盘,之前做好的Charts(图表)拖拽到仪表盘上,注意:第一次拖拽的时候尽量网上拖拽,知道出现这个条蓝色的分解线,否则 无法拖拽过去; 同时也支持一些通用的组件,图表旁的Components下,有Header、Tabs、Row、Column、Markdown、Divider; n2 f# y4 `! H* G3 S
编辑完后后记得点保存。 图5.5.1 编辑仪表盘 ; u6 S8 j( ]0 Y- @: Q+ w
保存后的仪表盘支持分享,下载等功能,同时也会根据图表内的数据源刷新来获取新的数据;
7 _- O/ v) u: w" }; r
# n1 o" l% s% g% A {图5.5.2 仪表盘功能
* f6 u Y9 p9 [3 ?* J% ^, e2 j, U 分享给别人看到的仪表盘如图5.5.3。 图5.5.3 分享后他人视角的仪表盘 8 T) f$ g c8 s2 G! f0 E
6. 设置 设置包含在菜单栏Settings下,主要设计权限和操作日志等模块,接下来分别讲解。
* O. m4 w- L# @4 ~ a! c: T* J4 R8 X' M9 L
图6.0.0 通用设置
; B2 Q2 z* [. V$ f6 v* L$ X ~" J \/ ^& |0 n
6.1 角色列表及权限 Apache Superset中的安全性由Flask AppBuilder(FAB)处理,FAB是一个构建在Flask之上的应用程序开发框架。FAB提供身份验证、用户管理、权限和角色,可以查看其相关文档。
4 T! H5 ?3 i* a' _8 x" P Apache Superset默认提供了不同的角色,每种角色拥有的权限不同,在运行superset init命令时,与每个角色关联的权限将重新同步到其原始值,不建议更改与每个角色关联的权限(例如,通过删除或添加权限),支持admin再自建角色类型,指定想要的权限,默认的角色及权限如下; - Admin:管理员拥有所有可能的权限,包括授予或撤销其他用户的权限,以及更改其他用户的切片和仪表板;
- Alpha:Alpha用户可以访问所有数据源,但不能授予或撤消其他用户的访问权限。它们也仅限于改变它们所拥有的对象。Alpha用户可以添加和更改数据源。
- Gamma:Gamma用户的访问权限有限。他们只能使用来自通过另一个补充角色访问的数据源的数据。他们只能查看由他们可以访问的数据源制作的切片和仪表板。目前Gamma用户无法更改或添加数据源。我们假设他们主要是内容消费者,尽管他们可以创建切片和仪表盘。另请注意,当Gamma用户查看仪表板和切片列表视图时,他们将只看到他们有权访问的对象。
- sql_lab:sql_lab角色授予对sql lab的访问权限。请注意,虽然管理员用户在默认情况下可以访问所有数据库,但Alpha和Gamma用户都需要在每个数据库的基础上获得访问权限。
- public:要允许注销的用户访问某些超集功能,需要自己配置权限,并将其分配给另一个角色,您希望将其权限传递给该角色。
( U5 ]& N9 K6 \* o: x8 H
更多的角色权限可以查看官网 Apache Superset Security,或者点开图6.1.0的编辑角色查看,尽量别改默认角色的权限。 1 h) w- O8 x- e' Q, H& Y& g
; _4 ?& h6 Q9 `0 Q M7 n9 R
图6.1.0 系统默认角色 & n0 z# ?2 Y6 t3 J& R1 O1 A9 W
同时Apache Superset也支持管理员自己新增角色,如图6.1.1,新建角色并指定角色权限。 ! g( t4 m* U; n; l: p
( u5 [* R; u7 ^& t( V图6.1.1 新建角色
) ]% k* ~7 H- c- e* @$ l
; n% w# R" G. D% y6.2 用户列表 新建、编辑用户指定角色,用户的权限是绑定在角色里面的,一个用户可以有多个角色,配置信息如图6.2.0。
" L8 o: s( T; i/ |# a4 J7 u+ Q+ j6 V
- \# s, `0 _; s) D9 c! {# D图6.2.0 新建、编辑角色
4 o7 V$ w2 y7 O8 i( E1 {% @# Y" E$ G8 ]
6.3 操作日志 操作日志记录的是在你的Superset平台上不同用户的行为日志,如图6.3.0。 图6.3.0 行为日志查看
# {1 v& {3 f$ H1 o7 l& M2 l- k
3 n$ l0 ^" [% J9 j9 d6.4 用户信息、退出、版本信息 菜单栏最右侧的个人信息,主要是包含: - 用户信息:修改用户姓名,重置密码;
- 退出:回到登录主界面;
- 版本:目前您安装的Superset版本信息。
! t" i9 ^" t6 P/ M0 a: x' t1 k5 w& u" H* ?% A/ _% ]0 p" ~
图6.4.0 个人信息模块
2 P; t3 @4 K8 R0 Y. F5 Q7 c
* W- s7 E, P5 ]9 _7 {6.5 语言选择 作为Apache的顶级项目,自然是运用于全球的,支持世界上一些通用的语言 ,选择一款你最喜欢的即可。 图6.5.0 语言选择
& H) e) I6 p/ N& A6.6 管理设置 针对仪表盘,图表渲染加入自己想要的风格和模板,实际运用的用的不多。
: ?+ k& v8 A9 `
( h% _; Y. Z/ ~ s- m9 D, g图6.6.0 管理模块
- ^5 M4 i9 H5 ]% A& G+ s6.7 + NEW 菜单栏的+ NEW其实就是给最通用的三个模块SQL Query、图表、看板(仪表盘)的一个快捷方式,此三者的用法就不在累赘了。 图6.7.0 + NEW模块
; h3 P* z7 p" ]9 @9 K e
) w S+ W+ S- r3 I2 P, x2 A+ f3 |1 ^* b
原文来源: https://blog.csdn.net/LXWalaz1s1s/article/details/119061337
# j* G# z# R8 ?3 d |