目 录- - B2 s9 k. Y0 v5 Y0 v( i2 B
5 V) W3 P6 z) }5 m1 {' M7 ~$ h7 y/ m# g1 ^- }/ t
1. 需求背景1.1 大数据可视化面临的挑战 大数据的兴起,关于数据的存储、计算技术层出不穷,但是最终的数据可视化呈现,数据的探索,也成为颇为重要的一环,这一块并没有像存储、计算技术栈那么百花齐放,大家在做大数据可视化时是否也曾有这些困惑呢? - 传统的可视化对接传统数据库,对大数据组件的hive,spark,presto、elasticsearch、clickhouse等兼容性差,甚至不兼容,每次还需要多一道将大数据集群数据分发到传统数据库的冗余操作;
- 商用产品昂贵、甚至产品设置技术壁垒,很多甚至要求对接该商家的自己的大数据技术方可对接;
- 群众基数大的Excel拖来拽习惯、SQL操作的方便性,排斥自成一派的新技术,网页版账号登录优于用户下载客户端登录;
- 公司开发人员配置紧张,没有多余的人力自研大数据可视化平台,但是决策层希望有一个统一的可视化平台。
8 l! G7 m& \8 Q4 U; j6 ]
诸如此类,确实令人头疼,现在就推荐一款解药Apache Superser——开源的大数据分析探索、可视化报表的神器。 1.2 大数据数据可视化的目标架构
; h* a9 M1 i$ K9 R5 m) R) r& J# [3 o6 b" |' f" z2 `
图1.2 大数据数据可视化架构
( \; z7 k2 k8 t# {% \8 Q \4 g 做事还是需要立一个目标架构,最后所有的事情都是围绕目标架构展开,才能越做越轻松,如图1.2,可是架构分为三个梯队; - 第一梯队:ClickHouse、DorisDB、Kylin等优秀OLAP技术做存储,利用自带的连接引擎,快速响应,同时支持实时数据和离线数据的接入,外接可视化平台,通过权限管控后呈现给用户;
- 第二梯队:数据存在数据仓库Hive内或者NoSQL的Hbase,再通过较为优秀且高效的引擎Presto、Flink、Spark等接入可视化平台,通过权限管控后呈现给用户;
- 剩下就是一个特殊的,如MySQL,临时文件等文件的接入;
( n. d0 ?2 N, J. V1 k4 ?
注意:常用的也还有其它技术架构,如ELK架构,ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成。Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。 Logstash是一个完全开源的工具,他可以对你的日志进行收集、分析,并将其存储供以后使用(如,搜索)。 kibana 也是一个开源和免费的工具,他Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志。这个后续再讲,这里书归正传,先讲讲Apache Superser。 2. Apache Superset简介2.1 Apache Superset是什么? Apache Superset是一款由Python语言为主开发的开源时髦数据探索分析以及可视化的报表平台;她支持丰富的数据源,且拥有多姿多彩的可视化图表选择。 3 ]* t0 ] X0 L( D0 c
3 f K6 n' H1 a8 c* y P, @) q
3 g7 h6 l- F+ @% t& H% V6 T8 u8 G7 J1 Z3 U
图2.1.1 Apache Superset定义
5 A# @1 H8 I- B3 t2.2 为什么选Apache Superset?- 支持丰富的数据库作为数据源,基本上平时用到的数据库都支持;如图2.2.0,支持的数据源有:
" L, D- H3 J7 l# N: X
- Amazon Athena
- Amazon Redshift
- Apache Drill
- Apache Druid
- Apache Hive
- Apache Impala
- Apache Kylin
- Apache Pinot
- Apache Solr
- Apache Spark SQL
- Ascend.io
- Azure MS SQL
- Big Query
- ClickHouse
- CockroachDB
- Dremio
- Elasticsearch
- Exasol
- Google Sheets
- Hologres
- IBM Db2
- IBM Netezza Performance Server
- MySQL
- Oracle
- PostgreSQL
- Trino
- Presto
- SAP Hana
- Snowflake
- SQLite
- SQL Server
- Teradata
- Vertica
0 b1 \9 }; Y$ `" U" t0 y9 ?4 T2 T% Y1 w
图2.2.0 Apache Superset支持的数据源 9 s5 G3 a1 o7 B6 D0 h# J6 ?, l
- 多姿多彩的可视化图表,Apache Superset拥有非常丰富的图表,来实现不同的可视化需求,如图2.2.1。: w+ E% i( u0 |, V7 u* w( K8 `
* v" j' k* p3 o2 ~+ R3 q
图2.2.1 Apache Superset支持的图表
& n3 ]* G5 H" o2 I1 ~) \0 A& T0 O- ^- Data:主要功能是新增数据源和数据集Dataset(旧版本也叫Table),Dataset作为数据图表可视化的基础;
- Charts:图表,就是针对准备好的Dataset数据集,选择一款合适的图表呈现;
- Dashboards:仪表盘,其实就是报表、看板大屏展示,可以将多个Charts组合到一个仪表盘内一起展示。
- SQL Lab:SQL实验室,其实就是一个类似DBeaver、Navicat、DataGrip等一样的多功能数据库连接客户端,但是只有查询功能,配置驱动和连接后可以进行数据库、表、字段等模型的SQL查询操作。
- 设置:语言选择,登录注销、人员权限,操作日志等设置;
% m) ^ x3 A( n4 H @7 k/ m
图2.2.3 Apache Superset使用预览 1 i2 ^3 X+ v6 @, r* f
2.3 对比Metabase- 天生自带支持的数据源Apache Superset完胜Metabase;
- 数据图表形式Apache Superset完胜Metabase;
- 操作界面美观丝滑度Apache Superset稍逊Metabase;
- 托拉拽操作Apache Superset稍逊Metabase;8 `4 C0 Y0 g4 c) ~; H
向来博主都是鱼与熊掌能兼得就兼得,毕竟小孩才做选择嘛,可以考虑两个都装,Metabase用于专注业务数据需求人员,Apache Superset用于懂SQL的数据需求人员,二者生成的通用仪表盘,则可以利用一个统一的网页超链接到一起,形成一个统一的报表平台。 3. 快速上手 这里先快速上手带大家体验一把,细节后续章节细讲,首先配置好数据库连接(配置方法参考后续的 5.1 新建Databases(数据库)),然后打开SQL Lab,选择好配置数据库,写SQL语句分析探索数据,如图3.1.0,然后运行语句,得到数据结果,可以点击保存将常用的探索SQL保存下来,然后点击查询结果上方的EXPLORE按钮,就可以跳转图表分析图3.1.1;
/ F3 l* d; ]( p- F$ g( d. T6 u
2 U, i U/ j% ]+ B/ L图3.1.0 Apache Superset在SQL Lab上探索数据 ' _1 d( E. w9 l% |+ I; `$ x
利用SQL Lab探索得到的数据集,选择合适需求的数据图表,选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表; ' ^ N y& u( Z! o g
% Y1 P4 a; s% B% f
图3.1.1 Apache Superset数据可视化
* E' R$ f1 x/ {6 {: _! P$ N8 p 新建Dashboard,然后编辑Dashboard,将之前生成好的Charts(图表)拖拽到Dashboard,就完成了数据仪表盘的最终呈现,然后就可以分享给需求方,也可以生成访问链接分享。 注意:拖拽时尽量往Dashboard的上面拖拽,会出现一条蓝色的分界线就可以松手,否则可能出现无法拖拽的情况,这个设计很坑。 图3.1.1 Apache Superset数据仪表盘呈现 1 h: h* E/ G( y( m( P+ G
4. 部署安装4.1 部署方式及版本- 支持Linux、Windows、Mac的Docker部署
- 支持Linux、Windows、Mac的Python环境代码部署
- 可以在github,官网、或者国内镜像网站查看版本,但是别先下载,因为Apache Superset依赖包很多,最好能在线安装;
. x% n* d4 D7 S7 h+ T6 Z( u" B3 }* g( v( `% X. b
图4.1.0 Apache Superset版本预览
0 L8 p7 Z6 g; _! \! w- 博主选的是apache-superset-0.38.1.tar.gz在Linux上的Python环境代码部署。* ?# }( f6 }8 T- ^8 p; t& x! t
4.2 配置需求- apache-superset-0.38.1.tar.gz
- CentOS 7 16核 32G(非硬性,一般性能的服务器即可)
- Python 3.6
- 要求服务器网,如果没有,可以使用能联网的代理服务器,依赖很多,采用在线安装的形式
4 \, W- f; m) b- X( H7 \8 m- q 4.3 下载安装- 下载安装Python3.6,可以选择安装anaconda集成的python,可以参考博客Linux通过anaconda来安装python,对应的版本是Anaconda3-5.2.0-Linux-x86_64.sh,下载传送门:Anaconda Download;安装好以后,如果老的服务器上存在python2,默认的环境变量启动是python2,没关系,只需要设置一个新的环境变量确保 python3启动是刚刚安装的版本即可。
- 安装python虚拟机,并启动,然后安装Apache Superset。( W' I! q' d6 z6 |, b0 U
" T1 D' a- k7 o/ t- # 切换到自己安装软件的目录,博主的是在/usr/local/tools,并新建superset目录
( Q1 \% Y2 S0 Y2 @$ N7 d - cd /usr/local/tools
1 ]" ]" H* C7 } - mkdir superset
4 N9 V0 ~1 ]. C' D - cd superset
3 Z1 q# A" v5 U7 J: u4 o
3 `6 `* J" b; R( z, V4 B8 E6 r7 b. u- # 安装虚拟机,有网就不需要的代理服务器,配置代理服务器10.212.18.34:3129方法:
$ H* |6 f- ^3 y$ C - # 写入配置文件 /etc/profile里面追加% q6 o! _/ J2 ?* N- n, @
- # export http_proxy=10.212.18.34:31294 S4 Q# r6 w8 F4 B1 }) |- b
- # export https_proxy=10.212.18.34:3129% |3 d3 E; V1 i4 H
- # 然后wq! 保存退出,source /etc/profile刷新配置文件8 J4 n4 L0 K7 m) J
- # 安装完可以删除代理,记得再source /etc/profile
) R, j% G7 l' J2 W; U; {3 ^ - # 如果不想配置/etc/profile或者无权限,可以采用以下命令' x' J: W4 @# |+ G$ M
- # pip install virtualenv --proxy=10.212.18.34:3129,每次都需要,烦
- a0 Y% h" E% v - pip install virtualenv
7 P/ I. z1 g2 C* w" b, M+ m2 P
0 p- R* ~$ M4 m, z( D- P. ?- # 配置命名虚拟机1 {5 B$ y& E2 k& u9 @( [' |2 w
- python3 -m venv venv/ F5 @# X! i; R0 c3 n3 N
- 3 A2 s+ F, T3 P6 o
- # 启动虚拟机,会在当前目录下自动创建venv目录
& g: `8 G& u7 l/ Q( j: z0 W0 I# i - . venv/bin/activate1 e- f) z' y" I" Z/ h$ C- A, `$ O5 `
- c: {+ r. V, {$ T- # 退出虚拟机指令,但是这里不需要退出
* M O3 G4 C8 _ - # 退出虚拟机指令,但是这里不需要退出
! ~! a, W* s% u( s8 x. } - # 退出虚拟机指令,但是这里不需要退出
! ?7 \# q1 m3 I; H" l V - deactivate
. C# i5 n- s: X3 [: C# O& k - ; f/ _2 _, E% g! o( X' B1 I0 p
- # 安装更新一些依赖
3 ?* q/ |+ z, E5 L( V8 ` - pip install --upgrade setuptools pip -i https://pypi.douban.com/simple/
" @& ], Q" g3 ]" G | - 1 J4 Z4 A; \" D# c1 o
- yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel% u9 i0 K* ~, v9 }; ^
- 6 ]6 R1 i3 V9 Q U8 w* M4 K) w
- # 如果报错:GPG key retrieval failed: [Errno 14] curl#37 - "Couldn't open file /etc/pki/rpm-gpg/RPM-GPG-KEY-EPEL-7"
_ p2 K1 p2 c+ _ - # 解决:
& k6 ~+ ~" R- T" X- @ - vi /etc/yum.repos.d/epel.repo! y8 S6 y, H# d
- gpgcheck=0
1 L3 U$ X& o9 c6 X* S - # 然后wq!保存再试一次yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel
( a" l# x: b, q, G | - 2 b2 l( c# P8 t% v
- # 先用官网下载,因为官网的会自动把依赖也给你一起安装了,实在不行再用其他网站的镜像& s; g% [: K! x6 A" t
- pip install apache-superset==1.4.2
) y y0 E' h& i+ `4 D - ) N: j6 ?& [4 w! G, y8 \, @
- # 安装superset,指定版本,不指定版本默认是最新版本0 n) x8 o }3 ?9 m
- pip install superset==0.30.1 -i https://pypi.douban.com/simple9 V' R! m3 ^& w" n1 x) M% f& u) \
- 4 q3 i% B) p0 O7 e, F, z3 g) c
- # 安装email_validator
1 n+ |3 k8 L" ?8 s) F, y% r - pip3 install email_validator -i https://pypi.douban.com/simple/
" G6 v4 _8 u' l0 n - $ ^3 T9 {7 [8 H
- # 更新数据库9 b9 A! C, g! e: N) F
- superset db upgrade( L5 y |! ?% z, p/ j8 Q4 c' Z% b
- 5 }# d5 S8 l. ~' v4 e
- # 创建admin的用户名,用户名随便写,bigdata123,admin都行,写完用户名后会让你输入姓,名,邮箱,这三项可写可不写,不写就直接回车,然后是设置密码,一点要写。9 K+ c7 O% C! g* V U
- export FLASK_APP=superset' _- {' U6 s9 z. ~ L- A. _9 f& `
- superset fab create-admin4 n6 S! t; b6 D, @$ v. ~
- + A8 \% }' X) \8 J: x) i; y4 f9 R$ X
- # 加载样例数据,考验网络,如果实在一致加载报错就放弃,不影响后续使用。; a( H9 r( r3 E4 [" k8 ^
- superset load_examples' H& n* u$ t' A7 w' C& a3 V8 }9 m
- . f% J) O" h9 |7 E# v% s
- # 初始化
F/ W3 f/ Z, [3 K+ f$ C - superset init( B0 i8 D, i/ @5 }; ^& S0 Z3 ]
- " z5 R: G; D- {+ T# _
- # 启动,官网是superset run -p 8088 --with-threads --reload --debugger
7 B1 e/ q& Q5 U8 }9 R - # 建议用gunicorn启动,方便快速,先直接启动,确保打印在客户端的日志正常. \0 H8 U. e5 |2 V4 b( i
- pip install gunicorn
" B0 K3 M' q, S5 R6 L4 ^8 C - gunicorn -w 5 --timeout 120 -b 10.218.10.290:9089 "superset.app:create_app()" ' U |9 I% C {
; p& @. G. p' L+ T- # gunicorn 是一个Python WEB服务,可以理解为Tomcat
8 [7 Z1 d- P- X0 ` - # -w WORKERS:指定线程数
3 U- k5 u/ V# s6 r0 K - # --timeout:worker进程超时时间,超过会自动重启6 h& k. I* q: w
- # -b BIND:绑定Superset访问地址
; f+ y8 J$ ]8 I& w, N - # --daemon:后台运行
5 T" k6 B$ b# t; G K - / E6 `. [$ I* P/ d) `
- # 在能访问10.218.10.290:9089的服务器上打开浏览器,输入刚刚登录的用户名,密码即可。) f/ y- h6 Z4 H* ]5 S+ Z+ T
* |8 ^$ k0 s2 r
0 d3 r/ F3 B! O5 A( E9 N- # 如果没开启后台停止,直接ctrl+c关停7 o2 `5 J) i3 V8 [+ m. p8 a
- # 后台进程停止gunicorn
0 n- `2 G9 i; P$ ~( v2 k - ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码 ; S0 C# f0 i6 s/ \3 U- T
b n# z# o2 I- W7 ~4.3 安装注意及排错 pip install superset步骤时出现关键字眼Successfully installed证明正确安装,如图4.3.0;
. }8 A3 L+ C2 S
, \- @( _5 x# k( ^3 g5 q, I图4.3.0 成功安装的提示
% g8 u; i' T- v superset fab create-admin配置用户名时提示如图4.3.1。 图4.3.1 配置用户名时提示
: w6 _4 E- v! T 每个人的服务器环境,可能导致缺少的 依赖不同,途中如果遇到bug,可自己百度解决,基本都是python依赖包之类的问题,要耐心。 - # 报错
3 V+ [7 R& w/ R6 O9 \ - ModuleNotFoundError: No module named 'dataclasses' m7 \, ~8 }' x) E! e; n: _& u
- ! a# z. v, b$ y% ]
- # 解决
7 D7 _# q: x) G7 I* o! y7 H0 `- q7 @ - pip install dataclasses
+ }3 B! s! j; E$ x6 {7 m+ L( E - ; |9 A$ _9 y1 U3 I" t, q& q
- # 报错1 l: w. a9 }; c* d/ {
- No PIL installation found2 l: S( {9 ]1 u, P
- # 解决7 O) b" {( H- I% W9 ^
- pip install pillow- v m. P6 S7 f
复制代码 : s, K& V9 z1 x
一切解决后,网页登录如图4.3.2; 图4.3.2 登录首页4.4 启动与关闭
( V5 A4 b2 ^# C/ y+ c' k 官网提供的直接启动的方法不是很好,博主推荐一个采用gunicorn的方法,先关停superset。
, z9 k! _) B9 C' ~# \: D( Q# p( `) A7 b U
0 T& W+ E$ N) U( |3 H1 [- #安装好superset后会在venv生成很多文件,切换到venv1 `7 q8 }3 O7 q6 \ q
- cd /usr/local/tools/superset/venv/% T# K$ g* H! m" |3 w
- . Y- d3 P4 g1 W" T, @! ]+ [ B. x
" d$ o, A9 ?' C6 }/ T0 {4 [- ) |4 C; V5 d3 c' K" y
- #新建日志文件夹2 R6 W9 k$ w$ l3 p4 I/ A1 H2 n8 T
- mkdir log( K) O# M9 Y; l( V1 N6 _3 O
. I9 G U5 r- h2 M6 |0 X) {- #切换到log目录,新权限 日志,错误日志和启动pid文件- X' T" M" r6 x; D; q7 J4 k
- cd log
T* X f0 s* v: k1 u6 o - touch gunicorn_access.log# u! |3 L- k9 e$ T3 y: S
- touch gunicorn_error.log7 C4 e3 n) B" _
- touch pidfile/ s5 S9 b0 P% n
- chmod 755 ./* #修改权限
' o8 @/ C2 @" X* L9 G
! l0 j3 I, c/ O& k9 f, V7 R' u* l- #切换到/usr/local/tools/superset/venv/bin,写一个gunicorn配置文件,python语言- W; u# |8 X6 j
- cd ./usr/local/tools/superset/venv/bin3 r9 Y( l1 c1 n: t# W+ S
- 9 C, i1 C+ }- q) j. Q$ b! I
- 9 J4 H+ S, D- k+ G% z
- vim gunicorn_config.py # 内容如下
9 o) |, Q" n7 [* w
9 A, K5 Y( `2 d5 z9 v% \+ z7 _) j- #内容开始
' V5 z' D d6 K* D. d! V - import multiprocessing9 b( m8 _1 r+ k* `9 \
) z4 t' ]& h# I2 d) [- t* A9 \: k; s5 b' N& H/ e
- bind = '10.218.10.290:9089' #绑定ip和端口号: t) _7 Y. `! H( ?/ i" G0 B
- backlog = 512 #监听队列
4 P( ?* l" a9 J- e6 K! K) m6 l - timeout = 30 #超时8 e! v7 n% C' p9 G. C
- worker_class = 'gevent'
+ t- z/ e- B2 b3 U - workers = 5
0 R5 H C n( O6 j- Y* e - worker_connections = 1000+ r8 }# H9 ^5 Q8 S8 \0 l
- threads = 2 #指定每个进程开启的线程数( U* L; @5 s6 Q/ o0 p' ^2 p% h3 K' ^
- loglevel = 'info' # 日志级别
' |3 y- F. p# e( U/ B- ?5 \" O, {5 O4 [ - access_log_format = '%(t)s %(p)s %(h)s "%(r)s" %(s)s %(L)s %(b)s %(f)s" "%(a)s"' #设置gunicorn访问日志格式,错误日志无法设置- `8 d8 f9 L# e! o8 K) @
& o" @: Z5 l* k9 O8 g! l) z8 `1 q/ }2 C- - X" \/ j/ k9 i$ t% V( T6 ~
! c' b# l1 P) D1 Y8 T% h& k- pidfile = '/usr/local/tools/superset/venv/log/pidfile'
+ I: d& U0 w/ A& X - errorlog = '/usr/local/tools/superset/venv/log/gunicorn_error.log'
" h0 m% L; ], k( s - accesslog = '/usr/local/tools/superset/venv/log/gunicorn_access.log') j6 B8 g: h) {5 O+ r& q! B
* X4 l6 Q6 T5 r: y5 v# u; g- print("IP and PORT:"+bind) x, e1 Z/ h, f! Z
- print("pid_file:"+pidfile)
& j( S2 y' O4 p# ^7 f - print("error_log:"+errorlog)
) D: w( c5 Z9 j3 | - print("access_log:"+accesslog)2 U4 t1 E& B) I3 D! T g0 ?$ ^5 R
* [) a1 v. \1 e2 L& t& p* ]- #内容结束 R2 y) H2 S) x& w& t& M5 }$ S
- ( E3 h7 u. p' k
- #然后 wq! 保存退出 O( ]+ [5 ~* p
0 X4 I" i5 p/ N& O! P# [9 ?/ V- # gunicorn 启动 -c 配置文件启动;--daemon后台启动,日志可以去配置文件指定的路径查看$ c( P7 K. G* p' i; E( V
- gunicorn -c ./gunicorn_config.py "superset.app:create_app()" --daemon8 I* n8 m9 g4 {; i2 m. b, D' x
/ H+ T. X+ u: G4 ~# @! X5 d- # 后台进程查看
; [1 z; b( D$ w+ L' v2 \ - ps -ef | grep gunicorn$ H. G( @! z8 ?; Q( K0 d9 D
- ! E9 S" }; t ~) i8 g' e5 @
- # 或者通过端口查看, ^. I6 R6 D _8 {
- netstata -tunlp | grep 9089
1 Y9 k1 Z; H0 x6 t+ ^+ o - # 或
( W0 w& K; K7 d" Q- | - ss -anp | grep 9089' H+ E- G+ z: o5 [4 v y& }1 C4 @! \
- $ T8 q! g ?: q% \5 j
- # 如果没开启后台停止,直接ctrl+c关停# m9 I/ h7 |8 w9 ]) o
- # 后台进程停止gunicorn; @2 S; S" l2 r+ J2 | x) P
- ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码
- T5 N( ?$ M; c0 z8 K( ] 5. 用户手册(重点)6 W r+ N) W( i! K. y" q+ r/ p
0 H& i/ i, r& T; n
5.1 新建Databases(数据库) 新建数据库之前,需要先安装该数据库的python驱动包,具体语句可以参考官网 Database Drivers,如图5.1.0,一般就是pip install XXX,安装好驱动后,记得重启下Superset服务; 新建数据库连接的作用是为数据集Datasets和SQL实验室SQL Lab提供数据库、表的选择,就是提供数据源,当然Data下还有个Upload CSV(最新版本也支持Upload Excel)也可以直接将本地的CSV文件作为数据源上传到Superset站点,直接进行数据探索分析。 图5.1.0 数据库驱动以及连接字符串
. }" Y) l8 r+ i; c+ C2 L$ ~ 登录进Apache Superset后,点击Data,下来选择Databases,然后跳转到图图5.1.1,点击右上侧的+号就可以跳转图5.1.2的数据新增配置界面。 图5.1.1 新建数据库连接 - D, \. l2 o; u8 `* _
图5.1.2,Database是指的新建这个数据库的显示名称,这个随便取,合理即可,SQLAlchemy URI 这个地方就是之前图5.1.0上的数据库连接字符串,确保和你选择的数据库类型一致。
6 n# S# `. Y3 b9 O& g然后点击TEST CONECTION,连接成功后会跳出Seems OK!的弹出框,记得滑到最下面,点击保存,如果连接不成功,请检查数据库的实例,端口,用户名,密码以及自己部署的Apache Superset的服务器访问数据库的端口网络时是否能通,当然也不要忘记SQLAlchemy URI 填写规范,保存后的数据库连接就会列举在图5.1.1上。
+ Y. V4 F8 W- M2 {9 G) b* ~) D
. i4 X" C: p2 o9 J( ?% H! T5 A图5.1.2 新建数据库连接配置信息
! Q" u6 Z4 ?. Y1 @2 d) ~5.2 新建Datasets(数据集,老版本也叫Tables) 图5.2.0 新建数据集
' ?. L. x H3 Z+ d( f |5 _2 \ 如图5.2.0,点击图中的Data下的Datasets,然后点击+号,跳转到图5.2.1,将配置好的数据库名下拉选出,写一个该连接实例下的数据库,然后选择一张表,点击保存即可,保存好的数据集会列举在图5.2.0中,这些知道为啥老板叫Tabels了吧;
. ?- V. b0 j! _# o 数据集的作用是为后续的Charts(图表)数据可视化作为数据源头。 图5.2.1 新建数据集配置信息 6 q8 h/ y$ W+ g9 h
" _- S9 r; H1 {8 p8 k" P Z5.3 SQL Lab(SQL实验室) SQL Lab其实就是一个数据库查询客户端,利用SQL语句对数据库的表,字段模型进行查询探索,同时支持智能补全,当然SQL Lab的查询结果也可以直接EXPLORE到Charts(图表),作为数据可视化的数据源。
% r+ r- |+ Z# h; P; ]- a 如图5.3.0,SQL Lab有三个选项,三个选项的功能如下: - SQL Editor:进行SQL查询探索
- Saved Queries:保存的通用查询SQL
- Query Search:查询的历史记录! y) J& O: {1 z1 Q
图5.3.0 主界面进入SQL Lab 2 G. d: _2 ~7 A( }
点击SQL Editor进入图5.3.1的SQL查询探索,左侧上方是配置好的数据库连接名和选择的数据库,左侧下方是将要用到的表及字段模型;右侧上方是写SQL语句的地方,支持RUN(查询),RUN SELECTION(查询鼠标选择局部语句),SAVE(保存),SHARE(分享)等,右下方是数据结果,支持EXPLORE到Charts(图表)可视化,.CSV下载,CLIPBOARD(复制到剪贴板)。 图5.3.1 SQL Lab使用 ; Z0 ]* Y5 p% J
5.4 创建Charts(图表) 图表的作用是数据可视化,利不同的图表满足不同的业务需求,图表同时也作为仪表盘的展示的一部分,一个仪表盘内可以展示一个或多个图表。: H' Z6 y; v" P9 N2 [# ^' @4 \/ V* p8 q
创建图表的方式有两种: - 如图5.4.0,点击Charts,点击+创建新的图表,跳转图5.4.1
- 在SQL LabSQL语句探索查询的结果直接EXPLORE到Charts(图表)可视化
/ o& r; ~3 Z9 L p4 q0 N
图5.4.0 创建图表 " k$ [, o/ @5 x. J/ K
如图5.4.1,选择合适需求的数据图表(如图5.4.2,支持的图表类型非常丰富,号称最漂亮的可视化图表展示),选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表; & s4 |. U1 U n' P
# l) b8 `' l1 O; U, s" P6 D" o图5.4.1 图表可视化配置
1 i2 Q9 z4 q. }& u 号称最美可视化展示,支持可视化的图表类型确实丰富多彩,应对各种可视化需求。
! c2 R. V0 Z# A' M( n. f5 t% }% g8 m% m' E/ ?# E# P$ k$ M8 ^; y
图5.4.2 支持的图表类型
9 v0 y: O( ]+ R9 n& t6 w. Y5.5 创建Dashboards(仪表盘) 仪表盘就是最后的数据总体呈现,即报表展示。 如图5.5.0,点击Dashboards,然后点击+新建仪表盘,跳转图5.5.1。 图5.5.0 创建仪表盘 ) c" O) s% d; i$ e. J {" e6 k
点击图5.5.1右上角的编辑仪表盘,之前做好的Charts(图表)拖拽到仪表盘上,注意:第一次拖拽的时候尽量网上拖拽,知道出现这个条蓝色的分解线,否则 无法拖拽过去; 同时也支持一些通用的组件,图表旁的Components下,有Header、Tabs、Row、Column、Markdown、Divider;4 K/ j( |) H( g1 b, E _
编辑完后后记得点保存。 图5.5.1 编辑仪表盘
$ O* V8 w$ _4 `4 A8 C! `4 P 保存后的仪表盘支持分享,下载等功能,同时也会根据图表内的数据源刷新来获取新的数据; . F# t% K7 ?: w9 Z- F6 w/ V; P
- ^ c* I+ F8 H$ g; k8 u
图5.5.2 仪表盘功能 - E. f5 K) _0 ?5 z
分享给别人看到的仪表盘如图5.5.3。 图5.5.3 分享后他人视角的仪表盘
8 Z# |" |/ y3 T" B* \- I1 k6. 设置 设置包含在菜单栏Settings下,主要设计权限和操作日志等模块,接下来分别讲解。
5 T) Z2 ^7 t r# P* w7 H6 i
2 I! v( h; s/ b3 c D! {图6.0.0 通用设置
$ v9 x# O( e8 W; P' E1 x
4 g+ |: z E. m$ q& h6.1 角色列表及权限 Apache Superset中的安全性由Flask AppBuilder(FAB)处理,FAB是一个构建在Flask之上的应用程序开发框架。FAB提供身份验证、用户管理、权限和角色,可以查看其相关文档。( \7 J. f0 P% V
Apache Superset默认提供了不同的角色,每种角色拥有的权限不同,在运行superset init命令时,与每个角色关联的权限将重新同步到其原始值,不建议更改与每个角色关联的权限(例如,通过删除或添加权限),支持admin再自建角色类型,指定想要的权限,默认的角色及权限如下; - Admin:管理员拥有所有可能的权限,包括授予或撤销其他用户的权限,以及更改其他用户的切片和仪表板;
- Alpha:Alpha用户可以访问所有数据源,但不能授予或撤消其他用户的访问权限。它们也仅限于改变它们所拥有的对象。Alpha用户可以添加和更改数据源。
- Gamma:Gamma用户的访问权限有限。他们只能使用来自通过另一个补充角色访问的数据源的数据。他们只能查看由他们可以访问的数据源制作的切片和仪表板。目前Gamma用户无法更改或添加数据源。我们假设他们主要是内容消费者,尽管他们可以创建切片和仪表盘。另请注意,当Gamma用户查看仪表板和切片列表视图时,他们将只看到他们有权访问的对象。
- sql_lab:sql_lab角色授予对sql lab的访问权限。请注意,虽然管理员用户在默认情况下可以访问所有数据库,但Alpha和Gamma用户都需要在每个数据库的基础上获得访问权限。
- public:要允许注销的用户访问某些超集功能,需要自己配置权限,并将其分配给另一个角色,您希望将其权限传递给该角色。
, u( U% N. w9 R' U9 V* s U3 x& V
图6.1.0 系统默认角色 0 E1 ]8 P4 M6 m3 k6 h
同时Apache Superset也支持管理员自己新增角色,如图6.1.1,新建角色并指定角色权限。 7 X7 V3 x' e0 @6 w; p
& N1 F( ]3 e% C
图6.1.1 新建角色 8 _2 K5 i! R" m; r
4 A, v/ V% Q0 z0 U- H* Z
6.2 用户列表 新建、编辑用户指定角色,用户的权限是绑定在角色里面的,一个用户可以有多个角色,配置信息如图6.2.0。
f5 e4 ^* w& D6 H
6 ]! N- T; l( j8 A0 M( F3 b7 j3 t图6.2.0 新建、编辑角色 % |' M1 n v. ]
% h7 @. K6 d0 o6 |7 v+ G& ?& u
6.3 操作日志 操作日志记录的是在你的Superset平台上不同用户的行为日志,如图6.3.0。 图6.3.0 行为日志查看 - l2 D3 s8 Y. h/ z1 l$ @6 A
! ]5 d* R' E b: q$ F6.4 用户信息、退出、版本信息 菜单栏最右侧的个人信息,主要是包含: - 用户信息:修改用户姓名,重置密码;
- 退出:回到登录主界面;
- 版本:目前您安装的Superset版本信息。" e& t/ V5 ]. P- y9 y
8 ?) c M! W8 g1 }$ e
图6.4.0 个人信息模块
; _" z+ o$ {# s S5 |5 i& r
' S2 }1 ~ M: s& r& ^ x6.5 语言选择 作为Apache的顶级项目,自然是运用于全球的,支持世界上一些通用的语言 ,选择一款你最喜欢的即可。 图6.5.0 语言选择 " T/ C+ E `/ h# U# m2 o4 x9 [" l2 W: n) z
6.6 管理设置 针对仪表盘,图表渲染加入自己想要的风格和模板,实际运用的用的不多。
$ P0 b! l. v& [( F7 |8 G8 c8 M6 g$ b, ?, A) u0 C
图6.6.0 管理模块 % V" ~3 _: O- V8 z1 Z& s
6.7 + NEW 菜单栏的+ NEW其实就是给最通用的三个模块SQL Query、图表、看板(仪表盘)的一个快捷方式,此三者的用法就不在累赘了。 图6.7.0 + NEW模块 0 b# Q# R( T5 _/ h2 R6 ]- O
. Z( H9 }( a% q! b3 |; E# S* i" x. ?5 L% \
原文来源: https://blog.csdn.net/LXWalaz1s1s/article/details/119061337
( a% H1 K- ?- j2 I; y |