目 录- , ]; e0 @& @7 y4 a' F! o! h
4 T) d( t4 ^5 I$ e* ^" [- P& D% j3 y* K2 U! v# A7 }+ i
1. 需求背景1.1 大数据可视化面临的挑战 大数据的兴起,关于数据的存储、计算技术层出不穷,但是最终的数据可视化呈现,数据的探索,也成为颇为重要的一环,这一块并没有像存储、计算技术栈那么百花齐放,大家在做大数据可视化时是否也曾有这些困惑呢? - 传统的可视化对接传统数据库,对大数据组件的hive,spark,presto、elasticsearch、clickhouse等兼容性差,甚至不兼容,每次还需要多一道将大数据集群数据分发到传统数据库的冗余操作;
- 商用产品昂贵、甚至产品设置技术壁垒,很多甚至要求对接该商家的自己的大数据技术方可对接;
- 群众基数大的Excel拖来拽习惯、SQL操作的方便性,排斥自成一派的新技术,网页版账号登录优于用户下载客户端登录;
- 公司开发人员配置紧张,没有多余的人力自研大数据可视化平台,但是决策层希望有一个统一的可视化平台。
4 ^; U( h" K0 F( `% Z* v* A: `; t
诸如此类,确实令人头疼,现在就推荐一款解药Apache Superser——开源的大数据分析探索、可视化报表的神器。 1.2 大数据数据可视化的目标架构* x; l8 [7 d6 z. F; Q2 `" g
8 N- x. `) Q0 S1 D图1.2 大数据数据可视化架构
% R- z( C7 i: n+ b( k; @ 做事还是需要立一个目标架构,最后所有的事情都是围绕目标架构展开,才能越做越轻松,如图1.2,可是架构分为三个梯队; - 第一梯队:ClickHouse、DorisDB、Kylin等优秀OLAP技术做存储,利用自带的连接引擎,快速响应,同时支持实时数据和离线数据的接入,外接可视化平台,通过权限管控后呈现给用户;
- 第二梯队:数据存在数据仓库Hive内或者NoSQL的Hbase,再通过较为优秀且高效的引擎Presto、Flink、Spark等接入可视化平台,通过权限管控后呈现给用户;
- 剩下就是一个特殊的,如MySQL,临时文件等文件的接入;! w9 b7 T& N8 s9 O0 S" e
注意:常用的也还有其它技术架构,如ELK架构,ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成。Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。 Logstash是一个完全开源的工具,他可以对你的日志进行收集、分析,并将其存储供以后使用(如,搜索)。 kibana 也是一个开源和免费的工具,他Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志。这个后续再讲,这里书归正传,先讲讲Apache Superser。 2. Apache Superset简介2.1 Apache Superset是什么? Apache Superset是一款由Python语言为主开发的开源时髦数据探索分析以及可视化的报表平台;她支持丰富的数据源,且拥有多姿多彩的可视化图表选择。 ; o, q5 H: q1 \
: ?) H6 i& O b/ i( t
+ Z* s7 l! ^4 ?4 z5 E J' X
# F% S; Q5 L1 K6 D图2.1.1 Apache Superset定义 % P* k: j/ B1 R3 K( i* _# O
2.2 为什么选Apache Superset?- 支持丰富的数据库作为数据源,基本上平时用到的数据库都支持;如图2.2.0,支持的数据源有:) M! L- l; h% `9 l9 L; U# t
- Amazon Athena
- Amazon Redshift
- Apache Drill
- Apache Druid
- Apache Hive
- Apache Impala
- Apache Kylin
- Apache Pinot
- Apache Solr
- Apache Spark SQL
- Ascend.io
- Azure MS SQL
- Big Query
- ClickHouse
- CockroachDB
- Dremio
- Elasticsearch
- Exasol
- Google Sheets
- Hologres
- IBM Db2
- IBM Netezza Performance Server
- MySQL
- Oracle
- PostgreSQL
- Trino
- Presto
- SAP Hana
- Snowflake
- SQLite
- SQL Server
- Teradata
- Vertica
3 u8 `! n1 o p% Y7 C8 S" ? G5 v8 g, p9 i. w) _* B( m
图2.2.0 Apache Superset支持的数据源 7 x$ o0 C0 x: A9 R G$ @
- 多姿多彩的可视化图表,Apache Superset拥有非常丰富的图表,来实现不同的可视化需求,如图2.2.1。
3 N% O6 v6 I4 r# b+ g" I3 g! W3 O3 S( a+ ^/ U ?
图2.2.1 Apache Superset支持的图表
% I; ], I9 \$ i; R- c( f4 @- Data:主要功能是新增数据源和数据集Dataset(旧版本也叫Table),Dataset作为数据图表可视化的基础;
- Charts:图表,就是针对准备好的Dataset数据集,选择一款合适的图表呈现;
- Dashboards:仪表盘,其实就是报表、看板大屏展示,可以将多个Charts组合到一个仪表盘内一起展示。
- SQL Lab:SQL实验室,其实就是一个类似DBeaver、Navicat、DataGrip等一样的多功能数据库连接客户端,但是只有查询功能,配置驱动和连接后可以进行数据库、表、字段等模型的SQL查询操作。
- 设置:语言选择,登录注销、人员权限,操作日志等设置;& c$ ^# p) K# U% n) I/ j; U9 v
图2.2.3 Apache Superset使用预览
3 f* j4 w& g$ f- b2.3 对比Metabase- 天生自带支持的数据源Apache Superset完胜Metabase;
- 数据图表形式Apache Superset完胜Metabase;
- 操作界面美观丝滑度Apache Superset稍逊Metabase;
- 托拉拽操作Apache Superset稍逊Metabase;
6 ^: T8 M( [1 w7 D9 r
向来博主都是鱼与熊掌能兼得就兼得,毕竟小孩才做选择嘛,可以考虑两个都装,Metabase用于专注业务数据需求人员,Apache Superset用于懂SQL的数据需求人员,二者生成的通用仪表盘,则可以利用一个统一的网页超链接到一起,形成一个统一的报表平台。 3. 快速上手 这里先快速上手带大家体验一把,细节后续章节细讲,首先配置好数据库连接(配置方法参考后续的 5.1 新建Databases(数据库)),然后打开SQL Lab,选择好配置数据库,写SQL语句分析探索数据,如图3.1.0,然后运行语句,得到数据结果,可以点击保存将常用的探索SQL保存下来,然后点击查询结果上方的EXPLORE按钮,就可以跳转图表分析图3.1.1; 8 h0 A) a. I" X- W! H
9 u Q) M2 m9 t
图3.1.0 Apache Superset在SQL Lab上探索数据 ! M, J! r4 t+ B( o) T* u, Y) u
利用SQL Lab探索得到的数据集,选择合适需求的数据图表,选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表; 1 d* h' H$ ]9 E
( M# {4 C! I& ?, f0 S- X: I5 k
图3.1.1 Apache Superset数据可视化
7 }6 J3 X0 X2 P U5 \ 新建Dashboard,然后编辑Dashboard,将之前生成好的Charts(图表)拖拽到Dashboard,就完成了数据仪表盘的最终呈现,然后就可以分享给需求方,也可以生成访问链接分享。 注意:拖拽时尽量往Dashboard的上面拖拽,会出现一条蓝色的分界线就可以松手,否则可能出现无法拖拽的情况,这个设计很坑。 图3.1.1 Apache Superset数据仪表盘呈现 5 D0 [/ D0 r" w, \! [4 ~2 g2 Q
4. 部署安装4.1 部署方式及版本- 支持Linux、Windows、Mac的Docker部署
- 支持Linux、Windows、Mac的Python环境代码部署
- 可以在github,官网、或者国内镜像网站查看版本,但是别先下载,因为Apache Superset依赖包很多,最好能在线安装;% N1 ]3 O% v8 T9 S' g
& G1 S" s: h0 ]6 b% z9 o* [) L
图4.1.0 Apache Superset版本预览
1 K6 k5 g8 w& p% C/ @9 R- 博主选的是apache-superset-0.38.1.tar.gz在Linux上的Python环境代码部署。0 _& L4 x$ s9 R* p0 H8 H# |. E8 F+ t
4.2 配置需求- apache-superset-0.38.1.tar.gz
- CentOS 7 16核 32G(非硬性,一般性能的服务器即可)
- Python 3.6
- 要求服务器网,如果没有,可以使用能联网的代理服务器,依赖很多,采用在线安装的形式# p$ @# }# ]! u$ t& S
4.3 下载安装- 下载安装Python3.6,可以选择安装anaconda集成的python,可以参考博客Linux通过anaconda来安装python,对应的版本是Anaconda3-5.2.0-Linux-x86_64.sh,下载传送门:Anaconda Download;安装好以后,如果老的服务器上存在python2,默认的环境变量启动是python2,没关系,只需要设置一个新的环境变量确保 python3启动是刚刚安装的版本即可。
- 安装python虚拟机,并启动,然后安装Apache Superset。$ j/ h0 Q! `4 }- j5 t& S# D; h3 e
* J- m. }/ t9 _7 z+ f9 r8 X7 H3 I
- # 切换到自己安装软件的目录,博主的是在/usr/local/tools,并新建superset目录$ G) D: I. ~8 }+ j
- cd /usr/local/tools( K, w4 d9 S3 {5 y% h' b$ V
- mkdir superset
/ \2 E! w# G* e! w0 m2 A - cd superset+ M* G) K% D! S! Z- S) _
6 x* R0 ] [) e" y- # 安装虚拟机,有网就不需要的代理服务器,配置代理服务器10.212.18.34:3129方法: W6 T6 H U) q/ p
- # 写入配置文件 /etc/profile里面追加& L( t4 O0 ~7 G4 s# A/ w
- # export http_proxy=10.212.18.34:31296 T7 T+ {. Y' v, E) v6 t
- # export https_proxy=10.212.18.34:3129
9 O6 I0 n1 x9 j% o; G1 T& T' } - # 然后wq! 保存退出,source /etc/profile刷新配置文件
" p/ p$ H/ O* ~" V2 J: U) v5 Z - # 安装完可以删除代理,记得再source /etc/profile$ G! o) `8 }6 b; r) o
- # 如果不想配置/etc/profile或者无权限,可以采用以下命令
& d1 t2 @4 |' V4 B. o - # pip install virtualenv --proxy=10.212.18.34:3129,每次都需要,烦. J+ N9 _0 M" U( u7 ]8 G& j
- pip install virtualenv
: s6 E( f0 V1 A! x - . q' X5 r+ u$ G: @7 f
- # 配置命名虚拟机) F# d7 n% W7 J8 B
- python3 -m venv venv6 n5 q3 v8 c- }0 z+ w
. [3 q; C, f2 L q `4 O) f- # 启动虚拟机,会在当前目录下自动创建venv目录. k1 F5 l/ t, K# ^8 w N* N7 u
- . venv/bin/activate# n& N+ T9 d" W7 w
$ G& r l+ R! p7 L( K- # 退出虚拟机指令,但是这里不需要退出6 K b2 L* o- o& R! j* {" U, O
- # 退出虚拟机指令,但是这里不需要退出
9 E1 I5 \+ E; B9 J - # 退出虚拟机指令,但是这里不需要退出3 D2 Z7 Q3 H G; \* g6 J l
- deactivate
9 v8 g, T c& m V - 7 h5 D( o9 i+ m, h+ d( u! n7 ?
- # 安装更新一些依赖
, A0 A1 m* j+ ~' R - pip install --upgrade setuptools pip -i https://pypi.douban.com/simple/
( ^+ x! [: g | - + r' Y+ M/ ]8 d$ N0 Z( n
- yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel
+ V" R3 \$ w* o+ S1 g2 c - & w1 }, m* h" g9 G$ a) P+ x: I% a
- # 如果报错:GPG key retrieval failed: [Errno 14] curl#37 - "Couldn't open file /etc/pki/rpm-gpg/RPM-GPG-KEY-EPEL-7"0 [% ]+ ~7 y6 A# I
- # 解决:- l& T1 H2 i* ~* I6 e1 D
- vi /etc/yum.repos.d/epel.repo& D. U7 [7 H( J) K
- gpgcheck=0
0 p, G4 F- Y) g* m7 x/ K8 } - # 然后wq!保存再试一次yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel
% K/ P% w! P* K% y$ @0 V3 Y
! B! j4 ^" c. @9 T# X- B& w- # 先用官网下载,因为官网的会自动把依赖也给你一起安装了,实在不行再用其他网站的镜像3 B5 \( ^) x& j& L, R+ K
- pip install apache-superset==1.4.2# O, I8 g& A1 @1 m, _. r% [. u( a; l
7 `8 u8 `, F5 W2 }8 t, }# d- # 安装superset,指定版本,不指定版本默认是最新版本
" y1 H" f/ C" f7 l& n - pip install superset==0.30.1 -i https://pypi.douban.com/simple, B% i4 X3 d8 e' E. x. c0 |
4 _" L0 x4 a- m- a- # 安装email_validator
0 q* ~6 W/ `8 G; V - pip3 install email_validator -i https://pypi.douban.com/simple/
7 @, i$ H; m! d$ L
+ ]2 K3 t7 p" w4 v- # 更新数据库
6 o) |; A: K K9 n2 d - superset db upgrade
' V, L" i, m3 `
) |+ H: ?- l: c# I- # 创建admin的用户名,用户名随便写,bigdata123,admin都行,写完用户名后会让你输入姓,名,邮箱,这三项可写可不写,不写就直接回车,然后是设置密码,一点要写。6 ^6 s7 j ?3 ^1 k+ w2 \; ]
- export FLASK_APP=superset
; L9 J4 h- g7 ~1 ?+ w - superset fab create-admin
# |% q% a% Z* ^8 k* V# [
, B% k' F5 J( U3 n) r- {; z# s- # 加载样例数据,考验网络,如果实在一致加载报错就放弃,不影响后续使用。0 k( q3 D0 ]9 Z/ u' d
- superset load_examples
$ I' T i* l2 G' J/ Z
8 Z9 d% j4 Y% s) J- # 初始化
% ^* y8 k0 [( r" ~5 v7 Q - superset init7 C6 D/ T0 _) L0 c9 t
! W- f% s# U4 A) ~1 f: S& [- # 启动,官网是superset run -p 8088 --with-threads --reload --debugger
+ k4 ~. e4 u$ u1 @3 q) n/ {7 p - # 建议用gunicorn启动,方便快速,先直接启动,确保打印在客户端的日志正常
* Y) {, F1 [# O& B$ r; Y0 X2 S( ] - pip install gunicorn* p7 m6 _" s8 ?
- gunicorn -w 5 --timeout 120 -b 10.218.10.290:9089 "superset.app:create_app()"
: M' H+ [* M% s( M - 0 D' z s9 H! p/ F) o1 h8 J& S% a% G
- # gunicorn 是一个Python WEB服务,可以理解为Tomcat( u5 u& i% {8 ^7 x
- # -w WORKERS:指定线程数
4 I9 Y0 [8 S, O7 F0 W$ E - # --timeout:worker进程超时时间,超过会自动重启0 o/ q, l3 k0 I/ \7 p5 M
- # -b BIND:绑定Superset访问地址# J! ?6 I" J' k0 d' w7 G2 J' V F
- # --daemon:后台运行
( o9 W$ I9 f: \/ x( o7 x- N
' G% O, ?+ u, {9 E4 w5 j- # 在能访问10.218.10.290:9089的服务器上打开浏览器,输入刚刚登录的用户名,密码即可。9 X7 d: {$ v- x7 h. l, R4 n. C1 }
- + a! ^+ q3 d8 `' X; T% S( Q0 u
- 9 ?0 @. c: g9 \5 c6 e. j
- # 如果没开启后台停止,直接ctrl+c关停4 s- G: b- k( ^9 d% F! r4 K# j
- # 后台进程停止gunicorn
" O. u, c2 M) N! P3 x& Y, B - ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码
) S- ^9 E6 b; _& j; ~% P1 S3 w' }( o5 S9 l& V7 m, j9 u$ M- `9 P
4.3 安装注意及排错 pip install superset步骤时出现关键字眼Successfully installed证明正确安装,如图4.3.0; & S2 u7 N' k( Q1 ?: E! z9 e
" d4 Z) ]2 t& u3 D5 E7 U4 |图4.3.0 成功安装的提示
( q" i# o. t5 Q1 t9 I# a superset fab create-admin配置用户名时提示如图4.3.1。 图4.3.1 配置用户名时提示
$ X! ?+ b8 H2 R9 v a6 w 每个人的服务器环境,可能导致缺少的 依赖不同,途中如果遇到bug,可自己百度解决,基本都是python依赖包之类的问题,要耐心。 - # 报错2 ^/ B' O3 e# i- @4 l0 a6 l, C
- ModuleNotFoundError: No module named 'dataclasses'+ H3 ]8 D& J) l$ M. k/ g. M/ d
9 E& S9 I8 b! ?3 M- # 解决0 Z' T" r: b r8 L. v. P- q3 {
- pip install dataclasses
2 k8 f. h2 p5 ^3 P
2 h+ x+ c9 \: I2 S& t# `- # 报错. K6 ~; j0 [/ D0 ]7 S: m
- No PIL installation found" }5 D0 R7 h8 U1 B& ~; m
- # 解决
7 ` C, _0 b- _+ R3 L - pip install pillow) L7 s2 @. `$ G; V
复制代码
* B% A3 L9 u/ Z8 S# _' e. l1 F% L 一切解决后,网页登录如图4.3.2; 图4.3.2 登录首页4.4 启动与关闭 0 T t" v3 m' f6 d
官网提供的直接启动的方法不是很好,博主推荐一个采用gunicorn的方法,先关停superset。
' B5 Y: J% ?* U% M" M; Y
# Q" \6 d9 e8 r4 R- # x9 a+ R0 M G. [6 ?" t# f* [
- #安装好superset后会在venv生成很多文件,切换到venv/ L( |! b! m( z$ I. ?! ?# Q- y) h2 _
- cd /usr/local/tools/superset/venv/% F" u! ~5 X2 y
5 O9 V9 `6 S1 P4 L
( w$ e5 K% n }" E- ' J5 y( [# f' G/ f$ H Z
- #新建日志文件夹
* f" d5 M' S* r6 p - mkdir log
; J$ P+ O; }0 U* ^
7 t6 c9 W; f' {! e7 \# u) _- #切换到log目录,新权限 日志,错误日志和启动pid文件4 d9 P% h/ n9 ^
- cd log
, |. |& R; L5 |2 X" f$ N1 ]& p - touch gunicorn_access.log ?& p2 Y0 r6 d v
- touch gunicorn_error.log
% V4 _3 \0 T8 t) D. b) Z - touch pidfile
. u9 C; A# i, j) |6 U4 `% a- _ - chmod 755 ./* #修改权限
! _; w- b7 l8 \9 O/ C+ H
+ d- a8 B6 z* r% W$ X- c$ K! F0 N- #切换到/usr/local/tools/superset/venv/bin,写一个gunicorn配置文件,python语言
8 A* o9 E' O9 g - cd ./usr/local/tools/superset/venv/bin1 z( n! C# i/ y/ N; B9 W
& ^1 s4 X$ c2 e+ v5 p; X+ \- ; q. j4 z6 Y* A5 u; [
- vim gunicorn_config.py # 内容如下
+ A8 l. w3 k! u
$ x: e5 w6 [& |7 |/ O- #内容开始) M# F% ?& O% Y, N; |$ i' r
- import multiprocessing9 V6 a9 M- Q* ~/ M8 B% S8 c9 q) c
- + F/ g6 @5 O' k, f" g2 S2 ]
- % b U X5 h/ t' v4 p
- bind = '10.218.10.290:9089' #绑定ip和端口号
: D! K5 M$ |+ C5 i% v( j: r - backlog = 512 #监听队列
, o# L. h0 A; ]4 z) @ - timeout = 30 #超时# b% P3 ^" m' B6 _6 X# P. H
- worker_class = 'gevent'( g0 e2 O8 u* q. I4 l* R3 v
- workers = 5
( J* m2 _' Y& _) } - worker_connections = 1000% }" _6 S: Z8 C% k+ I+ t) f
- threads = 2 #指定每个进程开启的线程数
: x# E$ R) U7 Y6 S" |$ s( o - loglevel = 'info' # 日志级别9 o* R3 a; k" {% y
- access_log_format = '%(t)s %(p)s %(h)s "%(r)s" %(s)s %(L)s %(b)s %(f)s" "%(a)s"' #设置gunicorn访问日志格式,错误日志无法设置( b, H( i8 B f9 r- y7 U4 U. n
- " V% F% r& D! x$ l8 u( G
- & E6 O( R' n: q* ^! ]3 [6 f O r
- ) j4 e8 C5 d; U5 P5 l( @
- pidfile = '/usr/local/tools/superset/venv/log/pidfile'* `: G3 e6 E1 L: P# I& Y
- errorlog = '/usr/local/tools/superset/venv/log/gunicorn_error.log'+ W" {, b6 v/ E3 S* k, u
- accesslog = '/usr/local/tools/superset/venv/log/gunicorn_access.log'& U0 [9 s* M3 C. s+ ]
9 w5 Y/ i1 Q2 K- print("IP and PORT:"+bind)
6 i( B- ^; J" {2 ~& x - print("pid_file:"+pidfile)) B. c! U" A* _- F/ s5 Z) j7 @& k* H" @
- print("error_log:"+errorlog)
4 a# h3 T( j D$ b$ J) s |1 Z$ b. U - print("access_log:"+accesslog)
0 n' Z7 F. F0 Q2 ~0 A' _0 v/ m
; A+ R6 Y, L. n) s% i2 w- #内容结束
* x i3 ^) I) y, M - & v6 I/ w: b- m$ \# H* ~/ U; C1 o
- #然后 wq! 保存退出( v& J4 _$ f3 L
- 5 t; Q( B/ D M8 B
- # gunicorn 启动 -c 配置文件启动;--daemon后台启动,日志可以去配置文件指定的路径查看
) t% Q! h* \ [ - gunicorn -c ./gunicorn_config.py "superset.app:create_app()" --daemon
4 Q; e! Z, t* s5 h: \6 G2 @' k
5 U5 k7 ]& B0 ^% H- # 后台进程查看
/ W" D7 d! k" N2 Q" o3 D2 N - ps -ef | grep gunicorn3 r3 [$ P0 H* `
" i; l" q4 I b% P/ j+ Y- # 或者通过端口查看
0 V) o) ~$ t* i - netstata -tunlp | grep 90896 c9 {& T- _; ?
- # 或
8 L7 T1 ^* v, l& U& R& I! S - ss -anp | grep 90894 l& |+ u; q+ t. U
- 4 H9 T) [, y8 l/ O( v7 y
- # 如果没开启后台停止,直接ctrl+c关停" j7 [4 Z" m- [
- # 后台进程停止gunicorn# R* u+ H4 A ^, f _: |. U7 d
- ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码 + Q3 x( n. A) t( b- v
5. 用户手册(重点)
; p! R1 C# `$ W. S# ~3 H# I
( o; d E$ H$ R/ j5.1 新建Databases(数据库) 新建数据库之前,需要先安装该数据库的python驱动包,具体语句可以参考官网 Database Drivers,如图5.1.0,一般就是pip install XXX,安装好驱动后,记得重启下Superset服务; 新建数据库连接的作用是为数据集Datasets和SQL实验室SQL Lab提供数据库、表的选择,就是提供数据源,当然Data下还有个Upload CSV(最新版本也支持Upload Excel)也可以直接将本地的CSV文件作为数据源上传到Superset站点,直接进行数据探索分析。 图5.1.0 数据库驱动以及连接字符串
) e' p2 G4 b- o 登录进Apache Superset后,点击Data,下来选择Databases,然后跳转到图图5.1.1,点击右上侧的+号就可以跳转图5.1.2的数据新增配置界面。 图5.1.1 新建数据库连接 & S' A, c( n3 P- B
图5.1.2,Database是指的新建这个数据库的显示名称,这个随便取,合理即可,SQLAlchemy URI 这个地方就是之前图5.1.0上的数据库连接字符串,确保和你选择的数据库类型一致。
( a" ]( j( y# R然后点击TEST CONECTION,连接成功后会跳出Seems OK!的弹出框,记得滑到最下面,点击保存,如果连接不成功,请检查数据库的实例,端口,用户名,密码以及自己部署的Apache Superset的服务器访问数据库的端口网络时是否能通,当然也不要忘记SQLAlchemy URI 填写规范,保存后的数据库连接就会列举在图5.1.1上。
: m5 t! F% L( \3 h5 [# m. e# `7 {) h0 g3 y
图5.1.2 新建数据库连接配置信息 5 m! K+ |% R0 x
5.2 新建Datasets(数据集,老版本也叫Tables) 图5.2.0 新建数据集
3 x7 F u+ k; z7 n5 G 如图5.2.0,点击图中的Data下的Datasets,然后点击+号,跳转到图5.2.1,将配置好的数据库名下拉选出,写一个该连接实例下的数据库,然后选择一张表,点击保存即可,保存好的数据集会列举在图5.2.0中,这些知道为啥老板叫Tabels了吧;
4 E% ^# h8 p4 u/ {( C3 j 数据集的作用是为后续的Charts(图表)数据可视化作为数据源头。 图5.2.1 新建数据集配置信息
+ |- G9 e8 x, R# u8 Q: S+ Q. V
5.3 SQL Lab(SQL实验室) SQL Lab其实就是一个数据库查询客户端,利用SQL语句对数据库的表,字段模型进行查询探索,同时支持智能补全,当然SQL Lab的查询结果也可以直接EXPLORE到Charts(图表),作为数据可视化的数据源。
4 A# A) X# e& p4 z7 M) i X7 x4 F 如图5.3.0,SQL Lab有三个选项,三个选项的功能如下: - SQL Editor:进行SQL查询探索
- Saved Queries:保存的通用查询SQL
- Query Search:查询的历史记录6 O1 f. o8 e/ X% s$ k
图5.3.0 主界面进入SQL Lab & S0 [. j# Z. o+ [' b
点击SQL Editor进入图5.3.1的SQL查询探索,左侧上方是配置好的数据库连接名和选择的数据库,左侧下方是将要用到的表及字段模型;右侧上方是写SQL语句的地方,支持RUN(查询),RUN SELECTION(查询鼠标选择局部语句),SAVE(保存),SHARE(分享)等,右下方是数据结果,支持EXPLORE到Charts(图表)可视化,.CSV下载,CLIPBOARD(复制到剪贴板)。 图5.3.1 SQL Lab使用 0 ^4 C3 t0 k4 U: I3 E
5.4 创建Charts(图表) 图表的作用是数据可视化,利不同的图表满足不同的业务需求,图表同时也作为仪表盘的展示的一部分,一个仪表盘内可以展示一个或多个图表。
! l p2 p& l, n1 P W1 M 创建图表的方式有两种: - 如图5.4.0,点击Charts,点击+创建新的图表,跳转图5.4.1
- 在SQL LabSQL语句探索查询的结果直接EXPLORE到Charts(图表)可视化5 v) Q5 _( ?: \, ?
图5.4.0 创建图表 ! n/ X0 }" z. s( J
如图5.4.1,选择合适需求的数据图表(如图5.4.2,支持的图表类型非常丰富,号称最漂亮的可视化图表展示),选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表; 6 W" _- q# K- ?' H, ~3 G+ R7 P" m
6 p. V8 W) T. i; D6 N图5.4.1 图表可视化配置 ! c7 { L9 J2 [/ j$ E& \
号称最美可视化展示,支持可视化的图表类型确实丰富多彩,应对各种可视化需求。 $ {+ z4 X: O3 A- z5 X; j
' i( a$ b6 _' S8 ^* ^图5.4.2 支持的图表类型
6 ?9 l2 X; _' ?1 a0 u2 @4 L- G5.5 创建Dashboards(仪表盘) 仪表盘就是最后的数据总体呈现,即报表展示。 如图5.5.0,点击Dashboards,然后点击+新建仪表盘,跳转图5.5.1。 图5.5.0 创建仪表盘 3 h% h( n/ N! a% z
点击图5.5.1右上角的编辑仪表盘,之前做好的Charts(图表)拖拽到仪表盘上,注意:第一次拖拽的时候尽量网上拖拽,知道出现这个条蓝色的分解线,否则 无法拖拽过去; 同时也支持一些通用的组件,图表旁的Components下,有Header、Tabs、Row、Column、Markdown、Divider; X0 ]" }1 \7 m. @8 T
编辑完后后记得点保存。 图5.5.1 编辑仪表盘 - d% E5 E. @* p! M7 V
保存后的仪表盘支持分享,下载等功能,同时也会根据图表内的数据源刷新来获取新的数据; / J! L4 c; s8 R1 O4 q0 I
% u+ ^! v, ^3 y图5.5.2 仪表盘功能 : m6 J. |5 h8 T
分享给别人看到的仪表盘如图5.5.3。 图5.5.3 分享后他人视角的仪表盘
3 G6 ]0 K6 T9 V9 C* s2 r6. 设置 设置包含在菜单栏Settings下,主要设计权限和操作日志等模块,接下来分别讲解。 3 B$ Q; B2 G, D6 x! @
2 M% ?0 _, {, k3 q- j图6.0.0 通用设置
8 M. q% `( \1 F d q; ]2 D8 m7 V$ R* Z5 a$ H
6.1 角色列表及权限 Apache Superset中的安全性由Flask AppBuilder(FAB)处理,FAB是一个构建在Flask之上的应用程序开发框架。FAB提供身份验证、用户管理、权限和角色,可以查看其相关文档。
' ^4 g* f, @$ E% s2 X5 w Apache Superset默认提供了不同的角色,每种角色拥有的权限不同,在运行superset init命令时,与每个角色关联的权限将重新同步到其原始值,不建议更改与每个角色关联的权限(例如,通过删除或添加权限),支持admin再自建角色类型,指定想要的权限,默认的角色及权限如下; - Admin:管理员拥有所有可能的权限,包括授予或撤销其他用户的权限,以及更改其他用户的切片和仪表板;
- Alpha:Alpha用户可以访问所有数据源,但不能授予或撤消其他用户的访问权限。它们也仅限于改变它们所拥有的对象。Alpha用户可以添加和更改数据源。
- Gamma:Gamma用户的访问权限有限。他们只能使用来自通过另一个补充角色访问的数据源的数据。他们只能查看由他们可以访问的数据源制作的切片和仪表板。目前Gamma用户无法更改或添加数据源。我们假设他们主要是内容消费者,尽管他们可以创建切片和仪表盘。另请注意,当Gamma用户查看仪表板和切片列表视图时,他们将只看到他们有权访问的对象。
- sql_lab:sql_lab角色授予对sql lab的访问权限。请注意,虽然管理员用户在默认情况下可以访问所有数据库,但Alpha和Gamma用户都需要在每个数据库的基础上获得访问权限。
- public:要允许注销的用户访问某些超集功能,需要自己配置权限,并将其分配给另一个角色,您希望将其权限传递给该角色。9 I. ?/ F) ]4 x" n
图6.1.0 系统默认角色 3 p6 ~' e# `& D% ` T6 l5 b
同时Apache Superset也支持管理员自己新增角色,如图6.1.1,新建角色并指定角色权限。
, K6 F# `+ `7 m% R M
3 v' @. X: }2 f0 a图6.1.1 新建角色
1 Q8 v$ a" _7 |5 c q* a
5 K: \* p! Y' i6.2 用户列表 新建、编辑用户指定角色,用户的权限是绑定在角色里面的,一个用户可以有多个角色,配置信息如图6.2.0。 ! T' Z$ `8 T; \# y
' i2 S0 e8 ]: f4 ]% u图6.2.0 新建、编辑角色
& }4 [" y0 D6 x; W& V4 f4 h: p l+ p9 V
6.3 操作日志 操作日志记录的是在你的Superset平台上不同用户的行为日志,如图6.3.0。 图6.3.0 行为日志查看
1 y( O, a8 ]8 ^ j. X: Z& X) `5 f) X9 x! J/ M& e6 }0 f, F
6.4 用户信息、退出、版本信息 菜单栏最右侧的个人信息,主要是包含: - 用户信息:修改用户姓名,重置密码;
- 退出:回到登录主界面;
- 版本:目前您安装的Superset版本信息。3 z7 w, b& z/ r1 v: K4 w0 `
# s* c7 r. A& u" D, U6 a4 }7 z6 V9 i
图6.4.0 个人信息模块
# U, C2 a. a6 L8 ~0 F/ v6 h% f& U* {/ ^
& U- t3 A8 J( q3 w6.5 语言选择 作为Apache的顶级项目,自然是运用于全球的,支持世界上一些通用的语言 ,选择一款你最喜欢的即可。 图6.5.0 语言选择 3 j. C" n9 b4 u! d( h" |3 |8 s
6.6 管理设置 针对仪表盘,图表渲染加入自己想要的风格和模板,实际运用的用的不多。
+ e& K. a; R5 R. W: Z
" R- @. G! y$ Y) N& q图6.6.0 管理模块 5 C! @) h$ q( x
6.7 + NEW 菜单栏的+ NEW其实就是给最通用的三个模块SQL Query、图表、看板(仪表盘)的一个快捷方式,此三者的用法就不在累赘了。 图6.7.0 + NEW模块
: h5 d% k% P' v: W7 F# d# M' s) o. _4 ^9 D) [
, w) F! t- P* k0 l) z
原文来源: https://blog.csdn.net/LXWalaz1s1s/article/details/119061337
9 B4 j1 E( A3 A9 y4 e# T |