目 录- + N. Y7 `. b2 y9 U' P% a" C( ~
8 K4 U, R! D8 E2 o( e6 i; M& i! V( U& E( B
1. 需求背景1.1 大数据可视化面临的挑战 大数据的兴起,关于数据的存储、计算技术层出不穷,但是最终的数据可视化呈现,数据的探索,也成为颇为重要的一环,这一块并没有像存储、计算技术栈那么百花齐放,大家在做大数据可视化时是否也曾有这些困惑呢? - 传统的可视化对接传统数据库,对大数据组件的hive,spark,presto、elasticsearch、clickhouse等兼容性差,甚至不兼容,每次还需要多一道将大数据集群数据分发到传统数据库的冗余操作;
- 商用产品昂贵、甚至产品设置技术壁垒,很多甚至要求对接该商家的自己的大数据技术方可对接;
- 群众基数大的Excel拖来拽习惯、SQL操作的方便性,排斥自成一派的新技术,网页版账号登录优于用户下载客户端登录;
- 公司开发人员配置紧张,没有多余的人力自研大数据可视化平台,但是决策层希望有一个统一的可视化平台。
3 D9 `3 e- |$ |
诸如此类,确实令人头疼,现在就推荐一款解药Apache Superser——开源的大数据分析探索、可视化报表的神器。 1.2 大数据数据可视化的目标架构
4 e8 U# [0 k4 O9 Y$ E' i- u- j* z) }
图1.2 大数据数据可视化架构 6 z, f% Z8 A! `7 b% q
做事还是需要立一个目标架构,最后所有的事情都是围绕目标架构展开,才能越做越轻松,如图1.2,可是架构分为三个梯队; - 第一梯队:ClickHouse、DorisDB、Kylin等优秀OLAP技术做存储,利用自带的连接引擎,快速响应,同时支持实时数据和离线数据的接入,外接可视化平台,通过权限管控后呈现给用户;
- 第二梯队:数据存在数据仓库Hive内或者NoSQL的Hbase,再通过较为优秀且高效的引擎Presto、Flink、Spark等接入可视化平台,通过权限管控后呈现给用户;
- 剩下就是一个特殊的,如MySQL,临时文件等文件的接入;
( o' O4 {- J4 Q6 x" p' F8 |
注意:常用的也还有其它技术架构,如ELK架构,ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成。Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。 Logstash是一个完全开源的工具,他可以对你的日志进行收集、分析,并将其存储供以后使用(如,搜索)。 kibana 也是一个开源和免费的工具,他Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志。这个后续再讲,这里书归正传,先讲讲Apache Superser。 2. Apache Superset简介2.1 Apache Superset是什么? Apache Superset是一款由Python语言为主开发的开源时髦数据探索分析以及可视化的报表平台;她支持丰富的数据源,且拥有多姿多彩的可视化图表选择。
; Q* |4 ?, c8 N+ g# ?1 K" O9 e& n- w ^& t
6 e: P# _7 S, J; S e% O7 @/ m) Y8 F4 H+ _! e
图2.1.1 Apache Superset定义
|1 f0 C9 E+ v2.2 为什么选Apache Superset?- 支持丰富的数据库作为数据源,基本上平时用到的数据库都支持;如图2.2.0,支持的数据源有:
$ r; p Q9 C: K: K( F) t* ?1 Y
- Amazon Athena
- Amazon Redshift
- Apache Drill
- Apache Druid
- Apache Hive
- Apache Impala
- Apache Kylin
- Apache Pinot
- Apache Solr
- Apache Spark SQL
- Ascend.io
- Azure MS SQL
- Big Query
- ClickHouse
- CockroachDB
- Dremio
- Elasticsearch
- Exasol
- Google Sheets
- Hologres
- IBM Db2
- IBM Netezza Performance Server
- MySQL
- Oracle
- PostgreSQL
- Trino
- Presto
- SAP Hana
- Snowflake
- SQLite
- SQL Server
- Teradata
- Vertica/ H4 W5 `# V3 q/ R" a: k
1 s2 |: [3 n; J9 m9 H4 `
图2.2.0 Apache Superset支持的数据源
6 ^' |+ f. L( g- 多姿多彩的可视化图表,Apache Superset拥有非常丰富的图表,来实现不同的可视化需求,如图2.2.1。
" ]) k; r; I" O: L* S1 K( C" M& F8 R1 u! x/ j9 e( ^* w
图2.2.1 Apache Superset支持的图表 0 o f$ ~6 ^" d6 y
- Data:主要功能是新增数据源和数据集Dataset(旧版本也叫Table),Dataset作为数据图表可视化的基础;
- Charts:图表,就是针对准备好的Dataset数据集,选择一款合适的图表呈现;
- Dashboards:仪表盘,其实就是报表、看板大屏展示,可以将多个Charts组合到一个仪表盘内一起展示。
- SQL Lab:SQL实验室,其实就是一个类似DBeaver、Navicat、DataGrip等一样的多功能数据库连接客户端,但是只有查询功能,配置驱动和连接后可以进行数据库、表、字段等模型的SQL查询操作。
- 设置:语言选择,登录注销、人员权限,操作日志等设置;4 Q5 k% W) k( c
图2.2.3 Apache Superset使用预览 0 E4 S: y6 X$ c6 S: R/ x) @& U
2.3 对比Metabase- 天生自带支持的数据源Apache Superset完胜Metabase;
- 数据图表形式Apache Superset完胜Metabase;
- 操作界面美观丝滑度Apache Superset稍逊Metabase;
- 托拉拽操作Apache Superset稍逊Metabase;" b, t: z* O. w# k( v
向来博主都是鱼与熊掌能兼得就兼得,毕竟小孩才做选择嘛,可以考虑两个都装,Metabase用于专注业务数据需求人员,Apache Superset用于懂SQL的数据需求人员,二者生成的通用仪表盘,则可以利用一个统一的网页超链接到一起,形成一个统一的报表平台。 3. 快速上手 这里先快速上手带大家体验一把,细节后续章节细讲,首先配置好数据库连接(配置方法参考后续的 5.1 新建Databases(数据库)),然后打开SQL Lab,选择好配置数据库,写SQL语句分析探索数据,如图3.1.0,然后运行语句,得到数据结果,可以点击保存将常用的探索SQL保存下来,然后点击查询结果上方的EXPLORE按钮,就可以跳转图表分析图3.1.1;
$ }. `. C! E: W/ Q* r* R# w# v/ o, ?! L4 [, g" t& m5 w0 `! ?4 m( f
图3.1.0 Apache Superset在SQL Lab上探索数据
7 D$ O2 M7 W; x) T! {0 d 利用SQL Lab探索得到的数据集,选择合适需求的数据图表,选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表;
- z- s0 O$ _0 j3 e! k- V
" I( M1 ]! w2 P6 b2 i0 r图3.1.1 Apache Superset数据可视化 ! n1 A% C# M1 m) ^, X& b
新建Dashboard,然后编辑Dashboard,将之前生成好的Charts(图表)拖拽到Dashboard,就完成了数据仪表盘的最终呈现,然后就可以分享给需求方,也可以生成访问链接分享。 注意:拖拽时尽量往Dashboard的上面拖拽,会出现一条蓝色的分界线就可以松手,否则可能出现无法拖拽的情况,这个设计很坑。 图3.1.1 Apache Superset数据仪表盘呈现
3 `" I" P2 O/ U' X; h* H/ r4. 部署安装4.1 部署方式及版本- 支持Linux、Windows、Mac的Docker部署
- 支持Linux、Windows、Mac的Python环境代码部署
- 可以在github,官网、或者国内镜像网站查看版本,但是别先下载,因为Apache Superset依赖包很多,最好能在线安装;' [2 B# e6 ?$ L
9 V" @2 m/ A( G
图4.1.0 Apache Superset版本预览
, d; ]" O/ O# `7 v2 Q/ C- 博主选的是apache-superset-0.38.1.tar.gz在Linux上的Python环境代码部署。
& D$ O6 t2 M# v+ B3 N( K; F- t' d; ~' [ 4.2 配置需求- apache-superset-0.38.1.tar.gz
- CentOS 7 16核 32G(非硬性,一般性能的服务器即可)
- Python 3.6
- 要求服务器网,如果没有,可以使用能联网的代理服务器,依赖很多,采用在线安装的形式$ z0 ^9 d5 x$ D+ U" M3 l% e. d6 Q) y
4.3 下载安装- 下载安装Python3.6,可以选择安装anaconda集成的python,可以参考博客Linux通过anaconda来安装python,对应的版本是Anaconda3-5.2.0-Linux-x86_64.sh,下载传送门:Anaconda Download;安装好以后,如果老的服务器上存在python2,默认的环境变量启动是python2,没关系,只需要设置一个新的环境变量确保 python3启动是刚刚安装的版本即可。
- 安装python虚拟机,并启动,然后安装Apache Superset。
8 k1 O3 f6 b+ V5 s# Y# d9 q+ i
# T- U1 S- d. {9 [- # 切换到自己安装软件的目录,博主的是在/usr/local/tools,并新建superset目录6 v6 P- @% P) x9 I9 |, e1 w' S
- cd /usr/local/tools
f: Q; S% B, s9 B0 d( c8 A3 i0 ^ - mkdir superset* v I) g$ R+ N- q" _$ w$ w
- cd superset
- r7 f7 o' O' ^/ K5 d$ p& o! _ - ) N) |$ M/ `! R- b; d4 P1 J. ?
- # 安装虚拟机,有网就不需要的代理服务器,配置代理服务器10.212.18.34:3129方法:
+ G& a5 R4 {, p - # 写入配置文件 /etc/profile里面追加5 m6 s/ L2 [" u" P) t
- # export http_proxy=10.212.18.34:3129" b$ | n3 k: F1 C+ J% |+ k" N
- # export https_proxy=10.212.18.34:3129& p9 M1 p2 ]/ a1 @& g
- # 然后wq! 保存退出,source /etc/profile刷新配置文件$ A# v3 b0 D( |4 i9 E
- # 安装完可以删除代理,记得再source /etc/profile
1 O/ R ~- E o! q - # 如果不想配置/etc/profile或者无权限,可以采用以下命令- P8 A: M7 `1 p: m+ N
- # pip install virtualenv --proxy=10.212.18.34:3129,每次都需要,烦7 ]1 W% i# U) i; a
- pip install virtualenv
8 I$ _5 C6 g e9 e
+ o* f0 T6 j6 z# K# D1 M- # 配置命名虚拟机1 y. N" k2 B# y1 \* e6 \7 J+ L D/ L
- python3 -m venv venv/ M2 B) {* s* ?/ H7 N* J" U; Q
- $ W% Q! x4 f9 @* Q
- # 启动虚拟机,会在当前目录下自动创建venv目录5 V, h& k/ p, s$ {
- . venv/bin/activate
/ D4 @9 y% j) u2 `* r" s - 5 I- T& z. J, g4 [- r) R' d
- # 退出虚拟机指令,但是这里不需要退出1 Y% ^2 L5 B- t' V" c) E
- # 退出虚拟机指令,但是这里不需要退出
6 ]& P8 C* p' j - # 退出虚拟机指令,但是这里不需要退出1 b: i8 ~# o4 t
- deactivate
- J5 _' k3 B/ G
! K7 d* _: s4 J- i# c6 ^7 f( T! Z) t& |- # 安装更新一些依赖- e+ O a h9 }' H# l+ d
- pip install --upgrade setuptools pip -i https://pypi.douban.com/simple/
* Y! w1 ~/ a4 O - $ i H, [5 Z4 c* y" R& T
- yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel: k- ^, l5 H( \; S& I) W# ~
; e. B; Q1 a. u. p) o- # 如果报错:GPG key retrieval failed: [Errno 14] curl#37 - "Couldn't open file /etc/pki/rpm-gpg/RPM-GPG-KEY-EPEL-7"
- ~; V2 w0 c J$ w - # 解决:
; z: a3 `$ _( h" b - vi /etc/yum.repos.d/epel.repo& H, K. ~, ?; l
- gpgcheck=0
7 d6 ?9 q7 q% j6 T' j! k - # 然后wq!保存再试一次yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel7 V* b# Y; w4 j( h9 O1 |1 a
" |' ~8 P" ~) ^; N- ]$ o4 M" o- # 先用官网下载,因为官网的会自动把依赖也给你一起安装了,实在不行再用其他网站的镜像$ K4 \4 q" X! ?' f1 {9 c
- pip install apache-superset==1.4.2
* z5 M2 K) t4 a) `
; g. _0 B5 l' _: R R+ Z- # 安装superset,指定版本,不指定版本默认是最新版本) n( E1 f: t r; n9 G3 l- }, Z( C' \
- pip install superset==0.30.1 -i https://pypi.douban.com/simple
6 s9 _8 ] Y' f( p+ D* ? - " ?( S4 y. ^! @0 G9 x/ d H
- # 安装email_validator * H4 {9 z: `6 z4 X& P ~
- pip3 install email_validator -i https://pypi.douban.com/simple/: p0 u; n) V% U) m4 p
- 4 w' m! M% E5 ^- R: Q
- # 更新数据库" }- J) J! W. Z
- superset db upgrade0 V3 ? L# S0 z! x' b6 v& }
2 a5 L- |$ S7 N; o- # 创建admin的用户名,用户名随便写,bigdata123,admin都行,写完用户名后会让你输入姓,名,邮箱,这三项可写可不写,不写就直接回车,然后是设置密码,一点要写。 R' D4 F& ?! o0 u W! C
- export FLASK_APP=superset
R; q- p- E3 A - superset fab create-admin1 k+ n5 Y" A6 C% P4 P; @
- # I& l" B3 q- c1 E! N
- # 加载样例数据,考验网络,如果实在一致加载报错就放弃,不影响后续使用。
9 p& w0 J! g4 N% t. f; [; g- A - superset load_examples
7 A7 y% D$ t& c$ D, f/ o
2 l+ f# ~* c3 @8 r- # 初始化
! I$ e7 f" |* Q - superset init
9 Z# L/ p8 u* l6 r" I5 m4 G8 ] - & V8 G& [9 q4 d
- # 启动,官网是superset run -p 8088 --with-threads --reload --debugger
+ r/ [' o; w( ^* F0 _2 t - # 建议用gunicorn启动,方便快速,先直接启动,确保打印在客户端的日志正常
, ` ]' J1 u1 L" D; n% ^ - pip install gunicorn0 w0 }; A/ J# n' q/ C% s( b8 |
- gunicorn -w 5 --timeout 120 -b 10.218.10.290:9089 "superset.app:create_app()" v2 j& }9 e% h; n1 {: C6 m
- & z V2 e) s6 Y& h+ A
- # gunicorn 是一个Python WEB服务,可以理解为Tomcat
$ d& @; C E0 r! k1 e" u( z2 @0 W - # -w WORKERS:指定线程数
( G$ {' q% F% f - # --timeout:worker进程超时时间,超过会自动重启
" G2 ^# B7 f- [! f* Z' m9 X - # -b BIND:绑定Superset访问地址
; m9 [+ b1 _4 Q' M - # --daemon:后台运行: N9 X! J: e* k
- 9 m$ L/ M! d! ?5 A6 y' s
- # 在能访问10.218.10.290:9089的服务器上打开浏览器,输入刚刚登录的用户名,密码即可。 j* T6 w; X+ | d$ T, [
- V* I4 Q- V5 u0 b, K" @
, b! D) e) D. P: T0 F' c7 n# y- # 如果没开启后台停止,直接ctrl+c关停2 ~( d, S" M5 j' M3 Y" Y
- # 后台进程停止gunicorn, t j( W. y8 W
- ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码
/ g* Q2 U- G0 J( n7 s9 b/ ?4 M/ n* P$ F) n$ D1 ?3 {3 S
4.3 安装注意及排错 pip install superset步骤时出现关键字眼Successfully installed证明正确安装,如图4.3.0; 0 N8 N- o* R& P6 X/ S! S e( t
8 ]6 N! a: P, k* P图4.3.0 成功安装的提示 4 n: S( R* }) _# L P( b
superset fab create-admin配置用户名时提示如图4.3.1。 图4.3.1 配置用户名时提示
6 u5 E/ W+ [: U( n/ x; O 每个人的服务器环境,可能导致缺少的 依赖不同,途中如果遇到bug,可自己百度解决,基本都是python依赖包之类的问题,要耐心。 - # 报错
4 u% v2 K* k- A6 M; A% j - ModuleNotFoundError: No module named 'dataclasses'! V1 ]; ?. l$ X3 _0 H" v4 X
- 8 E' |8 f2 w! c# V
- # 解决6 ~) ^/ K( J$ W# o# k3 m" W' N
- pip install dataclasses
5 S' Y0 K* }3 B6 M" a8 K5 n - 9 ^* V) J; N v& I; L+ S
- # 报错
& i z" I9 {, H% j8 ~2 f$ k - No PIL installation found9 M0 g. H8 \1 [5 H
- # 解决8 ^1 G0 f: ?( @9 `
- pip install pillow4 ^; M1 a- L! ], |* P! n# T
复制代码 9 X0 o! i, z0 K) c2 F
一切解决后,网页登录如图4.3.2; 图4.3.2 登录首页4.4 启动与关闭
, \3 N8 H. q" D, A% E& \ 官网提供的直接启动的方法不是很好,博主推荐一个采用gunicorn的方法,先关停superset。 " ?5 S/ c% \2 T' ]# z$ u3 W
- f0 r8 _4 q& W0 v$ W2 `) o
, P: B; ]- q. @ o/ A' i- #安装好superset后会在venv生成很多文件,切换到venv
( T( o* m6 @3 a6 _: G% ~1 y6 _% X9 D - cd /usr/local/tools/superset/venv/( |- e/ V9 e0 V: L
- % y+ g. G3 u; ?/ D( h
- 4 _: P* _: ^( s$ e$ f5 N
- 3 z% a, A9 k% Y: C9 |! C+ {$ t7 |3 j
- #新建日志文件夹
) _0 D9 X/ k w) B" D - mkdir log
& A8 N' m; i. b* y! \+ W - 1 k% Z e$ ^4 j, A
- #切换到log目录,新权限 日志,错误日志和启动pid文件, O8 j1 i1 q$ [4 M% f! f* o/ Y
- cd log
8 M" b# H3 L3 y$ a* T% S( b" u - touch gunicorn_access.log
2 w7 Z |, z/ \8 n$ b - touch gunicorn_error.log" u% @- N/ g6 b$ m% R9 f
- touch pidfile. R$ ?9 O& T* |5 C& W
- chmod 755 ./* #修改权限- ]& T! z( m; ]5 _1 H$ h+ q( _6 Z
! R* n+ W# k5 W- z4 Q+ `4 E0 S- #切换到/usr/local/tools/superset/venv/bin,写一个gunicorn配置文件,python语言
6 @. J* L5 {2 e2 e- K& s" R- W. s - cd ./usr/local/tools/superset/venv/bin; f7 Q% @! }* D; e! C" ~9 t
- , E9 D% K/ ]; N
/ [) B: u& P: R W& C- vim gunicorn_config.py # 内容如下
3 i2 j4 J% x. S9 O& X - , ?3 u7 x1 v& \6 e, ]
- #内容开始
% l( k/ Z" W3 [/ d; { - import multiprocessing" u+ d6 S# I+ G% E
- 2 O/ S4 B( O, S% [
- 2 U0 @' R- E3 R& c, [
- bind = '10.218.10.290:9089' #绑定ip和端口号7 s) S" y2 A/ Q( N
- backlog = 512 #监听队列" N% X0 O( z" x' S7 y6 c8 b8 f
- timeout = 30 #超时$ ?9 [+ D5 a- p2 f+ W
- worker_class = 'gevent'
, _& y }6 g8 c+ p3 Y - workers = 5
. |+ |* o4 r; M8 y! `* H. j - worker_connections = 10009 ]$ ]) p+ d7 F
- threads = 2 #指定每个进程开启的线程数- h; _% H7 W }9 a# r! b. i
- loglevel = 'info' # 日志级别
% C! t) a- }' I& W$ h - access_log_format = '%(t)s %(p)s %(h)s "%(r)s" %(s)s %(L)s %(b)s %(f)s" "%(a)s"' #设置gunicorn访问日志格式,错误日志无法设置; B9 P- i" Q6 h3 E$ H2 Z
- * ?7 O5 v6 Y- Y& C* B5 F: I* \8 _, v
0 f7 S& W8 {4 q3 v- ) h5 D8 t3 s/ Z6 y& ^; w8 x
- pidfile = '/usr/local/tools/superset/venv/log/pidfile'; j( B5 J; G% r. D" I, [
- errorlog = '/usr/local/tools/superset/venv/log/gunicorn_error.log'
5 q6 Y$ R! S8 _" }% t" M8 z - accesslog = '/usr/local/tools/superset/venv/log/gunicorn_access.log'
/ n) d; R ~! \ O: y0 h - 9 x7 c/ R1 e6 j+ _8 H7 {+ y
- print("IP and PORT:"+bind)9 Z3 a0 N/ o+ C5 U$ m
- print("pid_file:"+pidfile)$ m' |, u1 ?5 c! q6 m
- print("error_log:"+errorlog)4 |$ X+ L: N! P
- print("access_log:"+accesslog)
( x: q; j1 ]! h - 0 P1 i, K9 J" `6 U$ T
- #内容结束
& z% E8 z% O3 H/ X. _ - ) v7 P1 q% ~' Z
- #然后 wq! 保存退出
( Z1 f3 l5 Z( ^, I - 4 c2 ]% z, |* d c1 o5 D
- # gunicorn 启动 -c 配置文件启动;--daemon后台启动,日志可以去配置文件指定的路径查看; K( R3 e2 ?1 J" s/ n
- gunicorn -c ./gunicorn_config.py "superset.app:create_app()" --daemon
- H* R6 c5 `( O# ]9 \/ R( i - 4 O4 | G$ H; Z- G% N, V$ \: T' b
- # 后台进程查看
( \( e U6 l, c: e$ U - ps -ef | grep gunicorn
% T% E2 O! J3 P' a3 U - ( a# D3 F! d) `$ G7 e4 B1 G
- # 或者通过端口查看# m" m# X9 ^' P) m/ W$ J6 B) I
- netstata -tunlp | grep 90890 V. d+ f0 G& ~7 G2 l/ o
- # 或& w2 _7 A8 d- F) G! r' ?
- ss -anp | grep 9089- Q) l- n7 g. Z+ S
0 D/ N2 K! Y/ l( [' e- # 如果没开启后台停止,直接ctrl+c关停" W7 J: x; U2 R- v1 B* k; D
- # 后台进程停止gunicorn
1 ?" Z1 ~1 y4 {$ R' g/ I- \ - ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码
- T4 R5 S2 N7 F, p( T# q 5. 用户手册(重点)
- u8 r) t& J/ F" w& d; d
3 M+ S" p/ u9 P% G9 b5.1 新建Databases(数据库) 新建数据库之前,需要先安装该数据库的python驱动包,具体语句可以参考官网 Database Drivers,如图5.1.0,一般就是pip install XXX,安装好驱动后,记得重启下Superset服务; 新建数据库连接的作用是为数据集Datasets和SQL实验室SQL Lab提供数据库、表的选择,就是提供数据源,当然Data下还有个Upload CSV(最新版本也支持Upload Excel)也可以直接将本地的CSV文件作为数据源上传到Superset站点,直接进行数据探索分析。 图5.1.0 数据库驱动以及连接字符串
1 D! e8 v. ^, ?. ^8 q! U" y 登录进Apache Superset后,点击Data,下来选择Databases,然后跳转到图图5.1.1,点击右上侧的+号就可以跳转图5.1.2的数据新增配置界面。 图5.1.1 新建数据库连接
& N$ L. d$ }* Q1 `* }4 s1 K2 i( b3 J# k 图5.1.2,Database是指的新建这个数据库的显示名称,这个随便取,合理即可,SQLAlchemy URI 这个地方就是之前图5.1.0上的数据库连接字符串,确保和你选择的数据库类型一致。
/ g S( c' w: b9 X+ c" _* O8 X然后点击TEST CONECTION,连接成功后会跳出Seems OK!的弹出框,记得滑到最下面,点击保存,如果连接不成功,请检查数据库的实例,端口,用户名,密码以及自己部署的Apache Superset的服务器访问数据库的端口网络时是否能通,当然也不要忘记SQLAlchemy URI 填写规范,保存后的数据库连接就会列举在图5.1.1上。 " T. ~5 ~9 y* C! @
. h4 B+ u; N* d( P
图5.1.2 新建数据库连接配置信息
6 ~/ `9 n# r5 W* C: K5.2 新建Datasets(数据集,老版本也叫Tables) 图5.2.0 新建数据集 + ~9 @0 L* i E( r
如图5.2.0,点击图中的Data下的Datasets,然后点击+号,跳转到图5.2.1,将配置好的数据库名下拉选出,写一个该连接实例下的数据库,然后选择一张表,点击保存即可,保存好的数据集会列举在图5.2.0中,这些知道为啥老板叫Tabels了吧;
9 q8 i& k+ A! q 数据集的作用是为后续的Charts(图表)数据可视化作为数据源头。 图5.2.1 新建数据集配置信息
( R* q' @0 v* O/ n& ?" @ i M+ [: s3 g' B. ?: c8 H$ q; x, u
5.3 SQL Lab(SQL实验室) SQL Lab其实就是一个数据库查询客户端,利用SQL语句对数据库的表,字段模型进行查询探索,同时支持智能补全,当然SQL Lab的查询结果也可以直接EXPLORE到Charts(图表),作为数据可视化的数据源。) @7 Y* b5 g' u6 N
如图5.3.0,SQL Lab有三个选项,三个选项的功能如下: - SQL Editor:进行SQL查询探索
- Saved Queries:保存的通用查询SQL
- Query Search:查询的历史记录2 D5 h5 w4 _) m# M' E- P8 m/ T
图5.3.0 主界面进入SQL Lab
( y$ G. x5 p) J- m# \ 点击SQL Editor进入图5.3.1的SQL查询探索,左侧上方是配置好的数据库连接名和选择的数据库,左侧下方是将要用到的表及字段模型;右侧上方是写SQL语句的地方,支持RUN(查询),RUN SELECTION(查询鼠标选择局部语句),SAVE(保存),SHARE(分享)等,右下方是数据结果,支持EXPLORE到Charts(图表)可视化,.CSV下载,CLIPBOARD(复制到剪贴板)。 图5.3.1 SQL Lab使用
/ x+ @' o% z. `8 J1 I- Z5.4 创建Charts(图表) 图表的作用是数据可视化,利不同的图表满足不同的业务需求,图表同时也作为仪表盘的展示的一部分,一个仪表盘内可以展示一个或多个图表。
' E" L" W. C/ ?6 a 创建图表的方式有两种: - 如图5.4.0,点击Charts,点击+创建新的图表,跳转图5.4.1
- 在SQL LabSQL语句探索查询的结果直接EXPLORE到Charts(图表)可视化+ j% L0 v# ]) }- t
图5.4.0 创建图表 2 P* A; {, ~: W& D& A% {* J
如图5.4.1,选择合适需求的数据图表(如图5.4.2,支持的图表类型非常丰富,号称最漂亮的可视化图表展示),选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表;
+ Q2 W7 P% I2 D, ?1 x% c& ^# p5 a+ X4 l8 w# r! m
图5.4.1 图表可视化配置 h- X2 A* D& }7 b( q3 H
号称最美可视化展示,支持可视化的图表类型确实丰富多彩,应对各种可视化需求。 2 S. C' r( l) h4 m- j
; g9 F9 L7 W! p& }图5.4.2 支持的图表类型 - K& J" h5 t/ u& J3 |1 O) B
5.5 创建Dashboards(仪表盘) 仪表盘就是最后的数据总体呈现,即报表展示。 如图5.5.0,点击Dashboards,然后点击+新建仪表盘,跳转图5.5.1。 图5.5.0 创建仪表盘 . J9 u( ?3 f; D9 C
点击图5.5.1右上角的编辑仪表盘,之前做好的Charts(图表)拖拽到仪表盘上,注意:第一次拖拽的时候尽量网上拖拽,知道出现这个条蓝色的分解线,否则 无法拖拽过去; 同时也支持一些通用的组件,图表旁的Components下,有Header、Tabs、Row、Column、Markdown、Divider;2 W% v3 {3 w; V4 Q
编辑完后后记得点保存。 图5.5.1 编辑仪表盘 - s2 h( H% C: l4 M
保存后的仪表盘支持分享,下载等功能,同时也会根据图表内的数据源刷新来获取新的数据; * ]8 `, H! L/ [; O! `. [9 a5 V" v R
% h% I2 Z3 d0 x d+ Z
图5.5.2 仪表盘功能 2 Q0 m4 A) `6 y) j. g, x; I6 D
分享给别人看到的仪表盘如图5.5.3。 图5.5.3 分享后他人视角的仪表盘
/ @3 {# z& z- U5 Q, k/ W# D# T6. 设置 设置包含在菜单栏Settings下,主要设计权限和操作日志等模块,接下来分别讲解。
( u( L+ N' m; c2 `, c! \9 P& g' ^# S3 H( z1 e5 u
图6.0.0 通用设置
5 V- I. f3 q) }) X
% _ j" _8 n/ P# j, J# w6.1 角色列表及权限 Apache Superset中的安全性由Flask AppBuilder(FAB)处理,FAB是一个构建在Flask之上的应用程序开发框架。FAB提供身份验证、用户管理、权限和角色,可以查看其相关文档。' w C8 O: o7 h T, b1 o/ J
Apache Superset默认提供了不同的角色,每种角色拥有的权限不同,在运行superset init命令时,与每个角色关联的权限将重新同步到其原始值,不建议更改与每个角色关联的权限(例如,通过删除或添加权限),支持admin再自建角色类型,指定想要的权限,默认的角色及权限如下; - Admin:管理员拥有所有可能的权限,包括授予或撤销其他用户的权限,以及更改其他用户的切片和仪表板;
- Alpha:Alpha用户可以访问所有数据源,但不能授予或撤消其他用户的访问权限。它们也仅限于改变它们所拥有的对象。Alpha用户可以添加和更改数据源。
- Gamma:Gamma用户的访问权限有限。他们只能使用来自通过另一个补充角色访问的数据源的数据。他们只能查看由他们可以访问的数据源制作的切片和仪表板。目前Gamma用户无法更改或添加数据源。我们假设他们主要是内容消费者,尽管他们可以创建切片和仪表盘。另请注意,当Gamma用户查看仪表板和切片列表视图时,他们将只看到他们有权访问的对象。
- sql_lab:sql_lab角色授予对sql lab的访问权限。请注意,虽然管理员用户在默认情况下可以访问所有数据库,但Alpha和Gamma用户都需要在每个数据库的基础上获得访问权限。
- public:要允许注销的用户访问某些超集功能,需要自己配置权限,并将其分配给另一个角色,您希望将其权限传递给该角色。
7 P- m( J- a+ w1 F1 @8 v8 a2 ]& D
图6.1.0 系统默认角色
! r5 M+ V" Y+ e2 K# U7 |" x9 c 同时Apache Superset也支持管理员自己新增角色,如图6.1.1,新建角色并指定角色权限。 % r; r8 L! b" {, T1 J% G' @
5 e7 n- U; f8 ~* h2 R图6.1.1 新建角色 0 e% \) i0 ^5 }2 h
) [( ?6 c' \$ L- ?8 f! G
6.2 用户列表 新建、编辑用户指定角色,用户的权限是绑定在角色里面的,一个用户可以有多个角色,配置信息如图6.2.0。 - Q, t# r B. p
7 Q; |9 v! P' m# A9 w" T9 W0 {图6.2.0 新建、编辑角色
- v, c, Y$ G5 u6 V1 `; b7 z4 I- } o2 v4 w
6.3 操作日志 操作日志记录的是在你的Superset平台上不同用户的行为日志,如图6.3.0。 图6.3.0 行为日志查看 ! H% x! E9 J& p5 ~7 w
8 ]* _: a1 G/ j" E4 n
6.4 用户信息、退出、版本信息 菜单栏最右侧的个人信息,主要是包含: - 用户信息:修改用户姓名,重置密码;
- 退出:回到登录主界面;
- 版本:目前您安装的Superset版本信息。
- s3 ~' M6 ~, e R/ i4 f4 N4 a: \! S; @( |+ s/ H, K
图6.4.0 个人信息模块 " B. `$ a9 r! j. }
# b1 D1 r* b% d" U$ M
6.5 语言选择 作为Apache的顶级项目,自然是运用于全球的,支持世界上一些通用的语言 ,选择一款你最喜欢的即可。 图6.5.0 语言选择
' G! ~7 \; V6 a3 d k6.6 管理设置 针对仪表盘,图表渲染加入自己想要的风格和模板,实际运用的用的不多。
' o) }) d/ l1 v( w E5 J9 M5 c" T# _4 O3 D
图6.6.0 管理模块 - }0 f9 u- M. \ `- f& ]1 ?$ G
6.7 + NEW 菜单栏的+ NEW其实就是给最通用的三个模块SQL Query、图表、看板(仪表盘)的一个快捷方式,此三者的用法就不在累赘了。 图6.7.0 + NEW模块
0 W4 W* n% ^* }7 ^4 e5 ~8 E+ z# M- e* d T' D
* K1 ~/ I4 P6 ^" M; X3 u
原文来源: https://blog.csdn.net/LXWalaz1s1s/article/details/119061337 ! e* t# j$ k5 f1 A e
|