目 录
2 U3 J' S+ O$ h% d4 Z5 h( `3 M' ^+ V! }3 y; T3 Q
1. 需求背景1.1 大数据可视化面临的挑战 大数据的兴起,关于数据的存储、计算技术层出不穷,但是最终的数据可视化呈现,数据的探索,也成为颇为重要的一环,这一块并没有像存储、计算技术栈那么百花齐放,大家在做大数据可视化时是否也曾有这些困惑呢? - 传统的可视化对接传统数据库,对大数据组件的hive,spark,presto、elasticsearch、clickhouse等兼容性差,甚至不兼容,每次还需要多一道将大数据集群数据分发到传统数据库的冗余操作;
- 商用产品昂贵、甚至产品设置技术壁垒,很多甚至要求对接该商家的自己的大数据技术方可对接;
- 群众基数大的Excel拖来拽习惯、SQL操作的方便性,排斥自成一派的新技术,网页版账号登录优于用户下载客户端登录;
- 公司开发人员配置紧张,没有多余的人力自研大数据可视化平台,但是决策层希望有一个统一的可视化平台。8 B0 w6 p! O) O5 n
诸如此类,确实令人头疼,现在就推荐一款解药Apache Superser——开源的大数据分析探索、可视化报表的神器。 1.2 大数据数据可视化的目标架构7 v. [* k) ^% f
3 Z, o4 S+ ^. v) p" C6 x2 C1 ]% B图1.2 大数据数据可视化架构
+ F: T/ l7 F# [0 B1 X, Q( P 做事还是需要立一个目标架构,最后所有的事情都是围绕目标架构展开,才能越做越轻松,如图1.2,可是架构分为三个梯队; - 第一梯队:ClickHouse、DorisDB、Kylin等优秀OLAP技术做存储,利用自带的连接引擎,快速响应,同时支持实时数据和离线数据的接入,外接可视化平台,通过权限管控后呈现给用户;
- 第二梯队:数据存在数据仓库Hive内或者NoSQL的Hbase,再通过较为优秀且高效的引擎Presto、Flink、Spark等接入可视化平台,通过权限管控后呈现给用户;
- 剩下就是一个特殊的,如MySQL,临时文件等文件的接入;( P# R/ b) X. Y1 v; `5 T# c$ m
注意:常用的也还有其它技术架构,如ELK架构,ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成。Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。 Logstash是一个完全开源的工具,他可以对你的日志进行收集、分析,并将其存储供以后使用(如,搜索)。 kibana 也是一个开源和免费的工具,他Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志。这个后续再讲,这里书归正传,先讲讲Apache Superser。 2. Apache Superset简介2.1 Apache Superset是什么? Apache Superset是一款由Python语言为主开发的开源时髦数据探索分析以及可视化的报表平台;她支持丰富的数据源,且拥有多姿多彩的可视化图表选择。 ; r' ~2 G& ^; t n2 F
7 C2 U' X6 G! U4 X" i9 g4 I# H& G2 d& S$ Y2 N# ?6 v8 }
' n) Y" \8 v- l( w* [0 E
图2.1.1 Apache Superset定义 # W; ]# b* ^& Z5 ^4 o3 Y& {% V- M5 o
2.2 为什么选Apache Superset?- 支持丰富的数据库作为数据源,基本上平时用到的数据库都支持;如图2.2.0,支持的数据源有:
; A* G* P" ^# S# ]0 A
- Amazon Athena
- Amazon Redshift
- Apache Drill
- Apache Druid
- Apache Hive
- Apache Impala
- Apache Kylin
- Apache Pinot
- Apache Solr
- Apache Spark SQL
- Ascend.io
- Azure MS SQL
- Big Query
- ClickHouse
- CockroachDB
- Dremio
- Elasticsearch
- Exasol
- Google Sheets
- Hologres
- IBM Db2
- IBM Netezza Performance Server
- MySQL
- Oracle
- PostgreSQL
- Trino
- Presto
- SAP Hana
- Snowflake
- SQLite
- SQL Server
- Teradata
- Vertica
7 f F& ]9 s5 @) d& x9 ^6 y9 p
. y& W; ~5 Y, q8 J1 l+ y( \
图2.2.0 Apache Superset支持的数据源 . z/ Q1 `% s- h$ O2 K( i
- 多姿多彩的可视化图表,Apache Superset拥有非常丰富的图表,来实现不同的可视化需求,如图2.2.1。: R' Q1 f& x$ V3 k& Z2 N
4 l# q6 u2 I8 A( A z ]4 y
图2.2.1 Apache Superset支持的图表
& E. F5 l ^* F- Data:主要功能是新增数据源和数据集Dataset(旧版本也叫Table),Dataset作为数据图表可视化的基础;
- Charts:图表,就是针对准备好的Dataset数据集,选择一款合适的图表呈现;
- Dashboards:仪表盘,其实就是报表、看板大屏展示,可以将多个Charts组合到一个仪表盘内一起展示。
- SQL Lab:SQL实验室,其实就是一个类似DBeaver、Navicat、DataGrip等一样的多功能数据库连接客户端,但是只有查询功能,配置驱动和连接后可以进行数据库、表、字段等模型的SQL查询操作。
- 设置:语言选择,登录注销、人员权限,操作日志等设置;0 G$ |4 ?, n! r+ d/ D% Y# r& T
图2.2.3 Apache Superset使用预览
8 ?2 F/ \, i" o) N9 z; h3 R& B& |2.3 对比Metabase- 天生自带支持的数据源Apache Superset完胜Metabase;
- 数据图表形式Apache Superset完胜Metabase;
- 操作界面美观丝滑度Apache Superset稍逊Metabase;
- 托拉拽操作Apache Superset稍逊Metabase;
$ c# w! c2 G" H; G! W Z
向来博主都是鱼与熊掌能兼得就兼得,毕竟小孩才做选择嘛,可以考虑两个都装,Metabase用于专注业务数据需求人员,Apache Superset用于懂SQL的数据需求人员,二者生成的通用仪表盘,则可以利用一个统一的网页超链接到一起,形成一个统一的报表平台。 3. 快速上手 这里先快速上手带大家体验一把,细节后续章节细讲,首先配置好数据库连接(配置方法参考后续的 5.1 新建Databases(数据库)),然后打开SQL Lab,选择好配置数据库,写SQL语句分析探索数据,如图3.1.0,然后运行语句,得到数据结果,可以点击保存将常用的探索SQL保存下来,然后点击查询结果上方的EXPLORE按钮,就可以跳转图表分析图3.1.1; # P# V. g" U. }; j
5 Z* _) R* d* I1 q- _图3.1.0 Apache Superset在SQL Lab上探索数据
3 V; ^5 x3 p q 利用SQL Lab探索得到的数据集,选择合适需求的数据图表,选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表; * ^& t ?8 L( i0 w/ t
: V9 e3 _9 }6 h( e' R
图3.1.1 Apache Superset数据可视化 % f$ e. Q" G$ \4 O
新建Dashboard,然后编辑Dashboard,将之前生成好的Charts(图表)拖拽到Dashboard,就完成了数据仪表盘的最终呈现,然后就可以分享给需求方,也可以生成访问链接分享。 注意:拖拽时尽量往Dashboard的上面拖拽,会出现一条蓝色的分界线就可以松手,否则可能出现无法拖拽的情况,这个设计很坑。 图3.1.1 Apache Superset数据仪表盘呈现 : e4 c) w4 i/ j1 g/ R5 o& a: z/ a
4. 部署安装4.1 部署方式及版本- 支持Linux、Windows、Mac的Docker部署
- 支持Linux、Windows、Mac的Python环境代码部署
- 可以在github,官网、或者国内镜像网站查看版本,但是别先下载,因为Apache Superset依赖包很多,最好能在线安装;0 D4 Z# s! u% s4 H
3 o& B8 \# |* U/ @6 ?9 O
图4.1.0 Apache Superset版本预览 * T/ a: J% I T" @/ B' O: L& J
- 博主选的是apache-superset-0.38.1.tar.gz在Linux上的Python环境代码部署。" ^. E0 A Z! V3 z
4.2 配置需求- apache-superset-0.38.1.tar.gz
- CentOS 7 16核 32G(非硬性,一般性能的服务器即可)
- Python 3.6
- 要求服务器网,如果没有,可以使用能联网的代理服务器,依赖很多,采用在线安装的形式& ^ O- k; j2 u
4.3 下载安装- 下载安装Python3.6,可以选择安装anaconda集成的python,可以参考博客Linux通过anaconda来安装python,对应的版本是Anaconda3-5.2.0-Linux-x86_64.sh,下载传送门:Anaconda Download;安装好以后,如果老的服务器上存在python2,默认的环境变量启动是python2,没关系,只需要设置一个新的环境变量确保 python3启动是刚刚安装的版本即可。
- 安装python虚拟机,并启动,然后安装Apache Superset。7 r9 {7 B2 h) g2 A
) r/ b( f4 q4 T. F( l- # 切换到自己安装软件的目录,博主的是在/usr/local/tools,并新建superset目录$ p. W! M6 r- b& y2 J, W" \
- cd /usr/local/tools
3 F- X% w% T6 s; z4 A - mkdir superset6 R8 w" ^# l7 d2 W/ A+ C, m' M
- cd superset
! F6 n$ `0 o5 v: n9 U: |
4 h; O& a; X2 {- T2 R- # 安装虚拟机,有网就不需要的代理服务器,配置代理服务器10.212.18.34:3129方法:, x- t z& i! y
- # 写入配置文件 /etc/profile里面追加
6 S4 E, Q- V$ n - # export http_proxy=10.212.18.34:31292 q5 M+ U2 M: d/ ?" f# o4 u
- # export https_proxy=10.212.18.34:3129
1 l3 S# S# p5 U3 K - # 然后wq! 保存退出,source /etc/profile刷新配置文件
5 |* }& e* y0 Z/ O( H# G/ Q ] - # 安装完可以删除代理,记得再source /etc/profile
: E6 Y8 ]: m+ u* i - # 如果不想配置/etc/profile或者无权限,可以采用以下命令
) h7 J& j E; U7 o5 J [ - # pip install virtualenv --proxy=10.212.18.34:3129,每次都需要,烦1 @" c2 o; h* O4 i& r8 W% A
- pip install virtualenv7 k, _* ~& Q3 ]& {; j4 Z
- 2 Q/ m% I5 O0 \0 x( Y$ ~: U
- # 配置命名虚拟机
s8 U0 s" @- I; w; P - python3 -m venv venv3 g# H' f& ` |1 A* @7 {- |
- 1 j0 Y; j$ v/ C2 M; |
- # 启动虚拟机,会在当前目录下自动创建venv目录. H$ b& q4 a* y* s
- . venv/bin/activate
( G1 W3 R- G3 w* P2 G; T. _* @1 d
# ?$ w! l$ y5 _3 U& ~6 |- # 退出虚拟机指令,但是这里不需要退出
* [" F) M4 ]8 z. A' M- M - # 退出虚拟机指令,但是这里不需要退出
. q! d6 l, q$ V8 C8 U o - # 退出虚拟机指令,但是这里不需要退出
5 X# J2 d0 ~7 x - deactivate) r* `* H0 a7 _4 E' i" X
: K* P5 V# |# j" d" w) u- # 安装更新一些依赖7 @7 L, ]. H( b+ o/ }
- pip install --upgrade setuptools pip -i https://pypi.douban.com/simple/2 k/ }. k& u+ M: ^7 o$ ~. [. I
, E" ]0 O7 T6 I- G, E3 C& c4 f0 D- yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel
+ o6 x" P- V$ z# k7 N' l
: \- s; d, P* @/ B- # 如果报错:GPG key retrieval failed: [Errno 14] curl#37 - "Couldn't open file /etc/pki/rpm-gpg/RPM-GPG-KEY-EPEL-7"& y4 t2 I4 D( X g5 y: U( s
- # 解决:
A3 I) @# [" i - vi /etc/yum.repos.d/epel.repo0 @7 U! f1 ?. H% F% F" P3 p \
- gpgcheck=0
/ R" c G0 N F% I3 {: \ - # 然后wq!保存再试一次yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel
- U: R! l: @, r0 n
8 x) t* J) j1 J0 h- # 先用官网下载,因为官网的会自动把依赖也给你一起安装了,实在不行再用其他网站的镜像
8 z5 Y7 S) S3 p) \# {( \% G - pip install apache-superset==1.4.2) W! e& ^& e3 P1 b7 E* s! Z9 u
1 O& ^' V* l! a- # 安装superset,指定版本,不指定版本默认是最新版本
: B& h s, \8 j& ^ - pip install superset==0.30.1 -i https://pypi.douban.com/simple
" Q: E" }+ H& u8 Z
; @: j( T T& J7 Z2 x- # 安装email_validator ' m% R* d7 h6 h+ L1 S7 M3 y
- pip3 install email_validator -i https://pypi.douban.com/simple/8 \3 s% w" e( D0 [; `3 {8 [7 S( P6 M
& o) @3 }* b9 d$ v. L- # 更新数据库
" o y: E% ]( l - superset db upgrade! G- k8 h- r& N ?! [ z( m
% ~: f/ i x9 ]) b @5 M% Z8 i- # 创建admin的用户名,用户名随便写,bigdata123,admin都行,写完用户名后会让你输入姓,名,邮箱,这三项可写可不写,不写就直接回车,然后是设置密码,一点要写。7 G4 d# x5 C/ }6 H4 _3 H @
- export FLASK_APP=superset7 C9 m; |8 O. [: P- v
- superset fab create-admin
8 l! E& a. m+ g7 q) J/ A - - J; R* `6 P9 h3 i0 @
- # 加载样例数据,考验网络,如果实在一致加载报错就放弃,不影响后续使用。: Z7 z. c# @7 a, X
- superset load_examples& A+ E" F5 i( P" ~
- / R0 l5 \% I% l6 @: C+ ]
- # 初始化) q2 M/ u( Y: u
- superset init
* t3 ^% `0 B0 [. M- Z7 ] - 7 n& I2 f8 ?. U& x! g
- # 启动,官网是superset run -p 8088 --with-threads --reload --debugger% R/ o3 D) y4 N$ j q6 e
- # 建议用gunicorn启动,方便快速,先直接启动,确保打印在客户端的日志正常
2 I6 W F8 {( l/ T$ ^7 P - pip install gunicorn
: Q& H7 }5 g7 K - gunicorn -w 5 --timeout 120 -b 10.218.10.290:9089 "superset.app:create_app()" * c" b9 n* h5 ?6 w- Z
4 P, ]& ]+ ~1 C# F- # gunicorn 是一个Python WEB服务,可以理解为Tomcat6 @% A7 y9 O$ {) p
- # -w WORKERS:指定线程数
" d- a& c" U7 B1 G7 l - # --timeout:worker进程超时时间,超过会自动重启
) g# ^0 w% j! J+ M! p+ L9 V - # -b BIND:绑定Superset访问地址' A* `( b' P6 n
- # --daemon:后台运行
$ ~% `" E0 O8 f
% Z5 c. J* S& K9 x1 `. ?- # 在能访问10.218.10.290:9089的服务器上打开浏览器,输入刚刚登录的用户名,密码即可。# W" [" g) f8 m6 R
" ~( [/ @3 Q p& e- " z7 @7 d1 ?/ ?1 h& g
- # 如果没开启后台停止,直接ctrl+c关停' D4 \3 C' ~$ a/ P/ h
- # 后台进程停止gunicorn& v3 Q% K/ F( P0 `# d% F! Q
- ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码 1 k3 w R# q( R
3 N0 B7 g4 x1 J4.3 安装注意及排错 pip install superset步骤时出现关键字眼Successfully installed证明正确安装,如图4.3.0;
+ w% {! ^5 W# x4 l; S- d; F5 V2 B$ _/ E4 _/ {/ [. w) J
图4.3.0 成功安装的提示 ! p. L! O. q6 {3 @/ s
superset fab create-admin配置用户名时提示如图4.3.1。 图4.3.1 配置用户名时提示
, P0 Y$ w9 ~$ n) [$ S- N 每个人的服务器环境,可能导致缺少的 依赖不同,途中如果遇到bug,可自己百度解决,基本都是python依赖包之类的问题,要耐心。 - # 报错
/ i6 O, \7 }) V" V0 L7 `' K1 Q - ModuleNotFoundError: No module named 'dataclasses'
0 e& S1 b& I, [8 e - 0 Y7 F$ U2 e7 }( }
- # 解决
0 \/ @' J8 ?: R5 @% a8 q - pip install dataclasses/ C& \( x4 R# Q. U! Q3 X4 T$ A8 n
7 t8 h6 h3 @# R' J- # 报错
3 o2 }3 e- b' }3 E4 i - No PIL installation found
6 o* q/ z# A# a c- M6 Q& d - # 解决
) r! j; D/ f) d$ P, \2 ?# K - pip install pillow
% F% {$ ]$ X3 a2 O
复制代码
1 V9 c u% P1 | X+ Q' d 一切解决后,网页登录如图4.3.2; 图4.3.2 登录首页4.4 启动与关闭
/ k+ p! e' d: E1 l/ I8 v 官网提供的直接启动的方法不是很好,博主推荐一个采用gunicorn的方法,先关停superset。 $ p) B/ J( b: N, X/ g
5 D! [4 J2 J, i$ L4 E
- 1 i4 f! J r, \1 G# M
- #安装好superset后会在venv生成很多文件,切换到venv; h9 m; I3 Y6 s- O3 h! Q
- cd /usr/local/tools/superset/venv/
/ r5 p# A0 F) X& P# n' j
$ w6 h- b: b3 H9 B6 d- 0 C6 g) o, @! R% G+ w1 j2 {0 z
- J4 u+ Y8 b! q, D+ O' a; R- #新建日志文件夹
! j, |$ m' _) M7 ^ - mkdir log. l9 t( z+ Z* M5 v$ ?
- , m8 W* m" m( o, `! {9 m' f
- #切换到log目录,新权限 日志,错误日志和启动pid文件
- g3 r& ~$ ?2 j, A - cd log
9 B- P, a4 j/ a8 @7 k2 \ - touch gunicorn_access.log
# j ~# o" [5 Z( I - touch gunicorn_error.log0 t8 K0 O9 |; w% O1 e; G \7 `4 F0 D
- touch pidfile8 ^7 C" W; e& N7 w( Q
- chmod 755 ./* #修改权限
& l/ A9 R+ v" W( z3 l/ m - 9 s" M, d3 A5 x
- #切换到/usr/local/tools/superset/venv/bin,写一个gunicorn配置文件,python语言6 c W4 C# o% W
- cd ./usr/local/tools/superset/venv/bin: U) V4 x+ v7 B7 P" r0 o" z# j
( L# D! j9 t; B) w2 a# ~2 G
$ g: a) F4 N. `# a8 v* E- vim gunicorn_config.py # 内容如下6 T9 w. G% U9 r. D" X
- # y* W5 M0 p% F$ r7 v
- #内容开始
6 `& E+ l# ?, n7 j. B6 y! z1 _ - import multiprocessing8 y; ~: F6 ~. S* {2 r
- * Q" l+ z: _8 z; {) Q
- D8 `& k- v( u) Z6 {7 f( F
- bind = '10.218.10.290:9089' #绑定ip和端口号
9 X, y* i9 U; I, w - backlog = 512 #监听队列0 o. r* z/ i9 B; y+ X% d
- timeout = 30 #超时
/ o/ V' t( h( G. E: ` - worker_class = 'gevent'
/ @# Z6 E) `4 E) [' n& |+ t8 Z - workers = 5
) i9 T1 Z6 s# ]( s1 Q - worker_connections = 1000+ a9 B2 I- f. x3 d: u
- threads = 2 #指定每个进程开启的线程数 d2 I' O4 w! b9 j$ O2 ^% o8 {
- loglevel = 'info' # 日志级别1 z7 L/ j; r: m% h+ |
- access_log_format = '%(t)s %(p)s %(h)s "%(r)s" %(s)s %(L)s %(b)s %(f)s" "%(a)s"' #设置gunicorn访问日志格式,错误日志无法设置% |. F/ X4 H, m. _8 Z4 V3 t/ O
- - n M$ x0 l4 N4 [; p
# x; L# d! J8 x
, y9 f7 i1 S: H1 z( n) T- pidfile = '/usr/local/tools/superset/venv/log/pidfile'
9 n+ y, _( J6 t% w( K - errorlog = '/usr/local/tools/superset/venv/log/gunicorn_error.log'5 U% ~, u2 k& V
- accesslog = '/usr/local/tools/superset/venv/log/gunicorn_access.log'& }7 p4 o, g; Y8 m" s3 e. i' Q
+ W! ~% k0 r* v) n1 {0 r6 W- print("IP and PORT:"+bind)
8 V) H% B) {5 _% E - print("pid_file:"+pidfile) b1 ^# E9 v, j- o1 g1 q
- print("error_log:"+errorlog)( U# |7 a! s& ~: V- F
- print("access_log:"+accesslog)3 V" V! H2 i& @! C5 [
- 7 v4 v6 J6 a/ Q0 y5 U
- #内容结束
) ~5 P: r" I$ T0 G. y+ Q - $ s$ X4 ~1 k7 m# @1 q3 `5 \/ v( q
- #然后 wq! 保存退出
& a8 R+ ^: B5 o6 j- K
! l# v$ Y8 O g2 l: t( n- # gunicorn 启动 -c 配置文件启动;--daemon后台启动,日志可以去配置文件指定的路径查看
" p6 m0 Q6 }% }2 H3 I3 _ - gunicorn -c ./gunicorn_config.py "superset.app:create_app()" --daemon' ` J$ h- o: S$ v! o9 L9 w
9 [. M! [/ J( f" h9 y- # 后台进程查看3 l8 t+ B7 S4 V' P& G
- ps -ef | grep gunicorn' v; _/ M2 c5 P4 j6 U
( G) w* K/ x. c! U+ ]- # 或者通过端口查看0 y6 C& q$ {/ L# _5 h7 m. z
- netstata -tunlp | grep 9089
: r6 o( R6 e1 Y9 Z - # 或
5 ?# y+ g/ b0 B l: r - ss -anp | grep 90897 t6 e, z2 \) R1 O+ f
1 f; v2 L4 H2 A! @$ l# x# _7 K- # 如果没开启后台停止,直接ctrl+c关停- V R/ K7 O }, @, a
- # 后台进程停止gunicorn; e& d% G+ p5 C/ H1 U
- ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码
* u$ ^# V+ W0 s1 N7 F0 m 5. 用户手册(重点), k& d4 B V6 f" Y! w
' G' k" F% o5 q9 F+ Y* H: T
5.1 新建Databases(数据库) 新建数据库之前,需要先安装该数据库的python驱动包,具体语句可以参考官网 Database Drivers,如图5.1.0,一般就是pip install XXX,安装好驱动后,记得重启下Superset服务; 新建数据库连接的作用是为数据集Datasets和SQL实验室SQL Lab提供数据库、表的选择,就是提供数据源,当然Data下还有个Upload CSV(最新版本也支持Upload Excel)也可以直接将本地的CSV文件作为数据源上传到Superset站点,直接进行数据探索分析。 图5.1.0 数据库驱动以及连接字符串
& ?7 _" L% H0 x8 B9 F+ ~ 登录进Apache Superset后,点击Data,下来选择Databases,然后跳转到图图5.1.1,点击右上侧的+号就可以跳转图5.1.2的数据新增配置界面。 图5.1.1 新建数据库连接 6 \: k7 g9 g+ [0 V S' t0 g
图5.1.2,Database是指的新建这个数据库的显示名称,这个随便取,合理即可,SQLAlchemy URI 这个地方就是之前图5.1.0上的数据库连接字符串,确保和你选择的数据库类型一致。
+ {7 k) e) x" ]1 i; u0 B: j% m9 ?0 b然后点击TEST CONECTION,连接成功后会跳出Seems OK!的弹出框,记得滑到最下面,点击保存,如果连接不成功,请检查数据库的实例,端口,用户名,密码以及自己部署的Apache Superset的服务器访问数据库的端口网络时是否能通,当然也不要忘记SQLAlchemy URI 填写规范,保存后的数据库连接就会列举在图5.1.1上。
% p1 R; F; t- J8 N( n5 R
! w% F# Q o/ {/ P& L图5.1.2 新建数据库连接配置信息 1 M" m3 ]1 r3 T! s: j* v) B
5.2 新建Datasets(数据集,老版本也叫Tables) 图5.2.0 新建数据集 6 ~2 o& |9 i* k8 X
如图5.2.0,点击图中的Data下的Datasets,然后点击+号,跳转到图5.2.1,将配置好的数据库名下拉选出,写一个该连接实例下的数据库,然后选择一张表,点击保存即可,保存好的数据集会列举在图5.2.0中,这些知道为啥老板叫Tabels了吧;! v4 s# k; W0 O
数据集的作用是为后续的Charts(图表)数据可视化作为数据源头。 图5.2.1 新建数据集配置信息 ) K- z; U+ _: Y( n& i1 i2 \4 z
5 C8 p, d- B' J2 _& L4 x* O" R
5.3 SQL Lab(SQL实验室) SQL Lab其实就是一个数据库查询客户端,利用SQL语句对数据库的表,字段模型进行查询探索,同时支持智能补全,当然SQL Lab的查询结果也可以直接EXPLORE到Charts(图表),作为数据可视化的数据源。 H& B' V( A8 W- D, j& @
如图5.3.0,SQL Lab有三个选项,三个选项的功能如下: - SQL Editor:进行SQL查询探索
- Saved Queries:保存的通用查询SQL
- Query Search:查询的历史记录
S$ L! y( v5 W& Q
图5.3.0 主界面进入SQL Lab " t/ [* Q, |2 y; c
点击SQL Editor进入图5.3.1的SQL查询探索,左侧上方是配置好的数据库连接名和选择的数据库,左侧下方是将要用到的表及字段模型;右侧上方是写SQL语句的地方,支持RUN(查询),RUN SELECTION(查询鼠标选择局部语句),SAVE(保存),SHARE(分享)等,右下方是数据结果,支持EXPLORE到Charts(图表)可视化,.CSV下载,CLIPBOARD(复制到剪贴板)。 图5.3.1 SQL Lab使用
" \* m1 E' Q- F X3 S5.4 创建Charts(图表) 图表的作用是数据可视化,利不同的图表满足不同的业务需求,图表同时也作为仪表盘的展示的一部分,一个仪表盘内可以展示一个或多个图表。4 X0 x9 u6 J+ a+ W/ J0 e
创建图表的方式有两种: - 如图5.4.0,点击Charts,点击+创建新的图表,跳转图5.4.1
- 在SQL LabSQL语句探索查询的结果直接EXPLORE到Charts(图表)可视化# L+ a N' o: ]
图5.4.0 创建图表
4 _1 g5 I( J, f3 O* I 如图5.4.1,选择合适需求的数据图表(如图5.4.2,支持的图表类型非常丰富,号称最漂亮的可视化图表展示),选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表; 0 F9 R* B! o) k/ N \/ s7 g
6 M. {7 e7 ]/ Q1 K- X6 l6 v. D
图5.4.1 图表可视化配置 1 W& A( u C/ S9 P, ]# e
号称最美可视化展示,支持可视化的图表类型确实丰富多彩,应对各种可视化需求。 ( ^% U k6 T l A) i5 g- b9 ]& m
6 @& d9 e* L. O9 S
图5.4.2 支持的图表类型
. J2 [# c! R" V/ I) p6 f. s5.5 创建Dashboards(仪表盘) 仪表盘就是最后的数据总体呈现,即报表展示。 如图5.5.0,点击Dashboards,然后点击+新建仪表盘,跳转图5.5.1。 图5.5.0 创建仪表盘 , z, `( C& e9 e: K5 V9 u F B- w
点击图5.5.1右上角的编辑仪表盘,之前做好的Charts(图表)拖拽到仪表盘上,注意:第一次拖拽的时候尽量网上拖拽,知道出现这个条蓝色的分解线,否则 无法拖拽过去; 同时也支持一些通用的组件,图表旁的Components下,有Header、Tabs、Row、Column、Markdown、Divider;
: \' W2 c4 q$ f, c 编辑完后后记得点保存。 图5.5.1 编辑仪表盘
9 q7 e6 S& [5 \+ x Z" | 保存后的仪表盘支持分享,下载等功能,同时也会根据图表内的数据源刷新来获取新的数据; % n: e- a) L) }4 q5 {, K+ P& D6 e& ~
: Z0 x8 e0 o: S. a% W图5.5.2 仪表盘功能 , |0 j5 n$ k' H
分享给别人看到的仪表盘如图5.5.3。 图5.5.3 分享后他人视角的仪表盘
3 ?2 S* P9 N. F$ p N% E7 R. N6. 设置 设置包含在菜单栏Settings下,主要设计权限和操作日志等模块,接下来分别讲解。 " e5 l- e# @# ^! s2 G
2 w( ^$ U1 w7 \2 c: q% ?4 Q图6.0.0 通用设置 4 A; A- Q( ^: Q6 `% D+ a& ]+ ~8 e2 N1 N
5 i( W7 ?- s% O7 w- F6.1 角色列表及权限 Apache Superset中的安全性由Flask AppBuilder(FAB)处理,FAB是一个构建在Flask之上的应用程序开发框架。FAB提供身份验证、用户管理、权限和角色,可以查看其相关文档。, V' k! P/ o) g9 @! t6 }
Apache Superset默认提供了不同的角色,每种角色拥有的权限不同,在运行superset init命令时,与每个角色关联的权限将重新同步到其原始值,不建议更改与每个角色关联的权限(例如,通过删除或添加权限),支持admin再自建角色类型,指定想要的权限,默认的角色及权限如下; - Admin:管理员拥有所有可能的权限,包括授予或撤销其他用户的权限,以及更改其他用户的切片和仪表板;
- Alpha:Alpha用户可以访问所有数据源,但不能授予或撤消其他用户的访问权限。它们也仅限于改变它们所拥有的对象。Alpha用户可以添加和更改数据源。
- Gamma:Gamma用户的访问权限有限。他们只能使用来自通过另一个补充角色访问的数据源的数据。他们只能查看由他们可以访问的数据源制作的切片和仪表板。目前Gamma用户无法更改或添加数据源。我们假设他们主要是内容消费者,尽管他们可以创建切片和仪表盘。另请注意,当Gamma用户查看仪表板和切片列表视图时,他们将只看到他们有权访问的对象。
- sql_lab:sql_lab角色授予对sql lab的访问权限。请注意,虽然管理员用户在默认情况下可以访问所有数据库,但Alpha和Gamma用户都需要在每个数据库的基础上获得访问权限。
- public:要允许注销的用户访问某些超集功能,需要自己配置权限,并将其分配给另一个角色,您希望将其权限传递给该角色。' J2 Q x# y% l$ k" C0 c
图6.1.0 系统默认角色 3 `) D4 W2 x1 ?8 ?' C6 I- j' u
同时Apache Superset也支持管理员自己新增角色,如图6.1.1,新建角色并指定角色权限。
9 |1 O8 c/ T, J* n1 b* j+ D6 _. \; m" m
+ f% K. z1 ]9 f5 L3 O图6.1.1 新建角色
; S% s' w1 d0 P+ U' s0 G4 |) @8 o* H5 s( g) L
6.2 用户列表 新建、编辑用户指定角色,用户的权限是绑定在角色里面的,一个用户可以有多个角色,配置信息如图6.2.0。
5 v+ u$ A& x% K1 g* F, |& g* E8 ?! N
图6.2.0 新建、编辑角色 1 p# w* y, D% d
8 u# M H S% `6.3 操作日志 操作日志记录的是在你的Superset平台上不同用户的行为日志,如图6.3.0。 图6.3.0 行为日志查看 0 p) _/ X. g3 _( Q3 X, m
0 V7 U# b V0 n0 i& B, a1 A
6.4 用户信息、退出、版本信息 菜单栏最右侧的个人信息,主要是包含: - 用户信息:修改用户姓名,重置密码;
- 退出:回到登录主界面;
- 版本:目前您安装的Superset版本信息。
( I/ j- k! \4 j2 p4 ?& Z0 a7 T+ ?) d. s6 n4 O& q5 b5 q/ S
图6.4.0 个人信息模块 " z7 z1 r2 S1 H- |* \
/ t. @* o2 K& c. j% R
6.5 语言选择 作为Apache的顶级项目,自然是运用于全球的,支持世界上一些通用的语言 ,选择一款你最喜欢的即可。 图6.5.0 语言选择
* q5 T s5 B& F: ~/ N6.6 管理设置 针对仪表盘,图表渲染加入自己想要的风格和模板,实际运用的用的不多。
$ @3 l; o: c e6 H. |) k( @! E! S4 T" k/ z3 [
图6.6.0 管理模块
7 s- ?# p8 C4 R, d6.7 + NEW 菜单栏的+ NEW其实就是给最通用的三个模块SQL Query、图表、看板(仪表盘)的一个快捷方式,此三者的用法就不在累赘了。 图6.7.0 + NEW模块
, w+ N+ Q+ Q1 d% q
# A) i4 Y) z8 V$ ]
2 J$ \$ s5 h4 t* x8 |# b, [: \原文来源: https://blog.csdn.net/LXWalaz1s1s/article/details/119061337
. K$ r8 R; L: b* n6 {3 P |