目 录- 2 y S) O7 Q3 }1 @1 W6 a+ `
: g W& c _1 C5 q' W; j
5 y& k6 \5 l7 H2 }/ B1. 需求背景1.1 大数据可视化面临的挑战 大数据的兴起,关于数据的存储、计算技术层出不穷,但是最终的数据可视化呈现,数据的探索,也成为颇为重要的一环,这一块并没有像存储、计算技术栈那么百花齐放,大家在做大数据可视化时是否也曾有这些困惑呢? - 传统的可视化对接传统数据库,对大数据组件的hive,spark,presto、elasticsearch、clickhouse等兼容性差,甚至不兼容,每次还需要多一道将大数据集群数据分发到传统数据库的冗余操作;
- 商用产品昂贵、甚至产品设置技术壁垒,很多甚至要求对接该商家的自己的大数据技术方可对接;
- 群众基数大的Excel拖来拽习惯、SQL操作的方便性,排斥自成一派的新技术,网页版账号登录优于用户下载客户端登录;
- 公司开发人员配置紧张,没有多余的人力自研大数据可视化平台,但是决策层希望有一个统一的可视化平台。1 W3 |) P4 Y& ]. m7 z
诸如此类,确实令人头疼,现在就推荐一款解药Apache Superser——开源的大数据分析探索、可视化报表的神器。 1.2 大数据数据可视化的目标架构& R' G; Q6 X% d* f9 l, e( D
z/ h3 D, Y7 O) T图1.2 大数据数据可视化架构 : N5 z% I2 D1 ^2 ]6 \5 D1 u, Z
做事还是需要立一个目标架构,最后所有的事情都是围绕目标架构展开,才能越做越轻松,如图1.2,可是架构分为三个梯队; - 第一梯队:ClickHouse、DorisDB、Kylin等优秀OLAP技术做存储,利用自带的连接引擎,快速响应,同时支持实时数据和离线数据的接入,外接可视化平台,通过权限管控后呈现给用户;
- 第二梯队:数据存在数据仓库Hive内或者NoSQL的Hbase,再通过较为优秀且高效的引擎Presto、Flink、Spark等接入可视化平台,通过权限管控后呈现给用户;
- 剩下就是一个特殊的,如MySQL,临时文件等文件的接入;
. A- P! [0 }) A' ^+ P& A; Y( @
注意:常用的也还有其它技术架构,如ELK架构,ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成。Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。 Logstash是一个完全开源的工具,他可以对你的日志进行收集、分析,并将其存储供以后使用(如,搜索)。 kibana 也是一个开源和免费的工具,他Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志。这个后续再讲,这里书归正传,先讲讲Apache Superser。 2. Apache Superset简介2.1 Apache Superset是什么? Apache Superset是一款由Python语言为主开发的开源时髦数据探索分析以及可视化的报表平台;她支持丰富的数据源,且拥有多姿多彩的可视化图表选择。
* g i& B- h/ M
0 m7 l' C$ Y+ Q, x, v- |
, H: p, q% h ?9 P; j; a# u- n8 r: Q Z6 B
图2.1.1 Apache Superset定义
' S. r* {* G. j2.2 为什么选Apache Superset?- 支持丰富的数据库作为数据源,基本上平时用到的数据库都支持;如图2.2.0,支持的数据源有:
: h1 Q# H: k# B/ N8 ]
- Amazon Athena
- Amazon Redshift
- Apache Drill
- Apache Druid
- Apache Hive
- Apache Impala
- Apache Kylin
- Apache Pinot
- Apache Solr
- Apache Spark SQL
- Ascend.io
- Azure MS SQL
- Big Query
- ClickHouse
- CockroachDB
- Dremio
- Elasticsearch
- Exasol
- Google Sheets
- Hologres
- IBM Db2
- IBM Netezza Performance Server
- MySQL
- Oracle
- PostgreSQL
- Trino
- Presto
- SAP Hana
- Snowflake
- SQLite
- SQL Server
- Teradata
- Vertica
. X0 c6 |3 f" C h8 n' L* J
8 n1 O- j) a# p" L0 T" E3 }. g
图2.2.0 Apache Superset支持的数据源 " ]+ _7 ~# ^. D
- 多姿多彩的可视化图表,Apache Superset拥有非常丰富的图表,来实现不同的可视化需求,如图2.2.1。
w: [ {( a+ L e+ r& F
2 m: Z( r" ~' e
图2.2.1 Apache Superset支持的图表
3 @! ^- A, l' T8 ~( M \- Data:主要功能是新增数据源和数据集Dataset(旧版本也叫Table),Dataset作为数据图表可视化的基础;
- Charts:图表,就是针对准备好的Dataset数据集,选择一款合适的图表呈现;
- Dashboards:仪表盘,其实就是报表、看板大屏展示,可以将多个Charts组合到一个仪表盘内一起展示。
- SQL Lab:SQL实验室,其实就是一个类似DBeaver、Navicat、DataGrip等一样的多功能数据库连接客户端,但是只有查询功能,配置驱动和连接后可以进行数据库、表、字段等模型的SQL查询操作。
- 设置:语言选择,登录注销、人员权限,操作日志等设置;( M. t- L( `5 p7 X. }
图2.2.3 Apache Superset使用预览 ) U7 s1 n5 T3 a/ Z. m$ |
2.3 对比Metabase- 天生自带支持的数据源Apache Superset完胜Metabase;
- 数据图表形式Apache Superset完胜Metabase;
- 操作界面美观丝滑度Apache Superset稍逊Metabase;
- 托拉拽操作Apache Superset稍逊Metabase;
% d' M2 p9 i* x: Y% U& Y+ ^
向来博主都是鱼与熊掌能兼得就兼得,毕竟小孩才做选择嘛,可以考虑两个都装,Metabase用于专注业务数据需求人员,Apache Superset用于懂SQL的数据需求人员,二者生成的通用仪表盘,则可以利用一个统一的网页超链接到一起,形成一个统一的报表平台。 3. 快速上手 这里先快速上手带大家体验一把,细节后续章节细讲,首先配置好数据库连接(配置方法参考后续的 5.1 新建Databases(数据库)),然后打开SQL Lab,选择好配置数据库,写SQL语句分析探索数据,如图3.1.0,然后运行语句,得到数据结果,可以点击保存将常用的探索SQL保存下来,然后点击查询结果上方的EXPLORE按钮,就可以跳转图表分析图3.1.1;
! H7 n( G1 U0 p" Y5 E$ N+ g6 n7 A, h# }$ O$ V; X- A- v
图3.1.0 Apache Superset在SQL Lab上探索数据
" i, l# u j' ] 利用SQL Lab探索得到的数据集,选择合适需求的数据图表,选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表; : O: a! B( {+ Q7 T; L" s7 Y
* x) G5 r" c7 P0 C# b) U- W图3.1.1 Apache Superset数据可视化
. r- g C! a) ^ M3 T3 k3 u 新建Dashboard,然后编辑Dashboard,将之前生成好的Charts(图表)拖拽到Dashboard,就完成了数据仪表盘的最终呈现,然后就可以分享给需求方,也可以生成访问链接分享。 注意:拖拽时尽量往Dashboard的上面拖拽,会出现一条蓝色的分界线就可以松手,否则可能出现无法拖拽的情况,这个设计很坑。 图3.1.1 Apache Superset数据仪表盘呈现 ; o! E3 r/ P4 c, @3 D; Q8 R& a
4. 部署安装4.1 部署方式及版本- 支持Linux、Windows、Mac的Docker部署
- 支持Linux、Windows、Mac的Python环境代码部署
- 可以在github,官网、或者国内镜像网站查看版本,但是别先下载,因为Apache Superset依赖包很多,最好能在线安装;
% b; Q& ]+ K3 F7 @3 r3 t( Q
4 ]4 H* w9 j/ H2 D2 K5 O6 @
图4.1.0 Apache Superset版本预览
* `0 e! W) Z4 S3 a+ |- 博主选的是apache-superset-0.38.1.tar.gz在Linux上的Python环境代码部署。
4 g5 a; Y B1 {1 {# h 4.2 配置需求- apache-superset-0.38.1.tar.gz
- CentOS 7 16核 32G(非硬性,一般性能的服务器即可)
- Python 3.6
- 要求服务器网,如果没有,可以使用能联网的代理服务器,依赖很多,采用在线安装的形式
7 O2 @$ N {8 v7 y3 w6 B- i 4.3 下载安装- 下载安装Python3.6,可以选择安装anaconda集成的python,可以参考博客Linux通过anaconda来安装python,对应的版本是Anaconda3-5.2.0-Linux-x86_64.sh,下载传送门:Anaconda Download;安装好以后,如果老的服务器上存在python2,默认的环境变量启动是python2,没关系,只需要设置一个新的环境变量确保 python3启动是刚刚安装的版本即可。
- 安装python虚拟机,并启动,然后安装Apache Superset。
9 o( \; K- s; `- J+ H * D' m I$ c; `& J' V6 w$ P
- # 切换到自己安装软件的目录,博主的是在/usr/local/tools,并新建superset目录7 m* _! I# o& }! {: U L1 H
- cd /usr/local/tools
- @( X( c+ U7 X0 g, X( T& B - mkdir superset: d s+ S- l' q+ a4 U7 R, F. K
- cd superset
0 L4 [) R( J4 m, N8 N# j! F; w- r/ @ - 8 e p" j5 \& X. o7 _2 j
- # 安装虚拟机,有网就不需要的代理服务器,配置代理服务器10.212.18.34:3129方法:# ?$ Z5 v; U, C6 p6 z
- # 写入配置文件 /etc/profile里面追加
) W* f9 D8 V- }. ]$ X& F - # export http_proxy=10.212.18.34:3129
: x6 s. d! Q4 P$ O; u; g - # export https_proxy=10.212.18.34:3129
3 _" e' F) x2 x - # 然后wq! 保存退出,source /etc/profile刷新配置文件; |5 C; w. _, J/ h
- # 安装完可以删除代理,记得再source /etc/profile( N' m/ G7 R) Y2 E6 D4 C
- # 如果不想配置/etc/profile或者无权限,可以采用以下命令# E& E E* k7 C9 b% E0 }- X) V" ?
- # pip install virtualenv --proxy=10.212.18.34:3129,每次都需要,烦: ~* x1 a# z6 R% `
- pip install virtualenv* p7 p- q+ V( `% S
- ) w; A! o+ _6 B' [
- # 配置命名虚拟机7 q" o6 E6 O0 H. P Y1 w; F
- python3 -m venv venv& v, S, \4 g0 n! U% j1 ~
7 r X9 I; I( ?& i) {- # 启动虚拟机,会在当前目录下自动创建venv目录+ b( j0 |* O, _
- . venv/bin/activate$ P# j7 r' F) I7 i& _
C4 e% Y0 e" V7 U% e% D9 B- # 退出虚拟机指令,但是这里不需要退出
0 y: Q/ N$ [. b8 z; r! r0 n - # 退出虚拟机指令,但是这里不需要退出8 u* Q9 [! `0 [/ u( p. N* w2 E2 p
- # 退出虚拟机指令,但是这里不需要退出
0 _! x, j4 V" p0 r - deactivate
& o- r+ A& P e7 j, D, T - * g V8 V! p0 H4 }* d
- # 安装更新一些依赖$ }# c& O3 z. @; y/ G% ` R
- pip install --upgrade setuptools pip -i https://pypi.douban.com/simple/$ j5 j2 h. t S2 ~' y! L, H
- 1 n0 m ]- W" v) Y0 O
- yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel( _& Z# }1 B5 q A
- [3 T, t9 E( i2 n' ?$ R7 C0 Z. ]- # 如果报错:GPG key retrieval failed: [Errno 14] curl#37 - "Couldn't open file /etc/pki/rpm-gpg/RPM-GPG-KEY-EPEL-7"& U" e8 h* [3 n. }* T# M
- # 解决:
; @' K9 t: K+ t" B - vi /etc/yum.repos.d/epel.repo$ v, I7 o' y2 [5 `' N3 G I8 b& Q
- gpgcheck=04 j4 z; k- j8 q# B- o/ H. c G) m
- # 然后wq!保存再试一次yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel2 y- e9 n4 P g! `
3 |# `' T7 Y6 ]" F9 X E- # 先用官网下载,因为官网的会自动把依赖也给你一起安装了,实在不行再用其他网站的镜像
, ?% i7 l) J" n( k2 w; X" ` - pip install apache-superset==1.4.2
: W" o6 S1 N1 M* Y - 8 {5 a' O! D: j& w* r
- # 安装superset,指定版本,不指定版本默认是最新版本
; {% M" `# Y3 k) C - pip install superset==0.30.1 -i https://pypi.douban.com/simple
& A4 t/ R# P; X) X6 E- U - h& O" M/ f0 W7 d O" j
- # 安装email_validator 1 T& Z7 H: B7 C
- pip3 install email_validator -i https://pypi.douban.com/simple/9 k# ^; |% j" c2 K3 k0 M2 Z: p8 |6 G
% D7 w# r5 @: q; k- # 更新数据库# S4 g4 ?( g* c3 g
- superset db upgrade
/ W* x" |( k& O, H - 1 @0 t* g5 E3 f2 n: u! |
- # 创建admin的用户名,用户名随便写,bigdata123,admin都行,写完用户名后会让你输入姓,名,邮箱,这三项可写可不写,不写就直接回车,然后是设置密码,一点要写。9 o' t5 I6 Y, K M2 \, _
- export FLASK_APP=superset% g. u3 O$ W4 A4 X
- superset fab create-admin: G+ z, Z6 J1 Q' \* X
; \1 ~. J2 }5 c3 H) f7 `- # 加载样例数据,考验网络,如果实在一致加载报错就放弃,不影响后续使用。
' y* p; w0 r6 E' ~" ]: p; z& n - superset load_examples+ ?! E7 [* p8 J2 l' S
; P) k5 n8 N0 }" ]4 r; W/ r- V- # 初始化# z" C0 U' Z7 A
- superset init6 p! x8 B) `- u8 D- v
9 h2 _ x% X' v9 Q- # 启动,官网是superset run -p 8088 --with-threads --reload --debugger
* _' ]' ~6 b) C# X' J8 c - # 建议用gunicorn启动,方便快速,先直接启动,确保打印在客户端的日志正常
9 R% s3 l" S: f - pip install gunicorn
7 q" Q* W3 e* c; d2 e* O% N- [ - gunicorn -w 5 --timeout 120 -b 10.218.10.290:9089 "superset.app:create_app()"
: G+ m" ~( V) b' l
$ w5 s) Q# D# B! r \- # gunicorn 是一个Python WEB服务,可以理解为Tomcat
0 s) ^, }# Z8 } {4 X - # -w WORKERS:指定线程数) \. c: f1 e/ [
- # --timeout:worker进程超时时间,超过会自动重启- ^" U, c1 W/ X$ _
- # -b BIND:绑定Superset访问地址1 H7 M: x% b% F1 M6 r; A( w# B) Y
- # --daemon:后台运行
# e, `9 K3 a& I! G
" {5 U3 K+ A5 }- # 在能访问10.218.10.290:9089的服务器上打开浏览器,输入刚刚登录的用户名,密码即可。
7 d, H) N3 l; b6 Q2 B5 I: E d
! V% c. x6 Y' f m- ( l O) K! `0 ^5 p: R/ G# o
- # 如果没开启后台停止,直接ctrl+c关停- S7 ^8 }* R1 q. T; F
- # 后台进程停止gunicorn& a; Z2 I( N( K$ G" N& {7 W, h
- ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码
! x) K; p4 L, K) N
8 y& J, K* d( `% d+ E( x4.3 安装注意及排错 pip install superset步骤时出现关键字眼Successfully installed证明正确安装,如图4.3.0; 1 ~0 m' J3 _ ^" ~8 a$ w
9 f: P" r) j8 H9 J图4.3.0 成功安装的提示
4 y, D9 u1 k9 J& N9 q7 O: L superset fab create-admin配置用户名时提示如图4.3.1。 图4.3.1 配置用户名时提示
1 R _" y% r- X2 q! ]1 u. c 每个人的服务器环境,可能导致缺少的 依赖不同,途中如果遇到bug,可自己百度解决,基本都是python依赖包之类的问题,要耐心。 - # 报错! V, v! w& Y) y4 a4 l2 D$ P+ a& _0 u
- ModuleNotFoundError: No module named 'dataclasses'
4 o0 z; X7 o* ] - 6 `# l; o% A$ O0 |
- # 解决# W! F( k% @5 ~, x
- pip install dataclasses
4 a1 X" b2 Y: W. I: {, A
0 A& W5 { e% n3 q, Z) y- # 报错
& g# P- b$ j" h# P/ u/ t5 q" ] - No PIL installation found' `2 C9 k) {8 G4 ]9 b
- # 解决
$ P) b2 |, Y0 M/ ~1 s6 V - pip install pillow
$ Q$ h1 r% u; s
复制代码
1 n, \2 V/ o$ D9 U1 D 一切解决后,网页登录如图4.3.2; 图4.3.2 登录首页4.4 启动与关闭 , P E* @% q4 s- }! q; v+ W
官网提供的直接启动的方法不是很好,博主推荐一个采用gunicorn的方法,先关停superset。 9 l. T6 y7 s/ ~
" G" K' q T4 g- T, q
9 O' y- u# R9 g& |( X% k6 u( C- #安装好superset后会在venv生成很多文件,切换到venv# k5 u7 ]' C- c
- cd /usr/local/tools/superset/venv/
5 X* g( a7 G$ ^: @' d - " I2 n3 p) H6 ?. O" |7 Y9 l! ?
- N p4 P* t' T, F+ r6 g0 ~
- / r1 w- _9 B3 G! P5 ^$ K9 ^. N8 n
- #新建日志文件夹
z( T5 q7 g3 z - mkdir log) \) T8 T% Q- s- e" ~! ~
- 9 U9 V# b+ u" {- Q& H3 w% {) C& X. E
- #切换到log目录,新权限 日志,错误日志和启动pid文件' |# I4 U: i4 D/ L- E
- cd log
' L5 U; q9 ]9 M - touch gunicorn_access.log6 v6 q: _7 D) U$ y6 ]; O
- touch gunicorn_error.log Q8 `" R( V* p, N2 x
- touch pidfile
+ r% s9 y% F2 Q W1 c8 K - chmod 755 ./* #修改权限
' S! D& H1 Q2 i; e9 [) W' N7 w0 m
: L+ ?4 T7 v7 V0 ^9 L ^5 U- #切换到/usr/local/tools/superset/venv/bin,写一个gunicorn配置文件,python语言
$ ^6 s! h5 s) I5 C - cd ./usr/local/tools/superset/venv/bin
8 r& C: j! D! C* M2 n# D. ~
2 _: A- u9 q; l$ `* v# s2 I4 y- ; G2 |* Y# L0 X5 |, T1 I' D2 w
- vim gunicorn_config.py # 内容如下
0 }- C1 S+ f0 k+ a4 F4 m
+ [$ O$ r. B& `0 i- #内容开始
* j- G& Q) l) }; C$ H; q' o9 r - import multiprocessing
( n& l$ w3 M3 u7 E6 e4 I
1 O, ]( X N" s6 L% ~- 6 _9 j2 O& x" ?, }7 ~! O7 o
- bind = '10.218.10.290:9089' #绑定ip和端口号
% W: R; T% U' |0 d - backlog = 512 #监听队列
8 \5 Y8 w, p. H7 x" |& f+ f - timeout = 30 #超时
9 ~+ G" N- R9 k' [3 {0 C - worker_class = 'gevent'
8 I8 x/ o/ O, I6 ^: e& } - workers = 5$ s' z# ]" f& v" z+ i
- worker_connections = 10005 ~" T, @) F# W/ B2 T3 I
- threads = 2 #指定每个进程开启的线程数
( O; F; X* \* J9 E - loglevel = 'info' # 日志级别/ F9 D( I+ J. A* x: {5 R; i6 Z, b
- access_log_format = '%(t)s %(p)s %(h)s "%(r)s" %(s)s %(L)s %(b)s %(f)s" "%(a)s"' #设置gunicorn访问日志格式,错误日志无法设置
- J4 W; _8 X/ f" b$ r
2 T. H0 B- h! i5 f/ | ^5 U8 s* R
6 T# u& S& v6 V& t2 \0 w2 F" W- 5 _, n: I0 @9 D; R) z; G
- pidfile = '/usr/local/tools/superset/venv/log/pidfile': I" V3 J, l/ B
- errorlog = '/usr/local/tools/superset/venv/log/gunicorn_error.log'3 p7 u* K. F E/ Z8 ?1 A' u
- accesslog = '/usr/local/tools/superset/venv/log/gunicorn_access.log'
" y8 D7 V. [. q: U! E/ H q8 H/ Q
% |0 u7 k$ ]" J2 n1 k/ x' |) G- print("IP and PORT:"+bind)
7 K9 v; b a: z! J% H! H% B7 T. U6 f - print("pid_file:"+pidfile)7 F1 V) B. b$ |9 b' C
- print("error_log:"+errorlog)+ t, q$ R7 i) i. v1 n
- print("access_log:"+accesslog)
6 t8 S; j) J9 A" [ - 7 z5 A1 n" }) i! C, Y4 E
- #内容结束* ?: g( b7 Q3 V) a! l" E1 H
0 }3 j9 @2 O9 T, l- #然后 wq! 保存退出
* _ D# ]( ~! t# h7 f; s' e; E7 t7 h
4 Z4 z7 _' `$ x; [; C9 t) ^! t- G- # gunicorn 启动 -c 配置文件启动;--daemon后台启动,日志可以去配置文件指定的路径查看
7 ^) h8 l, m+ h n3 |) N - gunicorn -c ./gunicorn_config.py "superset.app:create_app()" --daemon
3 j, }" p# A9 ~* X) F g; l
+ O$ q" {6 j- }2 l" |! I7 u- # 后台进程查看$ h# a* D0 d" \0 S
- ps -ef | grep gunicorn
( b3 }- r: {$ R
8 X# z0 |! t0 ]/ H- # 或者通过端口查看* t6 W0 x" i5 T
- netstata -tunlp | grep 90890 ]) n/ V3 S6 {; O% S1 Q" X( j6 w
- # 或
1 f5 e l( X5 B6 a' H) \' |5 G - ss -anp | grep 9089" k3 v" G/ p; g9 Y9 c. n7 G7 m
* ?$ T+ o! W) j$ O# `4 j# K3 ?0 L- q- # 如果没开启后台停止,直接ctrl+c关停6 n* n9 `, l) G
- # 后台进程停止gunicorn
: r; p) v/ M8 l9 N, E% P - ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码
9 }/ |0 q$ Q9 m [9 L, B 5. 用户手册(重点)$ N; S$ K0 Z! a" A' G' o+ o e9 R+ A
# U! I2 d2 g$ J0 F+ k
5.1 新建Databases(数据库) 新建数据库之前,需要先安装该数据库的python驱动包,具体语句可以参考官网 Database Drivers,如图5.1.0,一般就是pip install XXX,安装好驱动后,记得重启下Superset服务; 新建数据库连接的作用是为数据集Datasets和SQL实验室SQL Lab提供数据库、表的选择,就是提供数据源,当然Data下还有个Upload CSV(最新版本也支持Upload Excel)也可以直接将本地的CSV文件作为数据源上传到Superset站点,直接进行数据探索分析。 图5.1.0 数据库驱动以及连接字符串
' B4 ~) W6 k( l4 v 登录进Apache Superset后,点击Data,下来选择Databases,然后跳转到图图5.1.1,点击右上侧的+号就可以跳转图5.1.2的数据新增配置界面。 图5.1.1 新建数据库连接 1 a' G. o& `. {, N: U, W
图5.1.2,Database是指的新建这个数据库的显示名称,这个随便取,合理即可,SQLAlchemy URI 这个地方就是之前图5.1.0上的数据库连接字符串,确保和你选择的数据库类型一致。
& [6 w6 |' c! n1 R! X3 _4 S0 G然后点击TEST CONECTION,连接成功后会跳出Seems OK!的弹出框,记得滑到最下面,点击保存,如果连接不成功,请检查数据库的实例,端口,用户名,密码以及自己部署的Apache Superset的服务器访问数据库的端口网络时是否能通,当然也不要忘记SQLAlchemy URI 填写规范,保存后的数据库连接就会列举在图5.1.1上。 , v2 N3 P2 B' l+ v9 A- p* M
$ A4 L. ] y: ?: O8 W* h
图5.1.2 新建数据库连接配置信息
" P x+ q" Y& W5 d; S5 m5.2 新建Datasets(数据集,老版本也叫Tables) 图5.2.0 新建数据集
5 n) {3 O7 O. z* T9 d h 如图5.2.0,点击图中的Data下的Datasets,然后点击+号,跳转到图5.2.1,将配置好的数据库名下拉选出,写一个该连接实例下的数据库,然后选择一张表,点击保存即可,保存好的数据集会列举在图5.2.0中,这些知道为啥老板叫Tabels了吧;
7 a# g; F) N4 x/ m 数据集的作用是为后续的Charts(图表)数据可视化作为数据源头。 图5.2.1 新建数据集配置信息 , T# f m/ s( @% p* B
: V' K2 _; k2 l" w4 C+ T! ?
5.3 SQL Lab(SQL实验室) SQL Lab其实就是一个数据库查询客户端,利用SQL语句对数据库的表,字段模型进行查询探索,同时支持智能补全,当然SQL Lab的查询结果也可以直接EXPLORE到Charts(图表),作为数据可视化的数据源。! N; ?, T/ T6 Q2 V7 d
如图5.3.0,SQL Lab有三个选项,三个选项的功能如下: - SQL Editor:进行SQL查询探索
- Saved Queries:保存的通用查询SQL
- Query Search:查询的历史记录
: x, q2 D9 e8 J; V0 d" J
图5.3.0 主界面进入SQL Lab % V, F4 K$ c4 h0 r% @8 T, P
点击SQL Editor进入图5.3.1的SQL查询探索,左侧上方是配置好的数据库连接名和选择的数据库,左侧下方是将要用到的表及字段模型;右侧上方是写SQL语句的地方,支持RUN(查询),RUN SELECTION(查询鼠标选择局部语句),SAVE(保存),SHARE(分享)等,右下方是数据结果,支持EXPLORE到Charts(图表)可视化,.CSV下载,CLIPBOARD(复制到剪贴板)。 图5.3.1 SQL Lab使用 " t! A1 a: e4 d2 n+ S2 g) s
5.4 创建Charts(图表) 图表的作用是数据可视化,利不同的图表满足不同的业务需求,图表同时也作为仪表盘的展示的一部分,一个仪表盘内可以展示一个或多个图表。; }+ _8 I4 q& U! S2 O8 g
创建图表的方式有两种: - 如图5.4.0,点击Charts,点击+创建新的图表,跳转图5.4.1
- 在SQL LabSQL语句探索查询的结果直接EXPLORE到Charts(图表)可视化, X5 F0 g) z$ O. e
图5.4.0 创建图表
0 O) f7 d! D" ?) Q6 }6 e 如图5.4.1,选择合适需求的数据图表(如图5.4.2,支持的图表类型非常丰富,号称最漂亮的可视化图表展示),选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表; ( O/ r8 t' l( Y5 \" h
" I, n+ k6 M* ^, q* ?& P
图5.4.1 图表可视化配置
]0 z" o+ J. S7 O* ^! I+ W4 J( `5 v0 | 号称最美可视化展示,支持可视化的图表类型确实丰富多彩,应对各种可视化需求。 1 ]0 O2 X+ K* ?0 O8 U
2 J# b% X g, h, ~: Y
图5.4.2 支持的图表类型 2 w( o# c( {" _9 N6 ~3 T/ ^2 K) _, }
5.5 创建Dashboards(仪表盘) 仪表盘就是最后的数据总体呈现,即报表展示。 如图5.5.0,点击Dashboards,然后点击+新建仪表盘,跳转图5.5.1。 图5.5.0 创建仪表盘 " T" _) x% D. k& c/ ~
点击图5.5.1右上角的编辑仪表盘,之前做好的Charts(图表)拖拽到仪表盘上,注意:第一次拖拽的时候尽量网上拖拽,知道出现这个条蓝色的分解线,否则 无法拖拽过去; 同时也支持一些通用的组件,图表旁的Components下,有Header、Tabs、Row、Column、Markdown、Divider;& w$ m! v3 l% r
编辑完后后记得点保存。 图5.5.1 编辑仪表盘 5 _2 o( r$ z$ L1 K+ `
保存后的仪表盘支持分享,下载等功能,同时也会根据图表内的数据源刷新来获取新的数据;
+ S9 @) ^# R x; b/ j4 p6 `+ c" n: D& i# I
图5.5.2 仪表盘功能
- |( ^! U9 h: G( G' ~5 A/ Q5 f 分享给别人看到的仪表盘如图5.5.3。 图5.5.3 分享后他人视角的仪表盘 . q+ P1 R0 o7 C2 S, Z, X T) H$ i3 m# @
6. 设置 设置包含在菜单栏Settings下,主要设计权限和操作日志等模块,接下来分别讲解。 2 t* ]- {, O9 H# j7 d( q) a' Z7 [7 \
- I6 |( c b, h& |图6.0.0 通用设置
. t) N5 B1 M" |
. I9 K" v5 K# U5 M- ^6.1 角色列表及权限 Apache Superset中的安全性由Flask AppBuilder(FAB)处理,FAB是一个构建在Flask之上的应用程序开发框架。FAB提供身份验证、用户管理、权限和角色,可以查看其相关文档。5 W+ N8 }' G( u. S3 }
Apache Superset默认提供了不同的角色,每种角色拥有的权限不同,在运行superset init命令时,与每个角色关联的权限将重新同步到其原始值,不建议更改与每个角色关联的权限(例如,通过删除或添加权限),支持admin再自建角色类型,指定想要的权限,默认的角色及权限如下; - Admin:管理员拥有所有可能的权限,包括授予或撤销其他用户的权限,以及更改其他用户的切片和仪表板;
- Alpha:Alpha用户可以访问所有数据源,但不能授予或撤消其他用户的访问权限。它们也仅限于改变它们所拥有的对象。Alpha用户可以添加和更改数据源。
- Gamma:Gamma用户的访问权限有限。他们只能使用来自通过另一个补充角色访问的数据源的数据。他们只能查看由他们可以访问的数据源制作的切片和仪表板。目前Gamma用户无法更改或添加数据源。我们假设他们主要是内容消费者,尽管他们可以创建切片和仪表盘。另请注意,当Gamma用户查看仪表板和切片列表视图时,他们将只看到他们有权访问的对象。
- sql_lab:sql_lab角色授予对sql lab的访问权限。请注意,虽然管理员用户在默认情况下可以访问所有数据库,但Alpha和Gamma用户都需要在每个数据库的基础上获得访问权限。
- public:要允许注销的用户访问某些超集功能,需要自己配置权限,并将其分配给另一个角色,您希望将其权限传递给该角色。
' u2 `9 R2 g( z& ?: |
图6.1.0 系统默认角色
: G7 j0 D4 B( v7 r0 ~" p6 }# d# r8 R 同时Apache Superset也支持管理员自己新增角色,如图6.1.1,新建角色并指定角色权限。
7 f2 `. \' Q" h, g6 x. B& y
' y7 U; z) O9 j6 e* c% B: y/ ?$ |图6.1.1 新建角色 / r/ p, u+ K/ ?; y' L
8 {7 Z2 `" S# b' D0 o8 ^! [
6.2 用户列表 新建、编辑用户指定角色,用户的权限是绑定在角色里面的,一个用户可以有多个角色,配置信息如图6.2.0。 ! C) |( h( Z& B1 K- d
$ m i2 j5 F. P1 W% L
图6.2.0 新建、编辑角色
5 D$ ~. O, G* b* w
; x0 S e0 x9 ^+ `6.3 操作日志 操作日志记录的是在你的Superset平台上不同用户的行为日志,如图6.3.0。 图6.3.0 行为日志查看
& J/ n& `4 e* G6 ]- {7 j+ v& Z0 h) ^8 g. {# V1 p
6.4 用户信息、退出、版本信息 菜单栏最右侧的个人信息,主要是包含: - 用户信息:修改用户姓名,重置密码;
- 退出:回到登录主界面;
- 版本:目前您安装的Superset版本信息。
% H5 P% H2 H+ \: l- F0 y
) I* W* p) E# E& E
图6.4.0 个人信息模块 , ~1 W0 M- S1 s4 T+ H
2 z+ O, V+ O) e: y& j. V7 z6.5 语言选择 作为Apache的顶级项目,自然是运用于全球的,支持世界上一些通用的语言 ,选择一款你最喜欢的即可。 图6.5.0 语言选择 1 l9 d- c: F2 G( |& m7 {
6.6 管理设置 针对仪表盘,图表渲染加入自己想要的风格和模板,实际运用的用的不多。
& R+ _6 G" _' T" X
0 c' \9 g4 O. d' [1 g, t图6.6.0 管理模块
/ a7 S- s3 l) e# D6 n) t6.7 + NEW 菜单栏的+ NEW其实就是给最通用的三个模块SQL Query、图表、看板(仪表盘)的一个快捷方式,此三者的用法就不在累赘了。 图6.7.0 + NEW模块
6 E8 c; X& l2 T8 z/ C9 S- h
* W7 `1 Q5 @7 ^' G% l7 W; a' i
: A0 w0 A. G+ Q. u4 e- U1 ^原文来源: https://blog.csdn.net/LXWalaz1s1s/article/details/119061337
: }& d" q9 Q5 H2 f: i/ \+ m- j& n |