目 录
* p3 s8 K/ K: L% e R" T( n: d* F3 ], y+ a6 A5 X
1. 需求背景1.1 大数据可视化面临的挑战 大数据的兴起,关于数据的存储、计算技术层出不穷,但是最终的数据可视化呈现,数据的探索,也成为颇为重要的一环,这一块并没有像存储、计算技术栈那么百花齐放,大家在做大数据可视化时是否也曾有这些困惑呢? - 传统的可视化对接传统数据库,对大数据组件的hive,spark,presto、elasticsearch、clickhouse等兼容性差,甚至不兼容,每次还需要多一道将大数据集群数据分发到传统数据库的冗余操作;
- 商用产品昂贵、甚至产品设置技术壁垒,很多甚至要求对接该商家的自己的大数据技术方可对接;
- 群众基数大的Excel拖来拽习惯、SQL操作的方便性,排斥自成一派的新技术,网页版账号登录优于用户下载客户端登录;
- 公司开发人员配置紧张,没有多余的人力自研大数据可视化平台,但是决策层希望有一个统一的可视化平台。! l8 G' P- n F# s
诸如此类,确实令人头疼,现在就推荐一款解药Apache Superser——开源的大数据分析探索、可视化报表的神器。 1.2 大数据数据可视化的目标架构
' ?9 x: \4 E4 R* o; x K& V0 {" W r8 Q# e
图1.2 大数据数据可视化架构 6 I) A) g7 j4 I/ {1 L- m6 n I
做事还是需要立一个目标架构,最后所有的事情都是围绕目标架构展开,才能越做越轻松,如图1.2,可是架构分为三个梯队; - 第一梯队:ClickHouse、DorisDB、Kylin等优秀OLAP技术做存储,利用自带的连接引擎,快速响应,同时支持实时数据和离线数据的接入,外接可视化平台,通过权限管控后呈现给用户;
- 第二梯队:数据存在数据仓库Hive内或者NoSQL的Hbase,再通过较为优秀且高效的引擎Presto、Flink、Spark等接入可视化平台,通过权限管控后呈现给用户;
- 剩下就是一个特殊的,如MySQL,临时文件等文件的接入;( d9 N8 X6 D* e* R
注意:常用的也还有其它技术架构,如ELK架构,ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成。Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。 Logstash是一个完全开源的工具,他可以对你的日志进行收集、分析,并将其存储供以后使用(如,搜索)。 kibana 也是一个开源和免费的工具,他Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志。这个后续再讲,这里书归正传,先讲讲Apache Superser。 2. Apache Superset简介2.1 Apache Superset是什么? Apache Superset是一款由Python语言为主开发的开源时髦数据探索分析以及可视化的报表平台;她支持丰富的数据源,且拥有多姿多彩的可视化图表选择。 ( x# @ g: ?' n! H* v
7 y+ e& a# k7 g' {4 F" o( w! L
, b( O9 \$ R& n: M7 l% a( E
0 \: a3 g6 H2 d, w图2.1.1 Apache Superset定义 ; N# h. I _* ~+ D1 _
2.2 为什么选Apache Superset?- 支持丰富的数据库作为数据源,基本上平时用到的数据库都支持;如图2.2.0,支持的数据源有:
! D! H% j$ b* i2 {2 E8 P1 v! V* o
- Amazon Athena
- Amazon Redshift
- Apache Drill
- Apache Druid
- Apache Hive
- Apache Impala
- Apache Kylin
- Apache Pinot
- Apache Solr
- Apache Spark SQL
- Ascend.io
- Azure MS SQL
- Big Query
- ClickHouse
- CockroachDB
- Dremio
- Elasticsearch
- Exasol
- Google Sheets
- Hologres
- IBM Db2
- IBM Netezza Performance Server
- MySQL
- Oracle
- PostgreSQL
- Trino
- Presto
- SAP Hana
- Snowflake
- SQLite
- SQL Server
- Teradata
- Vertica
, _$ G2 u2 ?( }9 D* Y# Z9 X& Y) L# C# ~: b% V0 P
图2.2.0 Apache Superset支持的数据源 $ }1 {9 I" c2 s) _5 L0 M
- 多姿多彩的可视化图表,Apache Superset拥有非常丰富的图表,来实现不同的可视化需求,如图2.2.1。. E( @& y8 v3 c9 f
, A& U3 H9 q7 y' e& w1 e6 S
图2.2.1 Apache Superset支持的图表
6 @5 Q$ t' q ^6 P1 f8 J- Data:主要功能是新增数据源和数据集Dataset(旧版本也叫Table),Dataset作为数据图表可视化的基础;
- Charts:图表,就是针对准备好的Dataset数据集,选择一款合适的图表呈现;
- Dashboards:仪表盘,其实就是报表、看板大屏展示,可以将多个Charts组合到一个仪表盘内一起展示。
- SQL Lab:SQL实验室,其实就是一个类似DBeaver、Navicat、DataGrip等一样的多功能数据库连接客户端,但是只有查询功能,配置驱动和连接后可以进行数据库、表、字段等模型的SQL查询操作。
- 设置:语言选择,登录注销、人员权限,操作日志等设置;
+ ]& E" C) \2 J, p7 ?; e, k; }
图2.2.3 Apache Superset使用预览 9 i H8 s- k# t q- b u
2.3 对比Metabase- 天生自带支持的数据源Apache Superset完胜Metabase;
- 数据图表形式Apache Superset完胜Metabase;
- 操作界面美观丝滑度Apache Superset稍逊Metabase;
- 托拉拽操作Apache Superset稍逊Metabase;! _0 l1 } Q7 C& Q4 A/ Y/ ]
向来博主都是鱼与熊掌能兼得就兼得,毕竟小孩才做选择嘛,可以考虑两个都装,Metabase用于专注业务数据需求人员,Apache Superset用于懂SQL的数据需求人员,二者生成的通用仪表盘,则可以利用一个统一的网页超链接到一起,形成一个统一的报表平台。 3. 快速上手 这里先快速上手带大家体验一把,细节后续章节细讲,首先配置好数据库连接(配置方法参考后续的 5.1 新建Databases(数据库)),然后打开SQL Lab,选择好配置数据库,写SQL语句分析探索数据,如图3.1.0,然后运行语句,得到数据结果,可以点击保存将常用的探索SQL保存下来,然后点击查询结果上方的EXPLORE按钮,就可以跳转图表分析图3.1.1; 0 R d5 T( R; ]" S0 k
( X; V3 a; a4 t1 w
图3.1.0 Apache Superset在SQL Lab上探索数据 ! m0 W6 \( @1 X
利用SQL Lab探索得到的数据集,选择合适需求的数据图表,选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表;
9 a4 K% x q2 X, W% e
: h9 G; M7 I4 ^4 p; D图3.1.1 Apache Superset数据可视化
1 W$ F6 U) B: K) a! i 新建Dashboard,然后编辑Dashboard,将之前生成好的Charts(图表)拖拽到Dashboard,就完成了数据仪表盘的最终呈现,然后就可以分享给需求方,也可以生成访问链接分享。 注意:拖拽时尽量往Dashboard的上面拖拽,会出现一条蓝色的分界线就可以松手,否则可能出现无法拖拽的情况,这个设计很坑。 图3.1.1 Apache Superset数据仪表盘呈现
! W) h1 B& x t2 u) [4. 部署安装4.1 部署方式及版本- 支持Linux、Windows、Mac的Docker部署
- 支持Linux、Windows、Mac的Python环境代码部署
- 可以在github,官网、或者国内镜像网站查看版本,但是别先下载,因为Apache Superset依赖包很多,最好能在线安装;
* r6 B( C: g* X1 y0 t1 a( T5 F2 l2 L" J$ P
图4.1.0 Apache Superset版本预览
; F! S0 j7 I+ U" b0 a2 z- 博主选的是apache-superset-0.38.1.tar.gz在Linux上的Python环境代码部署。
/ `2 ~ c1 M- k" ^/ V2 e 4.2 配置需求- apache-superset-0.38.1.tar.gz
- CentOS 7 16核 32G(非硬性,一般性能的服务器即可)
- Python 3.6
- 要求服务器网,如果没有,可以使用能联网的代理服务器,依赖很多,采用在线安装的形式* i/ V# r: U1 O. z- |- @8 r
4.3 下载安装- 下载安装Python3.6,可以选择安装anaconda集成的python,可以参考博客Linux通过anaconda来安装python,对应的版本是Anaconda3-5.2.0-Linux-x86_64.sh,下载传送门:Anaconda Download;安装好以后,如果老的服务器上存在python2,默认的环境变量启动是python2,没关系,只需要设置一个新的环境变量确保 python3启动是刚刚安装的版本即可。
- 安装python虚拟机,并启动,然后安装Apache Superset。
8 j2 F3 Q ]# ?, `: v! U y
' W; W9 M4 k/ M$ q( y. p3 T2 S- # 切换到自己安装软件的目录,博主的是在/usr/local/tools,并新建superset目录
8 l3 w7 I8 l/ k. y) x% P8 u - cd /usr/local/tools5 ]/ g4 j% l6 J2 q+ A
- mkdir superset0 T1 ~+ z' M" b0 H( J$ n" b
- cd superset9 d8 ]1 ]" J! e9 J; A% Z
/ R9 o! m: {7 U9 P& I6 w- # 安装虚拟机,有网就不需要的代理服务器,配置代理服务器10.212.18.34:3129方法:
/ N/ p; S- \7 a W$ b - # 写入配置文件 /etc/profile里面追加- X2 q3 F i+ Y# z0 `4 D r
- # export http_proxy=10.212.18.34:3129: g8 H1 \0 T4 X2 |, G
- # export https_proxy=10.212.18.34:3129
6 r" S' \+ a, i - # 然后wq! 保存退出,source /etc/profile刷新配置文件 |1 R2 `* z& v) F4 L
- # 安装完可以删除代理,记得再source /etc/profile
' u- e( _. a6 Q: c% e/ S - # 如果不想配置/etc/profile或者无权限,可以采用以下命令
) ~( v) f7 A3 O Q# l6 h - # pip install virtualenv --proxy=10.212.18.34:3129,每次都需要,烦
& m- I9 \% W; e+ n- b - pip install virtualenv& u" U% V- q: h4 L: Q; l
; d5 K3 W3 b# d# N/ }7 Z7 B- # 配置命名虚拟机
; ?: R, H4 I8 S) l! l z9 r - python3 -m venv venv7 o, G; z$ y, k* E! A. V0 v# O9 H
. C1 g. _5 _5 m% F6 [) M- # 启动虚拟机,会在当前目录下自动创建venv目录
/ p1 X+ B' D9 k u( q* U0 } - . venv/bin/activate& Z* ^, k, ]3 C; U0 Q
- , d4 S' E7 A$ `2 r6 }
- # 退出虚拟机指令,但是这里不需要退出7 w; [% e6 r5 ~! c/ k
- # 退出虚拟机指令,但是这里不需要退出# n& O7 E6 k1 D' A' q
- # 退出虚拟机指令,但是这里不需要退出
$ X, n/ S2 a; o$ T - deactivate
* U' ^' s6 s- x& { - - @$ }) ^. B0 c! m! Y, j7 |$ s
- # 安装更新一些依赖5 B* D4 T" d$ o; ?7 Z
- pip install --upgrade setuptools pip -i https://pypi.douban.com/simple/- J1 R% P' f0 u; C9 a; g( B
- 7 E, [0 ]& r' [ [0 ]' A9 X: {
- yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel0 j0 d) U1 |9 i/ [
/ ^6 ~- F0 e* F7 ~# ~ h- # 如果报错:GPG key retrieval failed: [Errno 14] curl#37 - "Couldn't open file /etc/pki/rpm-gpg/RPM-GPG-KEY-EPEL-7"( A& G2 e: @. x$ D# g
- # 解决:; ^# B) G; Y/ C5 L9 f
- vi /etc/yum.repos.d/epel.repo0 I, K3 s" h2 ?9 D! `) h
- gpgcheck=0) @/ N8 j3 _' V& Y. X0 s# b
- # 然后wq!保存再试一次yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel
6 X X+ Z" Z6 R9 _1 _
% k5 o7 d6 Z3 C4 i7 _) v- # 先用官网下载,因为官网的会自动把依赖也给你一起安装了,实在不行再用其他网站的镜像
: a e, f, H" [2 l0 @8 [ - pip install apache-superset==1.4.2; R$ P7 ?9 h+ O& z: b$ x D
2 B0 a3 J* a2 [ a- # 安装superset,指定版本,不指定版本默认是最新版本& R( n" z s. f4 o0 e
- pip install superset==0.30.1 -i https://pypi.douban.com/simple
; k5 n2 H# t4 V' g2 y4 S& z - - k0 B0 |& \9 y$ n+ o, S8 R
- # 安装email_validator
* ]7 K4 a- f, r1 ^. I( G/ k - pip3 install email_validator -i https://pypi.douban.com/simple/ b6 [3 x4 T. a
- 8 E( ` P/ |/ [( p& i
- # 更新数据库! t" k9 r: k2 v4 t8 q
- superset db upgrade# o2 P7 {, i6 @- y
- - c& }1 w, q0 a( q" O
- # 创建admin的用户名,用户名随便写,bigdata123,admin都行,写完用户名后会让你输入姓,名,邮箱,这三项可写可不写,不写就直接回车,然后是设置密码,一点要写。
7 Y) s2 k. v; ?6 j9 b( y+ V - export FLASK_APP=superset
% R9 L$ z+ z. b1 n - superset fab create-admin a& t C4 @/ a6 y- r8 ~
, d2 r! i1 G) b0 }( N8 I& U- # 加载样例数据,考验网络,如果实在一致加载报错就放弃,不影响后续使用。$ X, j9 |' p7 ~9 K- o! N6 V
- superset load_examples7 A2 A5 i/ G' n. Q# ~6 }4 k
- : t; V1 D% x9 p" ?# N( r. _3 r: t9 x
- # 初始化6 |3 D; Z3 d/ s9 E# o* s
- superset init& Z7 G5 u7 s6 ] l; x3 j7 Q
" ~' O+ x- [" I; h& \/ h- s- # 启动,官网是superset run -p 8088 --with-threads --reload --debugger
, w" l: j- s9 D S4 }" E2 c - # 建议用gunicorn启动,方便快速,先直接启动,确保打印在客户端的日志正常6 Y8 @, c6 t, b3 @# x
- pip install gunicorn
, c5 p* K" E) K* t( Q& T - gunicorn -w 5 --timeout 120 -b 10.218.10.290:9089 "superset.app:create_app()"
5 G2 j/ S$ v% i* z v1 f% a - ! q* G$ {7 b7 a% [9 O
- # gunicorn 是一个Python WEB服务,可以理解为Tomcat B$ n( x) q' I, Y. ?7 |8 A
- # -w WORKERS:指定线程数
( \( ~. K) B" T8 p - # --timeout:worker进程超时时间,超过会自动重启. O+ ~! h6 c8 s. Y
- # -b BIND:绑定Superset访问地址
* z2 Q: o' y2 i" p7 _6 y) |( v - # --daemon:后台运行( F: r* A$ e$ T4 f/ j! l( Y* D
, Q; O( Q/ b; z/ n5 W- # 在能访问10.218.10.290:9089的服务器上打开浏览器,输入刚刚登录的用户名,密码即可。
: A- G" c) l. Y+ m- |/ ]+ }6 b
9 l0 [1 G$ |3 w% \# o: n
% N1 l% S* \$ R( t! y- # 如果没开启后台停止,直接ctrl+c关停! l1 |' H$ J. C: s- z' z* `
- # 后台进程停止gunicorn
- D& v$ S0 y `# F - ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码 ' f6 `, Q0 d! N$ w7 R
, _% O7 X1 q3 b5 u( c4.3 安装注意及排错 pip install superset步骤时出现关键字眼Successfully installed证明正确安装,如图4.3.0;
) X+ Q2 A# o$ `$ Y1 o( ]* M% R$ x' Q$ @: K7 B
图4.3.0 成功安装的提示 0 r! z# M1 \8 n7 P0 b t
superset fab create-admin配置用户名时提示如图4.3.1。 图4.3.1 配置用户名时提示
1 b+ G$ g- D1 B 每个人的服务器环境,可能导致缺少的 依赖不同,途中如果遇到bug,可自己百度解决,基本都是python依赖包之类的问题,要耐心。 - # 报错
8 m/ U) @# N8 n2 t8 S( M5 ?! O - ModuleNotFoundError: No module named 'dataclasses'
1 f/ c9 L5 T U2 Q; n - 2 d4 m% b5 ?& a- m/ T+ `
- # 解决
7 \8 s% K" {: T+ o - pip install dataclasses& \3 |2 x% ^9 D* Z( \
; h4 S8 b( d& Q% u- # 报错8 A3 w6 c; h$ y2 v
- No PIL installation found
- H7 P% m2 g* H& b) V) c, W - # 解决
; I! w8 m4 O9 `3 }5 R- [ - pip install pillow8 C- u1 B9 h! ^& G6 D& L& p: ?
复制代码
! x# f5 L! A0 k 一切解决后,网页登录如图4.3.2; 图4.3.2 登录首页4.4 启动与关闭 ( L( T# o4 C- I O* t
官网提供的直接启动的方法不是很好,博主推荐一个采用gunicorn的方法,先关停superset。 1 S0 f' z6 R9 P
* ~( K: G/ H+ ]& R& C5 V
- + C) u3 K9 q, w) \3 k9 [ H+ `( \
- #安装好superset后会在venv生成很多文件,切换到venv
9 J" d# U/ l: R) h4 S' X, N% T3 r - cd /usr/local/tools/superset/venv/
$ {8 Z+ A+ D( D) o* P- I; I
/ S8 p; a8 `8 q1 {7 q- O- 3 Q; M# I6 y6 a, K% S" R3 J
3 p% r% _! f0 b' X/ K1 E6 V4 U- #新建日志文件夹
! q3 Y+ T) @9 j* q0 h6 V - mkdir log
' M! @. W5 q6 S$ N) f6 F - ! d+ N8 m$ w6 b' g4 g
- #切换到log目录,新权限 日志,错误日志和启动pid文件
" ]$ P }4 F, r' c - cd log
2 s4 o3 ^9 i0 G' N! ?. ] - touch gunicorn_access.log8 O: ~7 q) W; ~+ A% ]. P
- touch gunicorn_error.log7 M2 u! Q, }9 i9 u
- touch pidfile8 ?' ~, Y+ k4 Y6 I4 |; p" _
- chmod 755 ./* #修改权限3 n$ D2 W$ e6 Y, J, I
. }: R, O0 v2 U2 ]- #切换到/usr/local/tools/superset/venv/bin,写一个gunicorn配置文件,python语言
: }9 @9 C8 h Z+ \5 @ - cd ./usr/local/tools/superset/venv/bin. Q/ U2 ^6 e _& o4 t8 [( q4 f
- $ x( Y& C: a& W3 }3 e% C1 L: O
- l, O3 M" D% V! H
- vim gunicorn_config.py # 内容如下4 z' ~, Z& C/ p) r( x2 a
- 4 y8 ]5 c) n" n/ i/ M) x4 m/ Z. d/ L
- #内容开始
1 N i% Z$ y8 z- g* e4 @ - import multiprocessing j+ x4 F. k1 }6 M8 B, x7 ? P
5 t4 t7 m: W1 l& f- 5 G8 M4 C0 t- p& h. n1 i
- bind = '10.218.10.290:9089' #绑定ip和端口号" k5 i6 F- g9 H8 S
- backlog = 512 #监听队列
3 j7 r( k9 D7 Q, ~ - timeout = 30 #超时
6 C- F9 [7 n! W+ d/ P* H - worker_class = 'gevent'
$ k, |" ?7 N) [" D - workers = 5
! V6 Y0 s% \5 D* n! r H - worker_connections = 10009 I$ o g: o& }( x; P: @
- threads = 2 #指定每个进程开启的线程数
0 A; x5 I; A% ?8 B - loglevel = 'info' # 日志级别, ^8 g9 i( p w7 D
- access_log_format = '%(t)s %(p)s %(h)s "%(r)s" %(s)s %(L)s %(b)s %(f)s" "%(a)s"' #设置gunicorn访问日志格式,错误日志无法设置
& N+ W. m; c3 z. @' ]. i - / m8 @- |- Q7 [/ W! q* ]
# v1 \' v5 r6 X0 H
" o+ m5 [2 Z) s0 e' d% T( b- pidfile = '/usr/local/tools/superset/venv/log/pidfile'
6 y5 g* V& N% E; }" y9 ]1 C - errorlog = '/usr/local/tools/superset/venv/log/gunicorn_error.log'! ^. k3 T! N6 O3 c! ?: h
- accesslog = '/usr/local/tools/superset/venv/log/gunicorn_access.log'
& g" R9 o/ F! b - 5 w, L6 E( A' a7 e/ m
- print("IP and PORT:"+bind)
/ t, e' H, u. O: ^+ i* X9 Y - print("pid_file:"+pidfile). q. b6 j- H- e o# l/ }
- print("error_log:"+errorlog)
( a0 n u X% S! y: V; v - print("access_log:"+accesslog)
: Y$ D0 v4 c8 J4 [
( ?3 a8 @6 u2 h( H- #内容结束: c& W& ~" c; Z/ H9 n4 R7 q ~& |/ I5 Q
- 8 B* A1 O5 p' N. i6 r$ h
- #然后 wq! 保存退出# F( l8 u6 |5 y* b9 o
$ {: L1 _% Z0 S7 ?) X- # gunicorn 启动 -c 配置文件启动;--daemon后台启动,日志可以去配置文件指定的路径查看
o& i E) X. k* t# @ - gunicorn -c ./gunicorn_config.py "superset.app:create_app()" --daemon
- i6 u% u0 A7 ] J2 [ N& Z
9 y2 p8 J4 v. e- # 后台进程查看 ^, }5 \! e$ Y: A0 h! m! r9 Q
- ps -ef | grep gunicorn" Y& t T; {6 N# S+ }$ ^
- 4 P7 x5 [/ i- k
- # 或者通过端口查看% j' W" C% q0 x
- netstata -tunlp | grep 90891 ?- H: T2 y$ W9 Z' M
- # 或
5 Q6 g, ?2 ^. u% U% M1 d; a - ss -anp | grep 90890 l' I2 c) F* s; K2 i) ]) G2 s, H
* M/ S! ^; k4 a4 i- # 如果没开启后台停止,直接ctrl+c关停$ q) u5 L) G) x9 ^6 I/ X
- # 后台进程停止gunicorn
! w# A Z! t I* |6 l$ M' N$ R( f. h - ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码
8 e) m6 z B0 _ 5. 用户手册(重点)
+ s6 x9 M& |/ ~3 k' z- x- X4 M6 m& D1 m, K2 V4 L L8 f
5.1 新建Databases(数据库) 新建数据库之前,需要先安装该数据库的python驱动包,具体语句可以参考官网 Database Drivers,如图5.1.0,一般就是pip install XXX,安装好驱动后,记得重启下Superset服务; 新建数据库连接的作用是为数据集Datasets和SQL实验室SQL Lab提供数据库、表的选择,就是提供数据源,当然Data下还有个Upload CSV(最新版本也支持Upload Excel)也可以直接将本地的CSV文件作为数据源上传到Superset站点,直接进行数据探索分析。 图5.1.0 数据库驱动以及连接字符串
! V+ s4 ]9 L0 `, H* \0 r' T% W 登录进Apache Superset后,点击Data,下来选择Databases,然后跳转到图图5.1.1,点击右上侧的+号就可以跳转图5.1.2的数据新增配置界面。 图5.1.1 新建数据库连接
, i, C2 w- f1 q! Y 图5.1.2,Database是指的新建这个数据库的显示名称,这个随便取,合理即可,SQLAlchemy URI 这个地方就是之前图5.1.0上的数据库连接字符串,确保和你选择的数据库类型一致。
( u% q7 d2 B( m( v; y9 p然后点击TEST CONECTION,连接成功后会跳出Seems OK!的弹出框,记得滑到最下面,点击保存,如果连接不成功,请检查数据库的实例,端口,用户名,密码以及自己部署的Apache Superset的服务器访问数据库的端口网络时是否能通,当然也不要忘记SQLAlchemy URI 填写规范,保存后的数据库连接就会列举在图5.1.1上。 ) K& T+ W3 {8 T- Q. ^
5 ~. ^- w: }( @$ u0 {图5.1.2 新建数据库连接配置信息 $ h/ E8 m& w5 o, L
5.2 新建Datasets(数据集,老版本也叫Tables) 图5.2.0 新建数据集 ( T* f+ M, @6 Z! d& T' t
如图5.2.0,点击图中的Data下的Datasets,然后点击+号,跳转到图5.2.1,将配置好的数据库名下拉选出,写一个该连接实例下的数据库,然后选择一张表,点击保存即可,保存好的数据集会列举在图5.2.0中,这些知道为啥老板叫Tabels了吧;7 i: ^5 F. \$ U0 \ o+ f
数据集的作用是为后续的Charts(图表)数据可视化作为数据源头。 图5.2.1 新建数据集配置信息 8 L3 W: ^+ r$ x5 d, Y7 D
5 d5 j8 q4 E4 K6 q, y" p; H5.3 SQL Lab(SQL实验室) SQL Lab其实就是一个数据库查询客户端,利用SQL语句对数据库的表,字段模型进行查询探索,同时支持智能补全,当然SQL Lab的查询结果也可以直接EXPLORE到Charts(图表),作为数据可视化的数据源。
/ G' G( Y p% X) _0 ~4 @( M! ^2 j- j 如图5.3.0,SQL Lab有三个选项,三个选项的功能如下: - SQL Editor:进行SQL查询探索
- Saved Queries:保存的通用查询SQL
- Query Search:查询的历史记录
5 M" c& Z# W! {, ?4 B+ G$ s
图5.3.0 主界面进入SQL Lab $ e5 F/ L& g" n' Y9 v. ]$ `
点击SQL Editor进入图5.3.1的SQL查询探索,左侧上方是配置好的数据库连接名和选择的数据库,左侧下方是将要用到的表及字段模型;右侧上方是写SQL语句的地方,支持RUN(查询),RUN SELECTION(查询鼠标选择局部语句),SAVE(保存),SHARE(分享)等,右下方是数据结果,支持EXPLORE到Charts(图表)可视化,.CSV下载,CLIPBOARD(复制到剪贴板)。 图5.3.1 SQL Lab使用
6 G7 d( G6 Y: {: M5.4 创建Charts(图表) 图表的作用是数据可视化,利不同的图表满足不同的业务需求,图表同时也作为仪表盘的展示的一部分,一个仪表盘内可以展示一个或多个图表。
) [4 ?3 n0 {0 h% `2 ~$ U7 ^* i 创建图表的方式有两种: - 如图5.4.0,点击Charts,点击+创建新的图表,跳转图5.4.1
- 在SQL LabSQL语句探索查询的结果直接EXPLORE到Charts(图表)可视化
% v% k0 X `) L0 q2 \
图5.4.0 创建图表
: R I6 t2 Y; q# O/ D8 f 如图5.4.1,选择合适需求的数据图表(如图5.4.2,支持的图表类型非常丰富,号称最漂亮的可视化图表展示),选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表;
4 |* R0 f3 P! u/ K: `8 t, m
5 N$ ^' |; j5 \8 p* l图5.4.1 图表可视化配置 - T; t) s7 ?+ ?1 K0 w; I
号称最美可视化展示,支持可视化的图表类型确实丰富多彩,应对各种可视化需求。
- ^ h) c" E0 v: E2 F* N- W. G' L
: R. q, p! ~. e$ A v图5.4.2 支持的图表类型
: O( m" O" c+ ?$ F% ~( D. `5.5 创建Dashboards(仪表盘) 仪表盘就是最后的数据总体呈现,即报表展示。 如图5.5.0,点击Dashboards,然后点击+新建仪表盘,跳转图5.5.1。 图5.5.0 创建仪表盘 4 e8 j- I. P3 G2 ?1 X5 r! |
点击图5.5.1右上角的编辑仪表盘,之前做好的Charts(图表)拖拽到仪表盘上,注意:第一次拖拽的时候尽量网上拖拽,知道出现这个条蓝色的分解线,否则 无法拖拽过去; 同时也支持一些通用的组件,图表旁的Components下,有Header、Tabs、Row、Column、Markdown、Divider;% m6 h6 ]" H: S
编辑完后后记得点保存。 图5.5.1 编辑仪表盘
" |: x+ X: k1 F8 t: y- a) S 保存后的仪表盘支持分享,下载等功能,同时也会根据图表内的数据源刷新来获取新的数据;
2 ~ w6 g$ m6 b n9 U0 |5 l4 }
1 S& A% ?' l3 r' E图5.5.2 仪表盘功能
# l$ z& d0 V$ b" W( N; F1 J 分享给别人看到的仪表盘如图5.5.3。 图5.5.3 分享后他人视角的仪表盘
) E/ E7 E9 ^# f0 |2 u6. 设置 设置包含在菜单栏Settings下,主要设计权限和操作日志等模块,接下来分别讲解。 " E8 o& e' ~+ D: t
7 c; f* v& k q
图6.0.0 通用设置 ( ?! g; y' h, [# ?2 C" |8 ? w7 M; K
; E- B. ]3 p5 l: o
6.1 角色列表及权限 Apache Superset中的安全性由Flask AppBuilder(FAB)处理,FAB是一个构建在Flask之上的应用程序开发框架。FAB提供身份验证、用户管理、权限和角色,可以查看其相关文档。7 @: N) X& V' ~. w; r. y
Apache Superset默认提供了不同的角色,每种角色拥有的权限不同,在运行superset init命令时,与每个角色关联的权限将重新同步到其原始值,不建议更改与每个角色关联的权限(例如,通过删除或添加权限),支持admin再自建角色类型,指定想要的权限,默认的角色及权限如下; - Admin:管理员拥有所有可能的权限,包括授予或撤销其他用户的权限,以及更改其他用户的切片和仪表板;
- Alpha:Alpha用户可以访问所有数据源,但不能授予或撤消其他用户的访问权限。它们也仅限于改变它们所拥有的对象。Alpha用户可以添加和更改数据源。
- Gamma:Gamma用户的访问权限有限。他们只能使用来自通过另一个补充角色访问的数据源的数据。他们只能查看由他们可以访问的数据源制作的切片和仪表板。目前Gamma用户无法更改或添加数据源。我们假设他们主要是内容消费者,尽管他们可以创建切片和仪表盘。另请注意,当Gamma用户查看仪表板和切片列表视图时,他们将只看到他们有权访问的对象。
- sql_lab:sql_lab角色授予对sql lab的访问权限。请注意,虽然管理员用户在默认情况下可以访问所有数据库,但Alpha和Gamma用户都需要在每个数据库的基础上获得访问权限。
- public:要允许注销的用户访问某些超集功能,需要自己配置权限,并将其分配给另一个角色,您希望将其权限传递给该角色。8 ]4 X0 q8 g# F2 N
更多的角色权限可以查看官网 Apache Superset Security,或者点开图6.1.0的编辑角色查看,尽量别改默认角色的权限。
' n. h; ]8 M i2 m: Z, y
( n0 m3 s) U' ?3 p+ s) T y+ v% C图6.1.0 系统默认角色 4 g4 O9 \5 I$ M8 _/ n& z' b- u( u
同时Apache Superset也支持管理员自己新增角色,如图6.1.1,新建角色并指定角色权限。
( N5 W/ F5 e: G$ g+ `( Y" N
8 k: H6 p0 J* E% x# E图6.1.1 新建角色
7 C- u0 O$ J; L$ j$ y, C5 G' ^' ?4 R" ^0 }
6.2 用户列表 新建、编辑用户指定角色,用户的权限是绑定在角色里面的,一个用户可以有多个角色,配置信息如图6.2.0。
8 q# x1 y: Y# P8 w. I$ v1 q8 x4 S9 f3 u9 g
图6.2.0 新建、编辑角色 # r7 O9 ]( U* J& d7 e
2 `6 v2 @5 `% s- N5 P6.3 操作日志 操作日志记录的是在你的Superset平台上不同用户的行为日志,如图6.3.0。 图6.3.0 行为日志查看 M, v: b7 Q3 d: M
( N3 ~+ q) w9 }3 A
6.4 用户信息、退出、版本信息 菜单栏最右侧的个人信息,主要是包含: - 用户信息:修改用户姓名,重置密码;
- 退出:回到登录主界面;
- 版本:目前您安装的Superset版本信息。6 H. c( F7 f- k. Y
+ T, E8 R. U% s1 L
图6.4.0 个人信息模块
. X: F- N+ z- `+ [( d8 T8 w, w: l4 t y' x: U1 K% L
6.5 语言选择 作为Apache的顶级项目,自然是运用于全球的,支持世界上一些通用的语言 ,选择一款你最喜欢的即可。 图6.5.0 语言选择 1 ]" F: t% V# B8 Q# |6 i/ v
6.6 管理设置 针对仪表盘,图表渲染加入自己想要的风格和模板,实际运用的用的不多。 % y( g4 W3 y! b }! m8 N
* b; x' ]" I7 L) I
图6.6.0 管理模块
3 D4 D; I9 H, f$ I. n# v6.7 + NEW 菜单栏的+ NEW其实就是给最通用的三个模块SQL Query、图表、看板(仪表盘)的一个快捷方式,此三者的用法就不在累赘了。 图6.7.0 + NEW模块 5 s% u; ~1 M) Q& H! k5 u4 C
2 t9 q" D) X5 F0 b0 n: R
7 N8 P% B( t& I$ i# ~; [2 m$ N
原文来源: https://blog.csdn.net/LXWalaz1s1s/article/details/119061337 1 I3 g% w- J) @( f5 A4 [
|