目 录
$ _( `3 ^! N6 }: f) C9 s6 r 7 |* n" n$ p# v0 l# y+ H7 w9 h
4 E& Z' K( E, [2 `* L* i
1. 需求背景1.1 大数据可视化面临的挑战 大数据的兴起,关于数据的存储、计算技术层出不穷,但是最终的数据可视化呈现,数据的探索,也成为颇为重要的一环,这一块并没有像存储、计算技术栈那么百花齐放,大家在做大数据可视化时是否也曾有这些困惑呢? - 传统的可视化对接传统数据库,对大数据组件的hive,spark,presto、elasticsearch、clickhouse等兼容性差,甚至不兼容,每次还需要多一道将大数据集群数据分发到传统数据库的冗余操作;
- 商用产品昂贵、甚至产品设置技术壁垒,很多甚至要求对接该商家的自己的大数据技术方可对接;
- 群众基数大的Excel拖来拽习惯、SQL操作的方便性,排斥自成一派的新技术,网页版账号登录优于用户下载客户端登录;
- 公司开发人员配置紧张,没有多余的人力自研大数据可视化平台,但是决策层希望有一个统一的可视化平台。
& f0 H. j4 Q; V, u# a# L! h, P
诸如此类,确实令人头疼,现在就推荐一款解药Apache Superser——开源的大数据分析探索、可视化报表的神器。 1.2 大数据数据可视化的目标架构, ?! F g0 g7 `9 F2 b6 s
1 m4 r% F5 v6 }5 b- u1 e) b
图1.2 大数据数据可视化架构
$ v5 U/ u, D8 `. {$ w3 r+ r 做事还是需要立一个目标架构,最后所有的事情都是围绕目标架构展开,才能越做越轻松,如图1.2,可是架构分为三个梯队; - 第一梯队:ClickHouse、DorisDB、Kylin等优秀OLAP技术做存储,利用自带的连接引擎,快速响应,同时支持实时数据和离线数据的接入,外接可视化平台,通过权限管控后呈现给用户;
- 第二梯队:数据存在数据仓库Hive内或者NoSQL的Hbase,再通过较为优秀且高效的引擎Presto、Flink、Spark等接入可视化平台,通过权限管控后呈现给用户;
- 剩下就是一个特殊的,如MySQL,临时文件等文件的接入;6 [. @" q$ [6 Q
注意:常用的也还有其它技术架构,如ELK架构,ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成。Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。 Logstash是一个完全开源的工具,他可以对你的日志进行收集、分析,并将其存储供以后使用(如,搜索)。 kibana 也是一个开源和免费的工具,他Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志。这个后续再讲,这里书归正传,先讲讲Apache Superser。 2. Apache Superset简介2.1 Apache Superset是什么? Apache Superset是一款由Python语言为主开发的开源时髦数据探索分析以及可视化的报表平台;她支持丰富的数据源,且拥有多姿多彩的可视化图表选择。
3 G% U% C4 D3 e4 N$ H
6 y. { _ z9 k9 G' Z4 v" \) ]9 p: p/ O4 p1 @# K1 D* |
- w5 [# L1 a) Q& q6 v' Z
图2.1.1 Apache Superset定义 # n" J# ?& T, Y4 G0 ?# q9 R
2.2 为什么选Apache Superset?- 支持丰富的数据库作为数据源,基本上平时用到的数据库都支持;如图2.2.0,支持的数据源有:- ]1 H+ }' x _" s0 a' v
- Amazon Athena
- Amazon Redshift
- Apache Drill
- Apache Druid
- Apache Hive
- Apache Impala
- Apache Kylin
- Apache Pinot
- Apache Solr
- Apache Spark SQL
- Ascend.io
- Azure MS SQL
- Big Query
- ClickHouse
- CockroachDB
- Dremio
- Elasticsearch
- Exasol
- Google Sheets
- Hologres
- IBM Db2
- IBM Netezza Performance Server
- MySQL
- Oracle
- PostgreSQL
- Trino
- Presto
- SAP Hana
- Snowflake
- SQLite
- SQL Server
- Teradata
- Vertica5 x) m1 F1 D& T* @1 B
0 h7 S. a" G! Z" W% S" Y
图2.2.0 Apache Superset支持的数据源
* l4 P; s8 M+ t5 w8 Y- 多姿多彩的可视化图表,Apache Superset拥有非常丰富的图表,来实现不同的可视化需求,如图2.2.1。
. T( Q2 l& F1 @- h
) c6 c& I) d1 d7 L9 N) M
图2.2.1 Apache Superset支持的图表 6 x0 q. c" U: C! ^5 g5 y a
- Data:主要功能是新增数据源和数据集Dataset(旧版本也叫Table),Dataset作为数据图表可视化的基础;
- Charts:图表,就是针对准备好的Dataset数据集,选择一款合适的图表呈现;
- Dashboards:仪表盘,其实就是报表、看板大屏展示,可以将多个Charts组合到一个仪表盘内一起展示。
- SQL Lab:SQL实验室,其实就是一个类似DBeaver、Navicat、DataGrip等一样的多功能数据库连接客户端,但是只有查询功能,配置驱动和连接后可以进行数据库、表、字段等模型的SQL查询操作。
- 设置:语言选择,登录注销、人员权限,操作日志等设置;) a* a2 Q2 T, H2 Y$ b4 h3 Q, {* N$ e6 W1 r
图2.2.3 Apache Superset使用预览
w. J% v# s+ j4 r) R- {- j k2.3 对比Metabase- 天生自带支持的数据源Apache Superset完胜Metabase;
- 数据图表形式Apache Superset完胜Metabase;
- 操作界面美观丝滑度Apache Superset稍逊Metabase;
- 托拉拽操作Apache Superset稍逊Metabase;
( s7 y e# |) D% C
向来博主都是鱼与熊掌能兼得就兼得,毕竟小孩才做选择嘛,可以考虑两个都装,Metabase用于专注业务数据需求人员,Apache Superset用于懂SQL的数据需求人员,二者生成的通用仪表盘,则可以利用一个统一的网页超链接到一起,形成一个统一的报表平台。 3. 快速上手 这里先快速上手带大家体验一把,细节后续章节细讲,首先配置好数据库连接(配置方法参考后续的 5.1 新建Databases(数据库)),然后打开SQL Lab,选择好配置数据库,写SQL语句分析探索数据,如图3.1.0,然后运行语句,得到数据结果,可以点击保存将常用的探索SQL保存下来,然后点击查询结果上方的EXPLORE按钮,就可以跳转图表分析图3.1.1;
: q' L; ?. H0 m x/ r" I+ k5 H7 b+ |9 C: ~ P" h# f; L# a8 s
图3.1.0 Apache Superset在SQL Lab上探索数据
/ _) O% A; V$ q7 \8 ]* z 利用SQL Lab探索得到的数据集,选择合适需求的数据图表,选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表;
4 e8 y6 N4 Q& v$ A5 o4 n: J1 c/ j `2 j- O( p
图3.1.1 Apache Superset数据可视化 * q2 O% p% x. r% f) i6 q
新建Dashboard,然后编辑Dashboard,将之前生成好的Charts(图表)拖拽到Dashboard,就完成了数据仪表盘的最终呈现,然后就可以分享给需求方,也可以生成访问链接分享。 注意:拖拽时尽量往Dashboard的上面拖拽,会出现一条蓝色的分界线就可以松手,否则可能出现无法拖拽的情况,这个设计很坑。 图3.1.1 Apache Superset数据仪表盘呈现
1 k @. L5 J* r( b7 D7 U) Q: \ B4. 部署安装4.1 部署方式及版本- 支持Linux、Windows、Mac的Docker部署
- 支持Linux、Windows、Mac的Python环境代码部署
- 可以在github,官网、或者国内镜像网站查看版本,但是别先下载,因为Apache Superset依赖包很多,最好能在线安装;7 }2 }, E9 c; O) }, w
$ e# o( z5 K; m+ ~
图4.1.0 Apache Superset版本预览
2 k3 z {/ U4 x5 T) o" `- 博主选的是apache-superset-0.38.1.tar.gz在Linux上的Python环境代码部署。
% [2 l ?9 q/ a: h- B0 V 4.2 配置需求- apache-superset-0.38.1.tar.gz
- CentOS 7 16核 32G(非硬性,一般性能的服务器即可)
- Python 3.6
- 要求服务器网,如果没有,可以使用能联网的代理服务器,依赖很多,采用在线安装的形式) K) i* p$ t# _+ U- [4 f' r! _7 w
4.3 下载安装- 下载安装Python3.6,可以选择安装anaconda集成的python,可以参考博客Linux通过anaconda来安装python,对应的版本是Anaconda3-5.2.0-Linux-x86_64.sh,下载传送门:Anaconda Download;安装好以后,如果老的服务器上存在python2,默认的环境变量启动是python2,没关系,只需要设置一个新的环境变量确保 python3启动是刚刚安装的版本即可。
- 安装python虚拟机,并启动,然后安装Apache Superset。5 ^9 ~+ u" C, d* m! u
/ d5 O9 o, U: f) g2 z
- # 切换到自己安装软件的目录,博主的是在/usr/local/tools,并新建superset目录8 y- f1 |1 h& d4 y0 I4 x/ e" ]
- cd /usr/local/tools
3 Z: }) t$ M+ V* I) {' H( L+ ` - mkdir superset
. {7 p! V- p4 m: n S: x1 i - cd superset# M3 a9 |/ x1 N( v* }9 e
- ) s) }/ L9 r& N, \, E1 w4 m
- # 安装虚拟机,有网就不需要的代理服务器,配置代理服务器10.212.18.34:3129方法:
8 G% \9 }, q/ D - # 写入配置文件 /etc/profile里面追加, Z8 c& }$ g, T5 y4 K0 ^
- # export http_proxy=10.212.18.34:3129 I9 ]3 V- ^3 ~1 S% E( v7 `
- # export https_proxy=10.212.18.34:3129
B1 s2 n9 m H- w. \' ?0 w5 { - # 然后wq! 保存退出,source /etc/profile刷新配置文件! g$ N, m- S) @3 B
- # 安装完可以删除代理,记得再source /etc/profile8 H8 S4 q2 L& h3 { J5 G8 b) o0 B
- # 如果不想配置/etc/profile或者无权限,可以采用以下命令0 f1 c5 p, ], P( P
- # pip install virtualenv --proxy=10.212.18.34:3129,每次都需要,烦+ @; g: O$ ^: R$ b
- pip install virtualenv/ Y# k; A$ B, D1 m5 K* @: }6 ^
- ! j" u# `, `. {, [" _1 @
- # 配置命名虚拟机7 o/ I T! K" b. x d8 o
- python3 -m venv venv8 M2 n% C( X" w
; p! ^; S: S. k/ T7 e2 x& n- # 启动虚拟机,会在当前目录下自动创建venv目录$ V4 i# ?' M: h6 r e! [
- . venv/bin/activate
5 k/ `" W& m$ f - ( N6 \' Z# m* ~3 h, e; A9 q
- # 退出虚拟机指令,但是这里不需要退出: k6 j7 O5 c' R2 n% @
- # 退出虚拟机指令,但是这里不需要退出- C/ z0 h5 S/ d7 s8 M z
- # 退出虚拟机指令,但是这里不需要退出7 S# b2 Y# w- x7 p: Z# m/ K
- deactivate
( Y+ F$ Q3 A1 s, p" L
1 R4 n! |$ c: _- # 安装更新一些依赖
8 ?( }% A2 H& `8 u3 S! G& V - pip install --upgrade setuptools pip -i https://pypi.douban.com/simple/
4 }- \0 K5 [8 Q$ B1 ?( d1 G1 _
, k; C' B4 H0 f8 c% t- A- yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel [4 R5 \* Z3 J
- ( x6 h" M: P4 z: I, m/ a
- # 如果报错:GPG key retrieval failed: [Errno 14] curl#37 - "Couldn't open file /etc/pki/rpm-gpg/RPM-GPG-KEY-EPEL-7"
$ K( C) O5 }+ F2 q; V& r4 i - # 解决:! z1 a+ b3 f" h; E! N; W
- vi /etc/yum.repos.d/epel.repo
. P: C w" h8 X+ D' z1 \ F- p, w - gpgcheck=0
4 ]1 j% A9 A, J) U, I( e - # 然后wq!保存再试一次yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel4 H$ q O+ U$ a; t& M
8 j; d. t5 A7 l: V- # 先用官网下载,因为官网的会自动把依赖也给你一起安装了,实在不行再用其他网站的镜像/ T& h7 _& d! r
- pip install apache-superset==1.4.2
1 h7 W0 Q" V) Q9 C - . c% }. z8 t M7 o# h
- # 安装superset,指定版本,不指定版本默认是最新版本. I) L" E; {2 X2 ] B8 J
- pip install superset==0.30.1 -i https://pypi.douban.com/simple; q2 R, N8 ?* ^0 T- `
3 W/ |6 C" [7 t. {0 [, c- # 安装email_validator * u' e3 a3 L' c$ W3 S2 H
- pip3 install email_validator -i https://pypi.douban.com/simple/; H% `% h8 p/ r- z3 T
- ( F4 ~* N: h/ J. R: l
- # 更新数据库
5 C# [! ^ P, l8 V5 D - superset db upgrade* l' `4 k5 P+ F! R
- / p9 i6 m4 N: P1 [8 ~
- # 创建admin的用户名,用户名随便写,bigdata123,admin都行,写完用户名后会让你输入姓,名,邮箱,这三项可写可不写,不写就直接回车,然后是设置密码,一点要写。
( U& G K6 Q) ~4 u9 i - export FLASK_APP=superset! a# e" N, h$ j& |* a( [
- superset fab create-admin
8 F# `5 K9 y0 s - & f( s# q9 A5 n3 X3 G% q1 c
- # 加载样例数据,考验网络,如果实在一致加载报错就放弃,不影响后续使用。
9 U; S3 l3 R/ c' _. ^4 C" I0 W - superset load_examples' r5 \1 G2 A- h+ l3 }0 W
- . V T! g0 b+ o7 {
- # 初始化& M# q% @# P v3 X, L, ]
- superset init9 \" ^. t" g, o0 f. Y
4 f6 t2 ~5 D/ [* B- # 启动,官网是superset run -p 8088 --with-threads --reload --debugger |, f- M+ a4 `8 i7 P2 E" H. |
- # 建议用gunicorn启动,方便快速,先直接启动,确保打印在客户端的日志正常
. X) g) P) o" P! U$ C! F0 ^ - pip install gunicorn/ v9 n8 Z. i! B1 \& W3 ~
- gunicorn -w 5 --timeout 120 -b 10.218.10.290:9089 "superset.app:create_app()"
4 s& ^+ T; i% G+ |% i - 6 N: i' V4 S: {. b
- # gunicorn 是一个Python WEB服务,可以理解为Tomcat4 g/ [* ^! ]7 Q$ x
- # -w WORKERS:指定线程数0 l0 g- [3 I7 F* _- H
- # --timeout:worker进程超时时间,超过会自动重启
. I( A) F; W/ C - # -b BIND:绑定Superset访问地址9 C9 {0 E4 S: T2 f
- # --daemon:后台运行
! l! \; F. {) H4 @
% o5 }' c( o7 l2 M' k- # 在能访问10.218.10.290:9089的服务器上打开浏览器,输入刚刚登录的用户名,密码即可。/ x# F- M* I5 W9 i; E
& ?0 P+ t( l" o# i" L4 H7 s- / m' B f; U& o! V% p# L
- # 如果没开启后台停止,直接ctrl+c关停9 A6 U! k, @8 ]! C6 n/ }2 D
- # 后台进程停止gunicorn) Y* w% T* J7 e" g2 Q
- ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码 & {% [, }( D, p, K
# e; F4 N( Q* B% ]4.3 安装注意及排错 pip install superset步骤时出现关键字眼Successfully installed证明正确安装,如图4.3.0;
1 O' X1 r, G4 c' H) D% O
0 i( p3 V! V0 @ L6 o( l图4.3.0 成功安装的提示 . `, m x& O/ g; J
superset fab create-admin配置用户名时提示如图4.3.1。 图4.3.1 配置用户名时提示 : v7 u- Y) y6 I* e
每个人的服务器环境,可能导致缺少的 依赖不同,途中如果遇到bug,可自己百度解决,基本都是python依赖包之类的问题,要耐心。 - # 报错
' U" z, I7 }" \" ?( g- s1 |7 ] - ModuleNotFoundError: No module named 'dataclasses'
2 m+ l* I$ b. r - * e( R# M j, |
- # 解决, ~" k& n) @6 x
- pip install dataclasses0 g1 u9 O6 x# \8 O8 K' i9 |# b/ `
- ! h8 f0 P% Q+ i% x( v* T# I6 Q
- # 报错6 f! [2 M8 Z: H- t4 ^% W' T
- No PIL installation found
: O8 C P4 b; a3 H( S6 z - # 解决. U0 l( v8 y! N, s
- pip install pillow, P3 s4 U5 D1 F) J# R
复制代码
% {9 B! G9 }! x0 I0 p5 K/ ~# m 一切解决后,网页登录如图4.3.2; 图4.3.2 登录首页4.4 启动与关闭
; A6 z( D- \4 D) k7 v0 M4 z7 X0 M 官网提供的直接启动的方法不是很好,博主推荐一个采用gunicorn的方法,先关停superset。 0 a$ W" w. I6 X# Z; l% w
( n- g0 {/ \4 N6 @7 Y' P* P
, F5 r" M! v" O( o. B9 X- #安装好superset后会在venv生成很多文件,切换到venv
' b6 N8 _; E+ X h0 D - cd /usr/local/tools/superset/venv/
. v( G* @$ n' F# ]$ y1 c3 `( R - . k; O* n) W- V @) K
2 {- B; G% b$ M/ U3 D2 a
3 [' i& ?' n" F* X, ?0 |- #新建日志文件夹
6 ^) L5 Y9 F3 G. R6 o$ A - mkdir log A2 t% i5 v; A6 e. m; B
9 d7 B; p( U& @; g/ y" a" X+ b2 E- #切换到log目录,新权限 日志,错误日志和启动pid文件
' H5 @) y2 r3 G- x - cd log; j' j8 ~$ s. v U/ B2 R% D
- touch gunicorn_access.log+ h7 I5 G0 { t$ j' K+ }
- touch gunicorn_error.log4 m6 D) U- `$ w0 h3 k
- touch pidfile* O% j) o( ~& U* g k
- chmod 755 ./* #修改权限
- d' X9 v- m1 _4 `% e/ x
. t$ V. o4 X, y! R! u; T- #切换到/usr/local/tools/superset/venv/bin,写一个gunicorn配置文件,python语言
! |" u# F6 K! X" k: Z7 J+ ` - cd ./usr/local/tools/superset/venv/bin8 L: I5 H; s) Y& B- A1 u6 g
- ( b( X. T) h! o5 w8 ~3 |) }
- 0 X1 R# K, Z$ @: E' O
- vim gunicorn_config.py # 内容如下
! c: @ H" H4 R/ o* J# L# G
/ q" }, u2 |: I4 m, l- #内容开始
" V; A2 |, ^0 ~" h - import multiprocessing! L4 d/ w: U) n) I4 j3 \6 g- o h
* a1 a4 c2 U3 ]7 M! y8 M- 7 Y7 d N% ]" W+ }
- bind = '10.218.10.290:9089' #绑定ip和端口号
1 F* [, b# P: ^ - backlog = 512 #监听队列3 e: i ~ C' K9 V; M' h
- timeout = 30 #超时3 d1 ^, @# a6 O" e/ f
- worker_class = 'gevent'
: b @9 x: n1 ] - workers = 5. W5 E. K9 m1 p8 ~9 S
- worker_connections = 1000
0 @; `1 H: M& L+ X - threads = 2 #指定每个进程开启的线程数
$ P; d; ]+ Q) j! e6 b/ J+ i1 Z5 J% x9 r! H - loglevel = 'info' # 日志级别# L/ y& w' Y7 m9 F
- access_log_format = '%(t)s %(p)s %(h)s "%(r)s" %(s)s %(L)s %(b)s %(f)s" "%(a)s"' #设置gunicorn访问日志格式,错误日志无法设置
4 G# r, P- @2 ^- v: U' M" q
! G( M8 m" X z8 V
4 ^2 } k3 ]% [" M. y2 n8 ]9 p* X0 c- . y; _8 o3 y1 z7 T
- pidfile = '/usr/local/tools/superset/venv/log/pidfile'
7 ?& h5 s: r4 N8 ]9 S# n - errorlog = '/usr/local/tools/superset/venv/log/gunicorn_error.log'3 y; N ~/ Y8 S5 v3 S1 y
- accesslog = '/usr/local/tools/superset/venv/log/gunicorn_access.log'
9 q" _* I3 u$ j0 \ - / m2 \0 F3 V7 a6 O* x, U
- print("IP and PORT:"+bind): o, e7 Q, D( ^$ l
- print("pid_file:"+pidfile)
: y; r# J9 `( s, B - print("error_log:"+errorlog). d0 {0 P- Z9 C" [
- print("access_log:"+accesslog)
& ^/ f0 @5 N$ u0 T) }% a) e" } - 1 V$ o+ {9 l% b6 R1 L
- #内容结束
4 }6 M5 z$ X$ I2 d6 q3 n2 Q - ' c+ S1 j9 B m1 C+ [, @
- #然后 wq! 保存退出4 F7 ~$ P, E( r" ^
9 H& B; a% p5 e; U3 l; r* C2 s( I- # gunicorn 启动 -c 配置文件启动;--daemon后台启动,日志可以去配置文件指定的路径查看# }! H7 z! |( h2 H
- gunicorn -c ./gunicorn_config.py "superset.app:create_app()" --daemon# I9 P% ~: ], A( B# h7 ?5 A
' u: L: J: a5 g8 S5 p- # 后台进程查看
% d& N8 g' S: _ - ps -ef | grep gunicorn
w+ k$ C$ G, P4 d/ M& v
9 g. n! r0 D9 y9 e- # 或者通过端口查看( S7 u( d2 N8 O' K5 {
- netstata -tunlp | grep 90896 }: G% ?) |, s. ~
- # 或 g; r. o& M) r B
- ss -anp | grep 9089. A5 I1 d7 `+ j; m
- 9 Q$ o5 D: U: Y( @8 z2 T. J
- # 如果没开启后台停止,直接ctrl+c关停
7 @4 Y% O' u) g$ K N7 w7 f - # 后台进程停止gunicorn i- G% m$ H! X( m% O
- ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码
0 q ?! E- _% s: V0 ~3 L; Q* N, ] 5. 用户手册(重点)5 f" S( X- \+ w/ Z& m/ q
" |. P( ^- s$ D3 w
5.1 新建Databases(数据库) 新建数据库之前,需要先安装该数据库的python驱动包,具体语句可以参考官网 Database Drivers,如图5.1.0,一般就是pip install XXX,安装好驱动后,记得重启下Superset服务; 新建数据库连接的作用是为数据集Datasets和SQL实验室SQL Lab提供数据库、表的选择,就是提供数据源,当然Data下还有个Upload CSV(最新版本也支持Upload Excel)也可以直接将本地的CSV文件作为数据源上传到Superset站点,直接进行数据探索分析。 图5.1.0 数据库驱动以及连接字符串 % g+ o' K/ I+ t( p
登录进Apache Superset后,点击Data,下来选择Databases,然后跳转到图图5.1.1,点击右上侧的+号就可以跳转图5.1.2的数据新增配置界面。 图5.1.1 新建数据库连接
9 G) I5 L$ r' e6 a% v( ]( u 图5.1.2,Database是指的新建这个数据库的显示名称,这个随便取,合理即可,SQLAlchemy URI 这个地方就是之前图5.1.0上的数据库连接字符串,确保和你选择的数据库类型一致。 8 ?% ]6 W4 K& }5 h# C7 `
然后点击TEST CONECTION,连接成功后会跳出Seems OK!的弹出框,记得滑到最下面,点击保存,如果连接不成功,请检查数据库的实例,端口,用户名,密码以及自己部署的Apache Superset的服务器访问数据库的端口网络时是否能通,当然也不要忘记SQLAlchemy URI 填写规范,保存后的数据库连接就会列举在图5.1.1上。 & e, v+ j y, P6 _" ]) [
6 y. q) N0 m, `( j
图5.1.2 新建数据库连接配置信息 6 p7 I- y* P1 K0 }4 S2 x/ ]/ s+ q8 P
5.2 新建Datasets(数据集,老版本也叫Tables) 图5.2.0 新建数据集 0 s* @# N6 J7 u2 [
如图5.2.0,点击图中的Data下的Datasets,然后点击+号,跳转到图5.2.1,将配置好的数据库名下拉选出,写一个该连接实例下的数据库,然后选择一张表,点击保存即可,保存好的数据集会列举在图5.2.0中,这些知道为啥老板叫Tabels了吧;
" k T; U ~/ e4 v% `, [1 F6 W 数据集的作用是为后续的Charts(图表)数据可视化作为数据源头。 图5.2.1 新建数据集配置信息
* j- a6 M# |; Z# j+ O1 U: B0 g8 j( x+ E3 |" D9 c2 J+ r/ ?( t
5.3 SQL Lab(SQL实验室) SQL Lab其实就是一个数据库查询客户端,利用SQL语句对数据库的表,字段模型进行查询探索,同时支持智能补全,当然SQL Lab的查询结果也可以直接EXPLORE到Charts(图表),作为数据可视化的数据源。
' e4 g! Z# S& V* J9 i; l1 V1 N- f 如图5.3.0,SQL Lab有三个选项,三个选项的功能如下: - SQL Editor:进行SQL查询探索
- Saved Queries:保存的通用查询SQL
- Query Search:查询的历史记录
- [: f% f0 \7 K) o
图5.3.0 主界面进入SQL Lab ' u: D5 v) ?+ ^3 i4 d& {& b2 j
点击SQL Editor进入图5.3.1的SQL查询探索,左侧上方是配置好的数据库连接名和选择的数据库,左侧下方是将要用到的表及字段模型;右侧上方是写SQL语句的地方,支持RUN(查询),RUN SELECTION(查询鼠标选择局部语句),SAVE(保存),SHARE(分享)等,右下方是数据结果,支持EXPLORE到Charts(图表)可视化,.CSV下载,CLIPBOARD(复制到剪贴板)。 图5.3.1 SQL Lab使用
; K1 a" q3 e9 e m5.4 创建Charts(图表) 图表的作用是数据可视化,利不同的图表满足不同的业务需求,图表同时也作为仪表盘的展示的一部分,一个仪表盘内可以展示一个或多个图表。1 j0 F" x7 \9 m9 V
创建图表的方式有两种: - 如图5.4.0,点击Charts,点击+创建新的图表,跳转图5.4.1
- 在SQL LabSQL语句探索查询的结果直接EXPLORE到Charts(图表)可视化! W# |3 F9 n% m( A6 J, z
图5.4.0 创建图表 ! T {; x% u: |1 N3 A. m
如图5.4.1,选择合适需求的数据图表(如图5.4.2,支持的图表类型非常丰富,号称最漂亮的可视化图表展示),选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表; 9 f5 P, X+ r5 h9 P, ]1 P
6 d* n1 g' |9 |- I! v6 g" _
图5.4.1 图表可视化配置 ! l# S* |" _5 A% |! T) P
号称最美可视化展示,支持可视化的图表类型确实丰富多彩,应对各种可视化需求。 $ J# L5 @3 z9 V, J( z6 A
$ _2 y7 a8 x9 N! P; `1 `; X
图5.4.2 支持的图表类型
5 ?& x9 o o; u v; a% u; a5.5 创建Dashboards(仪表盘) 仪表盘就是最后的数据总体呈现,即报表展示。 如图5.5.0,点击Dashboards,然后点击+新建仪表盘,跳转图5.5.1。 图5.5.0 创建仪表盘
- f3 \! }. W- S/ V1 P* U 点击图5.5.1右上角的编辑仪表盘,之前做好的Charts(图表)拖拽到仪表盘上,注意:第一次拖拽的时候尽量网上拖拽,知道出现这个条蓝色的分解线,否则 无法拖拽过去; 同时也支持一些通用的组件,图表旁的Components下,有Header、Tabs、Row、Column、Markdown、Divider;1 k3 r! J" x& a3 `" ?0 p
编辑完后后记得点保存。 图5.5.1 编辑仪表盘 8 |3 q, ~1 e3 Z' |2 p
保存后的仪表盘支持分享,下载等功能,同时也会根据图表内的数据源刷新来获取新的数据;
" n1 Y# e. ]) S1 ~; J( W3 F
/ {0 R* s3 Y. L# ~" a: E图5.5.2 仪表盘功能
, {$ n2 p' n- E1 q 分享给别人看到的仪表盘如图5.5.3。 图5.5.3 分享后他人视角的仪表盘
" u& e {8 w4 t6. 设置 设置包含在菜单栏Settings下,主要设计权限和操作日志等模块,接下来分别讲解。
E% o7 R( |0 G1 |. E$ H7 z' ~& ?( L }! X1 S0 U
图6.0.0 通用设置 # A) d6 N& @3 p, m
# w! l1 z5 w4 o$ r T) @
6.1 角色列表及权限 Apache Superset中的安全性由Flask AppBuilder(FAB)处理,FAB是一个构建在Flask之上的应用程序开发框架。FAB提供身份验证、用户管理、权限和角色,可以查看其相关文档。
. h$ B$ I+ ?4 ^8 j8 `. O4 O0 [2 | Apache Superset默认提供了不同的角色,每种角色拥有的权限不同,在运行superset init命令时,与每个角色关联的权限将重新同步到其原始值,不建议更改与每个角色关联的权限(例如,通过删除或添加权限),支持admin再自建角色类型,指定想要的权限,默认的角色及权限如下; - Admin:管理员拥有所有可能的权限,包括授予或撤销其他用户的权限,以及更改其他用户的切片和仪表板;
- Alpha:Alpha用户可以访问所有数据源,但不能授予或撤消其他用户的访问权限。它们也仅限于改变它们所拥有的对象。Alpha用户可以添加和更改数据源。
- Gamma:Gamma用户的访问权限有限。他们只能使用来自通过另一个补充角色访问的数据源的数据。他们只能查看由他们可以访问的数据源制作的切片和仪表板。目前Gamma用户无法更改或添加数据源。我们假设他们主要是内容消费者,尽管他们可以创建切片和仪表盘。另请注意,当Gamma用户查看仪表板和切片列表视图时,他们将只看到他们有权访问的对象。
- sql_lab:sql_lab角色授予对sql lab的访问权限。请注意,虽然管理员用户在默认情况下可以访问所有数据库,但Alpha和Gamma用户都需要在每个数据库的基础上获得访问权限。
- public:要允许注销的用户访问某些超集功能,需要自己配置权限,并将其分配给另一个角色,您希望将其权限传递给该角色。/ K/ `, B- j4 H! U7 C
图6.1.0 系统默认角色
4 s0 T! @7 u. T3 o 同时Apache Superset也支持管理员自己新增角色,如图6.1.1,新建角色并指定角色权限。
1 B, c! p8 J) w- E
! i" q- W4 Q& x7 _图6.1.1 新建角色 8 I( d7 m( s) } n
( q9 I( o( u$ L6 |5 ^: n
6.2 用户列表 新建、编辑用户指定角色,用户的权限是绑定在角色里面的,一个用户可以有多个角色,配置信息如图6.2.0。 , c9 E2 j5 ^! x& \9 e) D
$ C1 F' t E. O& J+ D
图6.2.0 新建、编辑角色 6 S t, F T0 Q% F8 R) K$ S
* p/ r, }/ Q) a
6.3 操作日志 操作日志记录的是在你的Superset平台上不同用户的行为日志,如图6.3.0。 图6.3.0 行为日志查看
% i0 x+ G s/ ]" R# q% F) q7 ]
) H( ~+ \) m9 `) w" _6.4 用户信息、退出、版本信息 菜单栏最右侧的个人信息,主要是包含: - 用户信息:修改用户姓名,重置密码;
- 退出:回到登录主界面;
- 版本:目前您安装的Superset版本信息。
0 _! L/ D! Q5 n
& |3 [5 k2 {1 V6 i Z
图6.4.0 个人信息模块
0 D) A3 o/ S' _, a8 _, b
& Q |! ~% q+ Y) \% z& e5 e5 J6.5 语言选择 作为Apache的顶级项目,自然是运用于全球的,支持世界上一些通用的语言 ,选择一款你最喜欢的即可。 图6.5.0 语言选择 ! p, E \5 [/ g7 }
6.6 管理设置 针对仪表盘,图表渲染加入自己想要的风格和模板,实际运用的用的不多。 ( \% c! c9 N1 _/ c( K/ D
, R" w A- ]6 I, m4 V! e; m- P! B" J
图6.6.0 管理模块 5 l3 ^5 e+ S0 {; `8 @: Y
6.7 + NEW 菜单栏的+ NEW其实就是给最通用的三个模块SQL Query、图表、看板(仪表盘)的一个快捷方式,此三者的用法就不在累赘了。 图6.7.0 + NEW模块 8 n# q$ ?/ z* c
" k G! x7 a8 c( ~6 d6 _
* Z! C d! v5 e: }1 e: r原文来源: https://blog.csdn.net/LXWalaz1s1s/article/details/119061337 / p, i& I8 \ w4 q" \
|