目 录
* y9 `! ?& V, t* N9 ]
1 [* Z4 t- b" q" i/ C3 V1. 需求背景1.1 大数据可视化面临的挑战 大数据的兴起,关于数据的存储、计算技术层出不穷,但是最终的数据可视化呈现,数据的探索,也成为颇为重要的一环,这一块并没有像存储、计算技术栈那么百花齐放,大家在做大数据可视化时是否也曾有这些困惑呢? - 传统的可视化对接传统数据库,对大数据组件的hive,spark,presto、elasticsearch、clickhouse等兼容性差,甚至不兼容,每次还需要多一道将大数据集群数据分发到传统数据库的冗余操作;
- 商用产品昂贵、甚至产品设置技术壁垒,很多甚至要求对接该商家的自己的大数据技术方可对接;
- 群众基数大的Excel拖来拽习惯、SQL操作的方便性,排斥自成一派的新技术,网页版账号登录优于用户下载客户端登录;
- 公司开发人员配置紧张,没有多余的人力自研大数据可视化平台,但是决策层希望有一个统一的可视化平台。" r s C& y: b+ I2 j4 l
诸如此类,确实令人头疼,现在就推荐一款解药Apache Superser——开源的大数据分析探索、可视化报表的神器。 1.2 大数据数据可视化的目标架构
! F9 z; z T2 L$ J& k; V; g5 ?% Y- `- X6 i0 M
图1.2 大数据数据可视化架构 S1 i, n+ Y3 |: b
做事还是需要立一个目标架构,最后所有的事情都是围绕目标架构展开,才能越做越轻松,如图1.2,可是架构分为三个梯队; - 第一梯队:ClickHouse、DorisDB、Kylin等优秀OLAP技术做存储,利用自带的连接引擎,快速响应,同时支持实时数据和离线数据的接入,外接可视化平台,通过权限管控后呈现给用户;
- 第二梯队:数据存在数据仓库Hive内或者NoSQL的Hbase,再通过较为优秀且高效的引擎Presto、Flink、Spark等接入可视化平台,通过权限管控后呈现给用户;
- 剩下就是一个特殊的,如MySQL,临时文件等文件的接入;! Z9 D3 d# Q9 d" N' U
注意:常用的也还有其它技术架构,如ELK架构,ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成。Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。 Logstash是一个完全开源的工具,他可以对你的日志进行收集、分析,并将其存储供以后使用(如,搜索)。 kibana 也是一个开源和免费的工具,他Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志。这个后续再讲,这里书归正传,先讲讲Apache Superser。 2. Apache Superset简介2.1 Apache Superset是什么? Apache Superset是一款由Python语言为主开发的开源时髦数据探索分析以及可视化的报表平台;她支持丰富的数据源,且拥有多姿多彩的可视化图表选择。 ( f! M- ?* {. l3 v7 c/ I
/ `4 i8 q1 v! d9 |8 y
1 J9 v, ^& h4 {0 \4 v+ O) u
$ f; m$ G+ K: n8 z: g& U8 f* M" B
图2.1.1 Apache Superset定义 - P: A% t, T8 i3 D
2.2 为什么选Apache Superset?- 支持丰富的数据库作为数据源,基本上平时用到的数据库都支持;如图2.2.0,支持的数据源有:3 ]4 u6 t- K: H6 R" I3 z5 p
- Amazon Athena
- Amazon Redshift
- Apache Drill
- Apache Druid
- Apache Hive
- Apache Impala
- Apache Kylin
- Apache Pinot
- Apache Solr
- Apache Spark SQL
- Ascend.io
- Azure MS SQL
- Big Query
- ClickHouse
- CockroachDB
- Dremio
- Elasticsearch
- Exasol
- Google Sheets
- Hologres
- IBM Db2
- IBM Netezza Performance Server
- MySQL
- Oracle
- PostgreSQL
- Trino
- Presto
- SAP Hana
- Snowflake
- SQLite
- SQL Server
- Teradata
- Vertica" t8 T: t2 k, N! C0 P. P
5 e2 s' K3 \4 X4 Y$ }
图2.2.0 Apache Superset支持的数据源
: y# R9 x; A7 Q1 h" U- 多姿多彩的可视化图表,Apache Superset拥有非常丰富的图表,来实现不同的可视化需求,如图2.2.1。
& q* `% J# p' C3 T" z/ i& B6 q% R
9 ]% n$ ^6 w6 i) P, a9 _3 C
图2.2.1 Apache Superset支持的图表
, `( f/ P0 p2 [, I% v- Data:主要功能是新增数据源和数据集Dataset(旧版本也叫Table),Dataset作为数据图表可视化的基础;
- Charts:图表,就是针对准备好的Dataset数据集,选择一款合适的图表呈现;
- Dashboards:仪表盘,其实就是报表、看板大屏展示,可以将多个Charts组合到一个仪表盘内一起展示。
- SQL Lab:SQL实验室,其实就是一个类似DBeaver、Navicat、DataGrip等一样的多功能数据库连接客户端,但是只有查询功能,配置驱动和连接后可以进行数据库、表、字段等模型的SQL查询操作。
- 设置:语言选择,登录注销、人员权限,操作日志等设置;
' N% q5 ~2 b$ }' ~
图2.2.3 Apache Superset使用预览
! z9 G5 N, b$ g, W2 B2.3 对比Metabase- 天生自带支持的数据源Apache Superset完胜Metabase;
- 数据图表形式Apache Superset完胜Metabase;
- 操作界面美观丝滑度Apache Superset稍逊Metabase;
- 托拉拽操作Apache Superset稍逊Metabase;" k @5 G/ \2 @* d G
向来博主都是鱼与熊掌能兼得就兼得,毕竟小孩才做选择嘛,可以考虑两个都装,Metabase用于专注业务数据需求人员,Apache Superset用于懂SQL的数据需求人员,二者生成的通用仪表盘,则可以利用一个统一的网页超链接到一起,形成一个统一的报表平台。 3. 快速上手 这里先快速上手带大家体验一把,细节后续章节细讲,首先配置好数据库连接(配置方法参考后续的 5.1 新建Databases(数据库)),然后打开SQL Lab,选择好配置数据库,写SQL语句分析探索数据,如图3.1.0,然后运行语句,得到数据结果,可以点击保存将常用的探索SQL保存下来,然后点击查询结果上方的EXPLORE按钮,就可以跳转图表分析图3.1.1; 7 j+ |3 K3 Q- J
9 Q9 u: N( j6 A7 x# [图3.1.0 Apache Superset在SQL Lab上探索数据
6 P6 @3 @2 x0 Y( H- `6 v7 G1 q; { 利用SQL Lab探索得到的数据集,选择合适需求的数据图表,选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表;
5 t2 {9 z7 }& r L
6 k& q9 H: T7 \ X# S# E8 `' _图3.1.1 Apache Superset数据可视化 * j1 [8 |9 G' x/ A: F k- b& N
新建Dashboard,然后编辑Dashboard,将之前生成好的Charts(图表)拖拽到Dashboard,就完成了数据仪表盘的最终呈现,然后就可以分享给需求方,也可以生成访问链接分享。 注意:拖拽时尽量往Dashboard的上面拖拽,会出现一条蓝色的分界线就可以松手,否则可能出现无法拖拽的情况,这个设计很坑。 图3.1.1 Apache Superset数据仪表盘呈现 + N& J2 ^1 e' z% G' F3 }- U1 I
4. 部署安装4.1 部署方式及版本- 支持Linux、Windows、Mac的Docker部署
- 支持Linux、Windows、Mac的Python环境代码部署
- 可以在github,官网、或者国内镜像网站查看版本,但是别先下载,因为Apache Superset依赖包很多,最好能在线安装;
. b' W* @$ v" I( C1 B# [* D! N$ n5 Q! B! B) s8 I4 I2 c! J
图4.1.0 Apache Superset版本预览
/ H1 o* N0 y! f3 u: Q- 博主选的是apache-superset-0.38.1.tar.gz在Linux上的Python环境代码部署。" V, z9 v' d4 w0 A) s
4.2 配置需求- apache-superset-0.38.1.tar.gz
- CentOS 7 16核 32G(非硬性,一般性能的服务器即可)
- Python 3.6
- 要求服务器网,如果没有,可以使用能联网的代理服务器,依赖很多,采用在线安装的形式
" }" E& r( N) U 4.3 下载安装- 下载安装Python3.6,可以选择安装anaconda集成的python,可以参考博客Linux通过anaconda来安装python,对应的版本是Anaconda3-5.2.0-Linux-x86_64.sh,下载传送门:Anaconda Download;安装好以后,如果老的服务器上存在python2,默认的环境变量启动是python2,没关系,只需要设置一个新的环境变量确保 python3启动是刚刚安装的版本即可。
- 安装python虚拟机,并启动,然后安装Apache Superset。
, Z4 k# Y/ G' j! I/ k% s
2 }9 [4 F' r# @' d" ?6 ?' g0 Z- # 切换到自己安装软件的目录,博主的是在/usr/local/tools,并新建superset目录, Z$ T5 o9 l! @3 L
- cd /usr/local/tools
1 W4 Z3 P7 H% I* ~7 i - mkdir superset1 h0 S, b- ~! K# ^
- cd superset
; x0 C2 Y6 a0 l0 F! D- m, l4 {& s - ( @3 L1 f5 ~, u$ @
- # 安装虚拟机,有网就不需要的代理服务器,配置代理服务器10.212.18.34:3129方法:6 f6 ?3 J# t% V. k0 Z
- # 写入配置文件 /etc/profile里面追加$ t* b( J6 _" P# {6 n
- # export http_proxy=10.212.18.34:3129" Y, F( l- i9 V7 N
- # export https_proxy=10.212.18.34:31293 s4 f' V- G! b; [
- # 然后wq! 保存退出,source /etc/profile刷新配置文件5 w8 X/ p: U6 s! S. `) d
- # 安装完可以删除代理,记得再source /etc/profile8 b2 W2 _+ ~& |
- # 如果不想配置/etc/profile或者无权限,可以采用以下命令
0 L$ e0 a# N4 D% b! o* H - # pip install virtualenv --proxy=10.212.18.34:3129,每次都需要,烦1 o5 S8 a1 |; w6 G
- pip install virtualenv2 n, q# W8 w2 {3 B+ s' f5 U
& @6 ?- o4 b1 m- # 配置命名虚拟机
. u7 l! u/ C, h, S9 [! k - python3 -m venv venv; |# O2 f& p Z ?
& s. x p- \/ u& i5 ^- v- # 启动虚拟机,会在当前目录下自动创建venv目录
+ l$ m( B9 p o* d7 i W& u" C" O - . venv/bin/activate
; h/ o. K/ e% [: o; R6 N - ) `: P$ ^! z. P
- # 退出虚拟机指令,但是这里不需要退出3 b( z- J! y4 T
- # 退出虚拟机指令,但是这里不需要退出9 y. ?5 P3 q o/ G6 r% _: C
- # 退出虚拟机指令,但是这里不需要退出+ w+ J. B5 A( {1 W' Q# a& K( o
- deactivate
* M. K0 Y% a: y% z0 e n
+ z! C( p/ F4 `' X! K- # 安装更新一些依赖
) Z9 v7 \& ?7 [- b5 l4 N - pip install --upgrade setuptools pip -i https://pypi.douban.com/simple/
* A- c0 O( e" ^5 T* B# V' B
5 t0 H0 E9 h5 w5 [3 E- yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel
$ M, F0 Y, _6 W - + V0 }$ O$ c5 o) A p
- # 如果报错:GPG key retrieval failed: [Errno 14] curl#37 - "Couldn't open file /etc/pki/rpm-gpg/RPM-GPG-KEY-EPEL-7"
& D+ M+ w6 G( S) K5 b - # 解决:
) x( C$ z) Z7 S3 O o8 J - vi /etc/yum.repos.d/epel.repo
' O, W$ m/ L9 L$ q! ~) R/ I - gpgcheck=0
9 t$ N1 F% j6 v" _* j" ~! a9 ^ - # 然后wq!保存再试一次yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel
' m+ N' N2 @8 n x1 X - % @) T- ]- ?9 t5 O" u# _8 M/ g
- # 先用官网下载,因为官网的会自动把依赖也给你一起安装了,实在不行再用其他网站的镜像
3 K; y8 R4 e" H5 f, i2 ` - pip install apache-superset==1.4.2
3 ^% G; }. i, d1 ^" X - % z. Z+ k" K# p5 P. \
- # 安装superset,指定版本,不指定版本默认是最新版本+ }5 E/ @: c' h3 q2 W
- pip install superset==0.30.1 -i https://pypi.douban.com/simple
; |! D0 R, U( F8 p, w& n; _
- y$ [% b: j5 x9 M4 G- # 安装email_validator
, \- }3 ?, M# G' e1 u: ] - pip3 install email_validator -i https://pypi.douban.com/simple/
{1 B. M: T3 |3 L - ! ?- N# R! u7 N2 S
- # 更新数据库
4 d9 @7 \" r; }& }! v - superset db upgrade" r" V4 M: K: T
- . c( R* p+ D o8 ^$ G" \- g
- # 创建admin的用户名,用户名随便写,bigdata123,admin都行,写完用户名后会让你输入姓,名,邮箱,这三项可写可不写,不写就直接回车,然后是设置密码,一点要写。
$ w" p( B' H& v+ i3 a o: l - export FLASK_APP=superset
- [* z$ K8 l5 K3 F7 J8 d - superset fab create-admin
# v, P3 z# m' E* S2 p0 T; g - 9 R4 y& o2 G9 C
- # 加载样例数据,考验网络,如果实在一致加载报错就放弃,不影响后续使用。
$ B0 y; Z4 k- v. }5 Q& O - superset load_examples
. K5 |5 q9 S( M! ^8 w( r7 w
2 V, Q2 ^# R( l% s. d- # 初始化
5 k5 ?# P) ?- P. a - superset init
, Y5 U8 ?: ?+ ~% c; `8 T1 g - 6 v: U; J% e9 Y+ R4 I2 E
- # 启动,官网是superset run -p 8088 --with-threads --reload --debugger' T; i3 W' p& k7 Y
- # 建议用gunicorn启动,方便快速,先直接启动,确保打印在客户端的日志正常: C- @* ~# a ]1 G! j( d
- pip install gunicorn
5 O( R: P, N2 n/ L+ c8 { - gunicorn -w 5 --timeout 120 -b 10.218.10.290:9089 "superset.app:create_app()" , p3 i+ j) X$ x0 s9 A
- _& _, e+ u; F$ H5 O& x
- # gunicorn 是一个Python WEB服务,可以理解为Tomcat
- l( t% i& k6 w) | n* @7 R2 ~8 I - # -w WORKERS:指定线程数/ U) I" I: E7 n5 {! N5 [( u
- # --timeout:worker进程超时时间,超过会自动重启
. o7 T0 L/ W( A2 Q - # -b BIND:绑定Superset访问地址' W3 G9 b! ^4 c; b
- # --daemon:后台运行6 M* D. {. R# T9 E2 f0 t% A
4 @1 L" J0 W) m6 B3 e' p- # 在能访问10.218.10.290:9089的服务器上打开浏览器,输入刚刚登录的用户名,密码即可。" H4 d4 G F/ m9 ^* b1 @
; S- e& v# e' ?8 H1 B2 P- ! U' ]; m( c5 E N4 G
- # 如果没开启后台停止,直接ctrl+c关停
+ y; u- g8 a, m) M9 K0 t) J - # 后台进程停止gunicorn8 W7 z# K) e; Q2 X' @$ n
- ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码 9 y! E# Y$ b3 n% J, {
! d8 _! k! p& T! G2 L( _% t. ]4.3 安装注意及排错 pip install superset步骤时出现关键字眼Successfully installed证明正确安装,如图4.3.0;
' S b6 }+ O6 L. ]. s
7 e0 L' X( M& W) R6 J图4.3.0 成功安装的提示
# G( v# n3 u) h$ g+ Y+ ^ superset fab create-admin配置用户名时提示如图4.3.1。 图4.3.1 配置用户名时提示 5 c4 r, W$ A& Q p/ ^* f
每个人的服务器环境,可能导致缺少的 依赖不同,途中如果遇到bug,可自己百度解决,基本都是python依赖包之类的问题,要耐心。 - # 报错
9 `: @9 G9 w. I - ModuleNotFoundError: No module named 'dataclasses'( N$ b) B Y1 r! D( X z& @
8 ?, e g6 d; U( P7 I5 c% ?- # 解决
: k, k' ]$ s9 p% j; @* g - pip install dataclasses- m, A, g: H( P
- + M0 f4 T D- [. m2 j% r
- # 报错: |- z# g; G$ d
- No PIL installation found
2 j! z [- _- l/ k - # 解决
; m; d* i5 o! V7 _9 }8 Q - pip install pillow
# i, C$ J4 y1 D: R- d+ ~6 u" p
复制代码
3 n9 r* y: |' c3 T7 g 一切解决后,网页登录如图4.3.2; 图4.3.2 登录首页4.4 启动与关闭 * I! _" s. P* M- }% @6 J) y* q
官网提供的直接启动的方法不是很好,博主推荐一个采用gunicorn的方法,先关停superset。
" ?) g$ L! ^1 _7 I. V* e
0 s/ l) D9 Z0 I$ s! F j( | x
5 E- L$ B! K, f1 m1 \0 U( C- #安装好superset后会在venv生成很多文件,切换到venv+ B' j9 C' s V9 O" \/ A! s4 C
- cd /usr/local/tools/superset/venv/& V8 h& d( f9 J# o5 S8 d1 V4 H
- / ^: o- @7 b" o+ O
- : U, E( M! b. w1 q
- ; g* z+ V5 m/ R& F4 c$ E
- #新建日志文件夹- `4 V, d+ ?( ?. \4 r* \
- mkdir log _' e7 F# }; x
- 0 X3 a; ?! [0 R' _$ b; R
- #切换到log目录,新权限 日志,错误日志和启动pid文件
/ I6 J8 D6 R% x( J* G - cd log- x/ m5 h) o- F) e6 ~5 J3 N6 T
- touch gunicorn_access.log
& J5 x) Q* ]" `' @5 t2 `2 f' O - touch gunicorn_error.log
' E/ I W. V; r5 ?; O5 I0 b1 _; p - touch pidfile6 }1 o. K* n0 F5 T' p5 O
- chmod 755 ./* #修改权限
: m* e& T) U* n, Z: R4 Y: l - : v* i& w$ @/ g
- #切换到/usr/local/tools/superset/venv/bin,写一个gunicorn配置文件,python语言
M7 Y! ]% w1 I' c$ n2 b - cd ./usr/local/tools/superset/venv/bin
( B2 v' ~- O, l/ \* N9 \+ L
+ }' O$ T$ B& L1 E: X* W- 8 y! R& c3 \; F) N+ e* _4 W3 E2 f$ d) E
- vim gunicorn_config.py # 内容如下) w+ ] F2 o2 u6 t! o- v" L
- / k5 ?* h. h1 C: }% w3 V S" e
- #内容开始7 S' D1 n5 }6 f8 g
- import multiprocessing
f) \/ n4 X, Y N% G
$ t" h/ F8 Z. a7 U8 Q- 2 H2 S/ l# Q* M }- V
- bind = '10.218.10.290:9089' #绑定ip和端口号7 {- U9 _/ x) K! L! F8 Q
- backlog = 512 #监听队列
. ~ M$ H+ S9 @" U; Y- s! L - timeout = 30 #超时6 t4 d5 X+ N$ r. }1 A* A8 G' J
- worker_class = 'gevent', [) ^# O0 {* l: Z* u8 q0 b. Q* k) L
- workers = 5" l) ?; @; Q' d' v- a; z' F8 I8 M$ u
- worker_connections = 1000
5 W# Q8 B7 b) }* A/ i) T4 z2 E - threads = 2 #指定每个进程开启的线程数
- d( X4 `8 B7 G - loglevel = 'info' # 日志级别
* |$ Q: z6 m, ~4 ] - access_log_format = '%(t)s %(p)s %(h)s "%(r)s" %(s)s %(L)s %(b)s %(f)s" "%(a)s"' #设置gunicorn访问日志格式,错误日志无法设置
& I" a. j9 r# R% z' W - 9 w7 ]( X( H6 E0 _
# }+ T& ]& P+ E
- [: q! ~% U+ ^) S1 f- pidfile = '/usr/local/tools/superset/venv/log/pidfile'1 ]2 B9 Z+ C: C& ]8 R
- errorlog = '/usr/local/tools/superset/venv/log/gunicorn_error.log'$ V$ g5 `* y0 q5 m a# ]
- accesslog = '/usr/local/tools/superset/venv/log/gunicorn_access.log'+ L6 v/ h) D/ ]& @- Y" M
" b+ b) x" n3 [3 k6 L- print("IP and PORT:"+bind)
; C) K' ?2 x0 N8 `$ s. E - print("pid_file:"+pidfile)
& h! h# G/ F1 }0 X2 k; U4 a( D0 g - print("error_log:"+errorlog)
, w% Q4 U' }- | - print("access_log:"+accesslog)
/ y' Q& O6 o5 U. r, x! j0 u/ | - 5 |' w# r+ l* l- [% Q1 E
- #内容结束
& @) ^% u6 k1 f- r* m9 }
% a# l, f8 w7 l9 N* q- #然后 wq! 保存退出9 P% s" q; h. b+ f
& {; M2 {7 ]+ k- # gunicorn 启动 -c 配置文件启动;--daemon后台启动,日志可以去配置文件指定的路径查看- t. q, v6 Y' E: n0 W' b3 [5 ?
- gunicorn -c ./gunicorn_config.py "superset.app:create_app()" --daemon
, b% b% P7 W6 s. C4 c
7 N: q( u: z" f0 O3 \( o- X; U- # 后台进程查看
$ Z4 G% G8 B5 u/ j3 [9 @/ D D - ps -ef | grep gunicorn6 O9 C6 X7 m9 z1 C: e; T
- 8 F, W. a3 x' a3 \, q0 r
- # 或者通过端口查看
6 Q7 c; k y0 p7 t - netstata -tunlp | grep 9089( J9 W* Q0 B2 }9 s* x7 B9 ~' N
- # 或+ |! M! o a9 \8 n7 V W
- ss -anp | grep 9089
{- ^1 i& [2 |- r- E0 C& E
& q; w3 S" v' b" g- # 如果没开启后台停止,直接ctrl+c关停3 e) }# j: z' K& F
- # 后台进程停止gunicorn% M3 U( }4 P/ P6 |: k& K
- ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码 F) O& ?. ^) F9 e/ c; T
5. 用户手册(重点)
2 \; ]9 y. N8 c$ V/ k/ h1 V% X) u3 ?' B8 t8 c
5.1 新建Databases(数据库) 新建数据库之前,需要先安装该数据库的python驱动包,具体语句可以参考官网 Database Drivers,如图5.1.0,一般就是pip install XXX,安装好驱动后,记得重启下Superset服务; 新建数据库连接的作用是为数据集Datasets和SQL实验室SQL Lab提供数据库、表的选择,就是提供数据源,当然Data下还有个Upload CSV(最新版本也支持Upload Excel)也可以直接将本地的CSV文件作为数据源上传到Superset站点,直接进行数据探索分析。 图5.1.0 数据库驱动以及连接字符串
) T- H/ Q. c: G1 z 登录进Apache Superset后,点击Data,下来选择Databases,然后跳转到图图5.1.1,点击右上侧的+号就可以跳转图5.1.2的数据新增配置界面。 图5.1.1 新建数据库连接
) Q) ?3 F* W \0 l% Y5 R 图5.1.2,Database是指的新建这个数据库的显示名称,这个随便取,合理即可,SQLAlchemy URI 这个地方就是之前图5.1.0上的数据库连接字符串,确保和你选择的数据库类型一致。
! h4 u0 |0 @$ o2 V然后点击TEST CONECTION,连接成功后会跳出Seems OK!的弹出框,记得滑到最下面,点击保存,如果连接不成功,请检查数据库的实例,端口,用户名,密码以及自己部署的Apache Superset的服务器访问数据库的端口网络时是否能通,当然也不要忘记SQLAlchemy URI 填写规范,保存后的数据库连接就会列举在图5.1.1上。 5 p3 }3 S2 Y8 f6 b! g
( c6 H1 t% X" J: `
图5.1.2 新建数据库连接配置信息 1 o' R5 a: M; \/ j; v
5.2 新建Datasets(数据集,老版本也叫Tables) 图5.2.0 新建数据集 1 O2 q% p/ H7 c2 p
如图5.2.0,点击图中的Data下的Datasets,然后点击+号,跳转到图5.2.1,将配置好的数据库名下拉选出,写一个该连接实例下的数据库,然后选择一张表,点击保存即可,保存好的数据集会列举在图5.2.0中,这些知道为啥老板叫Tabels了吧;* l; E% Y- e* P1 ]* e
数据集的作用是为后续的Charts(图表)数据可视化作为数据源头。 图5.2.1 新建数据集配置信息 + Z% R7 @: \% l
) P: b' ~* c, @! q) F2 n+ G5.3 SQL Lab(SQL实验室) SQL Lab其实就是一个数据库查询客户端,利用SQL语句对数据库的表,字段模型进行查询探索,同时支持智能补全,当然SQL Lab的查询结果也可以直接EXPLORE到Charts(图表),作为数据可视化的数据源。( }* s4 o- E% }# r- T3 k9 q' c
如图5.3.0,SQL Lab有三个选项,三个选项的功能如下: - SQL Editor:进行SQL查询探索
- Saved Queries:保存的通用查询SQL
- Query Search:查询的历史记录
& u+ |0 N/ |% K+ z5 {8 Z$ z+ p
图5.3.0 主界面进入SQL Lab & l1 X8 q7 T) ^+ i$ v
点击SQL Editor进入图5.3.1的SQL查询探索,左侧上方是配置好的数据库连接名和选择的数据库,左侧下方是将要用到的表及字段模型;右侧上方是写SQL语句的地方,支持RUN(查询),RUN SELECTION(查询鼠标选择局部语句),SAVE(保存),SHARE(分享)等,右下方是数据结果,支持EXPLORE到Charts(图表)可视化,.CSV下载,CLIPBOARD(复制到剪贴板)。 图5.3.1 SQL Lab使用 / P/ P+ M( [& p- G' y. Y
5.4 创建Charts(图表) 图表的作用是数据可视化,利不同的图表满足不同的业务需求,图表同时也作为仪表盘的展示的一部分,一个仪表盘内可以展示一个或多个图表。
( T! P0 B8 A0 t8 p 创建图表的方式有两种: - 如图5.4.0,点击Charts,点击+创建新的图表,跳转图5.4.1
- 在SQL LabSQL语句探索查询的结果直接EXPLORE到Charts(图表)可视化
: w4 @) D* S' _" R I
图5.4.0 创建图表 ) G* H8 g$ H2 e- g! \. @
如图5.4.1,选择合适需求的数据图表(如图5.4.2,支持的图表类型非常丰富,号称最漂亮的可视化图表展示),选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表;
" b* Q5 E) i! f- q. j9 X6 T/ A& `8 d3 o# @3 I' @3 e
图5.4.1 图表可视化配置 % \1 C, H. J9 t8 ~7 n, p
号称最美可视化展示,支持可视化的图表类型确实丰富多彩,应对各种可视化需求。
8 n: y% X3 z& ]- X5 @+ x0 M" j/ p( f5 R. N9 L+ b
图5.4.2 支持的图表类型
# r6 P! Z: k$ C) Z" ^- Q5.5 创建Dashboards(仪表盘) 仪表盘就是最后的数据总体呈现,即报表展示。 如图5.5.0,点击Dashboards,然后点击+新建仪表盘,跳转图5.5.1。 图5.5.0 创建仪表盘 ' P0 K$ i6 u- G# S
点击图5.5.1右上角的编辑仪表盘,之前做好的Charts(图表)拖拽到仪表盘上,注意:第一次拖拽的时候尽量网上拖拽,知道出现这个条蓝色的分解线,否则 无法拖拽过去; 同时也支持一些通用的组件,图表旁的Components下,有Header、Tabs、Row、Column、Markdown、Divider;
W1 d* `: C" z* m9 G' ? 编辑完后后记得点保存。 图5.5.1 编辑仪表盘
0 c/ l" H4 t7 O5 I8 i B 保存后的仪表盘支持分享,下载等功能,同时也会根据图表内的数据源刷新来获取新的数据; 8 N5 `" f8 ^! ~3 O
, o5 U$ N! B# I# G: E# z: v3 l# l图5.5.2 仪表盘功能 1 C9 n5 ~. f" {2 C6 `
分享给别人看到的仪表盘如图5.5.3。 图5.5.3 分享后他人视角的仪表盘
, F/ [) z7 u$ J+ _3 `0 \& _" |8 G6. 设置 设置包含在菜单栏Settings下,主要设计权限和操作日志等模块,接下来分别讲解。 ! e" a4 C0 L2 Y
* O. i0 u' L, K图6.0.0 通用设置 & A: W+ ]2 W9 S9 X% j2 @( y6 N
* V k0 E0 h* B, \% o
6.1 角色列表及权限 Apache Superset中的安全性由Flask AppBuilder(FAB)处理,FAB是一个构建在Flask之上的应用程序开发框架。FAB提供身份验证、用户管理、权限和角色,可以查看其相关文档。
' E* f4 P+ k9 o8 Q7 `; }, J7 E5 C Apache Superset默认提供了不同的角色,每种角色拥有的权限不同,在运行superset init命令时,与每个角色关联的权限将重新同步到其原始值,不建议更改与每个角色关联的权限(例如,通过删除或添加权限),支持admin再自建角色类型,指定想要的权限,默认的角色及权限如下; - Admin:管理员拥有所有可能的权限,包括授予或撤销其他用户的权限,以及更改其他用户的切片和仪表板;
- Alpha:Alpha用户可以访问所有数据源,但不能授予或撤消其他用户的访问权限。它们也仅限于改变它们所拥有的对象。Alpha用户可以添加和更改数据源。
- Gamma:Gamma用户的访问权限有限。他们只能使用来自通过另一个补充角色访问的数据源的数据。他们只能查看由他们可以访问的数据源制作的切片和仪表板。目前Gamma用户无法更改或添加数据源。我们假设他们主要是内容消费者,尽管他们可以创建切片和仪表盘。另请注意,当Gamma用户查看仪表板和切片列表视图时,他们将只看到他们有权访问的对象。
- sql_lab:sql_lab角色授予对sql lab的访问权限。请注意,虽然管理员用户在默认情况下可以访问所有数据库,但Alpha和Gamma用户都需要在每个数据库的基础上获得访问权限。
- public:要允许注销的用户访问某些超集功能,需要自己配置权限,并将其分配给另一个角色,您希望将其权限传递给该角色。
/ v$ T4 Q" L x% h- ^/ C
图6.1.0 系统默认角色
0 j+ m* B1 t$ e) |7 t5 ?+ X; E6 X& u1 t 同时Apache Superset也支持管理员自己新增角色,如图6.1.1,新建角色并指定角色权限。 , F3 E$ t W) s$ d4 B5 r! E2 P
: b( V1 @1 L. L
图6.1.1 新建角色
5 L, k! m5 _0 c( c4 R3 p, H8 W; T) Q
6.2 用户列表 新建、编辑用户指定角色,用户的权限是绑定在角色里面的,一个用户可以有多个角色,配置信息如图6.2.0。 ; E0 r# `2 J. T+ J' f
/ j6 T% M' G W4 t, e2 ]1 W r图6.2.0 新建、编辑角色
4 L$ s! S" G1 `! P
G* a) G7 ]& Z6.3 操作日志 操作日志记录的是在你的Superset平台上不同用户的行为日志,如图6.3.0。 图6.3.0 行为日志查看 0 b- ?9 n }3 N. v7 l; R* W/ _/ n, G- q
0 ?$ ]0 Q# x4 w4 {+ Z$ o, b/ q
6.4 用户信息、退出、版本信息 菜单栏最右侧的个人信息,主要是包含: - 用户信息:修改用户姓名,重置密码;
- 退出:回到登录主界面;
- 版本:目前您安装的Superset版本信息。7 N% A2 G' n3 r! b) E) i" t, @
2 d% p6 L! Y( b7 a5 s4 r" a& ]$ w
图6.4.0 个人信息模块
* ? K. U" u' n3 J7 N2 {& E" k) b W; M
6.5 语言选择 作为Apache的顶级项目,自然是运用于全球的,支持世界上一些通用的语言 ,选择一款你最喜欢的即可。 图6.5.0 语言选择
0 J. A" S* s9 g9 _' L5 U4 Q6.6 管理设置 针对仪表盘,图表渲染加入自己想要的风格和模板,实际运用的用的不多。
3 _# K: t8 v4 `5 b+ |6 z- m$ g! C0 H/ g! v2 b4 ^
图6.6.0 管理模块
9 l+ q( j: {: L j6.7 + NEW 菜单栏的+ NEW其实就是给最通用的三个模块SQL Query、图表、看板(仪表盘)的一个快捷方式,此三者的用法就不在累赘了。 图6.7.0 + NEW模块 ( j$ X7 ?6 h0 c
& P2 j, L1 m- f, O0 A7 G
, u% Y$ n" F7 T5 L' W
原文来源: https://blog.csdn.net/LXWalaz1s1s/article/details/119061337
/ D$ J1 w- b! _ |