目 录
2 X7 C- k2 M7 [) V$ Q1 x9 _% K6 G3 i! X
1. 需求背景1.1 大数据可视化面临的挑战 大数据的兴起,关于数据的存储、计算技术层出不穷,但是最终的数据可视化呈现,数据的探索,也成为颇为重要的一环,这一块并没有像存储、计算技术栈那么百花齐放,大家在做大数据可视化时是否也曾有这些困惑呢? - 传统的可视化对接传统数据库,对大数据组件的hive,spark,presto、elasticsearch、clickhouse等兼容性差,甚至不兼容,每次还需要多一道将大数据集群数据分发到传统数据库的冗余操作;
- 商用产品昂贵、甚至产品设置技术壁垒,很多甚至要求对接该商家的自己的大数据技术方可对接;
- 群众基数大的Excel拖来拽习惯、SQL操作的方便性,排斥自成一派的新技术,网页版账号登录优于用户下载客户端登录;
- 公司开发人员配置紧张,没有多余的人力自研大数据可视化平台,但是决策层希望有一个统一的可视化平台。
% w) u/ }% o7 J
诸如此类,确实令人头疼,现在就推荐一款解药Apache Superser——开源的大数据分析探索、可视化报表的神器。 1.2 大数据数据可视化的目标架构
: @/ n, G" k% q( N8 K* a, \ g# ]9 [) @' M
图1.2 大数据数据可视化架构
5 p5 d' ?3 N% [6 ]* T) k0 Z+ V ^3 O 做事还是需要立一个目标架构,最后所有的事情都是围绕目标架构展开,才能越做越轻松,如图1.2,可是架构分为三个梯队; - 第一梯队:ClickHouse、DorisDB、Kylin等优秀OLAP技术做存储,利用自带的连接引擎,快速响应,同时支持实时数据和离线数据的接入,外接可视化平台,通过权限管控后呈现给用户;
- 第二梯队:数据存在数据仓库Hive内或者NoSQL的Hbase,再通过较为优秀且高效的引擎Presto、Flink、Spark等接入可视化平台,通过权限管控后呈现给用户;
- 剩下就是一个特殊的,如MySQL,临时文件等文件的接入;# Q8 k/ Z8 b) I# ]& E
注意:常用的也还有其它技术架构,如ELK架构,ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成。Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。 Logstash是一个完全开源的工具,他可以对你的日志进行收集、分析,并将其存储供以后使用(如,搜索)。 kibana 也是一个开源和免费的工具,他Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志。这个后续再讲,这里书归正传,先讲讲Apache Superser。 2. Apache Superset简介2.1 Apache Superset是什么? Apache Superset是一款由Python语言为主开发的开源时髦数据探索分析以及可视化的报表平台;她支持丰富的数据源,且拥有多姿多彩的可视化图表选择。 ! c+ } n- }1 g3 M) }5 |
+ P$ Y* M5 w: D) S3 R& l
) F& u; p! e& V+ s, ~+ L$ s' s0 G
图2.1.1 Apache Superset定义 / q' g, l3 V! y" U. h, L
2.2 为什么选Apache Superset?- 支持丰富的数据库作为数据源,基本上平时用到的数据库都支持;如图2.2.0,支持的数据源有:$ U# @' z% i/ m3 ]3 h
- Amazon Athena
- Amazon Redshift
- Apache Drill
- Apache Druid
- Apache Hive
- Apache Impala
- Apache Kylin
- Apache Pinot
- Apache Solr
- Apache Spark SQL
- Ascend.io
- Azure MS SQL
- Big Query
- ClickHouse
- CockroachDB
- Dremio
- Elasticsearch
- Exasol
- Google Sheets
- Hologres
- IBM Db2
- IBM Netezza Performance Server
- MySQL
- Oracle
- PostgreSQL
- Trino
- Presto
- SAP Hana
- Snowflake
- SQLite
- SQL Server
- Teradata
- Vertica
, @, r" |- J& o' X; k, h a1 r% T- B o
图2.2.0 Apache Superset支持的数据源
5 W. V( w( q# u8 D& h5 q- 多姿多彩的可视化图表,Apache Superset拥有非常丰富的图表,来实现不同的可视化需求,如图2.2.1。
' {/ m ^3 P. `# w8 T) k9 F
9 ]8 H: M% w2 v
图2.2.1 Apache Superset支持的图表 1 l5 L- Z/ j t& k0 ]
- Data:主要功能是新增数据源和数据集Dataset(旧版本也叫Table),Dataset作为数据图表可视化的基础;
- Charts:图表,就是针对准备好的Dataset数据集,选择一款合适的图表呈现;
- Dashboards:仪表盘,其实就是报表、看板大屏展示,可以将多个Charts组合到一个仪表盘内一起展示。
- SQL Lab:SQL实验室,其实就是一个类似DBeaver、Navicat、DataGrip等一样的多功能数据库连接客户端,但是只有查询功能,配置驱动和连接后可以进行数据库、表、字段等模型的SQL查询操作。
- 设置:语言选择,登录注销、人员权限,操作日志等设置;
% F* \! R1 X5 Q7 p
图2.2.3 Apache Superset使用预览 ; q g4 p2 H* o) e. B6 Z$ D/ e
2.3 对比Metabase- 天生自带支持的数据源Apache Superset完胜Metabase;
- 数据图表形式Apache Superset完胜Metabase;
- 操作界面美观丝滑度Apache Superset稍逊Metabase;
- 托拉拽操作Apache Superset稍逊Metabase;: V* |$ d" t9 O& u8 k6 V
向来博主都是鱼与熊掌能兼得就兼得,毕竟小孩才做选择嘛,可以考虑两个都装,Metabase用于专注业务数据需求人员,Apache Superset用于懂SQL的数据需求人员,二者生成的通用仪表盘,则可以利用一个统一的网页超链接到一起,形成一个统一的报表平台。 3. 快速上手 这里先快速上手带大家体验一把,细节后续章节细讲,首先配置好数据库连接(配置方法参考后续的 5.1 新建Databases(数据库)),然后打开SQL Lab,选择好配置数据库,写SQL语句分析探索数据,如图3.1.0,然后运行语句,得到数据结果,可以点击保存将常用的探索SQL保存下来,然后点击查询结果上方的EXPLORE按钮,就可以跳转图表分析图3.1.1; $ v& c& V/ I8 ~5 k+ R$ y
, w& [) W6 |1 k0 W6 d2 x- l
图3.1.0 Apache Superset在SQL Lab上探索数据 & C" ~# } @3 }. q
利用SQL Lab探索得到的数据集,选择合适需求的数据图表,选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表;
1 r% G9 D. _1 C3 J6 g* ~
( T/ y1 i8 E+ ?4 z' x6 x) o图3.1.1 Apache Superset数据可视化 5 p% L/ [: {8 m- E' Y. x6 h! Q
新建Dashboard,然后编辑Dashboard,将之前生成好的Charts(图表)拖拽到Dashboard,就完成了数据仪表盘的最终呈现,然后就可以分享给需求方,也可以生成访问链接分享。 注意:拖拽时尽量往Dashboard的上面拖拽,会出现一条蓝色的分界线就可以松手,否则可能出现无法拖拽的情况,这个设计很坑。 图3.1.1 Apache Superset数据仪表盘呈现 ! V# q& t3 c ^( q# i% l4 k
4. 部署安装4.1 部署方式及版本- 支持Linux、Windows、Mac的Docker部署
- 支持Linux、Windows、Mac的Python环境代码部署
- 可以在github,官网、或者国内镜像网站查看版本,但是别先下载,因为Apache Superset依赖包很多,最好能在线安装;/ ^9 y4 @) r" T7 A
* n% v4 E4 g% Q3 o/ T( I% R4 k+ q
图4.1.0 Apache Superset版本预览
; x1 ^2 A: ?: \- g4 _/ g( n1 o- 博主选的是apache-superset-0.38.1.tar.gz在Linux上的Python环境代码部署。
2 G* V6 t4 N8 F4 P 4.2 配置需求- apache-superset-0.38.1.tar.gz
- CentOS 7 16核 32G(非硬性,一般性能的服务器即可)
- Python 3.6
- 要求服务器网,如果没有,可以使用能联网的代理服务器,依赖很多,采用在线安装的形式
5 O$ W3 e) d* G 4.3 下载安装- 下载安装Python3.6,可以选择安装anaconda集成的python,可以参考博客Linux通过anaconda来安装python,对应的版本是Anaconda3-5.2.0-Linux-x86_64.sh,下载传送门:Anaconda Download;安装好以后,如果老的服务器上存在python2,默认的环境变量启动是python2,没关系,只需要设置一个新的环境变量确保 python3启动是刚刚安装的版本即可。
- 安装python虚拟机,并启动,然后安装Apache Superset。9 f( ^# C4 n- L; f3 b& d
: Z* _* p6 A; o; D$ z( G* h
- # 切换到自己安装软件的目录,博主的是在/usr/local/tools,并新建superset目录3 n0 i) V: x! J$ G
- cd /usr/local/tools
$ C3 f5 N% C0 p: V& I6 _ - mkdir superset
0 I# A. g1 S) X8 O5 ]5 G - cd superset
+ [4 q* B6 [1 K0 @1 N: V
) Z' P1 Q, V+ i% w- a$ t1 {- # 安装虚拟机,有网就不需要的代理服务器,配置代理服务器10.212.18.34:3129方法:: W6 n, f$ h0 @0 ]* B
- # 写入配置文件 /etc/profile里面追加
4 m0 s! ?" P9 { - # export http_proxy=10.212.18.34:3129
' w6 ~4 Y& C# R9 O - # export https_proxy=10.212.18.34:3129 Y4 G9 g, d& D2 d H7 @
- # 然后wq! 保存退出,source /etc/profile刷新配置文件
5 q* t; [, ^. z/ h/ O - # 安装完可以删除代理,记得再source /etc/profile
, m/ p$ {- Y1 q, A# ~! W' w - # 如果不想配置/etc/profile或者无权限,可以采用以下命令
: o* P( d' f) t+ h. J" _1 ? - # pip install virtualenv --proxy=10.212.18.34:3129,每次都需要,烦- H* n) `5 E; t2 g
- pip install virtualenv
1 N8 d5 S2 c$ W+ d g6 `; F3 ~/ o - # O2 \, h" s2 |6 l. h2 K6 v
- # 配置命名虚拟机
- E2 [# a# d/ n" X1 Q8 E - python3 -m venv venv
- t+ T8 Y1 c+ Y: B1 q8 Y
2 d1 g1 p- Y" d, }0 _) B5 J1 q- # 启动虚拟机,会在当前目录下自动创建venv目录
- C4 ^2 H! E! F3 [2 k - . venv/bin/activate* \$ R9 t% H- n2 Z( |3 a( m
- / R+ p( c% ?! b7 C+ |' ~
- # 退出虚拟机指令,但是这里不需要退出
9 o9 j8 m. p& ^/ |+ w - # 退出虚拟机指令,但是这里不需要退出
- {7 D* L; T% J1 a - # 退出虚拟机指令,但是这里不需要退出
8 ]# f6 H2 W( n6 l - deactivate
" R" U7 h# u4 ` - 2 L F" W$ I- |! t" G, r: l" |
- # 安装更新一些依赖
/ v# ?7 A- X) n# [3 k( b - pip install --upgrade setuptools pip -i https://pypi.douban.com/simple/3 W3 U1 u2 ]+ ~. k3 Y" l
- # ^: N' y2 ]2 D" i9 c/ }. v- A
- yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel, L2 d9 I3 A! P5 T. a9 g0 {
- 4 Y* A( l; V9 I6 e" Q3 G& Q2 f: L
- # 如果报错:GPG key retrieval failed: [Errno 14] curl#37 - "Couldn't open file /etc/pki/rpm-gpg/RPM-GPG-KEY-EPEL-7"
: N5 H. v3 ^ c5 @) n0 I/ `( R - # 解决:# F% E7 I; z, p: y; d
- vi /etc/yum.repos.d/epel.repo% n5 c5 B5 E7 @/ q! V8 ~" P5 V
- gpgcheck=0+ T, k0 l1 w" y
- # 然后wq!保存再试一次yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel+ ?, r1 M6 Y1 j& S! a% J
+ x5 e! r7 Q. `7 u3 L& s- # 先用官网下载,因为官网的会自动把依赖也给你一起安装了,实在不行再用其他网站的镜像
+ Y! G1 _' H/ Q4 j - pip install apache-superset==1.4.2
5 n: `& `2 b# ?7 b - ( T0 X# W5 c+ _4 ^0 U
- # 安装superset,指定版本,不指定版本默认是最新版本
, Z) d0 s+ T3 {6 c - pip install superset==0.30.1 -i https://pypi.douban.com/simple$ g" Z" I8 [( L, v$ }
" A' c" v% J% N; F- # 安装email_validator
& g+ T. j8 {4 N. n+ q: A - pip3 install email_validator -i https://pypi.douban.com/simple/, G( I+ t# k9 l
- $ J5 E; d( G6 f9 X- m
- # 更新数据库5 ?: m2 q' ` F3 |: l
- superset db upgrade
4 C" z* [% `1 f - 1 L/ N* N& U' P& f; b- l
- # 创建admin的用户名,用户名随便写,bigdata123,admin都行,写完用户名后会让你输入姓,名,邮箱,这三项可写可不写,不写就直接回车,然后是设置密码,一点要写。* E: ~4 z8 g* {2 R! X
- export FLASK_APP=superset& a" [" _# k. z+ N9 N1 @
- superset fab create-admin
" A; w" ?& i% Y
9 K) r4 w& Y+ o( R9 K( L3 y5 h. L- # 加载样例数据,考验网络,如果实在一致加载报错就放弃,不影响后续使用。
4 m; N" X! x2 R/ H b - superset load_examples
" U8 C* p& b: w$ l" L
' ]( v& w- C" [6 Z# ^6 t0 ~- Q- # 初始化7 j" W$ G) s* N# q- F* t
- superset init
0 E( Z) T9 p( V8 f: }, o9 y - : v! u1 W) K* q4 X1 O1 X- t" D
- # 启动,官网是superset run -p 8088 --with-threads --reload --debugger, J6 p7 {! v2 Z& j
- # 建议用gunicorn启动,方便快速,先直接启动,确保打印在客户端的日志正常
; R, ?8 K5 v5 d9 D' K- @0 t. v, p - pip install gunicorn
1 s6 G! Q2 @( p1 H' B6 J6 q - gunicorn -w 5 --timeout 120 -b 10.218.10.290:9089 "superset.app:create_app()"
: `- ]+ b) g1 X, A$ |; l - , B, ^0 ?! }9 ]- \% _8 a
- # gunicorn 是一个Python WEB服务,可以理解为Tomcat
8 f9 {8 t$ P5 w/ m- j F( r - # -w WORKERS:指定线程数1 t: t. U+ ^8 k( j5 V/ m( F8 p
- # --timeout:worker进程超时时间,超过会自动重启
1 ?+ i( J) h C/ C# P4 S - # -b BIND:绑定Superset访问地址
2 J, O4 ` I6 z) U! {; c% k- L - # --daemon:后台运行
6 n c+ ~& `2 _* f, ]9 c- j5 e- \
) x( i" ^ e: f- _* W; M- # 在能访问10.218.10.290:9089的服务器上打开浏览器,输入刚刚登录的用户名,密码即可。 W. R$ f4 ]8 l# A" _1 J" D
- # @# _5 j' t I6 D. l! Y0 C; p
. E& I5 }" z+ {3 [' R8 v- # 如果没开启后台停止,直接ctrl+c关停
6 ^: i) W6 c) v I - # 后台进程停止gunicorn$ y9 I1 y) @' j" _, a
- ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码 4 d4 s: ~0 X3 ^
2 q& s+ Y: b0 z* _2 ?6 `4.3 安装注意及排错 pip install superset步骤时出现关键字眼Successfully installed证明正确安装,如图4.3.0;
: N7 O" i* _% Z" G1 h: p/ p4 ~; L) e% b" p& X6 Q
图4.3.0 成功安装的提示
9 C# ?6 z [4 {- M1 k3 a superset fab create-admin配置用户名时提示如图4.3.1。 图4.3.1 配置用户名时提示 , y% m. ^, h. m: S6 C
每个人的服务器环境,可能导致缺少的 依赖不同,途中如果遇到bug,可自己百度解决,基本都是python依赖包之类的问题,要耐心。 - # 报错
: E& S% ]( `0 h0 L' m" g3 h - ModuleNotFoundError: No module named 'dataclasses'% N( S4 m% ]% a" O$ B
- 7 J3 D# x T+ Z( V5 `) O0 Q
- # 解决
. R- I7 \& Q1 [, @" A% S - pip install dataclasses
6 v/ U2 y" L; y _8 Y1 N
# W7 ~/ {, a! q1 h2 K- # 报错7 Q/ W) p# z8 h) D& V
- No PIL installation found
s7 A3 N1 m, F' m- V2 c - # 解决" ?4 g* A; R' J: V2 \( @4 X
- pip install pillow
5 `6 _ a3 Y$ C
复制代码
/ } g& H4 A& t* e 一切解决后,网页登录如图4.3.2; 图4.3.2 登录首页4.4 启动与关闭
4 [ x+ V" q. Z3 s4 g9 a( E# q 官网提供的直接启动的方法不是很好,博主推荐一个采用gunicorn的方法,先关停superset。 H# ?, E3 k9 Z) C/ s4 H
$ Q1 G2 {8 T0 b/ D# @' o3 m- t
" L' }. x" g' z* u- #安装好superset后会在venv生成很多文件,切换到venv
2 L( _" K* s: P* P9 N# A+ ~ - cd /usr/local/tools/superset/venv/
# j% K. _, Q# K+ n. e
, j- V5 e: k. y( f2 |! S5 a' P- 0 u2 a- P6 Q% Q' H# N L
- ' l/ U/ x0 o: d
- #新建日志文件夹 R; ~) h0 H x; r" _/ C( p
- mkdir log
1 h; M! F' \/ t$ H. }
& t6 e w+ p# A5 a+ O- #切换到log目录,新权限 日志,错误日志和启动pid文件9 X% J$ c9 e2 {% l7 n
- cd log
4 Z) A7 l9 a6 @" B9 G* ], r9 P - touch gunicorn_access.log- G7 C/ |: D$ I# L
- touch gunicorn_error.log
8 `6 u- G& R! Q! y - touch pidfile( j: t {( f* D
- chmod 755 ./* #修改权限) v, M9 o+ Q8 f5 O5 q
- + G/ Z" v- ?0 P; X
- #切换到/usr/local/tools/superset/venv/bin,写一个gunicorn配置文件,python语言6 y- j* D2 C6 d4 v l% h; \
- cd ./usr/local/tools/superset/venv/bin( V i( P, s$ I G
- 1 J0 w3 K& p6 t* h" i! V
- + d t! A& Y7 q1 h8 M7 }2 \
- vim gunicorn_config.py # 内容如下4 ^9 r7 s2 R. b! y
- 3 [/ l$ T+ a5 h0 f# A1 _" Q' w
- #内容开始 I) H* o/ Z2 t a0 r) o% C9 O
- import multiprocessing
1 O$ X ?8 [5 ~
" F7 e5 Z/ a3 J8 n$ b9 n- - R" O' P$ @4 w
- bind = '10.218.10.290:9089' #绑定ip和端口号
: i, ]$ U k f1 l$ P3 Q m - backlog = 512 #监听队列
7 ]8 M1 ^* W V. J5 i - timeout = 30 #超时) ]& ^; A0 R1 V, m2 h4 _8 v; f
- worker_class = 'gevent'
- u; }( p- Y" u7 y! d, M - workers = 5/ b5 l- `" O# S! r- i- r
- worker_connections = 1000
! n* R0 K4 B8 x+ R: |8 j+ [3 o - threads = 2 #指定每个进程开启的线程数
' |3 I+ ?0 ^0 O& U1 M - loglevel = 'info' # 日志级别
8 [+ N2 Q4 v2 j. E6 W. B - access_log_format = '%(t)s %(p)s %(h)s "%(r)s" %(s)s %(L)s %(b)s %(f)s" "%(a)s"' #设置gunicorn访问日志格式,错误日志无法设置; [ ?" J6 m- ]/ W
- # I0 B5 q+ w7 y# j) O. G
: j7 s4 B+ O5 g- _ @( q- ' ]3 W8 `. N0 w+ G$ r4 a
- pidfile = '/usr/local/tools/superset/venv/log/pidfile'
- P9 K. R r) t4 ~( D - errorlog = '/usr/local/tools/superset/venv/log/gunicorn_error.log'
* W3 R4 ]9 @) X) i* A - accesslog = '/usr/local/tools/superset/venv/log/gunicorn_access.log'! x5 k. @4 ]3 r$ v$ y. Q/ U. q
- , Q& Y" K& q% s- h0 d6 H$ O; W
- print("IP and PORT:"+bind)
' G9 B O: H1 Q, r+ g/ ?9 ^ - print("pid_file:"+pidfile)* A/ O8 G) \- B% z" G
- print("error_log:"+errorlog)
' Y& _1 B: r1 Z0 C8 ]" H - print("access_log:"+accesslog)6 i6 ~; _5 R% [2 K
- ( J E, N4 T( J. \, i1 w4 e
- #内容结束
( Y1 K( P! z0 N& m9 Y
~! W' ?- L' }: `* G( S5 l- F8 Q- C- #然后 wq! 保存退出2 Y' C# t6 \6 M% m* ?
- 2 U7 V2 U+ [8 p; Z3 G: O* ]; a
- # gunicorn 启动 -c 配置文件启动;--daemon后台启动,日志可以去配置文件指定的路径查看
- E' k" k2 v: V4 Q - gunicorn -c ./gunicorn_config.py "superset.app:create_app()" --daemon
$ J8 S$ r! W; g# s! w
) _5 A( r5 K% h; n9 x8 ]- # 后台进程查看
( F0 `3 o6 C+ M - ps -ef | grep gunicorn( a7 S R4 j& }& I2 R% Z
0 U! z' \$ ^" U3 u! S- # 或者通过端口查看
, B0 {7 Q- J8 Y - netstata -tunlp | grep 9089& i2 \" e: }; w9 ?0 e
- # 或; c6 _' r, d2 A4 [$ S
- ss -anp | grep 9089
+ Y* ?6 v& _, a
5 a1 o9 d" I/ f3 a z- # 如果没开启后台停止,直接ctrl+c关停
4 C+ A0 E& M6 ^ - # 后台进程停止gunicorn
- p' g9 I4 E4 G3 u/ i( A - ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码 8 }8 I! b' F& i% n
5. 用户手册(重点)% Z! _' Q r3 r9 e0 D _9 z; K
+ I- S) y6 e. i5 y9 l" I. F5.1 新建Databases(数据库) 新建数据库之前,需要先安装该数据库的python驱动包,具体语句可以参考官网 Database Drivers,如图5.1.0,一般就是pip install XXX,安装好驱动后,记得重启下Superset服务; 新建数据库连接的作用是为数据集Datasets和SQL实验室SQL Lab提供数据库、表的选择,就是提供数据源,当然Data下还有个Upload CSV(最新版本也支持Upload Excel)也可以直接将本地的CSV文件作为数据源上传到Superset站点,直接进行数据探索分析。 图5.1.0 数据库驱动以及连接字符串
8 P* _# a2 \8 V+ O/ C, v( N 登录进Apache Superset后,点击Data,下来选择Databases,然后跳转到图图5.1.1,点击右上侧的+号就可以跳转图5.1.2的数据新增配置界面。 图5.1.1 新建数据库连接 , i" T* u" d) q, Z# @9 `: t5 m, o
图5.1.2,Database是指的新建这个数据库的显示名称,这个随便取,合理即可,SQLAlchemy URI 这个地方就是之前图5.1.0上的数据库连接字符串,确保和你选择的数据库类型一致。 , i# ?4 o5 _2 ]
然后点击TEST CONECTION,连接成功后会跳出Seems OK!的弹出框,记得滑到最下面,点击保存,如果连接不成功,请检查数据库的实例,端口,用户名,密码以及自己部署的Apache Superset的服务器访问数据库的端口网络时是否能通,当然也不要忘记SQLAlchemy URI 填写规范,保存后的数据库连接就会列举在图5.1.1上。
' P# t! M( G) S6 A$ L1 j( l* Q, d0 u
7 U5 W- h- g( s# Y. S& z7 k5 ~图5.1.2 新建数据库连接配置信息 . X) c- h1 n( K$ @6 T1 g# e" }$ B
5.2 新建Datasets(数据集,老版本也叫Tables) 图5.2.0 新建数据集
! C7 k6 }8 Y( e2 E7 w6 V' i' | 如图5.2.0,点击图中的Data下的Datasets,然后点击+号,跳转到图5.2.1,将配置好的数据库名下拉选出,写一个该连接实例下的数据库,然后选择一张表,点击保存即可,保存好的数据集会列举在图5.2.0中,这些知道为啥老板叫Tabels了吧;
f# f/ s+ K& q2 ~1 K' G 数据集的作用是为后续的Charts(图表)数据可视化作为数据源头。 图5.2.1 新建数据集配置信息 9 J7 }4 m, _& @- f
& k% E8 N5 q2 @, P. @. P" G5.3 SQL Lab(SQL实验室) SQL Lab其实就是一个数据库查询客户端,利用SQL语句对数据库的表,字段模型进行查询探索,同时支持智能补全,当然SQL Lab的查询结果也可以直接EXPLORE到Charts(图表),作为数据可视化的数据源。
# ]. j9 {1 v1 Z) H! H0 a 如图5.3.0,SQL Lab有三个选项,三个选项的功能如下: - SQL Editor:进行SQL查询探索
- Saved Queries:保存的通用查询SQL
- Query Search:查询的历史记录1 t- d- x/ ]: k( v$ u
图5.3.0 主界面进入SQL Lab
( v' O; S/ Z+ ]$ i 点击SQL Editor进入图5.3.1的SQL查询探索,左侧上方是配置好的数据库连接名和选择的数据库,左侧下方是将要用到的表及字段模型;右侧上方是写SQL语句的地方,支持RUN(查询),RUN SELECTION(查询鼠标选择局部语句),SAVE(保存),SHARE(分享)等,右下方是数据结果,支持EXPLORE到Charts(图表)可视化,.CSV下载,CLIPBOARD(复制到剪贴板)。 图5.3.1 SQL Lab使用 % M; [: n3 d) j+ f* p3 d3 K; Q
5.4 创建Charts(图表) 图表的作用是数据可视化,利不同的图表满足不同的业务需求,图表同时也作为仪表盘的展示的一部分,一个仪表盘内可以展示一个或多个图表。# Q5 ^/ Q/ [, W6 Q& C: W
创建图表的方式有两种: - 如图5.4.0,点击Charts,点击+创建新的图表,跳转图5.4.1
- 在SQL LabSQL语句探索查询的结果直接EXPLORE到Charts(图表)可视化
0 [! e/ t+ o, G4 c+ a
图5.4.0 创建图表
. u8 x5 o9 k, p* L' B 如图5.4.1,选择合适需求的数据图表(如图5.4.2,支持的图表类型非常丰富,号称最漂亮的可视化图表展示),选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表;
1 g" c0 ]3 D2 a/ H9 J! _1 F" n) ` v6 l
图5.4.1 图表可视化配置
- T+ W9 i% L& P2 g+ F* C 号称最美可视化展示,支持可视化的图表类型确实丰富多彩,应对各种可视化需求。 5 I- H# a. ~- I5 a& P7 h
! c) D0 F1 D# e4 \9 x
图5.4.2 支持的图表类型 # a" D+ r _4 G! `
5.5 创建Dashboards(仪表盘) 仪表盘就是最后的数据总体呈现,即报表展示。 如图5.5.0,点击Dashboards,然后点击+新建仪表盘,跳转图5.5.1。 图5.5.0 创建仪表盘 ) @+ W3 W$ |: Y
点击图5.5.1右上角的编辑仪表盘,之前做好的Charts(图表)拖拽到仪表盘上,注意:第一次拖拽的时候尽量网上拖拽,知道出现这个条蓝色的分解线,否则 无法拖拽过去; 同时也支持一些通用的组件,图表旁的Components下,有Header、Tabs、Row、Column、Markdown、Divider;- X N! P) p5 ]7 C
编辑完后后记得点保存。 图5.5.1 编辑仪表盘 4 b$ P z3 j* O( ], K
保存后的仪表盘支持分享,下载等功能,同时也会根据图表内的数据源刷新来获取新的数据;
' m+ C, ]# F% H+ c( p
" z, d* F6 S& A图5.5.2 仪表盘功能
* z+ Z, [9 g9 r 分享给别人看到的仪表盘如图5.5.3。 图5.5.3 分享后他人视角的仪表盘 8 q$ ]6 R2 K. I; }
6. 设置 设置包含在菜单栏Settings下,主要设计权限和操作日志等模块,接下来分别讲解。
% h. o+ d/ p# Q: n- L, i
6 _9 H# g0 u. q7 T+ h9 H( |图6.0.0 通用设置
7 [/ W5 J. ]% Y( L) w- t) S% C9 y' F8 O# `; [& f& Y
6.1 角色列表及权限 Apache Superset中的安全性由Flask AppBuilder(FAB)处理,FAB是一个构建在Flask之上的应用程序开发框架。FAB提供身份验证、用户管理、权限和角色,可以查看其相关文档。
9 F; q0 m+ L7 O& ]+ }# g- v Apache Superset默认提供了不同的角色,每种角色拥有的权限不同,在运行superset init命令时,与每个角色关联的权限将重新同步到其原始值,不建议更改与每个角色关联的权限(例如,通过删除或添加权限),支持admin再自建角色类型,指定想要的权限,默认的角色及权限如下; - Admin:管理员拥有所有可能的权限,包括授予或撤销其他用户的权限,以及更改其他用户的切片和仪表板;
- Alpha:Alpha用户可以访问所有数据源,但不能授予或撤消其他用户的访问权限。它们也仅限于改变它们所拥有的对象。Alpha用户可以添加和更改数据源。
- Gamma:Gamma用户的访问权限有限。他们只能使用来自通过另一个补充角色访问的数据源的数据。他们只能查看由他们可以访问的数据源制作的切片和仪表板。目前Gamma用户无法更改或添加数据源。我们假设他们主要是内容消费者,尽管他们可以创建切片和仪表盘。另请注意,当Gamma用户查看仪表板和切片列表视图时,他们将只看到他们有权访问的对象。
- sql_lab:sql_lab角色授予对sql lab的访问权限。请注意,虽然管理员用户在默认情况下可以访问所有数据库,但Alpha和Gamma用户都需要在每个数据库的基础上获得访问权限。
- public:要允许注销的用户访问某些超集功能,需要自己配置权限,并将其分配给另一个角色,您希望将其权限传递给该角色。
1 `) s' |/ h! q( u. [
图6.1.0 系统默认角色 9 z" W4 o9 ^0 d: y
同时Apache Superset也支持管理员自己新增角色,如图6.1.1,新建角色并指定角色权限。
4 _- Q2 N5 Q! ^5 |, M# ]1 v5 |3 t; _& ^
图6.1.1 新建角色
8 ^: n" a9 c; l+ a7 H* C8 R, m
3 p. h# a. b1 m+ u3 d6.2 用户列表 新建、编辑用户指定角色,用户的权限是绑定在角色里面的,一个用户可以有多个角色,配置信息如图6.2.0。 7 g2 p% @, Y: o. k' M: T
2 c' O# ^! N' j- s' u4 ^7 G: a( b
图6.2.0 新建、编辑角色
# S/ f" I9 P3 _8 f+ y+ s
; W' Y& O% }8 m; ?2 K& O, H' ^: }6.3 操作日志 操作日志记录的是在你的Superset平台上不同用户的行为日志,如图6.3.0。 图6.3.0 行为日志查看 " Q- U2 Y' e7 h) c, M
6 t* O& K) [/ v V, M% J' H6 f3 e! t6.4 用户信息、退出、版本信息 菜单栏最右侧的个人信息,主要是包含: - 用户信息:修改用户姓名,重置密码;
- 退出:回到登录主界面;
- 版本:目前您安装的Superset版本信息。, m' e- l& s n' R2 W, M0 w
1 K- C a9 z) ?, h
图6.4.0 个人信息模块
( p1 y0 N+ x) J% l. _
, ~7 K9 |0 P6 R6.5 语言选择 作为Apache的顶级项目,自然是运用于全球的,支持世界上一些通用的语言 ,选择一款你最喜欢的即可。 图6.5.0 语言选择 ! t4 v5 a& E+ q: s4 l
6.6 管理设置 针对仪表盘,图表渲染加入自己想要的风格和模板,实际运用的用的不多。 5 n1 |. Z8 X: Q9 O
' e6 w* V; }- Z8 O
图6.6.0 管理模块 . Y2 a, b" A, o% ~# k M
6.7 + NEW 菜单栏的+ NEW其实就是给最通用的三个模块SQL Query、图表、看板(仪表盘)的一个快捷方式,此三者的用法就不在累赘了。 图6.7.0 + NEW模块
0 O9 {! h6 h$ o- w6 f
; O ?- B; o1 I! I) X9 u6 }, D5 p- m' l3 K4 Q) p) K
原文来源: https://blog.csdn.net/LXWalaz1s1s/article/details/119061337
' Y, A% B4 y. E4 o: w+ V |