找回密码
 立即注册
查看: 4736|回复: 0

Apache Superset——开源的大数据探索分析、可视化报表平台

[复制链接]

353

主题

570

回帖

3735

积分

管理员

积分
3735
QQ
发表于 2024-1-27 12:26:11 | 显示全部楼层 |阅读模式
目 录4 Z; `9 n. {# W9 B, E1 W
% I& w( j( O$ L: s, z1 G! D
1. 需求背景1.1 大数据可视化面临的挑战
  大数据的兴起,关于数据的存储、计算技术层出不穷,但是最终的数据可视化呈现,数据的探索,也成为颇为重要的一环,这一块并没有像存储、计算技术栈那么百花齐放,大家在做大数据可视化时是否也曾有这些困惑呢?
  • 传统的可视化对接传统数据库,对大数据组件的hive,spark,presto、elasticsearch、clickhouse等兼容性差,甚至不兼容,每次还需要多一道将大数据集群数据分发到传统数据库的冗余操作;
  • 商用产品昂贵、甚至产品设置技术壁垒,很多甚至要求对接该商家的自己的大数据技术方可对接;
  • 群众基数大的Excel拖来拽习惯、SQL操作的方便性,排斥自成一派的新技术,网页版账号登录优于用户下载客户端登录;
  • 公司开发人员配置紧张,没有多余的人力自研大数据可视化平台,但是决策层希望有一个统一的可视化平台。
    , J3 B3 t6 E9 c6 H
  诸如此类,确实令人头疼,现在就推荐一款解药Apache Superser——开源的大数据分析探索、可视化报表的神器。
1.2 大数据数据可视化的目标架构+ Y, F5 k; B) ^0 j# l' r% B) O4 M

, X5 |5 [% O8 M& W+ B
图1.2 大数据数据可视化架构
9 t$ F7 A, P$ t
  做事还是需要立一个目标架构,最后所有的事情都是围绕目标架构展开,才能越做越轻松,如图1.2,可是架构分为三个梯队;
  • 第一梯队:ClickHouse、DorisDB、Kylin等优秀OLAP技术做存储,利用自带的连接引擎,快速响应,同时支持实时数据和离线数据的接入,外接可视化平台,通过权限管控后呈现给用户;
  • 第二梯队:数据存在数据仓库Hive内或者NoSQL的Hbase,再通过较为优秀且高效的引擎Presto、Flink、Spark等接入可视化平台,通过权限管控后呈现给用户;
  • 剩下就是一个特殊的,如MySQL,临时文件等文件的接入;
    1 T9 }4 _7 M3 F/ F! H# x
  注意:常用的也还有其它技术架构,如ELK架构,ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成。Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。 Logstash是一个完全开源的工具,他可以对你的日志进行收集、分析,并将其存储供以后使用(如,搜索)。 kibana 也是一个开源和免费的工具,他Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志。这个后续再讲,这里书归正传,先讲讲Apache Superser。
2. Apache Superset简介2.1 Apache Superset是什么?
  Apache Superset是一款由Python语言为主开发的开源时髦数据探索分析以及可视化的报表平台;她支持丰富的数据源,且拥有多姿多彩的可视化图表选择。
: R0 Q$ \8 b4 E- K9 q. s
; `4 z6 {  p1 }
5 i% g. b2 ^1 u3 i# F2 e" ^- j& d

5 B& }& {1 J# P1 a$ f
图2.1.1 Apache Superset定义

0 C% Q0 l/ E: i1 K. p2.2 为什么选Apache Superset?
  • 支持丰富的数据库作为数据源,基本上平时用到的数据库都支持;如图2.2.0,支持的数据源有:4 y) E7 X  ~) C' P: d% b
  • Amazon Athena
  • Amazon Redshift
  • Apache Drill
  • Apache Druid
  • Apache Hive
  • Apache Impala
  • Apache Kylin
  • Apache Pinot
  • Apache Solr
  • Apache Spark SQL
  • Ascend.io
  • Azure MS SQL
  • Big Query
  • ClickHouse
  • CockroachDB
  • Dremio
  • Elasticsearch
  • Exasol
  • Google Sheets
  • Hologres
  • IBM Db2
  • IBM Netezza Performance Server
  • MySQL
  • Oracle
  • PostgreSQL
  • Trino
  • Presto
  • SAP Hana
  • Snowflake
  • SQLite
  • SQL Server
  • Teradata
  • Vertica5 T5 x# E0 L; T5 h& q* _
    6 W& q# i2 b0 n- o
图2.2.0 Apache Superset支持的数据源

4 b' z% T+ p+ B3 K/ _
  • 多姿多彩的可视化图表,Apache Superset拥有非常丰富的图表,来实现不同的可视化需求,如图2.2.1。
    % T& t) I! @; u( V$ d8 t, X$ _

    ) m- A+ H& Z  e- l% J, E4 R. l0 `3 s* f
图2.2.1 Apache Superset支持的图表

. u6 g7 c0 e# l$ _8 W0 ]/ k
  • 轻量级和高度可扩展,利用现有数据基础模型的直接进行数据探索和可视化呈现,而不需要另一个摄取层,如图2.2.2,配置好数据库后,进入SQL Lab(SQL实验室),就可以对数据进行探索分析,SQL Lab更像是一个数据库连接查询客户端,当然要更好的数据可视化呈现,还必须结合图表和仪表盘功能。
    + _( m2 z! K6 Z$ g8 B
    0 g7 H. L5 A7 S5 F* E

      C/ @- ?2 g: o: x+ M: `$ Q7 a7 D
    图2.2.2 Apache Superset的SQL Lab
  • 使用简单,如图2.3.3,Apache Superset使用层面主要分为以下个部分;
    ) a4 U5 m+ ?  F% w1 x& [
  • Data:主要功能是新增数据源和数据集Dataset(旧版本也叫Table),Dataset作为数据图表可视化的基础;
  • Charts:图表,就是针对准备好的Dataset数据集,选择一款合适的图表呈现;
  • Dashboards:仪表盘,其实就是报表、看板大屏展示,可以将多个Charts组合到一个仪表盘内一起展示。
  • SQL Lab:SQL实验室,其实就是一个类似DBeaver、Navicat、DataGrip等一样的多功能数据库连接客户端,但是只有查询功能,配置驱动和连接后可以进行数据库、表、字段等模型的SQL查询操作。
  • 设置:语言选择,登录注销、人员权限,操作日志等设置;0 y) H. |) h# J8 Q
图2.2.3 Apache Superset使用预览

/ n- D) U/ r- ]6 B9 j% R2 ]8 }2.3 对比Metabase
  之前博主也写过一篇关于Metabase的大数据可视化神器Metabase——开源的大数据分析探索、可视化报表神器的博客,那么对于与Metabase,Apache Superset有哪些优劣呢;
  • 天生自带支持的数据源Apache Superset完胜Metabase;
  • 数据图表形式Apache Superset完胜Metabase;
  • 操作界面美观丝滑度Apache Superset稍逊Metabase;
  • 托拉拽操作Apache Superset稍逊Metabase;" m# z( V: }* d: U
  向来博主都是鱼与熊掌能兼得就兼得,毕竟小孩才做选择嘛,可以考虑两个都装,Metabase用于专注业务数据需求人员,Apache Superset用于懂SQL的数据需求人员,二者生成的通用仪表盘,则可以利用一个统一的网页超链接到一起,形成一个统一的报表平台。
3. 快速上手
  这里先快速上手带大家体验一把,细节后续章节细讲,首先配置好数据库连接(配置方法参考后续的5.1 新建Databases(数据库)),然后打开SQL Lab,选择好配置数据库,写SQL语句分析探索数据,如图3.1.0,然后运行语句,得到数据结果,可以点击保存将常用的探索SQL保存下来,然后点击查询结果上方的EXPLORE按钮,就可以跳转图表分析图3.1.1;
7 g, H- i1 P1 I% P  [. O

' `- @) O, e! G. j' H0 D* g
图3.1.0 Apache Superset在SQL Lab上探索数据

# B* [  @6 X) p6 H1 N7 s, C
  利用SQL Lab探索得到的数据集,选择合适需求的数据图表,选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表;
& U; M+ ^' z1 ~" n7 m6 N( Q0 C
: y0 m3 m6 l2 C% Z6 n
图3.1.1 Apache Superset数据可视化

9 X$ b% z. ]( S
  新建Dashboard,然后编辑Dashboard,将之前生成好的Charts(图表)拖拽到Dashboard,就完成了数据仪表盘的最终呈现,然后就可以分享给需求方,也可以生成访问链接分享。
  注意:拖拽时尽量往Dashboard的上面拖拽,会出现一条蓝色的分界线就可以松手,否则可能出现无法拖拽的情况,这个设计很坑。
图3.1.1 Apache Superset数据仪表盘呈现

) {! N# Y1 K! U+ i3 E5 S1 G# f* g4. 部署安装4.1 部署方式及版本
  • 支持Linux、Windows、Mac的Docker部署
  • 支持Linux、Windows、Mac的Python环境代码部署
  • 可以在github,官网、或者国内镜像网站查看版本,但是别先下载,因为Apache Superset依赖包很多,最好能在线安装;
    , V5 M3 f( w0 F  O& n+ V
    % I; @; }" ?9 b9 x9 t, V
图4.1.0 Apache Superset版本预览
$ J! }' V2 [7 Y9 ]3 V
  • 博主选的是apache-superset-0.38.1.tar.gz在Linux上的Python环境代码部署。% h$ i. h: G" }
4.2 配置需求
  • apache-superset-0.38.1.tar.gz
  • CentOS 7 16核 32G(非硬性,一般性能的服务器即可)
  • Python 3.6
  • 要求服务器网,如果没有,可以使用能联网的代理服务器,依赖很多,采用在线安装的形式9 `4 j, B0 L! q" _7 {
4.3 下载安装
  • 下载安装Python3.6,可以选择安装anaconda集成的python,可以参考博客Linux通过anaconda来安装python,对应的版本是Anaconda3-5.2.0-Linux-x86_64.sh,下载传送门:Anaconda Download;安装好以后,如果老的服务器上存在python2,默认的环境变量启动是python2,没关系,只需要设置一个新的环境变量确保 python3启动是刚刚安装的版本即可。
  • 安装python虚拟机,并启动,然后安装Apache Superset。, [" q" H% `6 I
# X1 u1 K6 _; f9 Z% T
  1. # 切换到自己安装软件的目录,博主的是在/usr/local/tools,并新建superset目录
    - D% k$ K/ g# G# H1 b/ r) @
  2. cd /usr/local/tools& c; ]' w# L8 P# \; g- I6 E
  3. mkdir superset: {* H4 i. h7 U' M0 G+ T2 Q' R# \
  4. cd superset
    4 F6 y0 f+ Y' B: ^/ v

  5. 1 u% y" S* L$ Y& T4 g# `8 m
  6. # 安装虚拟机,有网就不需要的代理服务器,配置代理服务器10.212.18.34:3129方法:
    6 @8 f# N' M& G5 W+ f
  7. # 写入配置文件 /etc/profile里面追加
    ! z1 l1 e8 Y, \9 e2 y
  8. # export http_proxy=10.212.18.34:3129
    4 o& q% V, E1 l* J- s' ?) C
  9. # export https_proxy=10.212.18.34:3129
    4 V/ l( @# V$ N% o
  10. # 然后wq! 保存退出,source /etc/profile刷新配置文件
    7 B4 q  ^. ~5 o. S+ |& {2 Z" K$ c" o/ _
  11. # 安装完可以删除代理,记得再source /etc/profile: X/ _3 v; ?* T, B- e
  12. # 如果不想配置/etc/profile或者无权限,可以采用以下命令* k: P5 }% o) Q( e
  13. # pip install virtualenv --proxy=10.212.18.34:3129,每次都需要,烦
    ! u0 B$ f2 z  r$ z) g- Y# W
  14. pip install virtualenv( w- Y: v* m0 W9 u; {

  15. . f: M, R' R5 X5 w1 y& g
  16. # 配置命名虚拟机
    ) Q$ a8 ]+ |) `: {0 N. \) U" i
  17. python3 -m venv venv
    : P( b8 G2 a6 U( {. j! I

  18. 2 W1 N6 D6 A1 d$ ?! M
  19. # 启动虚拟机,会在当前目录下自动创建venv目录
    ; s( \9 x; B2 n+ m7 A5 l" V
  20. . venv/bin/activate
    : [  a# S4 b3 H& B; K
  21. 7 q) J8 i% C  G8 c! q) m
  22. # 退出虚拟机指令,但是这里不需要退出! G! _2 I" E5 i- r( {1 s- A% E
  23. # 退出虚拟机指令,但是这里不需要退出. T3 [# R' I* R9 I
  24. # 退出虚拟机指令,但是这里不需要退出
    7 f4 A. `0 ?" a$ t5 H
  25. deactivate
    ' e% p- l; a- l
  26. 4 P/ z  Y# [, g7 q, T+ M6 y8 G
  27. # 安装更新一些依赖
    % r: j. D7 }  H1 H1 Y
  28. pip install --upgrade setuptools pip -i https://pypi.douban.com/simple/. X: @* q, Z" e
  29. 3 c1 |" u, u, u7 ^9 i1 [$ M1 c
  30. yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel
    $ u/ V) i# Q1 c% F' |( \$ P9 t
  31. # m1 a( Y9 c# l/ s& e! D
  32. # 如果报错:GPG key retrieval failed: [Errno 14] curl#37 - "Couldn't open file /etc/pki/rpm-gpg/RPM-GPG-KEY-EPEL-7"
    4 t  s5 q+ \4 y% T4 B0 ~- k
  33. # 解决:
    ) K$ e/ P+ Z3 K( f7 E' j
  34. vi /etc/yum.repos.d/epel.repo) n6 M5 [% |" m% c/ b# J; u
  35. gpgcheck=0  s. ]+ W9 w+ S* E) |
  36. # 然后wq!保存再试一次yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel, P8 X  z) C" {8 K2 ^% d) `% _# c
  37.   m1 \5 M$ @9 a) G
  38. # 先用官网下载,因为官网的会自动把依赖也给你一起安装了,实在不行再用其他网站的镜像# H: [! H2 S9 M
  39. pip install apache-superset==1.4.2% S* ?6 c' k7 t2 [% E
  40.   Q+ j4 {0 \* s  ^! i. C
  41. # 安装superset,指定版本,不指定版本默认是最新版本
    # `( D; T. J( S$ s" l
  42. pip install superset==0.30.1 -i https://pypi.douban.com/simple
    - h- e- |! x8 A5 O! ~
  43. - `& y+ P# n( W, J% A
  44. # 安装email_validator $ s5 T. x' e( k% o3 E
  45. pip3 install email_validator -i https://pypi.douban.com/simple/6 e. g4 K7 k+ C! {0 ^% i1 }
  46. 3 D3 q+ S, V8 D! F
  47. # 更新数据库( ]4 q6 \* J6 }2 Y
  48. superset db upgrade
    ) M( z2 h  b! \/ V, L  n

  49. 7 J2 _  I  s/ W* k, A2 ]$ K
  50. # 创建admin的用户名,用户名随便写,bigdata123,admin都行,写完用户名后会让你输入姓,名,邮箱,这三项可写可不写,不写就直接回车,然后是设置密码,一点要写。
    7 u4 t( x$ o/ r& b; s8 V/ ?
  51. export FLASK_APP=superset  a, k% B) V& i
  52. superset fab create-admin: X  U: D6 h0 r9 N* c
  53. , e. g+ W; O2 v* ]% F% o
  54. # 加载样例数据,考验网络,如果实在一致加载报错就放弃,不影响后续使用。5 Z/ ]9 B- D! X
  55. superset load_examples' s  R: D: e1 p. x

  56. * U/ p) R3 g4 O
  57. # 初始化
    ' l$ S6 g- {( h9 Z. B2 j! z
  58. superset init7 Z3 R0 V6 ~  I3 k  b8 y' T

  59. # M, a- F) q9 O9 o( ~9 l) ?
  60. # 启动,官网是superset run -p 8088 --with-threads --reload --debugger
    ' E& J0 F% R; T% }
  61. # 建议用gunicorn启动,方便快速,先直接启动,确保打印在客户端的日志正常
    . C/ Y( ]* ?+ j/ X7 P, _
  62. pip install gunicorn- K; u" K* k6 {- _
  63. gunicorn -w 5 --timeout 120 -b  10.218.10.290:9089 "superset.app:create_app()"
    " {/ p0 o$ X0 z
  64.   S( w3 Y8 x; C4 E3 ?
  65. # gunicorn 是一个Python WEB服务,可以理解为Tomcat4 H% V& l2 u* F1 `
  66. # -w WORKERS:指定线程数+ j0 T( P% T" E: y6 l3 E
  67. # --timeout:worker进程超时时间,超过会自动重启- I7 g* {( c# ]9 C- k3 @% b
  68. # -b BIND:绑定Superset访问地址
    . S8 \7 F' z9 P3 A1 l: l- {
  69. # --daemon:后台运行* {0 P- V* n! S% F* n
  70. 3 m* D7 }6 Z" P9 S% a
  71. # 在能访问10.218.10.290:9089的服务器上打开浏览器,输入刚刚登录的用户名,密码即可。
    ' E! v  t; ]9 a! [, u# y
  72. ' S6 a0 H9 ?4 n! S; H

  73. 7 v+ j2 c" B7 \* w8 A
  74. # 如果没开启后台停止,直接ctrl+c关停2 h7 g9 u' i* M* N
  75. # 后台进程停止gunicorn, `' a) m) ^* g" J! D/ G
  76. ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码

5 z  b* d3 t$ P" I0 r0 {1 l4 L
" g$ v4 K7 |- v$ y8 ]! H4 W4.3 安装注意及排错
  pip install superset步骤时出现关键字眼Successfully installed证明正确安装,如图4.3.0;
! T  g2 k' I& N( Q! V' f' @; f
1 x, I& ], k' i$ `$ s% }
图4.3.0 成功安装的提示

- R. Q8 g' W0 ^* n
  superset fab create-admin配置用户名时提示如图4.3.1。
图4.3.1 配置用户名时提示
: B& s1 K  g0 N; _' f$ V
  每个人的服务器环境,可能导致缺少的 依赖不同,途中如果遇到bug,可自己百度解决,基本都是python依赖包之类的问题,要耐心。
  1. # 报错
    0 e3 m6 h7 g' h  i. K' [, ]' B
  2. ModuleNotFoundError: No module named 'dataclasses'
      C1 V/ q# u0 P+ [! u

  3. ! X6 k( r$ {( S2 U
  4. # 解决+ U6 R8 i- [. O6 L- _
  5. pip install dataclasses" m. |, j* y2 \. U: S; t

  6. % @" ?6 {1 p# d) b* P( R& S0 \
  7. # 报错! _6 q8 h' o3 O: d; X7 b/ E+ [
  8. No PIL installation found& O* n+ J) q( r, |4 w7 |
  9. # 解决/ B1 Z2 n8 P, Y) M' A
  10. pip install pillow  p5 q+ }0 F7 U+ V. ~0 W0 }
复制代码
# B' @3 p- b: z! X$ e
  一切解决后,网页登录如图4.3.2;
图4.3.2 登录首页4.4 启动与关闭
6 K/ a/ S' P; n( K+ j5 r) ?
  官网提供的直接启动的方法不是很好,博主推荐一个采用gunicorn的方法,先关停superset。# x' _4 ^) s0 }+ ~; d/ {) p9 n
0 Q9 Z7 q. h0 S% C# J2 F- L' {

  1. - S2 A; O! X- c, C/ |( U  M
  2. #安装好superset后会在venv生成很多文件,切换到venv3 Z6 g' H6 L4 Z- r
  3. cd /usr/local/tools/superset/venv/
    , a8 W4 x* m  n( a* J( y1 N; p" H' s

  4. 5 v" {0 y: K; l& m

  5. : T- S# D6 S& b# M0 y- h% X  p
  6. * m# P: `9 }, ]( a& u0 b6 p5 V! r
  7. #新建日志文件夹
    ; D- y$ m. k. D7 b
  8. mkdir log, D6 g6 f9 \$ k
  9. 7 y4 c% X, k  t4 @# N
  10. #切换到log目录,新权限 日志,错误日志和启动pid文件% d- F7 f( r0 c4 M& Q8 T
  11. cd log$ D7 f/ B# Q5 m, `' Y" T2 `8 D( K9 f
  12. touch gunicorn_access.log4 A; Z/ p  Y  T# T% P. x
  13. touch gunicorn_error.log
    ' ^$ ^( y( Q( o
  14. touch pidfile( t9 }1 {  G/ z) G
  15. chmod 755 ./*  #修改权限
    " ^8 P# o4 v. L
  16. $ Z; c6 Y' M+ w  H; P
  17. #切换到/usr/local/tools/superset/venv/bin,写一个gunicorn配置文件,python语言
    1 n1 `, i0 I2 N  a
  18. cd ./usr/local/tools/superset/venv/bin
    , P: X% n% g- l+ t* a6 z4 l

  19. . i1 x& t. S- n* E

  20. % Y' B8 A0 a6 k9 `7 Y
  21. vim gunicorn_config.py  # 内容如下
    9 G0 ]8 I1 r4 I; B8 P2 X

  22.   {; f7 T4 _/ e& A' i
  23. #内容开始
      O/ C+ ^, x7 Q
  24. import multiprocessing( n/ ]4 X! {( W0 k
  25.   @+ V, H- V) f6 R8 s0 c
  26.   P( d" o$ C1 I2 m
  27. bind = '10.218.10.290:9089'      #绑定ip和端口号
    : ~* P/ W& R5 N2 Z" S* M- b
  28. backlog = 512                #监听队列
    % k2 l! M  F' |) ^
  29. timeout = 30   #超时. ^+ U2 v0 A) V5 i& V2 F4 W
  30. worker_class = 'gevent'
    ' b' s# s4 g2 O, ~, [* `
  31. workers = 50 _4 j9 O( X. a$ U+ p. i6 h8 b
  32. worker_connections = 1000
    - i3 m1 w/ d& [8 K
  33. threads = 2 #指定每个进程开启的线程数
    ; Z: b- ?9 g' a! M* t" }
  34. loglevel = 'info'  # 日志级别
    7 v- Y3 u7 t- W3 O
  35. access_log_format = '%(t)s %(p)s %(h)s "%(r)s" %(s)s %(L)s %(b)s %(f)s" "%(a)s"'    #设置gunicorn访问日志格式,错误日志无法设置: m( I" T: M+ ^

  36. 4 a, p4 T9 M7 z% {5 k" b: I$ d

  37. ! z7 C1 ?! g0 Y' o; ^

  38.   u7 S9 a0 t5 H6 l8 C) ?
  39. pidfile = '/usr/local/tools/superset/venv/log/pidfile'
    5 b- s0 h/ C4 J' d
  40. errorlog = '/usr/local/tools/superset/venv/log/gunicorn_error.log'! p4 \2 p/ y8 [
  41. accesslog = '/usr/local/tools/superset/venv/log/gunicorn_access.log'5 L" G! Y# [8 P  ]

  42. ( `% L% O8 k* y$ h
  43. print("IP and PORT:"+bind)3 k9 }0 r7 F/ v
  44. print("pid_file:"+pidfile)
    8 N) i4 P8 `" v6 x( u2 @+ O
  45. print("error_log:"+errorlog)
    9 r& c+ F) r9 K2 w
  46. print("access_log:"+accesslog)& j9 W4 [$ B4 A% q

  47. 3 @, ]8 t# p) e
  48. #内容结束
    4 x6 g, R. C; N  G3 t

  49. 9 ~* N( X' Z) z
  50. #然后 wq! 保存退出
    ' i9 r& g& T& g3 c9 @
  51. % A# Z  m- @+ g2 {. j+ z
  52. # gunicorn 启动 -c 配置文件启动;--daemon后台启动,日志可以去配置文件指定的路径查看
    + j* U1 Y% X5 M+ J7 H
  53. gunicorn -c ./gunicorn_config.py "superset.app:create_app()" --daemon& V3 d! J% N' i7 f) W+ _

  54. : |# a9 R& y% P
  55. # 后台进程查看- j8 h& X4 F: @! C( A
  56. ps -ef | grep gunicorn3 h% z! P6 A; r  \& r
  57. 3 I! Z* W# r' Y9 B1 V
  58. # 或者通过端口查看: C1 J  L: @# K+ C7 f
  59. netstata -tunlp | grep 9089
    8 V" k! i, B& m, c' A& r) o, _! T
  60. # 或6 C# N( E" h+ d* o, G0 P
  61. ss -anp | grep 9089
    # t# c; K) Z$ z1 W% G6 ^7 L: e
  62. # G" N- h* r; z" b
  63. # 如果没开启后台停止,直接ctrl+c关停
    , ?; h. u$ F) |/ h8 L' A3 ?  Z
  64. # 后台进程停止gunicorn
    & D4 h6 B" v3 M" N: D: F
  65. ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码
! w+ o1 E5 _. t8 R" d0 ~2 w
5. 用户手册(重点)
& l) F) F4 M: v
( q9 k, H0 x' z" K5 F: z- I8 e5.1 新建Databases(数据库)
  新建数据库之前,需要先安装该数据库的python驱动包,具体语句可以参考官网Database Drivers,如图5.1.0,一般就是pip install XXX,安装好驱动后,记得重启下Superset服务;
  新建数据库连接的作用是为数据集Datasets和SQL实验室SQL Lab提供数据库、表的选择,就是提供数据源,当然Data下还有个Upload CSV(最新版本也支持Upload Excel)也可以直接将本地的CSV文件作为数据源上传到Superset站点,直接进行数据探索分析。
图5.1.0 数据库驱动以及连接字符串

4 a: N3 b9 q& f
  登录进Apache Superset后,点击Data,下来选择Databases,然后跳转到图图5.1.1,点击右上侧的+号就可以跳转图5.1.2的数据新增配置界面。
图5.1.1 新建数据库连接
2 i$ W( V. c1 p" T  Y% O2 L
  图5.1.2,Database是指的新建这个数据库的显示名称,这个随便取,合理即可,SQLAlchemy URI 这个地方就是之前图5.1.0上的数据库连接字符串,确保和你选择的数据库类型一致。+ p" m/ x: N# H, T+ G* p  v
然后点击TEST CONECTION,连接成功后会跳出Seems OK!的弹出框,记得滑到最下面,点击保存,如果连接不成功,请检查数据库的实例,端口,用户名,密码以及自己部署的Apache Superset的服务器访问数据库的端口网络时是否能通,当然也不要忘记SQLAlchemy URI 填写规范,保存后的数据库连接就会列举在图5.1.1上。7 k5 @" R3 ]% J
% f# i$ s' X  o1 g2 g
图5.1.2 新建数据库连接配置信息. ^+ f) H3 j' W1 h, k3 \. B) n
5.2 新建Datasets(数据集,老版本也叫Tables)
图5.2.0 新建数据集

* q9 ], b% e7 U8 I9 M
  如图5.2.0,点击图中的Data下的Datasets,然后点击+号,跳转到图5.2.1,将配置好的数据库名下拉选出,写一个该连接实例下的数据库,然后选择一张表,点击保存即可,保存好的数据集会列举在图5.2.0中,这些知道为啥老板叫Tabels了吧;5 U7 Q8 Y/ l& Z" u
  数据集的作用是为后续的Charts(图表)数据可视化作为数据源头。
图5.2.1 新建数据集配置信息

: w% t! g( ~) [* u; P& h6 a8 N; s1 ?5 {6 Z" i
5.3 SQL Lab(SQL实验室)
  SQL Lab其实就是一个数据库查询客户端,利用SQL语句对数据库的表,字段模型进行查询探索,同时支持智能补全,当然SQL Lab的查询结果也可以直接EXPLORE到Charts(图表),作为数据可视化的数据源。3 h2 @1 k2 s. c/ E! e8 ?% |+ u
  如图5.3.0,SQL Lab有三个选项,三个选项的功能如下:
  • SQL Editor:进行SQL查询探索
  • Saved Queries:保存的通用查询SQL
  • Query Search:查询的历史记录
    6 J7 o2 a( v: c# B
图5.3.0 主界面进入SQL Lab

# z( o3 Z# T9 J/ L
  点击SQL Editor进入图5.3.1的SQL查询探索,左侧上方是配置好的数据库连接名和选择的数据库,左侧下方是将要用到的表及字段模型;右侧上方是写SQL语句的地方,支持RUN(查询),RUN SELECTION(查询鼠标选择局部语句),SAVE(保存),SHARE(分享)等,右下方是数据结果,支持EXPLORE到Charts(图表)可视化,.CSV下载,CLIPBOARD(复制到剪贴板)。
图5.3.1 SQL Lab使用

$ S& l, }1 ^6 [$ H5.4 创建Charts(图表)
  图表的作用是数据可视化,利不同的图表满足不同的业务需求,图表同时也作为仪表盘的展示的一部分,一个仪表盘内可以展示一个或多个图表。' p) J" H- P% @  N/ p0 K9 d
  创建图表的方式有两种:
  • 如图5.4.0,点击Charts,点击+创建新的图表,跳转图5.4.1
  • 在SQL LabSQL语句探索查询的结果直接EXPLORE到Charts(图表)可视化" p' z4 @* j* c( V$ u. _& l$ X. p
图5.4.0 创建图表

; L* \5 H, w' a
  如图5.4.1,选择合适需求的数据图表(如图5.4.2,支持的图表类型非常丰富,号称最漂亮的可视化图表展示),选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表;
* @& S  l5 P/ p7 a8 O: h* n; \

# i5 ^% Y8 N1 q- x5 P8 g( U
图5.4.1 图表可视化配置
# Y% `; B. }4 r2 u4 g0 {9 q
  号称最美可视化展示,支持可视化的图表类型确实丰富多彩,应对各种可视化需求。( w- r+ \: P7 m5 c$ y
& E! X2 W9 j; i3 O3 I0 t+ W
图5.4.2 支持的图表类型

( u, w  `/ u5 |- T7 I6 y- l  ]# A5.5 创建Dashboards(仪表盘)
  仪表盘就是最后的数据总体呈现,即报表展示。
  如图5.5.0,点击Dashboards,然后点击+新建仪表盘,跳转图5.5.1。
图5.5.0 创建仪表盘
5 A; N: `) v9 M' O. V
  点击图5.5.1右上角的编辑仪表盘,之前做好的Charts(图表)拖拽到仪表盘上,注意:第一次拖拽的时候尽量网上拖拽,知道出现这个条蓝色的分解线,否则 无法拖拽过去;
  同时也支持一些通用的组件,图表旁的Components下,有Header、Tabs、Row、Column、Markdown、Divider;
% }5 ~* }1 K" N) K) R  Q  编辑完后后记得点保存。
图5.5.1 编辑仪表盘

# q: V9 @1 L% S/ N+ p1 n. r
  保存后的仪表盘支持分享,下载等功能,同时也会根据图表内的数据源刷新来获取新的数据;
) o1 g0 P, i$ Z7 Z% E2 d$ [/ v

- [+ `7 o! M* F6 a8 K1 T
图5.5.2 仪表盘功能

3 |9 S! A3 c$ T# R' Z( J7 v2 G3 U
  分享给别人看到的仪表盘如图5.5.3。
图5.5.3 分享后他人视角的仪表盘
# h# l4 \  e3 I5 i6 k2 N2 ]" N) j
6. 设置
  设置包含在菜单栏Settings下,主要设计权限和操作日志等模块,接下来分别讲解。
# m8 N2 ?5 |$ O+ A4 c

. m4 i- B, q3 x7 f9 H1 s
图6.0.0 通用设置
- w( L5 S# X6 K/ F
4 V  d/ q# f" p5 `; b% Y3 V
6.1 角色列表及权限
  Apache Superset中的安全性由Flask AppBuilder(FAB)处理,FAB是一个构建在Flask之上的应用程序开发框架。FAB提供身份验证、用户管理、权限和角色,可以查看其相关文档。
/ j9 p- J3 w7 ]2 f9 I( Z# G  Apache Superset默认提供了不同的角色,每种角色拥有的权限不同,在运行superset init命令时,与每个角色关联的权限将重新同步到其原始值,不建议更改与每个角色关联的权限(例如,通过删除或添加权限),支持admin再自建角色类型,指定想要的权限,默认的角色及权限如下;
  • Admin:管理员拥有所有可能的权限,包括授予或撤销其他用户的权限,以及更改其他用户的切片和仪表板;
  • Alpha:Alpha用户可以访问所有数据源,但不能授予或撤消其他用户的访问权限。它们也仅限于改变它们所拥有的对象。Alpha用户可以添加和更改数据源。
  • Gamma:Gamma用户的访问权限有限。他们只能使用来自通过另一个补充角色访问的数据源的数据。他们只能查看由他们可以访问的数据源制作的切片和仪表板。目前Gamma用户无法更改或添加数据源。我们假设他们主要是内容消费者,尽管他们可以创建切片和仪表盘。另请注意,当Gamma用户查看仪表板和切片列表视图时,他们将只看到他们有权访问的对象。
  • sql_lab:sql_lab角色授予对sql lab的访问权限。请注意,虽然管理员用户在默认情况下可以访问所有数据库,但Alpha和Gamma用户都需要在每个数据库的基础上获得访问权限。
  • public:要允许注销的用户访问某些超集功能,需要自己配置权限,并将其分配给另一个角色,您希望将其权限传递给该角色。
      [6 P$ X* C7 c1 I
  更多的角色权限可以查看官网Apache Superset Security,或者点开图6.1.0的编辑角色查看,尽量别改默认角色的权限。
: R; l1 ], A9 \& Y& C# Q

) ]- D. Z/ j4 h( Y; n2 ?
图6.1.0 系统默认角色

/ k; s5 K  l6 W3 K, w) c
  同时Apache Superset也支持管理员自己新增角色,如图6.1.1,新建角色并指定角色权限。
8 q6 s3 j6 l+ ~- t1 v

4 X  _$ \- g8 O5 o
图6.1.1 新建角色

+ W, G: ]% x/ l
0 ^- I" C. c' ^; j7 Y  y6.2 用户列表
  新建、编辑用户指定角色,用户的权限是绑定在角色里面的,一个用户可以有多个角色,配置信息如图6.2.0。
( t; n2 h( I* [# }# c
0 w) @9 B  P: Y2 _% ?$ i9 J+ E  S
图6.2.0 新建、编辑角色

* R8 t7 ~4 a" `; F2 r" V) D1 O) _+ B
6.3 操作日志
  操作日志记录的是在你的Superset平台上不同用户的行为日志,如图6.3.0。
图6.3.0 行为日志查看
# ~& f& W! F, o) |0 M" O

# U8 Y! P  M' `& |' g6.4 用户信息、退出、版本信息
  菜单栏最右侧的个人信息,主要是包含:
  • 用户信息:修改用户姓名,重置密码;
  • 退出:回到登录主界面;
  • 版本:目前您安装的Superset版本信息。3 s4 @+ H+ N$ C( G
    . i% R3 i& b4 `
图6.4.0 个人信息模块( D) k9 j& O, r4 P2 e* B

9 ^6 I* R9 U5 R% |, l/ P6.5 语言选择
  作为Apache的顶级项目,自然是运用于全球的,支持世界上一些通用的语言 ,选择一款你最喜欢的即可。
图6.5.0 语言选择
; L4 X8 J$ G, v+ r% F+ w7 P
6.6 管理设置
  针对仪表盘,图表渲染加入自己想要的风格和模板,实际运用的用的不多。
8 v: P3 v- `% r" X$ i' j

6 k$ B, S* G; L
图6.6.0 管理模块

- `( c& y+ o1 d6.7 + NEW
  菜单栏的+ NEW其实就是给最通用的三个模块SQL Query、图表、看板(仪表盘)的一个快捷方式,此三者的用法就不在累赘了。
图6.7.0 + NEW模块

, c5 p4 K/ N9 ~/ U9 u
  以上就是关于Apache Superset这款开源的大数据探索分析、可视化报表平台的基本介绍,更多更加刺激的内容可以关注官网及官方文档Apache Superset Documention

3 F4 i2 v2 B: |/ P
; l# n) T* S0 m原文来源:https://blog.csdn.net/LXWalaz1s1s/article/details/119061337
  U$ P4 B# i. @# @1 q# X
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

QQ|Archiver|手机版|小黑屋|通达创业无忧 ( 粤ICP备2023021749号|粤公网安备 44030402006137号 )

GMT+8, 2026-3-16 03:14 , Processed in 0.158890 second(s), 3 queries , Redis On.

Powered by Discuz! X3.5

© 2001-2026 Discuz! Team.

快速回复 返回顶部 返回列表