找回密码
 立即注册
查看: 3352|回复: 0

Apache Superset——开源的大数据探索分析、可视化报表平台

[复制链接]

319

主题

485

回帖

3133

积分

管理员

积分
3133
QQ
发表于 2024-1-27 12:26:11 | 显示全部楼层 |阅读模式
目 录
; L* g6 d3 @/ C- |5 {7 v+ E8 h7 B$ e- g3 m  F9 B
1. 需求背景1.1 大数据可视化面临的挑战
  大数据的兴起,关于数据的存储、计算技术层出不穷,但是最终的数据可视化呈现,数据的探索,也成为颇为重要的一环,这一块并没有像存储、计算技术栈那么百花齐放,大家在做大数据可视化时是否也曾有这些困惑呢?
  • 传统的可视化对接传统数据库,对大数据组件的hive,spark,presto、elasticsearch、clickhouse等兼容性差,甚至不兼容,每次还需要多一道将大数据集群数据分发到传统数据库的冗余操作;
  • 商用产品昂贵、甚至产品设置技术壁垒,很多甚至要求对接该商家的自己的大数据技术方可对接;
  • 群众基数大的Excel拖来拽习惯、SQL操作的方便性,排斥自成一派的新技术,网页版账号登录优于用户下载客户端登录;
  • 公司开发人员配置紧张,没有多余的人力自研大数据可视化平台,但是决策层希望有一个统一的可视化平台。! o: b! y* m& y# ~* `/ {
  诸如此类,确实令人头疼,现在就推荐一款解药Apache Superser——开源的大数据分析探索、可视化报表的神器。
1.2 大数据数据可视化的目标架构
% k5 J8 ~8 H4 c$ X# q& B" \$ u
% f2 {, A" m# v$ Z/ l
图1.2 大数据数据可视化架构

4 x& m/ _7 C3 i4 _- N0 F* C
  做事还是需要立一个目标架构,最后所有的事情都是围绕目标架构展开,才能越做越轻松,如图1.2,可是架构分为三个梯队;
  • 第一梯队:ClickHouse、DorisDB、Kylin等优秀OLAP技术做存储,利用自带的连接引擎,快速响应,同时支持实时数据和离线数据的接入,外接可视化平台,通过权限管控后呈现给用户;
  • 第二梯队:数据存在数据仓库Hive内或者NoSQL的Hbase,再通过较为优秀且高效的引擎Presto、Flink、Spark等接入可视化平台,通过权限管控后呈现给用户;
  • 剩下就是一个特殊的,如MySQL,临时文件等文件的接入;
    ! Z9 V" X# B4 b1 Y! v. a
  注意:常用的也还有其它技术架构,如ELK架构,ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成。Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。 Logstash是一个完全开源的工具,他可以对你的日志进行收集、分析,并将其存储供以后使用(如,搜索)。 kibana 也是一个开源和免费的工具,他Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志。这个后续再讲,这里书归正传,先讲讲Apache Superser。
2. Apache Superset简介2.1 Apache Superset是什么?
  Apache Superset是一款由Python语言为主开发的开源时髦数据探索分析以及可视化的报表平台;她支持丰富的数据源,且拥有多姿多彩的可视化图表选择。

8 T7 t  C8 x9 q
( Q( `7 ^8 p5 S1 e. @: v% Q  N2 \% q, q! ?6 G
- _9 [: g+ t, J3 X9 V* ~" F
图2.1.1 Apache Superset定义

0 J0 O0 E) S6 ?% v: Q2.2 为什么选Apache Superset?
  • 支持丰富的数据库作为数据源,基本上平时用到的数据库都支持;如图2.2.0,支持的数据源有:) m4 m5 i) x. e- ~- V8 P
  • Amazon Athena
  • Amazon Redshift
  • Apache Drill
  • Apache Druid
  • Apache Hive
  • Apache Impala
  • Apache Kylin
  • Apache Pinot
  • Apache Solr
  • Apache Spark SQL
  • Ascend.io
  • Azure MS SQL
  • Big Query
  • ClickHouse
  • CockroachDB
  • Dremio
  • Elasticsearch
  • Exasol
  • Google Sheets
  • Hologres
  • IBM Db2
  • IBM Netezza Performance Server
  • MySQL
  • Oracle
  • PostgreSQL
  • Trino
  • Presto
  • SAP Hana
  • Snowflake
  • SQLite
  • SQL Server
  • Teradata
  • Vertica
    ; X/ a! G2 k% T9 ~! _" E
    3 C9 ~% |' N$ T" O3 R6 X: m
图2.2.0 Apache Superset支持的数据源
! [0 y+ m/ I: u
  • 多姿多彩的可视化图表,Apache Superset拥有非常丰富的图表,来实现不同的可视化需求,如图2.2.1。+ D/ g1 t, u# x1 X5 |1 E2 I8 h

    * l& \+ a2 y3 H$ X- p' F" x
图2.2.1 Apache Superset支持的图表
# l  z: P% B% `4 |& Z) ^3 u
  • 轻量级和高度可扩展,利用现有数据基础模型的直接进行数据探索和可视化呈现,而不需要另一个摄取层,如图2.2.2,配置好数据库后,进入SQL Lab(SQL实验室),就可以对数据进行探索分析,SQL Lab更像是一个数据库连接查询客户端,当然要更好的数据可视化呈现,还必须结合图表和仪表盘功能。0 ?5 v9 [! }# X4 r, [- V  I
    . B3 Q, M4 y- m3 ~% v+ ]7 Y5 `! |% {

    7 }, \3 `: {! v' ~- {" r4 p6 s
    图2.2.2 Apache Superset的SQL Lab
  • 使用简单,如图2.3.3,Apache Superset使用层面主要分为以下个部分;  Q1 s: u( A  \
  • Data:主要功能是新增数据源和数据集Dataset(旧版本也叫Table),Dataset作为数据图表可视化的基础;
  • Charts:图表,就是针对准备好的Dataset数据集,选择一款合适的图表呈现;
  • Dashboards:仪表盘,其实就是报表、看板大屏展示,可以将多个Charts组合到一个仪表盘内一起展示。
  • SQL Lab:SQL实验室,其实就是一个类似DBeaver、Navicat、DataGrip等一样的多功能数据库连接客户端,但是只有查询功能,配置驱动和连接后可以进行数据库、表、字段等模型的SQL查询操作。
  • 设置:语言选择,登录注销、人员权限,操作日志等设置;8 V2 @) F0 V. \( z
图2.2.3 Apache Superset使用预览
' \# F' o' g# o: K
2.3 对比Metabase
  之前博主也写过一篇关于Metabase的大数据可视化神器Metabase——开源的大数据分析探索、可视化报表神器的博客,那么对于与Metabase,Apache Superset有哪些优劣呢;
  • 天生自带支持的数据源Apache Superset完胜Metabase;
  • 数据图表形式Apache Superset完胜Metabase;
  • 操作界面美观丝滑度Apache Superset稍逊Metabase;
  • 托拉拽操作Apache Superset稍逊Metabase;; ?% _9 V6 a/ p& M2 M; e0 {! `4 h
  向来博主都是鱼与熊掌能兼得就兼得,毕竟小孩才做选择嘛,可以考虑两个都装,Metabase用于专注业务数据需求人员,Apache Superset用于懂SQL的数据需求人员,二者生成的通用仪表盘,则可以利用一个统一的网页超链接到一起,形成一个统一的报表平台。
3. 快速上手
  这里先快速上手带大家体验一把,细节后续章节细讲,首先配置好数据库连接(配置方法参考后续的5.1 新建Databases(数据库)),然后打开SQL Lab,选择好配置数据库,写SQL语句分析探索数据,如图3.1.0,然后运行语句,得到数据结果,可以点击保存将常用的探索SQL保存下来,然后点击查询结果上方的EXPLORE按钮,就可以跳转图表分析图3.1.1;
4 R' a$ x4 x9 V# o3 }
  `* k; J5 O' D6 K$ W- V4 E8 Y" O9 ~) |; Q
图3.1.0 Apache Superset在SQL Lab上探索数据
7 R$ K2 A$ @5 G+ @/ A& N
  利用SQL Lab探索得到的数据集,选择合适需求的数据图表,选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表;+ c. s2 V9 g" @
) o! h1 r5 ?$ ~; d
图3.1.1 Apache Superset数据可视化

5 m# q6 [* v9 E3 @/ L, z
  新建Dashboard,然后编辑Dashboard,将之前生成好的Charts(图表)拖拽到Dashboard,就完成了数据仪表盘的最终呈现,然后就可以分享给需求方,也可以生成访问链接分享。
  注意:拖拽时尽量往Dashboard的上面拖拽,会出现一条蓝色的分界线就可以松手,否则可能出现无法拖拽的情况,这个设计很坑。
图3.1.1 Apache Superset数据仪表盘呈现

. m0 ~+ z3 _0 D1 O. O& a4. 部署安装4.1 部署方式及版本
  • 支持Linux、Windows、Mac的Docker部署
  • 支持Linux、Windows、Mac的Python环境代码部署
  • 可以在github,官网、或者国内镜像网站查看版本,但是别先下载,因为Apache Superset依赖包很多,最好能在线安装;5 J7 L2 Y3 x/ g2 @

    # k4 J1 v# a" }  V' V/ r
图4.1.0 Apache Superset版本预览
; `9 W3 {# Z. o8 y7 T$ S6 N
  • 博主选的是apache-superset-0.38.1.tar.gz在Linux上的Python环境代码部署。
    . a- t) y! J( A3 f7 r9 Q
4.2 配置需求
  • apache-superset-0.38.1.tar.gz
  • CentOS 7 16核 32G(非硬性,一般性能的服务器即可)
  • Python 3.6
  • 要求服务器网,如果没有,可以使用能联网的代理服务器,依赖很多,采用在线安装的形式- T& q( x/ T  ~1 q: X2 Y
4.3 下载安装
  • 下载安装Python3.6,可以选择安装anaconda集成的python,可以参考博客Linux通过anaconda来安装python,对应的版本是Anaconda3-5.2.0-Linux-x86_64.sh,下载传送门:Anaconda Download;安装好以后,如果老的服务器上存在python2,默认的环境变量启动是python2,没关系,只需要设置一个新的环境变量确保 python3启动是刚刚安装的版本即可。
  • 安装python虚拟机,并启动,然后安装Apache Superset。2 x, q1 Q3 P, c$ M0 n

  G% @. Y! P1 p# ~
  1. # 切换到自己安装软件的目录,博主的是在/usr/local/tools,并新建superset目录/ @9 C) _% F% L, a
  2. cd /usr/local/tools
    7 A+ B  \& C3 F/ X( w
  3. mkdir superset" i% _9 ~) e6 |5 G  \& r
  4. cd superset
    ( s7 _# ~7 V+ w, O+ G

  5. 4 G2 }8 a, T6 o* y3 Y$ m% i8 \
  6. # 安装虚拟机,有网就不需要的代理服务器,配置代理服务器10.212.18.34:3129方法:
    4 y% g0 [0 [0 Y4 G! P9 H# d
  7. # 写入配置文件 /etc/profile里面追加
    9 Y5 Y+ C6 {: r6 g& Y, @. D$ z
  8. # export http_proxy=10.212.18.34:3129
    " E! _& H; l* @; L
  9. # export https_proxy=10.212.18.34:3129
    & T+ P6 t7 B+ @1 t) U! Q8 L
  10. # 然后wq! 保存退出,source /etc/profile刷新配置文件/ w0 u) Q( Y; V5 n
  11. # 安装完可以删除代理,记得再source /etc/profile! a) W6 C$ _' j& M
  12. # 如果不想配置/etc/profile或者无权限,可以采用以下命令
    4 h6 m' u2 x' P6 f6 j# g
  13. # pip install virtualenv --proxy=10.212.18.34:3129,每次都需要,烦$ L1 ^, ^3 c) z4 S
  14. pip install virtualenv
    4 G0 e+ k! a. X1 @1 M
  15. 1 Q/ Y5 W, w) v
  16. # 配置命名虚拟机, x  _' |- d- M0 Q1 h
  17. python3 -m venv venv
    % v: U4 |+ A8 G  X1 m% Q

  18. 5 p5 \6 K' ^: L! U! t  e
  19. # 启动虚拟机,会在当前目录下自动创建venv目录* B& d; ?  X+ g) i6 Y4 b& t
  20. . venv/bin/activate0 i+ v; m% t& B$ M0 B, i0 q
  21. 8 H. e1 \" Z# k1 b2 y0 Y3 @
  22. # 退出虚拟机指令,但是这里不需要退出
    " m& e* G- P0 ]+ @: X2 O! k' A
  23. # 退出虚拟机指令,但是这里不需要退出# _& M9 k) E3 _1 `" f
  24. # 退出虚拟机指令,但是这里不需要退出  H5 V. S. A- _
  25. deactivate
    6 ^. P: s. ^7 O; s! f$ U) J8 a

  26. 6 q; w0 P; O) M, B' v( |* v
  27. # 安装更新一些依赖
    ' D( W" p1 C- O: w9 d1 D" O1 L
  28. pip install --upgrade setuptools pip -i https://pypi.douban.com/simple/4 @: q' `9 k5 X' I! `3 Q# F: y. M

  29. : @" U7 j' i7 u5 ?( B9 f# V0 h* K- M
  30. yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel
      J" q# }6 r5 @' A! v2 z% c
  31.   k; p8 K; n1 f4 e
  32. # 如果报错:GPG key retrieval failed: [Errno 14] curl#37 - "Couldn't open file /etc/pki/rpm-gpg/RPM-GPG-KEY-EPEL-7"9 J8 J5 \/ \, U. _- \
  33. # 解决:
    % i4 M0 A/ H5 y. G
  34. vi /etc/yum.repos.d/epel.repo2 y& E+ L; y! @& B5 w
  35. gpgcheck=03 e, C" A4 g) o0 o5 K
  36. # 然后wq!保存再试一次yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel- T& u; B- O5 v+ ^. P2 C: G! d
  37. + y  g: E% M9 l
  38. # 先用官网下载,因为官网的会自动把依赖也给你一起安装了,实在不行再用其他网站的镜像
    4 y0 ?* g9 p4 g7 [" u6 c( z
  39. pip install apache-superset==1.4.2
    ) Q8 \$ J9 T) x, f6 D  R* ^
  40. ! `4 M6 G! b2 O& q7 c3 [; ~! I
  41. # 安装superset,指定版本,不指定版本默认是最新版本
    + j* X/ V; z, @. U1 Q
  42. pip install superset==0.30.1 -i https://pypi.douban.com/simple9 @- W+ J/ P$ r7 _
  43. 6 G$ ?, A% @6 m$ z. i
  44. # 安装email_validator 7 \* B& l6 C2 T3 A4 c7 K  D1 H
  45. pip3 install email_validator -i https://pypi.douban.com/simple/
    $ j5 }, ]! e% b" |
  46. ( J, X, y6 b) f# e" p) c* P' J) S
  47. # 更新数据库
    3 ]2 X/ Y# A6 B, X5 P9 ^3 _5 q
  48. superset db upgrade
    3 H3 I$ R4 H$ b2 R# w

  49. " y( s: g- [) B7 g
  50. # 创建admin的用户名,用户名随便写,bigdata123,admin都行,写完用户名后会让你输入姓,名,邮箱,这三项可写可不写,不写就直接回车,然后是设置密码,一点要写。
    * K. y  g, r- D# X% u
  51. export FLASK_APP=superset
      j1 |2 ]2 a3 h7 T6 x5 r# M& j5 y
  52. superset fab create-admin
    7 I+ a; x0 T% Q( ]+ M5 j6 @
  53. % t4 \# ?& U4 f, i, K) n% I
  54. # 加载样例数据,考验网络,如果实在一致加载报错就放弃,不影响后续使用。
    : c- l. u7 G) n" k$ {4 A% b: Z  d7 ]
  55. superset load_examples
    % k- l" [* W" p- m; y# ]3 _9 I
  56. # V$ A, n1 b; D- ?* t' _
  57. # 初始化
    - J' w3 A! f7 c; J( Q
  58. superset init
    1 F- G- e# o* z1 R$ m% P, G

  59. " Y. `& A  H! s
  60. # 启动,官网是superset run -p 8088 --with-threads --reload --debugger" D& _! n7 A/ U# a
  61. # 建议用gunicorn启动,方便快速,先直接启动,确保打印在客户端的日志正常, S$ Q4 g! L* k) z+ p' H
  62. pip install gunicorn; p" a& ~$ m) l3 f
  63. gunicorn -w 5 --timeout 120 -b  10.218.10.290:9089 "superset.app:create_app()"
    3 I% T" m' z) ~( r& ]8 _6 G& d2 K1 h

  64. * ]' }9 x7 p1 B: C0 k
  65. # gunicorn 是一个Python WEB服务,可以理解为Tomcat
    7 W. c3 y: `6 c6 Q6 T
  66. # -w WORKERS:指定线程数
    " v6 j. x$ T6 Z+ h  l! Z
  67. # --timeout:worker进程超时时间,超过会自动重启
    8 s. G9 N; {6 s0 v' F. [) Z' I
  68. # -b BIND:绑定Superset访问地址! H( C# a7 @) J, O6 E: \
  69. # --daemon:后台运行
    4 i; ~" O. h9 b& v
  70. + x1 i3 U9 J. A2 m+ r# z
  71. # 在能访问10.218.10.290:9089的服务器上打开浏览器,输入刚刚登录的用户名,密码即可。
    ; v* b/ I: Y5 f" e

  72. 6 t1 G. {4 S9 H% \

  73. ! W4 M3 ^0 l& h) U. d
  74. # 如果没开启后台停止,直接ctrl+c关停
    ( W5 I9 n% I& I9 d  B& g
  75. # 后台进程停止gunicorn0 o. D4 S8 Z$ I" z9 h) [
  76. ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码

& P" J+ @" F- h
  l$ I/ o. l# Y1 T4.3 安装注意及排错
  pip install superset步骤时出现关键字眼Successfully installed证明正确安装,如图4.3.0;
" W$ q5 o7 q% W6 r

( @1 G& B9 W- i& z
图4.3.0 成功安装的提示
1 S, Z+ j3 t9 @: B
  superset fab create-admin配置用户名时提示如图4.3.1。
图4.3.1 配置用户名时提示

- W; ]" r- M* ]
  每个人的服务器环境,可能导致缺少的 依赖不同,途中如果遇到bug,可自己百度解决,基本都是python依赖包之类的问题,要耐心。
  1. # 报错
      s+ C( v  b6 ?, |3 B
  2. ModuleNotFoundError: No module named 'dataclasses'8 u+ Q' k$ B0 m; A. c5 U& m2 A& i, Z

  3. 8 F# @% Q% y. |; G( U3 }4 \( {, I8 I$ U
  4. # 解决2 K, R- B9 a+ s
  5. pip install dataclasses; t+ w$ w7 {3 J# x4 X) y

  6. 0 K( `. Y* u  D( ~* w5 C/ `7 r
  7. # 报错, i9 b- H" Z" c9 @4 y0 L4 n
  8. No PIL installation found# ]' @5 m9 w$ X6 j$ E' _( D4 k6 K+ G
  9. # 解决5 g/ Q5 V" _$ E1 D( T9 b8 A, u8 D( v
  10. pip install pillow
    ! L  L, x. F+ f5 e: g
复制代码
+ U$ ^4 m+ Y2 L: J3 p6 w6 E2 k1 @4 s1 o' C
  一切解决后,网页登录如图4.3.2;
图4.3.2 登录首页4.4 启动与关闭

8 x* g; Z! f; ~2 d' Y
  官网提供的直接启动的方法不是很好,博主推荐一个采用gunicorn的方法,先关停superset。
* Z) g$ H8 ~9 P8 j  f. U, V, s. Y! q8 n4 I

  1. $ E8 h, H( y) e, F2 a4 P, `
  2. #安装好superset后会在venv生成很多文件,切换到venv
    8 H  p2 D8 a7 n! \
  3. cd /usr/local/tools/superset/venv/
    & D% o+ T& @4 g' {9 g: g0 X$ D

  4. 2 H8 R5 u, v! u# |0 _
  5. ! L( l* X# t$ i( V# U& C3 s

  6. # d4 }4 s/ ^6 a1 d, j4 s! X8 `
  7. #新建日志文件夹8 @) c# i7 a, a6 p( ]
  8. mkdir log+ Z  m1 n( X) S) G, s; Q$ H7 G
  9. : p6 v( k7 q* c0 @+ h  ^
  10. #切换到log目录,新权限 日志,错误日志和启动pid文件# N3 C  \7 M0 w- r- ]' B
  11. cd log, c% E% }8 I: z: x( V
  12. touch gunicorn_access.log- D" e& \5 m! U: g
  13. touch gunicorn_error.log& R" I; U0 V0 ]( R, t# q- q
  14. touch pidfile
    9 w! r1 h; P4 f
  15. chmod 755 ./*  #修改权限. f# C2 {- o# ~$ h, j( k, K

  16. * e8 S. u9 ]& }4 v
  17. #切换到/usr/local/tools/superset/venv/bin,写一个gunicorn配置文件,python语言
    & f9 I3 G$ g( t9 e
  18. cd ./usr/local/tools/superset/venv/bin
    2 ~) t8 {, p1 ~" i4 O( L
  19.   n' v8 V0 A3 }. B" t) N$ z
  20. 8 f3 ?+ w" L  o5 p
  21. vim gunicorn_config.py  # 内容如下0 J  j# l! d# h5 t2 i

  22. 8 q6 E& }0 E; W; `% @7 Z3 P8 t
  23. #内容开始" {/ G3 i3 K: N" \5 P
  24. import multiprocessing1 W( \  B  b+ R/ t1 S1 n
  25. - o* u% |* x# F- j
  26. ( B5 K) S* O& ?/ t
  27. bind = '10.218.10.290:9089'      #绑定ip和端口号
    6 Y7 F3 {% W+ o$ M5 q& \5 [
  28. backlog = 512                #监听队列
    1 @# n5 l* O" ?( L5 S+ Q
  29. timeout = 30   #超时
    ; f& E5 ]8 U. E9 o+ p; k* \
  30. worker_class = 'gevent'* k3 J- E! N# R9 _! p2 E$ i
  31. workers = 5
    : g* H. i$ k" i3 K- j6 l/ h: n$ g( L
  32. worker_connections = 1000
    . L8 p- Z' d, ^0 |# t& g
  33. threads = 2 #指定每个进程开启的线程数( ]9 {1 P( Q: z4 f3 _7 l, C$ Y
  34. loglevel = 'info'  # 日志级别
    . G( q8 o7 \7 H0 p, c( N, P
  35. access_log_format = '%(t)s %(p)s %(h)s "%(r)s" %(s)s %(L)s %(b)s %(f)s" "%(a)s"'    #设置gunicorn访问日志格式,错误日志无法设置; M; y) ?- @% Z6 _

  36. 6 E& n) Z+ g! L; D; }
  37. 4 x; m5 e+ n7 H4 B
  38. ' H/ P# Q0 a8 J; Q7 G/ E
  39. pidfile = '/usr/local/tools/superset/venv/log/pidfile'
    7 d: X2 i- X8 _
  40. errorlog = '/usr/local/tools/superset/venv/log/gunicorn_error.log'4 |" U7 w$ Z: L+ E) S
  41. accesslog = '/usr/local/tools/superset/venv/log/gunicorn_access.log'9 I! _9 f4 @6 k2 z$ J

  42. 7 n8 j8 f# j  k
  43. print("IP and PORT:"+bind)$ o, Q/ j: f8 ]0 H- D
  44. print("pid_file:"+pidfile)5 M' {+ s0 y( Y
  45. print("error_log:"+errorlog)# v% K8 e$ Q$ t9 h5 q: l9 R- E
  46. print("access_log:"+accesslog)
    0 U$ z9 ]6 w: C! `
  47. % D6 [7 p" [8 O9 j0 V. n
  48. #内容结束" B, |( @0 B% o2 j+ b
  49. % o( s2 \, E; x! j5 Q1 D, }
  50. #然后 wq! 保存退出
      o+ ^- }2 W9 M/ _; l

  51.   p' `. B( q+ A7 J
  52. # gunicorn 启动 -c 配置文件启动;--daemon后台启动,日志可以去配置文件指定的路径查看: ~, H2 L, J# j) E
  53. gunicorn -c ./gunicorn_config.py "superset.app:create_app()" --daemon  ?8 U. C3 x& D: I+ o

  54. . h/ w4 X& _" h6 z! Q  r
  55. # 后台进程查看
    & E+ D1 k; U" V2 ^" t
  56. ps -ef | grep gunicorn
    7 }$ i& V( x' Z8 O. }
  57. , S( r: t4 Z9 @) g- C1 x% }7 V
  58. # 或者通过端口查看
    7 m/ E  `' q0 Q! c2 m6 t" J
  59. netstata -tunlp | grep 9089
      {$ [: G( L8 g" y
  60. # 或8 n# R3 K( s1 t2 k" L+ U
  61. ss -anp | grep 9089
    / h6 O9 ]* e* I3 R2 a
  62. 6 G+ O: Y4 b  H: K
  63. # 如果没开启后台停止,直接ctrl+c关停
    8 c6 Z* @, l8 _6 u+ S- E- v( T
  64. # 后台进程停止gunicorn
    1 e6 d7 h0 Y. m5 \+ {
  65. ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码

: G! ~  B8 d4 H1 z! \4 b) R$ |+ Z: \& M) x
5. 用户手册(重点)
# v6 @+ E' {4 o/ v5 M3 P$ w% a$ {5 p! t' X* u- k* e0 E
5.1 新建Databases(数据库)
  新建数据库之前,需要先安装该数据库的python驱动包,具体语句可以参考官网Database Drivers,如图5.1.0,一般就是pip install XXX,安装好驱动后,记得重启下Superset服务;
  新建数据库连接的作用是为数据集Datasets和SQL实验室SQL Lab提供数据库、表的选择,就是提供数据源,当然Data下还有个Upload CSV(最新版本也支持Upload Excel)也可以直接将本地的CSV文件作为数据源上传到Superset站点,直接进行数据探索分析。
图5.1.0 数据库驱动以及连接字符串

" e& {7 m/ b% y3 D  h
  登录进Apache Superset后,点击Data,下来选择Databases,然后跳转到图图5.1.1,点击右上侧的+号就可以跳转图5.1.2的数据新增配置界面。
图5.1.1 新建数据库连接

! `# ~$ X. M5 _) X' a/ a+ J
  图5.1.2,Database是指的新建这个数据库的显示名称,这个随便取,合理即可,SQLAlchemy URI 这个地方就是之前图5.1.0上的数据库连接字符串,确保和你选择的数据库类型一致。
& O) @5 h# `6 m5 y) t" t然后点击TEST CONECTION,连接成功后会跳出Seems OK!的弹出框,记得滑到最下面,点击保存,如果连接不成功,请检查数据库的实例,端口,用户名,密码以及自己部署的Apache Superset的服务器访问数据库的端口网络时是否能通,当然也不要忘记SQLAlchemy URI 填写规范,保存后的数据库连接就会列举在图5.1.1上。
" l* h/ L4 t+ A0 [$ y/ t
. g! T' z0 d1 }" j2 `- V* P
图5.1.2 新建数据库连接配置信息: m: N, p% Z1 e
5.2 新建Datasets(数据集,老版本也叫Tables)
图5.2.0 新建数据集

6 b* ?& X* n( S. ]
  如图5.2.0,点击图中的Data下的Datasets,然后点击+号,跳转到图5.2.1,将配置好的数据库名下拉选出,写一个该连接实例下的数据库,然后选择一张表,点击保存即可,保存好的数据集会列举在图5.2.0中,这些知道为啥老板叫Tabels了吧;
  h* U: @! d: D9 V+ A. {. ]; E  数据集的作用是为后续的Charts(图表)数据可视化作为数据源头。
图5.2.1 新建数据集配置信息

2 G, O' M# F$ j+ p4 j$ R" Z- m0 R9 g" @
5.3 SQL Lab(SQL实验室)
  SQL Lab其实就是一个数据库查询客户端,利用SQL语句对数据库的表,字段模型进行查询探索,同时支持智能补全,当然SQL Lab的查询结果也可以直接EXPLORE到Charts(图表),作为数据可视化的数据源。
) q* j) Y8 ]8 t3 y2 ~! k, q  如图5.3.0,SQL Lab有三个选项,三个选项的功能如下:
  • SQL Editor:进行SQL查询探索
  • Saved Queries:保存的通用查询SQL
  • Query Search:查询的历史记录
    ) R0 d# [8 ~' C! p: {% e% g1 j; h# }/ n
图5.3.0 主界面进入SQL Lab
, ^& L3 j0 g  F; z' K
  点击SQL Editor进入图5.3.1的SQL查询探索,左侧上方是配置好的数据库连接名和选择的数据库,左侧下方是将要用到的表及字段模型;右侧上方是写SQL语句的地方,支持RUN(查询),RUN SELECTION(查询鼠标选择局部语句),SAVE(保存),SHARE(分享)等,右下方是数据结果,支持EXPLORE到Charts(图表)可视化,.CSV下载,CLIPBOARD(复制到剪贴板)。
图5.3.1 SQL Lab使用

0 j8 ?( }: _/ e9 ]( Z5.4 创建Charts(图表)
  图表的作用是数据可视化,利不同的图表满足不同的业务需求,图表同时也作为仪表盘的展示的一部分,一个仪表盘内可以展示一个或多个图表。2 y7 F$ `/ W$ v8 }3 X. f
  创建图表的方式有两种:
  • 如图5.4.0,点击Charts,点击+创建新的图表,跳转图5.4.1
  • 在SQL LabSQL语句探索查询的结果直接EXPLORE到Charts(图表)可视化( s% \4 ]6 U9 P; |1 J
图5.4.0 创建图表

% Z+ i1 ~1 H2 X- ?1 _5 R8 ?. [/ z
  如图5.4.1,选择合适需求的数据图表(如图5.4.2,支持的图表类型非常丰富,号称最漂亮的可视化图表展示),选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表;. v# A' f$ }+ x; q6 [

2 j/ H3 }2 X% p% n# b% e, o
图5.4.1 图表可视化配置
2 o: U2 _( k8 ^4 O
  号称最美可视化展示,支持可视化的图表类型确实丰富多彩,应对各种可视化需求。
/ N( y3 y; m! V  o) r: z0 C
  z/ ~+ _$ |% t
图5.4.2 支持的图表类型
; y' J& [' W1 n# p# J9 ]3 O& Q
5.5 创建Dashboards(仪表盘)
  仪表盘就是最后的数据总体呈现,即报表展示。
  如图5.5.0,点击Dashboards,然后点击+新建仪表盘,跳转图5.5.1。
图5.5.0 创建仪表盘
. ~* v+ F# J3 t0 Q3 R
  点击图5.5.1右上角的编辑仪表盘,之前做好的Charts(图表)拖拽到仪表盘上,注意:第一次拖拽的时候尽量网上拖拽,知道出现这个条蓝色的分解线,否则 无法拖拽过去;
  同时也支持一些通用的组件,图表旁的Components下,有Header、Tabs、Row、Column、Markdown、Divider;
) X( J# [0 Y! D2 Z! l  编辑完后后记得点保存。
图5.5.1 编辑仪表盘
! d# O( x/ G% y: a
  保存后的仪表盘支持分享,下载等功能,同时也会根据图表内的数据源刷新来获取新的数据;
8 h( L, J, q! M- Q

; p- K/ j3 ]. j* t2 B
图5.5.2 仪表盘功能

1 S+ u( V/ S+ _7 m3 X2 x
  分享给别人看到的仪表盘如图5.5.3。
图5.5.3 分享后他人视角的仪表盘

9 r$ J( G! I6 F6 ?6. 设置
  设置包含在菜单栏Settings下,主要设计权限和操作日志等模块,接下来分别讲解。
4 ^1 t9 Q/ D1 M  Y
$ W* ]& {3 w, d8 ~6 v  X
图6.0.0 通用设置
% W/ d$ ?3 L6 f$ P+ z9 u% x+ u+ C! c
& X9 J& P. L9 S/ ]: j5 M
6.1 角色列表及权限
  Apache Superset中的安全性由Flask AppBuilder(FAB)处理,FAB是一个构建在Flask之上的应用程序开发框架。FAB提供身份验证、用户管理、权限和角色,可以查看其相关文档。
( |. B  h6 ^" d! U1 Z7 f4 \! u  Apache Superset默认提供了不同的角色,每种角色拥有的权限不同,在运行superset init命令时,与每个角色关联的权限将重新同步到其原始值,不建议更改与每个角色关联的权限(例如,通过删除或添加权限),支持admin再自建角色类型,指定想要的权限,默认的角色及权限如下;
  • Admin:管理员拥有所有可能的权限,包括授予或撤销其他用户的权限,以及更改其他用户的切片和仪表板;
  • Alpha:Alpha用户可以访问所有数据源,但不能授予或撤消其他用户的访问权限。它们也仅限于改变它们所拥有的对象。Alpha用户可以添加和更改数据源。
  • Gamma:Gamma用户的访问权限有限。他们只能使用来自通过另一个补充角色访问的数据源的数据。他们只能查看由他们可以访问的数据源制作的切片和仪表板。目前Gamma用户无法更改或添加数据源。我们假设他们主要是内容消费者,尽管他们可以创建切片和仪表盘。另请注意,当Gamma用户查看仪表板和切片列表视图时,他们将只看到他们有权访问的对象。
  • sql_lab:sql_lab角色授予对sql lab的访问权限。请注意,虽然管理员用户在默认情况下可以访问所有数据库,但Alpha和Gamma用户都需要在每个数据库的基础上获得访问权限。
  • public:要允许注销的用户访问某些超集功能,需要自己配置权限,并将其分配给另一个角色,您希望将其权限传递给该角色。2 n1 `2 ~. ~$ z) A: z" w7 H
  更多的角色权限可以查看官网Apache Superset Security,或者点开图6.1.0的编辑角色查看,尽量别改默认角色的权限。: k2 U) t4 l4 n8 Q: B0 {/ x
! z# d. n5 Z# V% L" c* e! Y: w* m
图6.1.0 系统默认角色
: b* u. d8 m8 e. b9 T% H6 F+ X
  同时Apache Superset也支持管理员自己新增角色,如图6.1.1,新建角色并指定角色权限。4 F4 O1 H, q7 z$ X* L4 q4 f
" H8 R2 w% d: O3 C
图6.1.1 新建角色
3 H! y! V* X6 V) Z5 N
5 [  P6 @+ w8 Q
6.2 用户列表
  新建、编辑用户指定角色,用户的权限是绑定在角色里面的,一个用户可以有多个角色,配置信息如图6.2.0。
- a8 B/ O0 R  H
$ k+ L6 n1 y/ y% Q% }% f, ^
图6.2.0 新建、编辑角色
" M" i( n* Y2 |! F' u: r
  O0 N" A! `8 h% u* C$ K4 j$ n
6.3 操作日志
  操作日志记录的是在你的Superset平台上不同用户的行为日志,如图6.3.0。
图6.3.0 行为日志查看
  L$ y( N& M3 |1 J9 j3 Y6 n

* o- j: @( J0 Z! S& B6.4 用户信息、退出、版本信息
  菜单栏最右侧的个人信息,主要是包含:
  • 用户信息:修改用户姓名,重置密码;
  • 退出:回到登录主界面;
  • 版本:目前您安装的Superset版本信息。6 k: n5 f9 p6 S+ H6 i$ U& h
    + Y4 [2 Y3 @9 b7 S/ T  {+ @
图6.4.0 个人信息模块; E! Q0 W4 D; L4 K9 i
& g" f: L- L+ n& t5 L4 _$ d
6.5 语言选择
  作为Apache的顶级项目,自然是运用于全球的,支持世界上一些通用的语言 ,选择一款你最喜欢的即可。
图6.5.0 语言选择
6 F( H% _- n4 D
6.6 管理设置
  针对仪表盘,图表渲染加入自己想要的风格和模板,实际运用的用的不多。6 u+ O4 A7 s4 b( i9 G3 B4 G: K
! x; X; K' {( c" K1 V- O
图6.6.0 管理模块
; k* F0 \4 v% v
6.7 + NEW
  菜单栏的+ NEW其实就是给最通用的三个模块SQL Query、图表、看板(仪表盘)的一个快捷方式,此三者的用法就不在累赘了。
图6.7.0 + NEW模块

0 V/ f2 J5 T, E) \& G# W  z
  以上就是关于Apache Superset这款开源的大数据探索分析、可视化报表平台的基本介绍,更多更加刺激的内容可以关注官网及官方文档Apache Superset Documention

. L' B4 C. I; I2 q2 ?+ E8 Y$ r. G2 b; J. o- k
原文来源:https://blog.csdn.net/LXWalaz1s1s/article/details/119061337
+ p& N+ X/ K; U; n# G
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

QQ|Archiver|手机版|小黑屋|通达产控投资 ( 粤ICP备2023021749号-1|粤公网安备 44030402006137号 )

GMT+8, 2025-7-21 14:40 , Processed in 0.080178 second(s), 3 queries , Redis On.

Powered by Discuz! X3.5

© 2001-2025 Discuz! Team.

快速回复 返回顶部 返回列表