找回密码
 立即注册
查看: 4126|回复: 0

Apache Superset——开源的大数据探索分析、可视化报表平台

[复制链接]

335

主题

519

回帖

3409

积分

管理员

积分
3409
QQ
发表于 2024-1-27 12:26:11 | 显示全部楼层 |阅读模式
目 录' P, n& a$ ]+ v6 C  t. H% E  }
3 e  J! }; L, ^: a
1. 需求背景1.1 大数据可视化面临的挑战
  大数据的兴起,关于数据的存储、计算技术层出不穷,但是最终的数据可视化呈现,数据的探索,也成为颇为重要的一环,这一块并没有像存储、计算技术栈那么百花齐放,大家在做大数据可视化时是否也曾有这些困惑呢?
  • 传统的可视化对接传统数据库,对大数据组件的hive,spark,presto、elasticsearch、clickhouse等兼容性差,甚至不兼容,每次还需要多一道将大数据集群数据分发到传统数据库的冗余操作;
  • 商用产品昂贵、甚至产品设置技术壁垒,很多甚至要求对接该商家的自己的大数据技术方可对接;
  • 群众基数大的Excel拖来拽习惯、SQL操作的方便性,排斥自成一派的新技术,网页版账号登录优于用户下载客户端登录;
  • 公司开发人员配置紧张,没有多余的人力自研大数据可视化平台,但是决策层希望有一个统一的可视化平台。: r: X' }3 i. v- @
  诸如此类,确实令人头疼,现在就推荐一款解药Apache Superser——开源的大数据分析探索、可视化报表的神器。
1.2 大数据数据可视化的目标架构
. o7 N& W5 \/ u8 Z: x! q( k! `
! b7 Z. n. E0 U
图1.2 大数据数据可视化架构

& _+ O& D8 ?/ @1 ]4 _  G) T
  做事还是需要立一个目标架构,最后所有的事情都是围绕目标架构展开,才能越做越轻松,如图1.2,可是架构分为三个梯队;
  • 第一梯队:ClickHouse、DorisDB、Kylin等优秀OLAP技术做存储,利用自带的连接引擎,快速响应,同时支持实时数据和离线数据的接入,外接可视化平台,通过权限管控后呈现给用户;
  • 第二梯队:数据存在数据仓库Hive内或者NoSQL的Hbase,再通过较为优秀且高效的引擎Presto、Flink、Spark等接入可视化平台,通过权限管控后呈现给用户;
  • 剩下就是一个特殊的,如MySQL,临时文件等文件的接入;
    / k! b5 D6 ~% O8 r1 U1 ]2 l' b
  注意:常用的也还有其它技术架构,如ELK架构,ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成。Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。 Logstash是一个完全开源的工具,他可以对你的日志进行收集、分析,并将其存储供以后使用(如,搜索)。 kibana 也是一个开源和免费的工具,他Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志。这个后续再讲,这里书归正传,先讲讲Apache Superser。
2. Apache Superset简介2.1 Apache Superset是什么?
  Apache Superset是一款由Python语言为主开发的开源时髦数据探索分析以及可视化的报表平台;她支持丰富的数据源,且拥有多姿多彩的可视化图表选择。

! S: ?5 C( d/ ^  i+ ~- h1 D' z9 k
+ y0 m" E6 e/ V3 ~* T0 |* v# ~$ x2 O  f) L" ~/ ~0 s8 a$ `; x3 y8 P8 ]
4 |3 v9 G- f, |/ V4 D$ Z( {' x1 x% a" \
图2.1.1 Apache Superset定义

' w$ z' H- h) I/ v2 G2.2 为什么选Apache Superset?
  • 支持丰富的数据库作为数据源,基本上平时用到的数据库都支持;如图2.2.0,支持的数据源有:
    3 }- J* g7 |4 c
  • Amazon Athena
  • Amazon Redshift
  • Apache Drill
  • Apache Druid
  • Apache Hive
  • Apache Impala
  • Apache Kylin
  • Apache Pinot
  • Apache Solr
  • Apache Spark SQL
  • Ascend.io
  • Azure MS SQL
  • Big Query
  • ClickHouse
  • CockroachDB
  • Dremio
  • Elasticsearch
  • Exasol
  • Google Sheets
  • Hologres
  • IBM Db2
  • IBM Netezza Performance Server
  • MySQL
  • Oracle
  • PostgreSQL
  • Trino
  • Presto
  • SAP Hana
  • Snowflake
  • SQLite
  • SQL Server
  • Teradata
  • Vertica/ m0 O; C* H. ?
    1 ?- X* ~, v( X) Y
图2.2.0 Apache Superset支持的数据源

% v. I( C( v; p9 m8 k5 O: ?
  • 多姿多彩的可视化图表,Apache Superset拥有非常丰富的图表,来实现不同的可视化需求,如图2.2.1。
    / E5 x6 v5 B' `: E" H* c
    , ]; H  t% L6 v9 e( F5 d
图2.2.1 Apache Superset支持的图表
* k0 z; ]! L5 L) V
  • 轻量级和高度可扩展,利用现有数据基础模型的直接进行数据探索和可视化呈现,而不需要另一个摄取层,如图2.2.2,配置好数据库后,进入SQL Lab(SQL实验室),就可以对数据进行探索分析,SQL Lab更像是一个数据库连接查询客户端,当然要更好的数据可视化呈现,还必须结合图表和仪表盘功能。
    . b, b/ U4 ^4 b

    " P! s; y+ s' h4 V" R# U+ }# C2 f! z$ w8 T0 c" X1 [2 P- Q) V' B8 r$ q# H
    图2.2.2 Apache Superset的SQL Lab
  • 使用简单,如图2.3.3,Apache Superset使用层面主要分为以下个部分;
    & B6 _0 y, C0 M# }: `: P
  • Data:主要功能是新增数据源和数据集Dataset(旧版本也叫Table),Dataset作为数据图表可视化的基础;
  • Charts:图表,就是针对准备好的Dataset数据集,选择一款合适的图表呈现;
  • Dashboards:仪表盘,其实就是报表、看板大屏展示,可以将多个Charts组合到一个仪表盘内一起展示。
  • SQL Lab:SQL实验室,其实就是一个类似DBeaver、Navicat、DataGrip等一样的多功能数据库连接客户端,但是只有查询功能,配置驱动和连接后可以进行数据库、表、字段等模型的SQL查询操作。
  • 设置:语言选择,登录注销、人员权限,操作日志等设置;/ Y9 ~: F( |' ~  |; y+ _: A  \5 O
图2.2.3 Apache Superset使用预览
" v' J; K$ y6 [9 U1 O( L
2.3 对比Metabase
  之前博主也写过一篇关于Metabase的大数据可视化神器Metabase——开源的大数据分析探索、可视化报表神器的博客,那么对于与Metabase,Apache Superset有哪些优劣呢;
  • 天生自带支持的数据源Apache Superset完胜Metabase;
  • 数据图表形式Apache Superset完胜Metabase;
  • 操作界面美观丝滑度Apache Superset稍逊Metabase;
  • 托拉拽操作Apache Superset稍逊Metabase;
    " e! i8 E* s/ M" \5 p2 o/ e
  向来博主都是鱼与熊掌能兼得就兼得,毕竟小孩才做选择嘛,可以考虑两个都装,Metabase用于专注业务数据需求人员,Apache Superset用于懂SQL的数据需求人员,二者生成的通用仪表盘,则可以利用一个统一的网页超链接到一起,形成一个统一的报表平台。
3. 快速上手
  这里先快速上手带大家体验一把,细节后续章节细讲,首先配置好数据库连接(配置方法参考后续的5.1 新建Databases(数据库)),然后打开SQL Lab,选择好配置数据库,写SQL语句分析探索数据,如图3.1.0,然后运行语句,得到数据结果,可以点击保存将常用的探索SQL保存下来,然后点击查询结果上方的EXPLORE按钮,就可以跳转图表分析图3.1.1;
$ d; N- U# d. |0 `7 _7 H9 ~0 Z8 U. E( Q
% x: U& \' }: N
图3.1.0 Apache Superset在SQL Lab上探索数据
9 k2 w3 v3 ?3 |" P9 w
  利用SQL Lab探索得到的数据集,选择合适需求的数据图表,选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表;2 S! |' M3 N9 |! z) }' `; Q9 x$ B

! x' |4 J& x& y( S# ~
图3.1.1 Apache Superset数据可视化
# w7 [- t- M5 ^, h- D2 _& s
  新建Dashboard,然后编辑Dashboard,将之前生成好的Charts(图表)拖拽到Dashboard,就完成了数据仪表盘的最终呈现,然后就可以分享给需求方,也可以生成访问链接分享。
  注意:拖拽时尽量往Dashboard的上面拖拽,会出现一条蓝色的分界线就可以松手,否则可能出现无法拖拽的情况,这个设计很坑。
图3.1.1 Apache Superset数据仪表盘呈现

8 `" J4 ^/ p  @" C7 @' o" @# k4. 部署安装4.1 部署方式及版本
  • 支持Linux、Windows、Mac的Docker部署
  • 支持Linux、Windows、Mac的Python环境代码部署
  • 可以在github,官网、或者国内镜像网站查看版本,但是别先下载,因为Apache Superset依赖包很多,最好能在线安装;4 K+ |6 h( L. W( w; q; c7 n6 {
    , {" T% N0 {" q2 n# P
图4.1.0 Apache Superset版本预览
$ q' M: }7 K5 r( c
  • 博主选的是apache-superset-0.38.1.tar.gz在Linux上的Python环境代码部署。
    7 z, o$ G" V& N4 y3 @$ G. b" d! C
4.2 配置需求
  • apache-superset-0.38.1.tar.gz
  • CentOS 7 16核 32G(非硬性,一般性能的服务器即可)
  • Python 3.6
  • 要求服务器网,如果没有,可以使用能联网的代理服务器,依赖很多,采用在线安装的形式
    ) N& o) i- ?* f: w5 O+ j9 }& z
4.3 下载安装
  • 下载安装Python3.6,可以选择安装anaconda集成的python,可以参考博客Linux通过anaconda来安装python,对应的版本是Anaconda3-5.2.0-Linux-x86_64.sh,下载传送门:Anaconda Download;安装好以后,如果老的服务器上存在python2,默认的环境变量启动是python2,没关系,只需要设置一个新的环境变量确保 python3启动是刚刚安装的版本即可。
  • 安装python虚拟机,并启动,然后安装Apache Superset。# V, Q1 \( P& C; D8 |
/ S  R0 R( n, {' @. g. Z
  1. # 切换到自己安装软件的目录,博主的是在/usr/local/tools,并新建superset目录+ ]/ p- w! h$ l! t* }; j
  2. cd /usr/local/tools
    ' c6 L6 r; E+ F; g* V4 R# R0 X
  3. mkdir superset% j" x8 k" ?; J8 z& r
  4. cd superset
    5 L/ [2 a$ f% e8 |4 ^
  5. * B! d# f/ n! u# i
  6. # 安装虚拟机,有网就不需要的代理服务器,配置代理服务器10.212.18.34:3129方法:1 z- M- ^$ I1 S9 r" Z& v! q; q
  7. # 写入配置文件 /etc/profile里面追加
    : b" I1 D) H( S! R' J/ `& K/ W  d- a
  8. # export http_proxy=10.212.18.34:3129; I6 r; k, B6 k4 c+ L& k) Q
  9. # export https_proxy=10.212.18.34:31290 d/ g' N) J! G
  10. # 然后wq! 保存退出,source /etc/profile刷新配置文件
    % e  \; J  _  j) A4 P
  11. # 安装完可以删除代理,记得再source /etc/profile( T4 D2 Y4 c/ T9 m/ }6 l2 X
  12. # 如果不想配置/etc/profile或者无权限,可以采用以下命令
    $ X2 [: Q0 m7 \) o, z' a6 {/ N
  13. # pip install virtualenv --proxy=10.212.18.34:3129,每次都需要,烦! I+ a  X* Q' Q' {" `5 r
  14. pip install virtualenv
    0 O* S' k( d; A6 _1 [" ~- N
  15. ; e# x7 @; ], [" [/ f
  16. # 配置命名虚拟机% N6 |" g' t# K. }% E  M
  17. python3 -m venv venv
    ' M( e% U0 z( M3 L% X, h
  18. 9 G( U: ]- P( _3 m% e
  19. # 启动虚拟机,会在当前目录下自动创建venv目录
    + `& \3 |3 N7 J- D/ M8 o) n
  20. . venv/bin/activate  Z! e- b  |1 N. E% u0 g# R; T) @

  21. 5 Q+ [" H" H  ^  }$ F+ Q- F
  22. # 退出虚拟机指令,但是这里不需要退出
    9 f2 S# A: Y: c- Z/ e+ j
  23. # 退出虚拟机指令,但是这里不需要退出
    ' A# N! i( ~5 w3 D; N
  24. # 退出虚拟机指令,但是这里不需要退出, ]4 s/ _! ]" z  E( X$ O
  25. deactivate
    3 l  j' k1 d6 B, o% |4 E) T; W
  26. " S0 U' p; Y6 a6 k8 }+ F
  27. # 安装更新一些依赖, x1 V2 q  V# R# Z
  28. pip install --upgrade setuptools pip -i https://pypi.douban.com/simple/
    1 R+ @* M8 w( ~# s% y- [* H

  29. % C7 s8 ]* o9 W- E5 A
  30. yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel$ a; U, g& u, ]" d
  31. $ B& Y: ?/ n6 E3 s
  32. # 如果报错:GPG key retrieval failed: [Errno 14] curl#37 - "Couldn't open file /etc/pki/rpm-gpg/RPM-GPG-KEY-EPEL-7"% z# Z' b$ ?. J. w0 ]* ~/ y& @1 s
  33. # 解决:
    ; r8 ]% B5 _/ [7 ~/ ?9 b" ^0 P4 f
  34. vi /etc/yum.repos.d/epel.repo/ u' L8 t) z  z/ a
  35. gpgcheck=03 g7 m- F0 m/ p
  36. # 然后wq!保存再试一次yum install gcc gcc-c++ libffi-devel python-devel python-pip python-wheel openssl-devel libsasl2-devel openldap-devel mysql-devel gcc-devel
    ; [: K. i: ?; c( W9 G" t
  37. 5 n9 m7 s* \2 r  f% l8 G
  38. # 先用官网下载,因为官网的会自动把依赖也给你一起安装了,实在不行再用其他网站的镜像5 H6 |! t& N& `( y, k% `( B
  39. pip install apache-superset==1.4.2" @; p0 T0 ~( R9 ]

  40. ' ^/ o! e2 g+ J9 r: S% D
  41. # 安装superset,指定版本,不指定版本默认是最新版本# G* h# R7 Q+ T
  42. pip install superset==0.30.1 -i https://pypi.douban.com/simple; V. p* K6 I" V1 ?: D7 Z+ w
  43. . N' o! u5 O! D' T. P3 g( y7 U: K
  44. # 安装email_validator 6 ~* C) ~8 i7 e% h" e0 @
  45. pip3 install email_validator -i https://pypi.douban.com/simple/, i& x+ C5 V- S3 V4 [
  46. + P4 g2 q9 G0 R9 `: R/ o& T
  47. # 更新数据库& h) P* Q) Z4 ?" t! u; G
  48. superset db upgrade5 ^0 L' X$ r2 Q: T" M% T0 ^/ W
  49. 2 B- b6 d3 d; F2 T' e4 \$ Z
  50. # 创建admin的用户名,用户名随便写,bigdata123,admin都行,写完用户名后会让你输入姓,名,邮箱,这三项可写可不写,不写就直接回车,然后是设置密码,一点要写。
    0 P7 [0 H1 |% s) H" l7 z5 Q
  51. export FLASK_APP=superset# ^7 \6 O# U+ S% A" J1 N! o2 L( d
  52. superset fab create-admin( b" @7 t) _/ z) O5 `* e
  53.   [5 T/ P" k9 P! a, j% ~8 R) k: O
  54. # 加载样例数据,考验网络,如果实在一致加载报错就放弃,不影响后续使用。
    3 V+ F+ z% j9 v' h0 h- B
  55. superset load_examples" d: U$ V3 `( X3 w9 y
  56. : `1 {5 }4 \! }( Q6 g; n
  57. # 初始化9 |5 a% ^  s; J/ H
  58. superset init7 @& @* C; f3 ?6 X8 h1 K
  59. * [7 b# N9 l& ?
  60. # 启动,官网是superset run -p 8088 --with-threads --reload --debugger
    ( r+ ~6 l& A- y7 d- z* j
  61. # 建议用gunicorn启动,方便快速,先直接启动,确保打印在客户端的日志正常
    9 D2 Q5 _5 ]/ I  @( Z5 j5 ~# D9 F- M" n
  62. pip install gunicorn3 |0 Q+ O' e3 k7 A8 N6 n0 f+ K3 h
  63. gunicorn -w 5 --timeout 120 -b  10.218.10.290:9089 "superset.app:create_app()" ) M9 r& V' e' h
  64. ) z* d% c3 X* v1 g& b5 A7 S, C
  65. # gunicorn 是一个Python WEB服务,可以理解为Tomcat' D0 o! ], E. I7 h5 t. W+ l
  66. # -w WORKERS:指定线程数
    8 X  r- e, `2 [1 y, r
  67. # --timeout:worker进程超时时间,超过会自动重启
    $ \/ M2 N* }) K, n/ N; f
  68. # -b BIND:绑定Superset访问地址  d( ^- b( m- ]
  69. # --daemon:后台运行
    5 v" {2 C& O( Z2 g
  70. 4 @4 Y( O9 A  i% a& E; |) X4 C5 S
  71. # 在能访问10.218.10.290:9089的服务器上打开浏览器,输入刚刚登录的用户名,密码即可。
    ; ]6 e2 b  b( |1 ]; y% q1 D" |

  72. 5 q4 K3 o5 i% x& `( L5 d0 g6 b
  73. 4 P; f/ E& I6 W6 Z1 A9 {
  74. # 如果没开启后台停止,直接ctrl+c关停
    ; h# _, [# C; \
  75. # 后台进程停止gunicorn
    " d3 q& x9 o: n3 T) z4 B6 i1 O
  76. ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码

- c7 V# O# M, C0 N- c$ F* G6 p# o: z$ f9 g! F
4.3 安装注意及排错
  pip install superset步骤时出现关键字眼Successfully installed证明正确安装,如图4.3.0;
5 D# |8 Y+ Z- Y# J5 [/ \3 X

9 h) u! l, e5 h" y# }4 c
图4.3.0 成功安装的提示

; |3 I! }  ~: q7 k, s
  superset fab create-admin配置用户名时提示如图4.3.1。
图4.3.1 配置用户名时提示

9 n7 v4 E2 d; ~6 ~- B2 {
  每个人的服务器环境,可能导致缺少的 依赖不同,途中如果遇到bug,可自己百度解决,基本都是python依赖包之类的问题,要耐心。
  1. # 报错, @  H  l- r$ x# c* \0 J
  2. ModuleNotFoundError: No module named 'dataclasses'7 t; h# I$ v$ @6 A' V

  3. 6 N* s( `3 S9 i" l) @7 \' r  H$ a
  4. # 解决, @' e& O7 t( T3 u; X% V
  5. pip install dataclasses
    6 t0 l6 v' M/ _$ \8 b: {2 q8 \

  6. ! @) _& L9 [  ~6 x
  7. # 报错  k" E- i6 J. W. ]5 v# v+ n# r
  8. No PIL installation found
    / ?1 H; K0 T3 j0 k3 c
  9. # 解决' h0 s2 ]+ |- f' H
  10. pip install pillow
    3 d9 l+ o  R* V$ n' w. v* |- A
复制代码
5 ^* K9 J7 ^' Q& b& r& J
  一切解决后,网页登录如图4.3.2;
图4.3.2 登录首页4.4 启动与关闭

2 e, x1 N- }* V% ]
  官网提供的直接启动的方法不是很好,博主推荐一个采用gunicorn的方法,先关停superset。
; e9 v' Y4 D' T4 l, x1 F2 N6 r) ]! ^. f. B5 l' S/ ?6 V% u

  1. 6 @: j1 @+ J* o  a& {, W
  2. #安装好superset后会在venv生成很多文件,切换到venv
    $ N; ?* o# _, h2 N+ |% @( k
  3. cd /usr/local/tools/superset/venv/
    0 k4 h1 F" w) X6 _  X
  4. ! _% N0 e. l4 K2 N2 d! U( j! G8 Q
  5. 6 @  ^& w$ B0 Z2 I/ G

  6. 8 |4 o& C( d! f, b9 Y
  7. #新建日志文件夹
    - v- q6 C" x) _% m$ D" V8 {
  8. mkdir log
    2 W, ]' {( K) y/ }8 c

  9. 0 m# s* W' K0 n4 k0 @4 W' W
  10. #切换到log目录,新权限 日志,错误日志和启动pid文件9 F0 j: T' r% d% W
  11. cd log# {0 d4 u$ t! _/ c
  12. touch gunicorn_access.log
    ) S; @2 e# a8 T( U4 ]; \2 N
  13. touch gunicorn_error.log
    ( e% t5 R8 H" A7 Z& f
  14. touch pidfile
    ! u- v9 s# p4 j- z, B
  15. chmod 755 ./*  #修改权限
    : s! |$ `5 `6 |$ R' D
  16. " T6 u! T) r/ ~, Q# h3 x1 h
  17. #切换到/usr/local/tools/superset/venv/bin,写一个gunicorn配置文件,python语言& A, x3 O/ u. Q  N: g- c' ^% t0 p/ E& A
  18. cd ./usr/local/tools/superset/venv/bin8 \8 |( D0 }; p4 o8 J- `
  19. 3 e% g$ B( {* V  a& l4 i

  20. . d9 e4 T) o9 G6 L! s8 r
  21. vim gunicorn_config.py  # 内容如下$ D( k* V( E6 a/ Q7 l

  22. / a4 r% m% P7 H4 h/ {6 _0 h+ _+ z
  23. #内容开始
    7 e' L. }' ?; w
  24. import multiprocessing
    9 i* c' @) z- J+ \! Y7 S

  25. - _9 ], x7 _0 _/ T1 j8 L& @4 p
  26. 3 U! [! ]6 b( q- ?7 u( [) x( L* X) F
  27. bind = '10.218.10.290:9089'      #绑定ip和端口号
    5 q( b+ A4 Y0 G# ]& [/ O
  28. backlog = 512                #监听队列
    - ^+ m: j2 H8 g+ |. G- }
  29. timeout = 30   #超时
    9 n0 _% |; c3 H" B2 G7 O. G
  30. worker_class = 'gevent'" s3 q& |. `' X, L2 g9 N
  31. workers = 5! }! f7 a2 m, {  G) R2 g# W* v
  32. worker_connections = 10006 b2 l% |# V) H/ m! N' _, M) w5 _( e
  33. threads = 2 #指定每个进程开启的线程数! H* T& C( }! {0 N$ ]
  34. loglevel = 'info'  # 日志级别
    3 }- @1 h4 x( e8 v7 M+ U
  35. access_log_format = '%(t)s %(p)s %(h)s "%(r)s" %(s)s %(L)s %(b)s %(f)s" "%(a)s"'    #设置gunicorn访问日志格式,错误日志无法设置: m" K7 p" N( U: m# z& q4 G/ X
  36. . R1 t0 V1 l) E$ U4 D, l
  37. , U. A' f' A- E2 d
  38. & Q3 ~# o0 t) g% ?; s
  39. pidfile = '/usr/local/tools/superset/venv/log/pidfile'. ^# U: r# \) ]" q# [8 c
  40. errorlog = '/usr/local/tools/superset/venv/log/gunicorn_error.log'7 k; f3 I! o% G) F4 l# E6 O- D
  41. accesslog = '/usr/local/tools/superset/venv/log/gunicorn_access.log', R( c" A7 z8 M; u. a/ S
  42. ! H2 o  ^+ g) w' O
  43. print("IP and PORT:"+bind)
    8 K) _( t4 Z( q/ [; k: j) D
  44. print("pid_file:"+pidfile)& ?" t6 q4 ~- K. y2 Z) x# h" M
  45. print("error_log:"+errorlog)
    1 \! R( T+ q, x" f) i0 m6 `
  46. print("access_log:"+accesslog)
    0 {, K8 r$ b8 S& S! `& I% p

  47. 8 h& w, O! |* K( K& }
  48. #内容结束. [( f: x  a+ w0 |1 }. f% N
  49. ; g, T2 w2 C& K9 B4 V  K! G
  50. #然后 wq! 保存退出
    & G( J# u- \' d1 ]+ z

  51. / N& k( X" P5 C" v
  52. # gunicorn 启动 -c 配置文件启动;--daemon后台启动,日志可以去配置文件指定的路径查看$ D) X- @# P, ]
  53. gunicorn -c ./gunicorn_config.py "superset.app:create_app()" --daemon1 z1 z4 W, j  w
  54. 7 g4 {% r" K; v/ k3 _  K4 s
  55. # 后台进程查看
    & G% }' [. |) H0 @$ f: |! M9 A
  56. ps -ef | grep gunicorn
    / s$ {) |6 i. K

  57. , u' x: W$ z9 u0 S  C
  58. # 或者通过端口查看
    " y* _6 J. E4 Q
  59. netstata -tunlp | grep 9089
    & x# @* J6 b6 y/ E
  60. # 或, _1 ?8 g/ g% y/ R$ e' _6 ~3 B
  61. ss -anp | grep 9089% d! @  [3 O, p+ n1 X# F! w, ]

  62. 6 }. ^' Y/ T. M5 F
  63. # 如果没开启后台停止,直接ctrl+c关停
    3 V2 G/ Q9 u1 ]9 K8 X- P$ [: o
  64. # 后台进程停止gunicorn; G, [/ h, H" O" A
  65. ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
复制代码
! G1 N% @! x$ |+ v
5. 用户手册(重点)
% N" q' K! \: f5 |
. Z$ U% W) ?4 ]5.1 新建Databases(数据库)
  新建数据库之前,需要先安装该数据库的python驱动包,具体语句可以参考官网Database Drivers,如图5.1.0,一般就是pip install XXX,安装好驱动后,记得重启下Superset服务;
  新建数据库连接的作用是为数据集Datasets和SQL实验室SQL Lab提供数据库、表的选择,就是提供数据源,当然Data下还有个Upload CSV(最新版本也支持Upload Excel)也可以直接将本地的CSV文件作为数据源上传到Superset站点,直接进行数据探索分析。
图5.1.0 数据库驱动以及连接字符串

+ e3 k; E# V& A% ^" l
  登录进Apache Superset后,点击Data,下来选择Databases,然后跳转到图图5.1.1,点击右上侧的+号就可以跳转图5.1.2的数据新增配置界面。
图5.1.1 新建数据库连接

& W% r# k* g6 e/ G
  图5.1.2,Database是指的新建这个数据库的显示名称,这个随便取,合理即可,SQLAlchemy URI 这个地方就是之前图5.1.0上的数据库连接字符串,确保和你选择的数据库类型一致。
' |$ {' W2 L, p  |8 @然后点击TEST CONECTION,连接成功后会跳出Seems OK!的弹出框,记得滑到最下面,点击保存,如果连接不成功,请检查数据库的实例,端口,用户名,密码以及自己部署的Apache Superset的服务器访问数据库的端口网络时是否能通,当然也不要忘记SQLAlchemy URI 填写规范,保存后的数据库连接就会列举在图5.1.1上。
& h( \% G' U0 Q; q
+ _% i# a% s( ~4 K, A+ h. |9 e
图5.1.2 新建数据库连接配置信息
) _; `) k5 g5 S2 \. q- z( F$ K* b/ b5.2 新建Datasets(数据集,老版本也叫Tables)
图5.2.0 新建数据集
* f6 o/ [+ S( J0 V; W$ @7 c. Q
  如图5.2.0,点击图中的Data下的Datasets,然后点击+号,跳转到图5.2.1,将配置好的数据库名下拉选出,写一个该连接实例下的数据库,然后选择一张表,点击保存即可,保存好的数据集会列举在图5.2.0中,这些知道为啥老板叫Tabels了吧;6 i( v' S* U% y  ?
  数据集的作用是为后续的Charts(图表)数据可视化作为数据源头。
图5.2.1 新建数据集配置信息
/ L! R2 m: }4 L+ O) z
6 h# ~+ E- N. D: ]0 I# ?
5.3 SQL Lab(SQL实验室)
  SQL Lab其实就是一个数据库查询客户端,利用SQL语句对数据库的表,字段模型进行查询探索,同时支持智能补全,当然SQL Lab的查询结果也可以直接EXPLORE到Charts(图表),作为数据可视化的数据源。
6 i0 S5 W( v' I  如图5.3.0,SQL Lab有三个选项,三个选项的功能如下:
  • SQL Editor:进行SQL查询探索
  • Saved Queries:保存的通用查询SQL
  • Query Search:查询的历史记录
    - m" l8 t1 w4 t% `
图5.3.0 主界面进入SQL Lab

- T) T2 E; ]: u. x- c: q
  点击SQL Editor进入图5.3.1的SQL查询探索,左侧上方是配置好的数据库连接名和选择的数据库,左侧下方是将要用到的表及字段模型;右侧上方是写SQL语句的地方,支持RUN(查询),RUN SELECTION(查询鼠标选择局部语句),SAVE(保存),SHARE(分享)等,右下方是数据结果,支持EXPLORE到Charts(图表)可视化,.CSV下载,CLIPBOARD(复制到剪贴板)。
图5.3.1 SQL Lab使用

; u8 |8 z9 S. {7 M8 A. w2 Q5.4 创建Charts(图表)
  图表的作用是数据可视化,利不同的图表满足不同的业务需求,图表同时也作为仪表盘的展示的一部分,一个仪表盘内可以展示一个或多个图表。8 P; C9 g5 r0 {5 `# B4 n, N* M/ v* F
  创建图表的方式有两种:
  • 如图5.4.0,点击Charts,点击+创建新的图表,跳转图5.4.1
  • 在SQL LabSQL语句探索查询的结果直接EXPLORE到Charts(图表)可视化
    3 h: _* w% I3 k4 d/ i8 @$ i- b
图5.4.0 创建图表
& U2 e2 k! @7 i
  如图5.4.1,选择合适需求的数据图表(如图5.4.2,支持的图表类型非常丰富,号称最漂亮的可视化图表展示),选择合适的指标,度量值,点击上方的RUN就可以得到结果,非常的方便,可以直接点击上方的SAVE保存图表;
+ C9 t  G  p' r- |9 ?. m: ]" _' V  E
6 A$ R( b1 N) p6 A1 t
图5.4.1 图表可视化配置
5 N+ [4 L7 o& x& i9 X  l: N% ^
  号称最美可视化展示,支持可视化的图表类型确实丰富多彩,应对各种可视化需求。) m# o& s% I  L! K; h) v8 u
/ N+ `7 B2 t1 I) Y- q5 @
图5.4.2 支持的图表类型

! \0 ?( V7 @' s- U! q! k) L5.5 创建Dashboards(仪表盘)
  仪表盘就是最后的数据总体呈现,即报表展示。
  如图5.5.0,点击Dashboards,然后点击+新建仪表盘,跳转图5.5.1。
图5.5.0 创建仪表盘

6 x! g, @" F5 h% V# V
  点击图5.5.1右上角的编辑仪表盘,之前做好的Charts(图表)拖拽到仪表盘上,注意:第一次拖拽的时候尽量网上拖拽,知道出现这个条蓝色的分解线,否则 无法拖拽过去;
  同时也支持一些通用的组件,图表旁的Components下,有Header、Tabs、Row、Column、Markdown、Divider;1 {* D$ B% p7 x" M$ X1 d; U% Z
  编辑完后后记得点保存。
图5.5.1 编辑仪表盘

: \8 ]4 G" _0 X* j9 A* W4 k
  保存后的仪表盘支持分享,下载等功能,同时也会根据图表内的数据源刷新来获取新的数据;
8 }3 B) D- _2 A( k

8 [! x0 d/ \1 _. v
图5.5.2 仪表盘功能
0 g1 |8 b1 X7 F- L5 E1 P& ~3 u
  分享给别人看到的仪表盘如图5.5.3。
图5.5.3 分享后他人视角的仪表盘

% j8 F$ G$ F6 |  F5 q, Z6. 设置
  设置包含在菜单栏Settings下,主要设计权限和操作日志等模块,接下来分别讲解。3 @; x8 r  `/ Z/ H, z
% J, z2 }$ E6 p( a7 H
图6.0.0 通用设置

- Q9 x, u3 y' u8 l7 g1 H2 ~
  z, D1 x5 x8 `2 Z3 b- F1 m6.1 角色列表及权限
  Apache Superset中的安全性由Flask AppBuilder(FAB)处理,FAB是一个构建在Flask之上的应用程序开发框架。FAB提供身份验证、用户管理、权限和角色,可以查看其相关文档。
* d' _6 o- Y1 {7 }3 ?4 F  Apache Superset默认提供了不同的角色,每种角色拥有的权限不同,在运行superset init命令时,与每个角色关联的权限将重新同步到其原始值,不建议更改与每个角色关联的权限(例如,通过删除或添加权限),支持admin再自建角色类型,指定想要的权限,默认的角色及权限如下;
  • Admin:管理员拥有所有可能的权限,包括授予或撤销其他用户的权限,以及更改其他用户的切片和仪表板;
  • Alpha:Alpha用户可以访问所有数据源,但不能授予或撤消其他用户的访问权限。它们也仅限于改变它们所拥有的对象。Alpha用户可以添加和更改数据源。
  • Gamma:Gamma用户的访问权限有限。他们只能使用来自通过另一个补充角色访问的数据源的数据。他们只能查看由他们可以访问的数据源制作的切片和仪表板。目前Gamma用户无法更改或添加数据源。我们假设他们主要是内容消费者,尽管他们可以创建切片和仪表盘。另请注意,当Gamma用户查看仪表板和切片列表视图时,他们将只看到他们有权访问的对象。
  • sql_lab:sql_lab角色授予对sql lab的访问权限。请注意,虽然管理员用户在默认情况下可以访问所有数据库,但Alpha和Gamma用户都需要在每个数据库的基础上获得访问权限。
  • public:要允许注销的用户访问某些超集功能,需要自己配置权限,并将其分配给另一个角色,您希望将其权限传递给该角色。
    # u3 a; Q' [, k. W, J# N
  更多的角色权限可以查看官网Apache Superset Security,或者点开图6.1.0的编辑角色查看,尽量别改默认角色的权限。
6 [. s% m/ E0 X% L5 h% D1 q4 C( U

( u" k: h/ X7 ?$ v8 t5 H# B- i
图6.1.0 系统默认角色
- H  ^8 j, q, G, G7 [
  同时Apache Superset也支持管理员自己新增角色,如图6.1.1,新建角色并指定角色权限。
0 C+ s8 d! L3 h1 r6 c4 k
- z8 o  Q' v( f
图6.1.1 新建角色
6 A( M- T7 U3 L+ T5 ^

) q4 Q9 E; s. T) b* }1 `6.2 用户列表
  新建、编辑用户指定角色,用户的权限是绑定在角色里面的,一个用户可以有多个角色,配置信息如图6.2.0。! c  z' }, ^% |& _
, F8 D& d  `4 P
图6.2.0 新建、编辑角色
0 C" T9 m) M" p9 ~( C

" \% F6 s( P2 {* W& y3 c$ j) C) ^6.3 操作日志
  操作日志记录的是在你的Superset平台上不同用户的行为日志,如图6.3.0。
图6.3.0 行为日志查看

# @8 X& u. K, a, {
) U& d" u0 _- a! {, o" `6.4 用户信息、退出、版本信息
  菜单栏最右侧的个人信息,主要是包含:
  • 用户信息:修改用户姓名,重置密码;
  • 退出:回到登录主界面;
  • 版本:目前您安装的Superset版本信息。( A9 r: Q# Y5 I8 ~

    , U8 s& H7 p: `1 [: q  \7 ~: Z
图6.4.0 个人信息模块
: F( |, a8 e( I' Y! Y  c% z; @7 ]4 U6 M2 d( _" p! o8 Z
6.5 语言选择
  作为Apache的顶级项目,自然是运用于全球的,支持世界上一些通用的语言 ,选择一款你最喜欢的即可。
图6.5.0 语言选择

! h( J; D- z4 j0 H$ h% Z/ k8 N6.6 管理设置
  针对仪表盘,图表渲染加入自己想要的风格和模板,实际运用的用的不多。
: r) h" v* @7 V- A
1 N2 z* n/ \* I2 [' B% _
图6.6.0 管理模块

7 [6 O$ Y3 y$ {( D+ s; H6.7 + NEW
  菜单栏的+ NEW其实就是给最通用的三个模块SQL Query、图表、看板(仪表盘)的一个快捷方式,此三者的用法就不在累赘了。
图6.7.0 + NEW模块
$ @3 q0 T8 R8 O8 D) P
  以上就是关于Apache Superset这款开源的大数据探索分析、可视化报表平台的基本介绍,更多更加刺激的内容可以关注官网及官方文档Apache Superset Documention
4 j+ h& J: c' G; L% f
; U. Z8 _5 a" w$ {1 D/ U3 a
原文来源:https://blog.csdn.net/LXWalaz1s1s/article/details/119061337
: ~% m+ N$ }5 L
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

QQ|Archiver|手机版|小黑屋|通达创业无忧 ( 粤ICP备2023021749号|粤公网安备 44030402006137号 )

GMT+8, 2025-12-8 15:51 , Processed in 0.078449 second(s), 3 queries , Redis On.

Powered by Discuz! X3.5

© 2001-2025 Discuz! Team.

快速回复 返回顶部 返回列表