go语言绘制图表 golang 图表

Grafana的介绍与使用

Grafana是一款用Go语言开发的开源数据可视化工具,可以做数据监控和数据统计,带有告警功能。目前使用grafana的公司有很多,如paypal、ebay、intel等。

成都创新互联是专业的大埔网站建设公司,大埔接单;提供成都网站设计、成都网站建设、外贸网站建设,网页设计,网站设计,建网站,PHP网站建设等专业做网站服务;采用PHP框架,可快速的进行大埔网站开发网页制作和功能扩展;专业做搜索引擎喜爱的网站,专业的做网站团队,希望更多企业前来合作!

①可视化:快速和灵活的客户端图形具有多种选项。面板插件为许多不同的方式可视化指标和日志。

②报警:可视化地为最重要的指标定义警报规则。Grafana将持续评估它们,并发送通知。

③通知:警报更改状态时,它会发出通知。接收电子邮件通知。

④动态仪表盘:使用模板变量创建动态和可重用的仪表板,这些模板变量作为下拉菜单出现在仪表板顶部。

⑤混合数据源:在同一个图中混合不同的数据源!可以根据每个查询指定数据源。这甚至适用于自定义数据源。

⑥注释:注释来自不同数据源图表。将鼠标悬停在事件上可以显示完整的事件元数据和标记。

⑦过滤器:过滤器允许您动态创建新的键/值过滤器,这些过滤器将自动应用于使用该数据源的所有查询。

Dashboard的建立都是基于某一个数据源的,所以要先加一个数据源。

可视化方式有很多种,不过Graph、Table、Pie chart 这三种基本就已经满足数据展现要求了。

把这个Graph折线图Copy一份,改一下展现方式即可。

注意:默认添加完table后,如果有数字,会以K为单位,比如将300000展示位30k。

数字展示方式修改,Add column style:

当表格中出现数据后,需要通过筛选条件进行筛选,grafana提供了模板变量用于自定义筛选字段。

Type:定义变量类型

Query:这个变量类型允许您编写一个数据源查询,该查询通常返回一个 metric names, tag values or keys。例如,返回erver names, sensor ids or data centers列表的查询。

interval:interval值。这个变量可以代表时间跨度。不要按时间或日期直方图间隔硬编码一个组,使用这种类型的变量。

Datasource:此类型允许您快速更改整个仪表板的数据源。如果在不同环境中有多个数据源实例,则非常有用。

Custom:使用逗号分隔列表手动定义变量选项。

Constant:定义一个隐藏常数。有用的metric路径前缀的dashboards,你想分享。在dashboard export,期间,常量变量将作为一个重要的选项。

Ad hoc filters:非常特殊类型的变量,只对某些数据源,InfluxDB及Elasticsearch目前。它允许您添加将自动添加到使用指定数据源的所有metric查询的key/value 过滤器。

上面的Table和Graph分别使用了interval和query来定义变量进行筛选,不再重复。

grafana只有graph支持告警通知。

grafana的告警通知渠道有很多种,像Email、Teams、钉钉等都有支持。

在grafana.ini中开启告警:

要能发送邮件通知,首先需要在配置文件grafana.ini中配置邮件服务器等信息:

Grafana是个功能强大、展现层很漂亮的数据可视化监控工具,本篇主要介绍了Grafana基于MySQL数据源的安装及常用姿势,也支持其他数据源如ElasticSearch、InfluxDB等。更多内容可看 官网

转录组不求人系列(十三): GO、KEGG富集个性化作图

当富集分析完成,拿到如下的分析结果后,就可以进行作图了。

富集分析结果的可视化无非就是柱状图和气泡图,但是公司默认出图实在是太丑,所以还是自己动手修改修改。

一、常规柱状图(ggplot2)

横轴为gene counts,或者用-logP也行,填充相应的用P值或者gene counts。ggplot画图的好处就是可以进行很多调整。

二、常规气泡图(ggplot2)

气泡图与柱状图如出一辙,只是在展示方式上出现了差别。一个用geom_bar()函数,气泡图类似于散点图用geom_point()函数。

三、上下调同时展示(ggplot2)

很多时候研究者拿到差异基因后,上下调基因是分别富集的,在展示上需要同时体现二者,我们之前提到metascape可以做到: 转录组不求人系列(十二): Cell文章最喜欢用的差异基因GO、KEGG富集分析工具 ,除此之外,之前讲过的气泡图也可以展现多组的结果: 复现《nature communications》图表(四):ggplot画多组富集气泡图 。这里我们继续提供一种bar图的展示方式。将down的数值调整为负,做一列分组,就可以展示了。

当然了,以上所说的可视化还是比较常规,在基础上可以自己做调整。也有一些文章总是标新立意,有很多奇特的展现方式,我们会在之后的系列中讲解。

第5章 数据与可视化

可视化是监控的目标之一,没有一个好的展示,再多的数据我们也很难分析。这里主要对Grafana进行介绍,前面我们虽然也展示过Grafana数据可视化的界面,但是并没有深入介绍。

书本介绍了Prometheus自带的控制台界面,开启这个功能只需要在启动命令中添加相关的参数。但是,用这个方法作图的效率实在是太低了。实际使用中,都是通过配合Grafana一起使用的。关于console template的原文链接 点我

下面介绍Grafana。

Console Teamplet虽然能满足一定的可视化需求,但是也仅仅是对Prometheus的基本能力的补充。同时使用也会有许多问题,首先用户需要学习和了解Go Template模板语言,其它其支持的可视化图表类型也非常有限,最后其管理也有一定的成本。在第1章的“初识Prometheus”中我们已经尝试通过Grafana快速搭建过一个主机监控的Dashboard,在本章中将会带来读者学习如何使用Grafana创建更加精美的可视化报表。

首先Grafana是一个通用的可视化工具。‘通用’意味着Grafana不仅仅适用于展示Prometheus下的监控数据,也同样适用于一些其他的数据可视化需求。在开始使用Grafana之前,我们首先需要明确一些Grafana下的基本概念,以帮助用户能够快速理解Grafana。

对于Grafana而言,Prometheus这类为其提供数据的对象均称为数据源(Data Source)。目前,Grafana官方提供了对:Graphite, InfluxDB, OpenTSDB, Prometheus, Elasticsearch, CloudWatch的支持。对于Grafana管理员而言,只需要将这些对象以数据源的形式添加到Grafana中,Grafana便可以轻松的实现对这些数据的可视化工作。

通过数据源定义好可视化的数据来源之后,对于用户而言最重要的事情就是实现数据的可视化。在Grafana中,我们通过Dashboard来组织和管理我们的数据可视化图表:

如上所示,在一个Dashboard中一个最基本的可视化单元为一个 Panel(面板) ,Panel通过如趋势图,热力图的形式展示可视化数据。 并且在Dashboard中每一个Panel是一个完全独立的部分,通过Panel的 Query Editor(查询编辑器) 我们可以为每一个Panel自己查询的数据源以及数据查询方式,例如,如果以Prometheus作为数据源,那在Query Editor中,我们实际上使用的是PromQL,而Panel则会负责从特定的Prometheus中查询出相应的数据,并且将其可视化。由于每个Panel是完全独立的,因此在一个Dashboard中,往往可能会包含来自多个Data Source的数据。

Grafana通过插件的形式提供了多种Panel的实现,常用的如:Graph Panel,Heatmap Panel,SingleStat Panel以及Table Panel等。用户还可通过插件安装更多类型的Panel面板。

除了Panel以外,在Dashboard页面中,我们还可以定义一个 Row(行) ,来组织和管理一组相关的Panel。

除了Panel, Row这些对象以外,Grafana还允许用户为Dashboard定义 Templating variables(模板参数) ,从而实现可以与用户动态交互的Dashboard页面。同时Grafana通过JSON数据结构管理了整个Dasboard的定义,因此这些Dashboard也是非常方便进行共享的。Grafana还专门为Dashboard提供了一个共享服务: ,通过该服务用户可以轻松实现Dashboard的共享,同时我们也能快速的从中找到我们希望的Dashboard实现,并导入到自己的Grafana中。

作为一个通用可视化工具,Grafana除了提供灵活的可视化定制能力以外,还提供了面向企业的组织级管理能力。在Grafana中Dashboard是属于一个 Organization(组织) ,通过Organization,可以在更大规模上使用Grafana,例如对于一个企业而言,我们可以创建多个Organization,其中 User(用户) 可以属于一个或多个不同的Organization。 并且在不同的Organization下,可以为User赋予不同的权限。 从而可以有效的根据企业的组织架构定义整个管理模型。

对于Grafana而言,Prometheus就是一个用于存储监控样本数据的数据源(Data Source)通过使用PromQL查询特定Prometheus实例中的数据并且在Panel中实现可视化。

接下来,我们将带领读者了解如何通过Panel创建精美的可视化图表。

Panel是Grafana中最基本的可视化单元。每一种类型的面板都提供了相应的查询编辑器(Query Editor),让用户可以从不同的数据源(如Prometheus)中查询出相应的监控数据,并且以可视化的方式展现。

Grafana中所有的面板均以插件的形式进行使用,当前内置了11种类型的面板,常用的包括:Graph,Singlestat,Heatmap, Dashlist,Table以及Text等。

其中像Graph这样的面板允许用户可视化任意多个监控指标以及多条时间序列。而Siglestat则必须要求查询结果为单个样本。Dashlist和Text相对比较特殊,它们与特定的数据源无关。

通过Grafana UI用户可以在左边的菜单栏增加一个Dashboard,然后里面选择 Choose Visualization 即可看到下面这些的面板:

选择想要创建的面板类型即可。这里以Graph面板为例,选择Graph后我们看到有4个菜单的内容需要进行设置的。

最上面的那个是Queries,在这里要定义数据源以及查询的PromQL语句;第二个也就是上图看到的,这里可以定义图表显示的内容,比如x轴和y轴的设置;第三个是General,可以定义面板的名称以及注释等;最后一个是alert,配置告警信息(Grafana也可以做告警的)。

在通用设置中,除了一些Panel的基本信息以外,最主要的能力就是定义动态Panel的能力,这部分内容会在本章的“模板化Dashboard”小结中详细介绍。

这4个设置菜单里面,最重要是第一个菜单,也就是PromQL查询语言的编写,示例为我要显示CPU的使用率的情况,我这么设置:

公式为: avg(irate(node_cpu_seconds_total{mode!='idle'}[2m])) without (cpu)

在数据源的选择那里,有好几个选项。其中default是我们前面设定的默认数据源;Prometheus是我们添加的数据源;Grafana则用于需要查询Grafana自身状态时使用; Mixed用于需要从多个数据源中查询和渲染数据的场景;另外一个Dashboard不清楚了。这里我们选择Prometheus作为数据源。

选择好数据源之后,我们要配置查询的语句。Grafana提供了对PromQL的完整支持,在Query Editor中,可以添加任意个Query,并且使用PromQL表达式从Prometheus中查询相应的样本数据。

每个PromQL表达式都可能返回多条时间序列。**Legend **用于控制如何格式化每条时间序列的图例信息。Grafana支持通过模板的方式,根据时间序列的标签动态生成图例名称,例如:使用表示使用当前时间序列中的instance标签的值作为图例名称:

当查询到的样本数据量非常大时可以导致Grafana渲染图标时出现一些性能问题,通过 Min Step 可以控制Prometheus查询数据时的最小步长(Step),从而减少从Prometheus返回的数据量。

Resolution 选项,则可以控制Grafana自身渲染的数据量。例如,如果 Resolution 的值为 1/10 ,Grafana会将Prometeus返回的10个样本数据合并成一个点。因此 Resolution 越小(1小于10,也就是默认已经最小了)可视化的精确性越高,反之,可视化的精度越低。

Format 选项定义如何格式化Prometheus返回的样本数据。这里提供了3个选项:Table,Time Series和Heatmap,分别用于Tabel面板,Graph面板和Heatmap面板的数据可视化。

除此以外,Query Editor还提供了调试相关的功能,点击 Query Inspector 可以展开相关的调试面板:

在这里我们可以配置显示的样式,这里我只自定义了左边Y轴的数字格式,选择为百分比。

在这里我定义了面板的名称已经注释

这里我没有做定义,最后的图表如下:

Graph面板是最常用的一种可视化面板,其通过折线图或者柱状图的形式显示监控样本随时间而变化的趋势。我们继续用CPU的例子来做讲解:

查询公式为

上面的箭头指向, Add series override菜单,可以让我们自定义某一条折线的样式

继续往下,这里可以定义X、Y轴的情况,比如我把左边Y轴的单位改为百分数。

继续往下,这里可以定义图例的样式,也就是我们前面定义的 {{ instance }} 的样式,这里我选择用表格来显示,显示min、max和current的值。

继续往下,这里可以定义一个阈值,图表是告警的阈值。比如说我的CPU使用率超过50%,那就会显示不同的颜色,有一条阈值线。

这里和之前一样,只定义这个面板的名称和注释。

最后的图表是:

热力图这里不做介绍,这个用得稍微少点。可以看原文 点我

Singlem Panel侧重于展示系统的当前状态而非变化趋势。如下所示,在以下场景中特别适用于使用SingleStat:

如下所示,是使用SingleStat进行数据可视化的显示效果:

我们继续用CPU来说事,比如我这里定义CPU使用率低于50%就定义主机状态为健康,否则就是不健康。

对于SingleStat Panel而言,其只能处理一条时间序列,否则页面中会提示“Multiple Series Error”错误信息。这里使用上例一样的语句去查询:

首先我们新建一个singlestat面板,然后输入公式,这时候毫无疑问出现了错误提示:

为了能够正常显示,这里我们手动指定下单个实例,修改语句为:

这时候就有数据了,接下来我们要修改图表的样式。

默认情况下,当前面板显示的是平均值,我们实际要看的是当前的值.我们还要修改显示的颜色,这里我定义了两个值,小于0.5的时候显示绿色,大于0.8显示红色,中间显示橙色;然后设置显示折线图,并设置为绿色。

为了提高数字的可读性,我们把数字替换为文字。CPU使用率低于50%的时候显示为healthy,大于50%的时候显示为unhealthy。

配置面板名称及注释

最后的成品如下:

前面我们介绍的例子中,Grafana能够方便的将Prometheus返回的数据进行可视化展示。例如,在展示主机CPU使用率时,我们使用了如下表达式:

该表达式会返回当前Promthues中存储的所有时间序列,每一台主机都会有一条单独的曲线用于体现其CPU使用率的变化情况:

而当用户只想关注其中某些主机时,基于当前我们已经学习到的知识只有两种方式,要么每次手动修改Panel中的PromQL表达式,要么直接为这些主机创建单独的Panel。但是无论如何,这些硬编码方式都会直接导致Dashboard配置的频繁修改。在这一小节中我们将学习使用Dashboard变量的方式解决以上问题。

在Grafana中用户可以为Dashboard定义一组变量(Variables),变量一般包含一个到多个可选值。如下所示,Grafana通过将变量渲染为一个下拉框选项,从而使用户可以动态的改变变量的值:

例如,这里定义了一个名为node的变量,用户可以通过在PromQL表达式或者Panel的标题中通过以下形式使用该变量:

变量的值可以支持单选或者多选,当对接Prometheus时,Grafana会自动将$node的值格式化为如“ host1|host2|host3 ”的形式。配合使用PromQL的标签正则匹配“ =~ ”,通过动态改变PromQL从而实现基于标签快速对时间序列进行过滤。

通过Dashboard页面的Settings选项,可以进入Dashboard的配置页面并且选择Variables子菜单:

用户需要指定变量的名称,后续用户就可以通过$variable_name的形式引用该变量。Grafana目前支持7种不同的变量类型,而能和Prometheus一起工作的主要包含以下5种类型:

Label属性用于指定界面中变量的显示名称,Hide属性则用于指定在渲染界面时是否隐藏该变量的下拉框。

当Prometheus同时采集了多个主机节点的监控样本数据时,用户希望能够手动选择并查看其中特定主机的监控数据。这时我们需要使用Query类型的变量。

如上所示,这里我们为Dashboard创建了一个名为node的变量,并且指定其类型为Query。Query类型的变量,允许用户指定数据源以及查询表达式,并通过正则匹配(Regex)的方式对查询结果进行处理,从而动态生成变量的可选值。在这里指定了数据源为Prometheus,通过使用node_load1我们得到了两条时间序列:

通过指定正则匹配表达式为 /.*instance="([^"]*).*/ 从而匹配出标签instance的值作为node变量的所有可选项,即:

Selection Options 选项中可以指定该变量的下拉框是否支持多选,以及是否包含全选(All)选项。

保存变量后,用户可以在Panel的Queries中通过$node的方式使用该变量,如下所示:

这里需要注意的是,如果允许用户多选在PromQL表达式中应该使用标签的正则匹配模式,因为Grafana会自动将多个选项格式化为如“192.168.113.52:9100|192.168.113.70:9100”的形式。

使用Query类型的变量能够根据允许用户能够根据时间序列的特征维度对数据进行过滤。在定义Query类型变量时,除了使用PromQL查询时间序列以过滤标签的方式以外,Grafana还提供了几个有用的函数:

例如,当需要监控Prometheus所有采集任务的状态时,可以使用如下方式,获取当前所有采集任务的名称:

label_values(up, job)

例如,有时候我们想要动态修改变量查询结果。比如某一个节点绑定了多个ip,一个用于内网访问,一个用于外网访问,此时prometheus采集到的指标是内网的ip,但我们需要的是外网ip。这里我们想要能在Grafana中动态改变标签值,进行ip段的替换,而避免从prometheus或exporter中修改采集指标。

这时需要使用grafana的query_result函数

当在一个Panel中展示多条时间序列数据时,通过使用变量可以轻松实现对时间序列的过滤,提高用户交互性。除此以外,我们还可以使用变量自动生成Panel或者Row。 如下所示,当需要可视化当前系统中所有采集任务的监控任务运行状态时,由于Prometheus的采集任务配置可能随时发生变更,通过硬编码的形式实现,会导致Dashboard配置的频繁变更:

如下所示,这里为Dashboard定义了一遍名为job的变量:

通过使用label_values函数,获取到当前Promthues监控指标up中所有可选的job标签的值:

如果变量启用了Multi-value或者Include All Option选项的变量,那么在Panel的General选项的Repeat中可以选择自动迭代的变量,这里使用了Singlestat展示所有监控采集任务的状态:

Repeat选项设置完成后,Grafana会根据当前用户的选择,自动创建一个到多个Panel实例。 为了能够使Singlestat Panel能够展示正确的数据,如下所示,在Prometheus中,我们依然使用了 job 变量,不过此时的$job反应的是当前迭代的值:

最后的结果图如下,当我选择全部的时候,自动生成了6个Panel。

如果要开发pc程序,开发的是一款可视化的开发工具,学什么编程语言比较好?

非编程篇/可直接上手的工具

1. Excel

Excel是最容易上手的图表工具,善于处理快速少量的数据。结合数据透视表,VBA语言,可制作高大上的可视化分析和dashboard仪表盘。

单表或单图用Excel制作是不二法则,它能快速地展现结果。但是越到复杂的报表,excel无论在模板制作还是数据计算性能上都稍显不足,任何大型的企业也不会用Excel作为数据分析的主要工具。

2. 可视化 BI(Power BI \Tableau \ 帆软FineBI等等)

也许是Excel也意识到自己在数据分析领域的限制和眼下自助分析的趋势,微软在近几年推出了BI工具Power BI。同可视化工具Tableau和国内帆软的BI工具一样,封装了所有可能分析操作的编程代码,操作上都是以点击和拖拽来实现,几款工具的定位稍有不同。

Power BI

最大的明显是提供了可交互、钻取的仪表板,利用Power Pivot可直接生产数据透视报告,省去了数据透视表。

Tableau

可视化图表较为丰富,堪称一等, 操作更为简单。

帆软FineBI

企业级的BI应用,实用性较强,因2B市场的大热受到关注。千万亿级的数据性能可以得到保证,业务属性较重,能与各类业务挂钩。

对于个人,上手简单,可以腾出更多的时间去学习业务逻辑的分析。

编程篇

对于寻求更高境界数据分析师或数据科学家,如果掌握可视化的编程技巧,就可以利用数据做更多的事情。熟练掌握一些编程技巧,赋予数据分析工作更加灵活的能力,各种类型的数据都能适应。大多数设计新颖、令人惊艳的数据图几乎都可以通过代码或绘图软件来实现。

与任何语言一样,你不可能立刻就开始进行对话。要从基础开始,然后逐步建立自己的学习方式。很可能在你意识到之前,你就已经开始写代码了。关于编程最酷的事情在于,一旦你掌握了一门语言,学习其他语言就会更加容易,因为它们的逻辑思路是共通的。

1. Python语言

Python 语言最大的优点在于善于处理大批量的数据,性能良好不会造成宕机。尤其适合繁杂的计算和分析工作,而且,Python的语法干净易读,可以利用很多模块来创建数据图形比较受IT人员的欢迎。

利用 Python 生成的图表

2. PHP语言

PHP这个语言松散却很有调理,用好了功能很强大。在数据分析领域可以用php做爬虫,爬取和分析百万级别的网页数据,也可与Hadoop结合做大数据量的统计分析。

因为大部分 Web 服务器都事先安装了 PHP 的开源软件,省去了部署之类的工作,可直接上手写。

比如 Sparkline(微线表)库,它能让你在文本中嵌入小字号的微型图表,或者在数字表格中添加视觉元素,就像下面这张图一样:

利用 PHP 图形函数库生成的微线表

一般 PHP会和 MySQL 数据库结合使用,这使它能物尽其用,处理大型的数据集。

3. HTML、JavaScript 和 CSS语言

很多可视化软件都是基于web端的,可视化的开发,这几类语言功不可没。而且随着人们对浏览器工作越来越多的依赖,Web 浏览器的功能也越来越完善,借助 HTML、JavaScript 和 CSS,可直接运行可视化展现的程序。

可交互日历,同时也是用户使用 your.flowingdata 的热度图

不过还是有几点需要注意。由于相关的软件和技术还比较新,在不同浏览器中你的设计可能在显示上会有所差别。在 Internet Explorer 6 这类老旧的浏览器中,有些工具可能无法正常运行。比如一些银行单位仍旧使用着IE,无论是自己使用还是开发的时候都要考虑这样的问题。

4. R语言

R语言是绝大多数统计学家最中意的分析软件,开源免费,图形功能很强大。

谈到R语言的历史,它是专为数据分析而设计的,面向的也是统计学家,数据科学家。但是由于数据分析越来越热门,R语言的使用也不瘦那么多限制了。

R的使用流程很简洁,支持 R 的工具包也有很多,只需把数据载入到 R 里面,写一两行代码就可以创建出数据图形。比如利用 Portfolio 工具包快速创建出如下的板块层级图。

比如热度图


本文名称:go语言绘制图表 golang 图表
文章链接:http://myzitong.com/article/dojgicd.html