目录
0、 相关文章链接;
1、 select算子;
2、 where算子;
3、 distinct算子;
4、 groupby算子;
5、 union算子和unionall算子;
6、 join算子;
7、 groupwindow算子;
7、 1.tumblewindow算子;
7、 2.hopwindow算子;
7、 3.sessionwindow算子;
0. 相关文章链接
[Flink文章汇总][Flink]
1. select算子
SELECT 用于从 DataSet/DataStream 中选择数据,用于筛选出某些列。
示例:
```java // 取出表中的所有列 SELECT * FROM Table; // 取出表中 name 和 age 两列 SELECT name,age FROM Table;
>
>与此同时 SELECT 语句中可以使用函数和别名,例如我们上面提到的 WordCount 中:
>
>SELECT word, COUNT(word) FROM table GROUP BY word;
## 2. where算子 ##
>WHERE 用于从数据集/流中过滤数据,与 SELECT 一起使用,用于根据某些条件对关系做水平分割,即选择符合条件的记录。
>
>示例:
>
> ```java
> SELECT name,age FROM Table where name LIKE ‘% 小明 %’;
>
> SELECT * FROM Table WHERE age = 20;
WHERE 是从原数据中进行过滤,那么在 WHERE 条件中,Flink SQL 同样支持 =、<、>、<>、>=、<=,以及 AND、OR 等表达式的组合,最终满足过滤条件的数据会被选择出来。并且 WHERE 可以结合 IN、NOT IN 联合使用。举个例子:
```java SELECT name, age FROM Table WHERE name IN (SELECT name FROM Table2);
## 3. distinct算子 ##
>DISTINCT 用于从数据集/流中去重根据 SELECT 的结果进行去重。
>
>示例:
>
> ```java
> SELECT DISTINCT name FROM Table;
对于流式查询,计算查询结果所需的 State 可能会无限增长,用户需要自己控制查询的状态范围,以防止状态过大。
4. group by算子
GROUP BY 是对数据进行分组操作。例如我们需要计算成绩明细表中,每个学生的总分。
示例:
```java SELECT name, SUM(score) as TotalScore FROM Table GROUP BY name;
## 5. union算子 和 union all算子 ##
>UNION 用于将两个结果集合并起来,要求两个结果集字段完全一致,包括字段类型、字段顺序。
>
>不同于 UNION ALL 的是,UNION 会对结果数据去重。
>
>示例:
>
> ```java
> SELECT * FROM T1 UNION (ALL) SELECT * FROM T2;
6. join算子
JOIN 用于把来自两个表的数据联合起来形成结果表,Flink 支持的 JOIN 类型包括:
```java join - inner join left join - left outer join right join - right outer join full join - full outer join
>
>这里的 JOIN 的语义和我们在关系型数据库中使用的 JOIN 语义一致。
>
>示例:
>
>JOIN(将订单表数据和商品表进行关联)
>
> ```java
> select * from orders inner join product on orders.productid = product.id
LEFT JOIN 与 JOIN 的区别是当右表没有与左边相 JOIN 的数据时候,右边对应的字段补 NULL 输出,RIGHT JOIN 相当于 LEFT JOIN 左右两个表交互一下位置。FULL JOIN 相当于 RIGHT JOIN 和 LEFT JOIN 之后进行 UNION ALL 操作。
示例:
```java select * from orders left join product on orders.productid = product.id select * from orders right join product on orders.productid = product.id select * from orders full outer join product on orders.productid = product.id
## 7. group window算子 ##
根据窗口数据划分的不同,目前 Apache Flink 有如下 3 种 Bounded Window:
Tumble,滚动窗口,窗口数据有固定的大小,窗口数据无叠加;
Hop,滑动窗口,窗口数据有固定大小,并且有固定的窗口重建频率,窗口数据有叠加;
Session,会话窗口,窗口数据没有固定的大小,根据窗口数据活跃程度划分窗口,窗口数据无叠加。
### 7.1. tumble window算子 ###
Tumble 滚动窗口有固定大小,窗口数据不重叠,具体语义如下:
![ ][nbsp]
>Tumble 滚动窗口对应的语法如下:
>
> ```java
> select
> *** [gk],
> [tumble_start(timecol, size)],
> [tumble_end(timecol, size)],
> agg1(col1),
> *** ...
> aggn(coln)
> from tab1
> group by [gk], tumble(timecol, size)
其中:
[gk] 决定了是否需要按照字段进行聚合;
TUMBLE_START 代表窗口开始时间;
TUMBLE_END 代表窗口结束时间;
timeCol 是流表中表示时间字段;
size 表示窗口的大小,如 秒、分钟、小时、天。
举个例子,假如我们要计算每个人每天的订单量,按照 user 进行聚合分组:
```java select user, tumble_start(rowtime, interval '1' day) as wstart, sum(amount) from orders group by tumble(rowtime, interval '1' day), user;
### 7.2. hop window算子 ###
Hop滑动窗口和滚动窗口类似,窗口有固定的 size,与滚动窗口不同的是滑动窗口可以通过 slide 参数控制滑动窗口的新建频率。因此当 slide 值小于窗口 size 的值的时候多个滑动窗口会重叠,具体语义如下:
![ ][nbsp 1]
>Hop 滑动窗口对应语法如下:
>
> ```java
> select
> *** [gk],
> [hop_start(timecol, slide, size)] ,*
> [hop_end(timecol, slide, size)],
> agg1(col1),
> *** ...
> aggn(coln)
> from tab1
> group by [gk], hop(timecol, slide, size)
每次字段的意思和 Tumble 窗口类似:
[gk] 决定了是否需要按照字段进行聚合;
HOP_START 表示窗口开始时间;
HOP_END 表示窗口结束时间;
timeCol 表示流表中表示时间字段;
slide 表示每次窗口滑动的大小;
size 表示整个窗口的大小,如 秒、分钟、小时、天。
举例说明,我们要每过一小时计算一次过去 24 小时内每个商品的销量:
```java select product, sum(amount) from orders group by product,hop(rowtime, interval '1' hour, interval '1' day)
### 7.3. session window算子 ###
会话时间窗口没有固定的持续时间,但它们的界限由 interval 不活动时间定义,即如果在定义的间隙期间没有出现事件,则会话窗口关闭。
![ ][nbsp 2]
>Seeeion 会话窗口对应语法如下:
>
> ```java
> select
> *** [gk],
> session_start(timecol, gap) as winstart,*
> session_end(timecol, gap) as winend,
> *** agg1(col1),
> ****...
> aggn(coln)
> from tab1
> group by [gk], session(timecol, gap)
[gk] 决定了是否需要按照字段进行聚合;
SESSION_START 表示窗口开始时间;
SESSION_END 表示窗口结束时间;
timeCol 表示流表中表示时间字段;
gap 表示窗口数据非活跃周期的时长。
例如,我们需要计算每个用户访问时间 12 小时内的订单量:
```java select user, session_start(rowtime, interval ‘12’ hour) as sstart, session_rowtime(rowtime, interval ‘12’ hour) as send, sum(amount) from orders group by session(rowtime, interval ‘12’ hour), user
--------------------
**注:其他相关文章链接由此进 ->**[Flink文章汇总][Flink]
--------------------
版权声明:本文不是「本站」原创文章,版权归原作者所有 | [原文地址:][Link 1]
[Flink]: https://blog.csdn.net/yang_shibiao/article/details/122570051
[nbsp]: https://cloud.cxykk.com/images/2024/2/6/109/1707185362427.png
[nbsp 1]: https://cloud.cxykk.com/images/2024/2/6/109/1707185369115.png
[nbsp 2]: https://cloud.cxykk.com/images/2024/2/6/109/1707185375927.png
[Link 1]: https://yangshibiao.blog.csdn.net/article/details/122632226