scala语言使用spark df处理数据后写入elasticsearch

来源:1-4 Flink概述

weixin_慕婉清8312793

2019-04-01

scala语言使用spark df处理数据后写入elasticsearch,
之前我都是用jestClient写入的 ,但是有问题,数据丢失 ,然后我看官网 es支持spark直接往es里写数据 ,但是我用df 处理完数据后 写不进去 。。。。。老师能给个基本思路吗?

写回答

2回答

Michael_PK

2019-04-01

这个只需要借助于spark的外部数据源的ES插件,就可以写进去,我司生产上就是这么用的,并没有发现任何的数据丢失

0
2
weixin_慕婉清8312793
非常感谢!
2019-04-03
共2条回复

慕勒700429

2019-04-01

首先先把数据show一下,看看处理完数据之后有没有结果;其次,你的Spark版本也说一下;最好把代码粘贴过来,我们好定位问题所在。

0
0

新一代大数据计算引擎 Flink从入门到实战

入行或转型大数据新姿势,多语言系统化讲解,极速入门Flink

969 学习 · 296 问题

查看课程