博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
将RDD中数据导入MYSQL
阅读量:3958 次
发布时间:2019-05-24

本文共 959 字,大约阅读时间需要 3 分钟。

 注意点

使用foreachPartition,减少了直接遍历rdd造成的多次创建JDBC连接开销

使用批量插入,代替单条插入

import org.apache.log4j.{Level, Logger}import org.apache.spark.{SparkConf, SparkContext}object Driver {  def main(args: Array[String]): Unit = {     Logger.getLogger("org").setLevel(Level.WARN)     val conf = new SparkConf().setMaster("local[2]").setAppName("Driver")     val ssc = new SparkContext(conf)     val rdd = ssc.parallelize(List(1,2,3,4))    try{      rdd.foreachPartition(itor=>{        val url = "jdbc:mysql://hadoop:3306/driver"        val con = DriverManager.getConnection(url,"root","1234")        val sql = "insert into dr values(?)"        val driver = con.prepareStatement(sql)        itor.foreach(x=>{          driver.setInt(1,x)          driver.addBatch()          //driver.executeUpdate()        })        driver.executeBatch()        driver.close()        con.close()      })    }catch {      case exception: Exception=>println(exception.getMessage)    }     ssc.stop()  }}

 

转载地址:http://gxazi.baihongyu.com/

你可能感兴趣的文章
2003应用
查看>>
文件上传组件比较
查看>>
关于MySQL select into 和 SQLServer select into
查看>>
搭建开发环境(初学liferay必看)
查看>>
Apache FileUpload文件上传组件API解析
查看>>
屏蔽usb的方法- -
查看>>
JSP编程进度条设计
查看>>
精心收集的面试笔试题库,网络上很难找到这么齐全的,推荐给大家
查看>>
教学视频
查看>>
JS操作Cookie详解
查看>>
Java正则表达式详解
查看>>
myeclipse 快捷键
查看>>
对div排序
查看>>
读写blob类型字段
查看>>
js类型转换
查看>>
spring实例化Bean理解
查看>>
Mac下配置JAVA_HOME
查看>>
fedora 安装mp3播放器插件
查看>>
赏心悦目的宏代码
查看>>
理解套接字recv(),send()
查看>>