问题描述

sqoop拉取mysql数据到hive中出现现象

  • mysql数据到hive结构不对了,被打散了,变成一行一行中只有第一列有数据,其他均为null。
  • 或者压根就直接报错sqoop Opening field-encloser expected at position 0

出现原因

因为mysql某个字段中出现换行符,导致数据拉取时出现还没有拉去完直接进行了换行,算作下一行数据的开头。

解决办法

再sqoop拉取命令中加上这样一个命令

  • --hive-drop-import-delims
  • 这条命令的意思是,指定导入时删除hive的默认分隔符: \n, \r, and \01
Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐