Hive任务执行很慢，任务但是执行导入数据非常的快？

作者：软件架构 2020-04-17 14:23:12大数据 Hive使用Hadoop来执行查询，其查询执行速度是导入的快很慢的，但是数据使用load data向Hive中导入数据却非常快，这是非常因为Hive采取的是读时模式(Schema On Read)。

读时模式和写时模式

Hive使用Hadoop来执行查询，任务其查询执行速度是执行很慢的，但是导入的快使用load data向Hive中导入数据却非常快，这是数据因为Hive采取的是读时模式(Schema On Read)。

• 读时模式：读取数据的非常时候，对数据的任务类型、格式做检查;
• 写时模式：写入数据的执行时候，对数据的导入的快类型、格式等规范做检查;

将数据存到Hive的数据数据表时，Hive采用的非常是“读时模式”，意思是针对写操作不会做任何校验，只是简单的将文件复制到Hive的表对应的HDFS目录。跟“读时模式”相对应的是“写时模式”，RDBMS一般采用“写时模式”，在将数据写入到数据表的时候会检查每一条记录是否合法，如果检查不通过会直接返回失败信息。

 

[[322621]]

由于向Hive中存入数据的只是简单的文件复制和粘贴，所以导入数据速度非常的快。当读取、查询的时候，才会根据表模式来解释数据，这个时候如果遇到了不符合模式的数据，Hive会直接将数据解析成NULL。

读时模式的好处

Hive采用读时模式带来了以下几个好处：

• 向Hive表中新增数据非常的快，通常情况下对于外来数据，采用的方法是直接用Hadoop命令将文件上传到一个HDFS目录，Hive直接读这个目录;
• 一份数据可以被解析成多种模式，存储在Hive表中的数据跟Hive本身没有关系，数据也可以被其他工具比如Pig来处理;

导入数据

hive> load data local inpath '/root/usr.data' into table usr; 

 

 

 

责任编辑：未丽燕 来源： 今日头条 HiveHadoop数据

(责任编辑：休闲)