如何通过在hive分区表中选择另一个列来覆盖列值

Question

嗨，如何通过在hive中选择相同的分区表来覆盖列值。

我通过执行以下查询创建了表

CREATE TABLE user (fname string,lname string) partitioned By (day int);

在将数据插入表后，我插入数据。我执行了选择查询，如下所示：

AA  AA  20170201
BB  BB  20170201
CC  CC  20170201
DD  DD  20170202
EE  EE  20170203

根据我的要求，我想在我添加的以下查询的帮助下，在我的表（用户）中再添加一列。

ALTER TABLE user ADD COLUMNS ( day2 int);

添加列后，我的表格如下所示

AA  AA  NULL    20170201
BB  BB  NULL    20170201
CC  CC  NULL    20170201
DD  DD  NULL    20170202
EE  EE  NULL    20170203

但我想要这样的桌子。

AA  AA  20170201    20170202
BB  BB  20170201    20170202
CC  CC  20170201    20170202
DD  DD  20170202    20170202
EE  EE  20170203    20170203

所以我执行了以下查询。

insert overwrite table user partition (day)
select
    fname,
    lname,
    day as day2,
    case 
        when day <= 20170202 then 20170202
        when day > 20170202 then day
    end as day
from user;

然后我执行了如下选择查询

select * from user;

结果是：

AA  AA  NULL    20170201
BB  BB  NULL    20170201
CC  CC  NULL    20170201
AA  AA  NULL    20170202
BB  BB  NULL    20170202
CC  CC  NULL    20170202
DD  DD  NULL    20170202
EE  EE  NULL    20170203

为什么我得到空值。可以请让我知道我错过了什么，让如何实现这一点

   AA   AA  20170201    20170202
    BB  BB  20170201    20170202
    CC  CC  20170201    20170202
    DD  DD  20170202    20170202
    EE  EE  20170203    20170203

Answer 1

遵循分区 Hive 表的行为，HiVE 的架构定义在分区级别进行维护。因此，较旧的分区可能尚未收到架构更新。

详细查询

hive> drop table test_insert;
OK
hive> CREATE TABLE test_insert (fname string,lname string) partitioned By (day int);
OK
hive> insert into test_insert partition (day=20170202) values('f','l');
OK
hive> insert into test_insert partition (day=20170203) values('f','l');
OK
hive> select * from test_insert;
OK
f   l   20170202
f   l   20170203
Time taken: 0.148 seconds, Fetched: 2 row(s)
hive> ALTER TABLE test_insert ADD COLUMNS ( day2 int);
OK
Time taken: 0.193 seconds
hive> select * from test_insert;
OK
   f    l   NULL    20170202
   f    l   NULL    20170203

此时，请注意分区表的模式是在分区级别维护的，应该遵循分区模式，而不是表模式。

请注意此处列中的差异。ALTER未更改现有分区的列定义。

  hive> describe formatted test_insert;
    OK
    # col_name              data_type               comment             

    fname                   string                                      
    lname                   string                                      
    day2                    int                                         

    # Partition Information      
    # col_name              data_type               comment             

    day                     int    

    hive> describe formatted test_insert partition (day=20170202);
    OK
    # col_name              data_type               comment             

    fname                   string                                      
    lname                   string                                      

    # Partition Information      
    # col_name              data_type               comment             

    day                     int                           

修改了上面的查询，创建了新的分区，这样模式将从表中复制到新创建的分区中。

 hive> insert overwrite table test_insert partition (day)
        > select
        >     fname,
        >     lname,
        >     day as day2,
        >     case 
        >         when day <= 20170202 then 19999999
        >         when day > 20170202 then day
        >     end as day
        > from test_insert;


    hive> select * from test_insert;
    OK
    f   l   20170202    19999999
    f   l   NULL    20170202
    f   l   NULL    20170203
    Time taken: 0.224 seconds, Fetched: 3 row(s)

希望这很清楚。！如果您想更改所有现有分区的架构，请尝试以下命令，然后尝试插入。

ALTER TABLE test_insert  partition(day) ADD COLUMNS ( day2 string);