天天看點

pyspark擷取HIVE表中最新dt

擷取通用最新dt

df = sqlContext.table("db_name.table_name")
df_dates = df.select('dt').distinct().orderBy(df['dt'].desc())
lat_date_dict=df_dates.first().asDict()
lat_dt=lat_date_dict['dt']