1.Hive 编程专题之 - 自定义函数 Java 篇
2.beehive 源码阅读- go 语言的入口自动化机器
3.大数据笔试真题集锦---第五章:Hive面试题
4.你真的了解Lateral View explode吗？--源码复盘
5.深入源码分析下 HIVE JDBC 的超时机制及其如何配置 socketTimeOut
Hive 编程专题之 - 自定义函数 Java 篇
Hive函数分为内置函数与自定义函数，内建函数包括字符、源码源码数值、解析日期与转换等类型。入口
自定义函数类似于传统商业数据库中的源码源码编译函数，如SQL Server中使用C#解决内建函数无法解决的解析社区游戏 源码问题，Oracle中则使用Java编写的入口Jar扩展功能，Hive中的源码源码自定义函数同样依赖Jar，提供Java编写程序以处理内置函数无法达到的解析功能。
使用Java编写Hive自定义函数步骤包括：
1. 常看所有内置与自定义函数。入口
2. Java或Scala编写自定义函数。源码源码
3. 使用Eclipse或其他Java编辑工具生成JAR文件。解析
4. 将生成的入口JAR文件放置于HDFS中，Hive即可应用。源码源码
5. 使用Java编写简单的解析Hive自定义函数，步骤如下：
5.1 使用Eclipse建立Maven项目。
5.2 引入特定的Hive/Hadoop JAR。
5.3 从Hive源代码或Hadoop基类库中寻找所需库。
5.4 编写简单的大写转换函数。
5.5 导出Eclipse，导入Hive类路径。
5.6 定义Hive函数，构造方法源码需带上全路径，即类的包路径。
5.7 修改Java代码，再执行相关步骤。
通过以上步骤，成功使用Java编写一个供Hive调用的函数。
beehive 源码阅读- go 语言的自动化机器
beehive源码深入解析：Go语言中的自动化机器设计
beehive的核心模块系统在包<p>bees</p>中体现其独特的解耦设计，这使得系统操作简便且易于扩展。只需要少量的学习，就能扩展自己的beehive功能。这里的"bee"代表Worker，执行具体任务，类似于采蜜的工蜂；而"hive"则是一个WorkerPool的工厂，通过简单配置（如一个token）即可创建针对特定任务的bee。
"chain"是连接事件和处理的关键，它将事件（如博客更新）与响应（如发送邮件）关联起来，通过事件通道（eventChan）触发并执行相应的action。WebBee的实现展示了如何在Run方法中接收事件并唤醒相应的bee，同时ServeHTTP函数负责press"="gzip"。
5.5 内部表和外部表
外部表使用external关键字和指定HDFS目录创建。 内部表在创建时生成对应目录的海柔源码文件夹，外部表以指定文件夹为数据源。 内部表删除时删除整个文件夹，外部表仅删除元数据。5.6 分区表和分桶表
分区表按分区字段拆分存储，避免全表查询，提高效率。 动态分区通过设置参数开启，根据字段值决定分区。 分桶表依据分桶字段hash值分组拆分数据。5.7 行转列和列转行
行转列使用split、explode、laterview，列转行使用concat_ws、collect_list/set。5.8 Hive时间函数
from_unixtime、unix_timestamp、to_date、month、weekofyear、quarter、trunc、大成指标源码current_date、date_add、date_sub、datediff。 时间戳支持转换和截断，标准格式为'yyyy-MM-dd HH:mm:ss'。 month函数基于标准格式截断，识别时截取前7位。5.9 Hive 排名函数
row_number、dense_rank、rank。5. Hive 分析函数：Ntile
效果：排序并分桶。 ntile(3) over(partition by A order by B)效果，可用于取前%数据统计。5. Hive 拉链表更新
实现方式和优化策略。5. Hive 排序
order by、order by limit、sort by、sort by limit的原理和应用场景。5. Hive 调优
减少distinct、优化map任务数量、html付费源码并行度优化、小文件问题解决、存储格式和压缩格式设置。5. Hive和Hbase区别
Hive和Hbase的区别，Hive面向分析、高延迟、结构化，Hbase面向编程、低延迟、非结构化。5. 其他
用过的开窗函数、表join转换原理、sort by和order by的区别、交易表查询示例、登录用户数量查询、动态分区与静态分区的区别。你真的了解Lateral View explode吗？--源码复盘
深入剖析 Lateral View explode，揭开其神秘面纱 长时间与 Lateral View explode 相伴，却发现对它的了解尚浅，不禁自问，是否真的理解它的全貌？ Lateral View 与 UDTF 函数携手，通过 UDTF 对每条输入行产生零到多条输出行，Lateral View 则在基表的每条输入行应用 UDTF 后，通过连接结果输出行与输入行生成具有指定表别名的虚拟表。 在 Hive 源码中，UDTF 函数继承自 GenericUDTF.java，共包含八种，其中最常用的便是 explode。在面试场合，如果被问及 Lateral View explode 会不会产生 shuffle，你是否能毫不犹豫、确信无疑地给出答案？ 让我们一同探讨 Lateral View explode 的底层逻辑。 首先，观察如下 SQL 语句，不需赘述，其目的清晰明了，接下来，我们探视其执行计划。 执行计划揭示了 SQL 经历的两条路径，它们分别是：TableScanOperator：常规读取表操作
LateralViewForwardOperator：处理 Lateral View 的核心步骤，其功能为告知：左侧 SelectOperator 筛选出非 explode 的列（id,sq）；右侧 SelectOperator 筛选出 explode 的列（split(sq, ',')）；右侧 UDTFOperator 负责复杂逻辑，代码内隐含着秘密。
在 GenericUDTFExplode.java 类中，我们能轻易理解 Lateral View explode 的实现原理：输出行中来自 UDTF 的列被设置为 NULL 的情况通过 outer 关键字处理。 为何引入 outer 关键字？当 UDTF 不生成任何行时，如输入列为空，LATERALVIEW 将不产生任何输出行，进而原有行无法出现在结果中。outer 关键字能防止这种情况发生，确保输出行得到正确处理。 通过观察结果，我们能直观理解 LATERALVIEW 如何处理空值情况：当没有值时，返回，不会转发，不进行转发则数据无法传递至下一个算子，因而无法输出。 那么，outer 是如何处理的？UDTF 利用 UDTFCollector 展开结果，并进行转发。 在 LateralViewJoinOperator 中，处理逻辑简洁明了，这里的 join 操作实质上是两份数据的连接，并非真正的 join。 在日常工作与 Lateral View explode 相关时，要注意 outer 与不使用 outer 的区别，切勿因小失大，导致数据丢失。 我们不禁思考，为何 hive 设计 Lateral View explode 这样复杂？答案在于解耦，UDTF 可单独使用，也可与 Lateral View 结合，用户甚至可以定制自己的 UDTF。这一切得益于 Hive 灵活的设计理念。 探索 Lateral View explode 的过程，是对自我的一次深刻反思与学习，我们在此道路上不断前行，期待与你共同成长。深入源码分析下 HIVE JDBC 的超时机制及其如何配置 socketTimeOut
深入源码分析下HIVE JDBC的超时机制及其配置方法，首先，从一个常见的问题出发，即当HIVE JDBC连接在操作过程中遇到SocketTimeoutException时，这通常意味着操作超时。接下来，让我们回顾JDBC超时机制的相关参数和接口。
在JDBC中，超时机制主要通过setStatementTimeout和setConnectionTimeout这两个方法实现。setStatementTimeout用于设置SQL语句的超时时间，而setConnectionTimeout用于设置整个连接的超时时间。它们的单位都是毫秒。
在HIVE JDBC中，由于其基于Thrift进行通信，因此对socket级别的超时管理更为复杂。HiveStatement中的thrift socket timeout是通过配置实现的，通过深入源码分析，可以发现thrift socket timeout的值被赋值给HiveStatement实例。当应用程序直接创建和管理HIVE JDBC连接时，需要在创建HiveStatement实例时设置这个属性，以确保socket级别操作的超时时间得到正确配置。
如果应用程序通过数据库连接池进行连接管理，那么配置HiveStatement中的thrift socket timeout的过程会更复杂。通常，需要在连接池的配置中，为HIVE JDBC连接指定socket级别的超时属性，然后在使用连接时确保HiveStatement实例正确引用了这些配置。
通过以上分析，我们可以总结出在不同场景下配置HIVE JDBC socket级别的超时机制的方法。对于直接管理连接的应用程序，需要在创建HiveStatement实例时直接设置socket timeout属性。而对于使用数据库连接池的应用程序，则需要在连接池的配置阶段为HIVE JDBC连接指定socket级别的超时属性，然后确保在使用连接时HiveStatement实例正确引用了这些配置。
总之，HIVE JDBC的超时机制及其配置方法涉及到多个层面的参数和接口，理解并正确配置它们对于确保应用程序的稳定性和响应速度至关重要。通过源码分析和实践操作，可以实现对HIVE JDBC socket级别的超时管理，从而优化应用程序性能。
