Oushu Database 3.1.0新特性 (发布日期:2018年3月6日) -------------------------------------------------------------- Oushu Database 3.1.0版本比Oushu Database 3.0.1版本有如下新特性增强: * 新执行器新增对limit操作符的支持。 * 新执行器新增对sort操作符的支持。 * 新执行器新增对max/min聚集函数的支持。 * 新执行器新增内置的欧氏距离函数。 * 新执行器针对scan操作符加入了性能优化。 * 新执行器针对聚集函数加入了性能优化。 * ORC格式的外部表text列支持dictionary encoding。 * 修复了一些ORC文件社区兼容性的问题。 * ORC表支持更多的数据类型,包括bool, char, varchar, bytea, date, time, timestamp和array。 * ORC表支持分区表。 * ORC格式的外部表支持并发读写。 * 关键Bug fixes. * oushu-17 : Coredump issue when querying ORC large table with text column * oushu-22 : Group by performance issue * oushu-350 : Hdfs external table nameservice is case sensitive. * oushu-374 : Cancel in new executor has adverse effect on next query * oushu-421 : Memory leak in new executor 下表给出了Oushu Database 3.1.0版本支持的操作系统。 .. list-table:: :widths: auto :header-rows: 1 * - 操作系统 - 版本 * - Redhat/Centos - 7.0 * - Redhat/Centos - 7.1 * - Redhat/Centos - 7.2 * - Redhat/Centos - 7.3 从3.0.1升级到3.1.0 ++++++++++++++++++++++++++ 1. 在master节点关闭hawq 3.0.1集群 :: sudo su gpadmin hawq stop cluster -a 2. 在所有hawq节点上备份 hawq3.0.1的设置 :: hawq ssh -f hostfile -e 'cp -rf $GPHOME/etc ~/' 3. 在每个hawq节点上安装hawq 3.1.0的yum源 3.1 系统包含avx指令请配置以下YUM源: :: hawq ssh -f hostfile -e 'sudo wget -O /etc/yum.repos.d/oushu-database.repo $获取的repo地址' hawq ssh -f hostfile -e 'sudo wget -O /etc/yum.repos.d/oushu-database-utils.repo $获取的repo地址' hawq ssh -f hostfile -e 'sudo yum makecache' 3.2 系统不包含avx指令请配置以下YUM源: :: hawq ssh -f hostfile -e 'sudo wget -O /etc/yum.repos.d/oushu-database.repo $获取的repo地址' hawq ssh -f hostfile -e 'sudo wget -O /etc/yum.repos.d/oushu-database-utils.repo $获取的repo地址' hawq ssh -f hostfile -e 'sudo yum makecache' 4. 在每个hawq节点上安装hawq 3.1.0的rpm包 :: hawq ssh -f hostfile -e 'sudo yum remove -y hawq' sudo yum install -y hawq hawq ssh -f hostfile -e 'sudo yum install -y hawq' 5. 配置每个hawq节点 :: hawq ssh -f hostfile -e 'cp -rf ~/etc/* $GPHOME/etc/' 6. 安装欧式距离函数(通过升级方式安装的欧式距离只支持老执行器,新执行器需要重新初始化集群) 1) 在master节点上配置集群到升级模式 :: hawq start cluster hawq config -c upgrade_mode -v on --skipvalidation hawq restart cluster -a 2) 在master节点上的template1库的pg_catalog.pg_proc表上安装欧式距离函数,在$GPHOME/etc/hawq-site.xml文件中找到$hawq_master_address_port的值,用其实际值替换命令中的$hawq_master_address_port :: PGOPTIONS='-c gp_session_role=utility' psql -a -p $hawq_master_address_port -d template1 -f $GPHOME/share/postgresql/array_distance_install.sql > array_distance_install.out 2>&1 3) 在每个segment节点的template1库的pg_catalog.pg_proc表上安装欧式距离函数,在$GPHOME/etc/hawq-site.xml文件中找到$hawq_segment_address_port的值,用其实际值替换命令中的$hawq_segment_address_port :: source /usr/local/hawq/greenplum_path.sh PGOPTIONS='-c gp_session_role=utility' psql -a -p $hawq_segment_address_port -d template1 -f $GPHOME/share/postgresql/array_distance_install.sql > array_distance_install.out 2>&1 4) 在master节点上将集群配置为普通模式 :: hawq config -c upgrade_mode -v off --skipvalidation hawq restart cluster -a 5) 在master节点获取数据库用户名称 :: psql -a -d template1 -c "select datname from pg_database where datname not in ('hcatalog', 'template0', 'template1') order by datname;" 6) 在master节点的每个数据库的pg_catalog.pg_proc表中安装欧式距离函数 :: psql -a -d $user_database_name -f $GPHOME/share/postgresql/array_distance_install.sql > array_distance_install.out 2>&1 7) 在master节点重启集群 :: hawq restart cluster -a