用友UAP解开非结构化大数据处理与分析的密码

在大数据备受关注的今天，企业不能盲从，而是应该明白大数据为什么会如此之热，为什么去关注它。其中一个重要原因就是，大数据不同于普通数据，它增加了很多半结构化数据和非结构化数据，并且其数量级和价值不可同日而语。

IDC的报告显示，目前大数据的1.8万亿GB容量中，非结构化数据占到了80%~90%之间，并且到2020年将以44倍的发展速度增长。如果说结构化数据用详实的方式记录了企业的生产交易活动，那么非结构化数据则是掌握企业命脉的关键内容，所反映的信息蕴含着诸多企业效益提高的机会。因此，只有解决非结构化数据的分析困难，才能有效挖掘这些数据背后的价值，驱动企业价值提升。

提到大数据相关的技术，很多内行人士一定会联想到Hadoop。因为Hadoop是一种分布式数据和计算的框架，它很擅长存储大量的半结构化的数据集。适用于大规模集群上的海量数据处理，使得程序员可以轻松地编写分布式并行程序，并将其运行于计算机集群上，完成大规模数据的计算。
用友基于Hadoop开源产品体系发布UDH产品，并围绕UDH开发了一系列解决企业大数据应用需求的管理工具和集成、开发、展现组件。使企业可实现大规模结构化、非结构化数据的集中、一体化的分析处理需求。

专门为大型企业与组织提供计算平台的用友UAP，包含了开发平台、集成平台、动态建模平台、商业分析平台、数据平台、轻量平台、云管理平台、移动应用平台、WEB平台、RIA平台、社交平台等多个领域产品。其中数据平台具备了大数据处理与分析的能力，它主要依靠非结构化数据处理平台UDH（UAP Distribute for Hadoop）来完成。UDH包括分布式文件系统、列存数据库，涵盖分布式批处理、实时分析查询、流处理和基于内存的分布式批处理的分布式分析计算框架类，以及分布式数据挖掘。

UDH产品架构

用友UAP数据平台中的UDH是从一个整合性解决方案角度，帮企业去节省大部分的集群管理、服务监控、部署方面的成本。使用UDH，会把整个系统的人力投入降到1到2个工程师就可以去运维一个相当大规模的一个集群。通常即便企业由较大的技术团队和较强的技术力量储备，也需要数月甚至一年以上时间，使用UDH，可以把时间缩短到一个月左右。这对企业来讲是非常重要的，因为它意味着更小的成本、更快的投资回报。

UDH平台基于开源hadoop，hive，storm、Spark等进行了优化，涵盖大规模非结构化数据集成、存储和分析计算。集成YARN,支持多种分布式计算框架(MapReduce， Spark、Storm等)，同时提供更高效的存储结构。单集群可达100台以上，可管理PB级数据。

用友UAP的UDH在非结构化数据的实时计算和分析上具有独特的技术优势。

第一，多集群实时计算。UDH可达到秒级延迟，异常情况在几秒内就能检测到。 可处理的数据量大，总流量至少达到100Gb/s。UDH可提供5个集群，900个节点，每个节点2-4个slot。可以合理利用云存储的空闲资源。UDH可实时进行日志统计、网页分析、图片处理、人脸识别等。每天处理约数据量120TB，200亿条；

第二，实时分析。UDH采用的是流式处理，不用攒一大批数据再批处理。数据在内存中，不经过磁盘。UDH十分灵活，采用DAG计算模型，可以根据业务需要增减bolt组合计算流程。 UDH支持大吞吐量，单集群一个topology每个bolt 10个并发，处理10Gb/s。并且在10秒内就可以检测到异常访问；

第三，非结构化数据即席分析。UDH支持大部分Hive Query Language (HiveQL)的SQL-92特性，包括查询、连续和聚合等；支持文本、SequenceFile、RCFile、Avro file和Parquet等文件格式。支持Snappy、GZIP、Deflate和BZIP等压缩算法。采用通用的查询接口：ODBC/JDBC，Hue Beeswax和Cloudera Impala Query UI。提供命令行接口以及Kerberos安全认证；

第四，内存分析计算。如果完全在内存中计算，UDH比Hadoop MapReduce快100倍以上；如果包含磁盘数据，则快10倍以上。支持循环数据流和内存计算。可使用编程语言Java，Scala或者Python。可利用它包含的80多个函数快速开发分布式应用。提供了Scala和Python的Shell接口。

另外，非结构化数据还有安全和稳定性方面的风险。特别麻烦的是在HA的部分，企业用户如果对Hadoop整个产品体系的发展、演变和技术架构不是很熟悉的情况下，要部署HA，十分困难。安全的部分，如何实现对数据的强认，也相当复杂，极易出错的一些设定和时限步骤。通过使用用友UAP的UDH，这些东西统统做成自动化，用户基本上不会感觉到什么问题。