-
传统企业在大数据分析上所面临的关键问题
所属栏目：[大数据] 日期：2020-12-30 热度：200
实现数据驱动有两个关键环节：一是数据采集，二是数据分析。对于传统企业来说，往往是这两点都不太具备条件。? 数据采集的痛点 前一段知乎上有人提问，说大家都在讨论大数据与互联网、金融、政府等领域的结合，为什么谈农业大数据的这么少？相关的公司这么[详细]
-
![[bigdata-017] 用Hive操作hbase](/uploads/allimg/c200705/15939294LM5F-11J3.gif)
[bigdata-017] 用Hive操作hbase
所属栏目：[大数据] 日期：2020-12-30 热度：102
1. 在hbase创建一个表 ivt_mny_pro 2. 在hive创建一个外部表ivt_mny_pro_2_hive create external table ivt_mny_pro_2_hive(key string,idx bigint,beginTime timestamp,endTime timestamp,userid string) row format serde 'org.apache.hadoop.hive.hbase[详细]
-
FP-Growth序列频繁模式挖掘
所属栏目：[大数据] 日期：2020-12-30 热度：70
副标题#e# 1算法设计目标 输入不同的命令是用户使用Linux服务器的基本途径，通过长时间采集不同用户在使用服务器过程中所使用的命令序列，挖掘其中频繁出现的命令序列，可以帮助我们了解用户使用该服务器的基本规律。 此外，如果存在多台服务器，那么我们可[详细]
-
Kahan#39;s Summation Formula原理—它是如何避免大数吃小数的
所属栏目：[大数据] 日期：2020-12-30 热度：198
Kahan求和公式原理： ? ? ? ?首先，这个算法就是用来求和的，求a1+a2+a3+...为什么不直接相加呢，而要用Kahan求和公式呢，这个算法的用武之地在哪呢，一一道来 ? ? ? ?kahan求和算法能避免大数吃小数的情况。 ? ? ? ?大数吃小数是什么意思呢？举个例子，我[详细]
-
盘点丨2016年乐视开过的发布会和许chui过的愿niu景bi
所属栏目：[大数据] 日期：2020-12-30 热度：95
在辞旧迎新之际，2016盘点系列也将接近尾声，今天我们来盘点一下乐视在2016年开过的那些发布会和许chui过的愿niu景bi。 北京时间1月12日，乐视在北京798艺术区召开主题为“生态世界”的全球品牌升级新闻发布会，公布了乐视生态及7大子生态的全新Logo，宣布[详细]
-
Algorithm学习笔记 --- 寻找 K 大数
所属栏目：[大数据] 日期：2020-12-30 热度：110
Q： 给你一个无序的序列，要你找出第K大的数是什么？ Answer： Answer 1： 利用Hash，桶排序等方式，是第一个想到的（编程珠玑中所记） 假设数列中最大数为max，最小数为min，那么首先做一个数组长度为max – min + 1， 然后做散列函数为an – min，对于冲[详细]
-
[bigdata]小象幫幫忙，Hadoop 能幫什麼忙？
所属栏目：[大数据] 日期：2020-12-30 热度：138
https://dotblogs.com.tw/rickyteng/2012/12/11/85556 [bigdata]小象幫幫忙，Hadoop 能幫什麼忙？ Hadoop 文獻探討 微軟巨量資料策略轉向，全面支援Hadoop http://www.ithome.com.tw/itadm/article.php?c=77576 微軟表示，全面支援 Apache Hadoop，這消息[详细]
-
资讯 |大数据统计分析教学培训班（第二轮通知）
所属栏目：[大数据] 日期：2020-12-30 热度：189
大数据统计分析教学培训班 暨首届高校青年教师统计教学创新研讨会 第二轮通知 尊敬的老师和同学，您好！ 自此次培训班/研讨会第一轮通知发出至今，得到了广大青年教师、研究生与高年级本科的积极响应，来信或来电咨询，报名踊跃。今天再发一次通知，对培训[详细]
-
[bigdata-015] apache nifi 官方文档摘要
所属栏目：[大数据] 日期：2020-12-30 热度：148
1NIFI概览|NIFIOverView 1.1NIFI是什么|Whatis Apache NIFI NIFI的设计目标，是让各系统之间自动进行数据流交换。企业通常有多个系统，有的系统生产数据，有的系统消费数据。dataflow。 dataflow涉及到的主要问题： 系统失效：网络失效，硬盘失效，软件崩[详细]
-
A-B Problem 大数相等
所属栏目：[大数据] 日期：2020-12-27 热度：116
A-B Problem http://acm.nyist.net/JudgeOnline/problem.php?pid=524 时间限制：1000?ms ?|? 内存限制：65535?KB 难度：3 输入 有多组测试数据。每组数据包括两行，分别代表A和B。 它们的位数小于100，且每个数字前中可能包含+,- 号。 每个数字前面和后面[详细]
-
大数据时代必不可少的大数据分析和制作工具大全
所属栏目：[大数据] 日期：2020-12-27 热度：176
1.微信大数据分析工具 新媒体指数：http://www.gsdata.cn 2.数据可视化工具 百度ECharts：http://echarts.baidu.com/ Cytoscape：http://www.cytoscape.org/ 图表秀：http://www.tubiaoxiu.com/ 数据观：http://shujuguan.cn/ 微博足迹可视化：http://vis.[详细]
-
A+B Problem II 大数加法
所属栏目：[大数据] 日期：2020-12-27 热度：174
A+B Problem II http://acm.nyist.net/JudgeOnline/problem.php?pid=103 时间限制：3000?ms ?|? 内存限制：65535?KB 难度：3 输入 The first line of the input contains an integer T(1=T=20) which means the number of test cases. Then T lines follow[详细]
-
NBA篮球运动员大数据分析决策支持系统
所属栏目：[大数据] 日期：2020-12-27 热度：148
package com.dt.spark.sparksql import org.apache.hadoop.conf.Configuration import org.apache.hadoop.fs.{FileSystem,Path} import org.apache.spark.SparkConf import org.apache.spark.sql.SparkSession /** ? * NBA篮球运动员大数据分析决策支持系[详细]
-
条条大道通罗马：大数据分析工具的十条学习路径
所属栏目：[大数据] 日期：2020-12-27 热度：139
来自：IT经理网（微信号：ctociocom） 链接：www.ctocio.com/hotnews/22900.html （点击尾部阅读原文前往） 虽然只有极少数人能够修炼成数据科学家这一21世纪最性感多金专业人士，但对于大多数非数据分析专业的IT人士来说，掌握对路的大数据工具同样意味着[详细]
-
某种序列-大数计算
所属栏目：[大数据] 日期：2020-12-27 热度：142
某种序列 http://acm.nyist.net/JudgeOnline/problem.php?pid=114 时间限制：3000?ms ?|? 内存限制：65535?KB 难度：4 输入 输入包含多行数据? 每行数据包含3个整数A0,A1,A2 (0 = A0,A2 = 100000000)? 数据以EOF结束 输出 对于输入的每一行输出A99的值 样[详细]
-
视音频数据处理入门：UDP-RTP协议解析
所属栏目：[大数据] 日期：2020-12-27 热度：111
http://blog.csdn.net/leixiaohua1020/article/details/50535230[详细]
-
数据挖掘中的模式发现（八）轨迹模式挖掘、空间模式挖掘
所属栏目：[大数据] 日期：2020-12-27 热度：156
副标题#e# 这是模式挖掘、数据挖掘的一部分应用。 空间模式挖掘(Mining Spatiotemporal Patterns) 两个空间实体之间存在若干拓扑关系，这些关系基于两个实体的位置： 分离 相交 包含 如图所示地表示位置信息，可以提取类似下面的规则： is_a(x,large_town)?[详细]
-
企业BI系统应用的切入点及五大策略
所属栏目：[大数据] 日期：2020-12-27 热度：166
从技术的角度来看，BI的技术正在走向成熟，处于一个发展的阶段，但它促使了BI的应用在成本方面开始逐步的降低，越来越多的企业在BI应用方面取得了成功。从实施的角度来出发，实施商业智能系统是一项复杂的系统工程，整个项目涉及企业管理，运作管理，信息[详细]
-
挖掘隐式启动Activity可能存在的坑
所属栏目：[大数据] 日期：2020-12-27 热度：62
今日科技快讯 很早之前，谷歌母公司Alphabet的董事长施密特就曾经表示，在中国市场，谷歌需要寻找到一个商业伙伴来开展自身的一些业务。而近日有消息传出，谷歌和网易正在进行合作磋商，很可能是成立合资公司，在国内推出针对中国市场的Google Play应用商[详细]
-
pyhive 连接 Hive 时错误
所属栏目：[大数据] 日期：2020-12-27 热度：119
一、User: xx is not allowed to impersonate xxx' 解决办法：修改 core-site.xml 文件，加入下面的内容后重启 hadoop。 property namehadoop.proxyuser.xx.hosts/name value*/value/propertyproperty namehadoop.proxyuser.xx.groups/name value*/value/p[详细]
-
分布式基础通信协议：paxos、totem 和 gossip（转载）
所属栏目：[大数据] 日期：2020-12-27 热度：183
背景： 在分布式中，最难解决的一个问题就是多个节点间数据同步问题。为了解决这样的问题，涌现出了各种奇思妙想。只有在解决了如何进行信息同步的基础之上才衍生出形形色色的应用。这里开始介绍几种分布式通信协议。 简单即有效——totem协议: totem协议[详细]
-
Hive 导入 parquet 格式数据
所属栏目：[大数据] 日期：2020-12-27 热度：161
Hive 导入 parquet 数据步骤如下： 查看 parquet 文件的格式 构造建表语句 倒入数据 一、查看 parquet 内容和结构 下载地址 社区工具 GitHub 地址 命令 查看结构： java -jar parquet-tools-1.6.0rc3-SNAPSHOT.jar schema -d activity.201711171437.0.parq[详细]
-
Presto 常用配置及操作
所属栏目：[大数据] 日期：2020-12-27 热度：68
一、介绍 Presto是一个开源的分布式SQL查询引擎，适用于交互式分析查询，数据量支持GB到PB字节。 Presto的设计和编写完全是为了解决像Facebook这样规模的商业数据仓库的交互式分析和处理速度的问题。 推荐阅读 Presto实现原理和美团的使用实践 二、安装 2.[详细]
-
大数据的技术生态概述（转载）
所属栏目：[大数据] 日期：2020-12-27 热度：165
副标题#e# 如何用形象的比喻描述大数据的技术生态？Hadoop、Hive、Spark 之间是什么关系？ 大数据本身是个很宽泛的概念，Hadoop生态圈（或者泛生态圈）基本上都是为了处理超过单机尺度的数据处理而诞生的。你可以把它比作一个厨房所以需要的各种工具。锅碗[详细]
-
九种常见的数据分析模型
所属栏目：[大数据] 日期：2020-12-27 热度：85
副标题#e# 1. 漏斗分析模型 漏斗分析是一套流程式数据分析，它能够科学反映用户行为状态以及从起点到终点各阶段用户转化率情况的重要分析模型。 运营人员可以通过观察不同属性的用户群体（如新注册用户与老客户、不同渠道来源的客户）各环节转化率，各流程[详细]
