从数据到大数据,数据技术工具的演变

访客4年前黑客文章816

编辑导语:大数据近些年来是一个十分火热的话题,关于大数据的文章也是数不胜数。本文作者通过梳理本身看过的大数据相关的资料和书籍,为我们先容了从“小数据”演化为“大数据”的进程是奈何的?而且分享了一些数据技能以及东西。

从数据到大数据,数据技能东西的演变

对付大数据,叮当一直都很感乐趣,最近正亏得看数据相关的书和资料,就把这些对象梳理了一下。本文将用4张逻辑图为主线,简朴先容一个产物从“小数据”演化为“大数据”的进程,及大概用到的东西。

本文焦点逻辑:

从数据到大数据,数据技能东西的演变

一、一个简略版互联技能架构

假设我们要搭建一个小网站,在不利用成熟SaaS产物的前提下,我们的产物内里最少要有以下两个部门:

从数据到大数据,数据技能东西的演变

1. 客户端

可以是APP,小措施,甚至是一个Web网站,作为进口给我们的用户会见。

2. 处事端

处事端包罗应用处事器和数据库,应用处事器用来陈设应用端措施,处理惩罚前端请求,并举办处事响应;数据库用来存储数据,处事器通过专门与数据库交互的措施对数据库举办读写操纵(如:SQL)。

1. 我们是如何与技能系统交互的?

假设一个场景:张三打开了一个小网站,打开后呈现了登录界面,张三输入本身的账号和暗码之后点击“登录”,这时客户端会发送给处事端一个请求,查询一下数据库里有没有张三的账号信息。

假如数据库有的话张三就能登录乐成,可以利用小网站了;假如数据库没有张三的账号信息,大概就会引导张三先举办注册,注册乐成后数据库中的用户表中就会新增一条张三的信息,张三就能愉快的利用小网站了。

我们通过客户端进口与这个系统交互,我们通过操纵客户端界面,对处事端举办请求拉取处事器&数据库中的信息,给以我们反馈。

2. 处事器与数据库有什么区别?

一般我们常称为“处事器”的全称叫“应用处事器”,数据库全称叫“数据库处事器”,它们都是处事器,只是由于应用情况的差异,需要的机能差异做了区分。

数据库处事器的处理惩罚器机能要求较量高,因为其要举办频繁的操纵,内存要求大,加速数据存取速度,应用处事器相对而言要求低一些。

3. 常用数据库有哪些?

常用数据库主要有“干系型数据库”和“非干系型数据库”:

1)干系型数据库

折射现实中的实体干系,将现实中的实体干系拆分维度,通过干系模子表达出来(表及表与表之间的干系),常用的有MySQL(开源数据库)、SQL Server(微软家的)、Oracle(甲骨文家的,有完善的数据打点成果可以实现数据客栈操纵)。

2)非干系型数据库

一种相对松散且可以不按严格布局类型举办存储的数据库,一边叫NoSQL(常用的有mongoDB、 CouchDB,在MongoDB中利用键值对的 *** 暗示和存储数据,键值雷同干系型数据库表中的字段名对应的值,在MngoDB中,利用 *** ON名目标数据举办数据暗示和存储)。

二、跟着用户增长技能架构的进级

从数据到大数据,数据技能东西的演变

小网站的用户逐渐越来越多,小网站酿成了大网站,单个处事器的负载很快就到了极限,这时就需要增加多台处事器,构成处事器组,同时引入负载平衡处事器,对流量进动作态分派。

由于数据是互联网产物的焦点资产,为了担保系统数据的安详性,还需要增加数据备份处事器,多台数据库处事器同时运行,这样哪怕一个数据库出问题了,也不会影响业务正常运转。

三、数据客栈的降生

从数据到大数据,数据技能东西的演变

跟着产物用户量越来越大,市场竞争也越发剧烈,急切需要越发精确的计谋决定信息,数据库中的数据固然对付产物的运营很是有用,但由于布局巨大,数据脏乱,难以领略,缺少汗青,大局限查询等问题对贸易决定和方针拟定的浸染甚微。

在更好的发挥数据代价,1990数据客栈之父比尔·恩门(Bill Inmon)提出了“数据客栈”的观念,构建一种对汗青数据举办存储和阐明的数据系统,支撑企业的贸易阐明与计谋决定。

1. 数据客栈的实现道理是什么?

数据客栈的数据来历凡是是汗青业务数据(订单数据、商品数据、用户数据、操纵日志、行为数据……),这些数据统一汇总存储至企业数据客栈,通过对客栈里的综合数据举办有目标的阐明支撑业务决定。

2. 数据库与数据客栈有什么区别?

数据库是对及时数据举办存储和事务性处理惩罚的系统,而数据客栈则是为了阐明而设计。

3. 数据客栈与大数据客栈有什么区别?

相关文章

案例总结:交互工作中需求的挖掘与分析

案例总结:交互工作中需求的挖掘与分析

编辑导语:需求这个词,想必各人再熟悉不外了,需求的收集与挖掘是产物司理必备技术之一,也是一个需求流转的开始。要想做出一个好的产物,就要想方设法获得利用产物的真实的用户需求,本文作者团结相关案例,对在交...

电商增长的背后:新一轮价格战?

电商增长的背后:新一轮价格战?

“以供给链为焦点的电商带着强东西属性,那么所带来的用户增长是否是伪增长?” 本年的春天一晃眼就已往了,那夏天的阳光必然更激烈些。 我前阵子写下了这句话,倒没预推测41度来的这么快。 是的,夏天来了,...

老乡鸡发布会刷屏的背后,营销人需要注意这5个要点

老乡鸡发布会刷屏的背后,营销人需要注意这5个要点

营销人需要看到老乡鸡新闻发布会刷屏事件背后的原因,用营销创造价值。 想必大家,最近被老乡鸡接二连三的圈粉了。 昨天晚上,我和一个位朋友正在河边散步,突然收到了另一个朋友发来的消息。 点进去一看,果...

从人/货/场维度,解析“直播带货”还能火多久?

从人/货/场维度,解析“直播带货”还能火多久?

上一篇文章,《“直播带货”到底还能火多久?(附“淘宝直播”平台体验阐明)》,从宏观角度解读了直播带货还能火多久,颠末快要1个月的时间,本篇文章就重点从人-货-场三个维度以详细的例子还解读和阐明,直播带...

交易平台,究竟应该如何设计?

交易平台,究竟应该如何设计?

2020年9月12—13号,在人人都是产物司理举行的【 2020杭州产物司理大会】上,本文是做了十年产物,依然热爱的丁香大夫首席产物架构师@刘少楠 举办了出色分享,分享的主题是《初始生意业务平台——到...

SaaS创业路线图 (85):企业如何避免裁员?

SaaS创业路线图 (85):企业如何避免裁员?

编辑导读:裁人固然是公司布局优化的手段,可是也会对员工发生巨大的心理影响,对团队士气造成重大冲击。在打点者已经抉择裁人的环境下,怎么做才气将影响降至最低?如何只管淘汰这种工作产生?本文作者依据事情实践...