189 8069 5689

从数据收集到信息挖掘,我们该看重什么?

服务器

说到人工智能、深度学习,大家总会第一时间想到算法和模型,再然后就是最根本的、提供动力源的数据。由于人工智能技术的飞速进步与广泛应用,我们对待数据的方式已从收集为主转变为以获取信息为主。

思礼网站制作公司哪家好,找成都创新互联!从网页设计、网站建设、微信开发、APP开发、成都响应式网站建设等网站项目制作,到程序开发,运营维护。成都创新互联从2013年创立到现在10年的时间,我们拥有了丰富的建站经验和运维经验,来保证我们的工作的顺利进行。专注于网站建设就选成都创新互联

如果你不把存储的数据转化为可用的信息,那么这些数据——狭隘点说——就只是一堆字节而已。而完成这个转化的过程之前,有时也需要多年时间来收集足够的数据,比如医学方面新工艺、药物或设备的试验;基于不常发生的外部因素的群体行为;气候变化。

首先,数据保存的重要性无法否认

关于数据,有一句很拗口的话,你不知道什么是你不知道的。有个很好的例子:“垃圾DNA”。这一术语是20世纪70年代某遗传学家发明的,用来表示基因组中95%—98%的不编译任何蛋白质或酶的DNA。当时的生物学家认为,既然几乎所有具体的生理机能都要蛋白质来完成,那么不编码蛋白质的DNA应该是没有用的,可以称为“垃圾DNA”。到本世纪初,人们发现一些垃圾DNA其实调控着染色体的复制方式和时间。

对于当时的人们来说,存储数据的成本是很高的。当然DNA测序的成本更大,这也是当初人们要保留垃圾DNA数据的原因之一。收集数据的成本很高,存储数据的成本也很高,正是因此,我们要更加感谢那些在我们之前做出正确事情的人。他们顶着成本压力储存了这些旧的数据,让我们有机会从中发现更多信息。

我们知道,一些天气预报中心每天都会保存所有收集到的数据,包括其预报模型的输出。当这些网站有一个新的预测模型时,他们通过新的模型运行旧的数据,查看模型的输出和观察,看看新模型是否比旧模型更好,以及有多好。对于一个城市来说,这个工作似乎很容易,但对整个地球来说,是大量的数据和信息比较。

因此,存储和数据架构师面临的挑战往往是如何通过开发满足性能、可伸缩性和治理需求的架构来保存这些数据。

由数据收集向信息挖掘的转变

从有数据收集开始,其唯一目的就是要使所收集的所有数据都有实际意义。手工进行数据收集和分析非常耗时,将数据转换为信息也既费时又费钱。

信息时代始于1890年美国人口普查时何勒内斯打孔卡片的使用,尽管它们是空白的,但与你见过的格式化卡片不同。这里的关键问题是,在1890年以前虽然有大量的数据,但并没有工具来进行分析,而且将其转化为信息的成本很高。

很明显,在1890年的人口普查中产生的信息在今天的标准下是非常基础性的。但按照19世纪90年代的标准,却是革命性的。通过这个办法,人们能够非常迅速地查看人口普查的结果并做出决定(例如,基于数据的可操作的信息)。

到了今天,我们已经不再把1890年人口普查数据的表格化称为信息。信息的定义——与数据相比——应该基于当代的标准,同样的,许多其他领域中的某些定义也在发生变革。

信息分析市场的规模和范围在不断扩大,从自动驾驶汽车到安全摄像头分析再到医疗发展。在每一个行业,在我们生活的每一个角落,都有快速的变化,并且变化的速度也正在增加。所有这些都是数据驱动的,所有收集的新旧数据都被用来开发新的可用信息类型。围绕数据收集与信息发展的需求,有很多问题也因此浮现。

除保持数据活性外,合规性同样重要

许多需求基于你所拥有的信息和数据类型。例如,一些可能涉及使用所谓DAR(Data Encryption at Rest,空闲时数据加密),它会对存储设备进行加密,这样如果从系统中删除,数据几乎是完全不可能访问的。(其困难程度取决于加密算法和大小、复杂性等)。我们可以将这种类型的需求归纳为“可操作性需求”,即数据在发挥价值的整个过程中会对架构、设备等产生的硬性需求,以确保满足业务运行所需的性能、可用性和数据完整性,为保持数据和信息的活性,所有这些问题都需要得到解决。

除此之外,你的数据或信息也应该基于你所在行业的实践或地区的法规条例,如最近欧盟出台的GDPR(通用数据保护条例)。也就是说,你对数据的使用需要始终保持合规性。由此产生的体系结构或过程方面的变化,也是需要架构师来处理的一类重要事务。

最后的想法

要做到合规并不容易,而且也不便宜。决定其成本的因素有很多,但是在计划和搭建好体系架构之后试图强制遵从,总是比事前做的代价要高。

笔者认为,在定义合规性需求时,你应该着眼于未来,而不是只看现在,因为事后硬塞东西的成本和挑战会更多。这意味着,我们需要不断地研究行业中的合规性需求,以及实践。数据在未来只会变得更加重要,我们始终会面对挑战,何不先定好应对方案。


标题名称:从数据收集到信息挖掘,我们该看重什么?
当前网址:http://cdxtjz.com/article/chdijg.html

其他资讯