用户8391434687387
可以用采集软件，或者用python，目前最常用的数据采集和数据挖掘应用，最伟大的一款软件，如果你自己不会编程，那么你可以尝试一下八爪鱼和火车头这样的一些比较简单的采集软件，但是他们只能采取一些简单的数据，很多大型的数据仍然通过有相关的编程去实现。用采集软件基本就可以实现数据上传。
Part 1：数据采集工具
1 .八爪鱼
八爪鱼 是一款免费的、简单直观的网页爬虫工具，无需编码即可从许多网站抓取数据。无论你是初学者还是经验丰富的技术人员或企业高管，它都可以满足你的需求。为了减少使用上的难度，八爪鱼为初学者准备了“网站简易模板”，涵盖市面上多数主流网站。使用简易模板，用户无需进行任务配置即可采集数据。简易模板为采集小白建立了自信，接下来还可以开始用“高级模式”，它可以帮助你在几分钟内抓取到海量数据。此外，你还可以设置定时云采集，实时获取动态数据并定时导出数据到数据库或任意第三方平台。
2. Content Grabber
Content Grabber是一个支持智能抓取的网页爬虫软件。它的程序运行环境可用在开发、测试和产品服务器上。你可以使用c#或VB.NET来调试或编写脚本来控制爬虫程序。它还支持在爬虫工具上添加第三方扩展插件。凭借其全面综合的功能，Content Grabber对于具有技术基础的用户而言功能极其强大。
3.Import.io
Import.io是一款基于网页的数据抓取工具。它于2012年首次在伦敦上线。现在,Import.io将其商业模式从B2C转向了B2B。2019年，Import.io收购了Connotate并成为网页数据集成平台。凭借广泛的网页数据服务，Import.io成为了业务分析的绝佳选择。
4. Parsehub
Parsehub是一款基于网页的爬虫程序。它支持采集使用了AJax， JavaScripts技术的网页数据，也支持采集需要登录的网页数据。它有一个为期一周的免费试用窗口，供用户体验其功能。
5. Mozenda
Mozenda是一款网页抓取软件，它还为商业级数据抓取提供定制服务。它可以从云上和本地软件中抓取数据并进行数据托管。
Part 2.开源数据工具
1. Knime
Knime是一款分析平台。它可以帮助你发掘商业洞察力和市场潜力。它提供了Eclipse平台以及其他用于数据挖掘和机器学习的外部扩展。它为分析专业人员提供了超过2k个部署模块。
2. OpenRefine
OpenRefine(以前称为Google Refine)是处理杂乱数据的强大工具：它支持数据清洗，支持将数据从一种格式转换为另一种格式，还可以通过网络服务和外部数据进行扩展。使用它的分组功能，你可以轻松地使网页上的杂乱数据标准化、规范化。
3. R-Programming
它是一种用于统计计算和图形的免费软件编程语言和软件环境。R语言在开发统计软件和数据分析的数据挖掘工作者中非常流行。近年来，由于其易用性和广泛的功能性，它得到了大量的赞誉和欢迎。
除了数据挖掘，它还提供统计和图形技术、线性和非线性建模、经典统计测试、时间序列分析、分类、聚类等功能。
4. RapidMiner
和KNIME一样，RapidMiner通过可视化程序进行操作，能够手动运作、分析和建模。它通过开源平台、机器学习和模型部署来提高数据工作效率。统一的数据科学平台可加速从数据准备到实现的分析工作流程，极大地提高了技术人员的效率，是最易于使用的预测分析软件之一。
5. Pentaho
它是一款出色的商业BI软件，可以帮助企业制定数据驱动型决策。该平台集成了本地数据库、Hadoop和NoSQL等数据源，因此，你可以轻松地用它来分析和管理数据，进而从数据中获取价值。
6. Talend
它是一个开源的集成软件，旨在将数据转化为真知灼见。它提供各种服务和软件，包括云存储、企业应用程序集成、数据管理等等。在庞大的社区支持下，它允许所有的Talend用户和成员从任何位置共享信息，经验和疑虑。
7. Weka
Weka是用于数据挖掘任务的机器学习算法的集合工具。这些算法既可以直接应用于数据集，也可以从你自己的JAVA代码中调用，它也很适合开发新的机器学习方案。它还具有GUI，可以将数据科学的世界转化给缺乏编程能力的专业人员。
8.NodeXL
它是用于微软Excel的一个开源软件包。作为一个附加扩展，它没有数据集成服务和功能，它专注于社交网络分析。直观的网络和描述性关系使社交媒体分析变得轻松自如。它是用于数据分析的最佳统计工具之一，包括高级网络指标、对社交媒体网络数据导入器的访问以及自动化。
9. Gephi
Gephi也是一个在NetBeans平台上用Java编写的开源网络分析和可视化软件包。想一想你看到的巨大的人与人之间连接的地图网络，它们代表了LinkedIn或Facebook上面的社交联系。Gephi通过提供精确的计算使这一步骤有更加精确的指标展现。
Part 3.数据可视化工具
1. PowerBI
Microsoft PowerBI同时提供本地和云服务。它最初是作为Excel插件引入的，不久PowerBI凭借其强大的功能开始普及。目前，它被视为商业分析领域的软件领导者。它提供了数据可视化和bi功能，使用户可以轻松地以更低的成本实现快速，明智的决策，用户可协作并共享自定义的仪表板和交互式报告。
