小白學習大數據測試的小實戰
上一篇 /
下一篇 2021-01-05 11:21:22
/ 個人分類:大數據
我們來運行一個官網的MapReduce demo程序來看看效果和處理過程。
大致步驟如下:
新建一個文件test.txt,內容為
Hello Hadoop
Hello xiaoqiang
Hello testingbang
Hello http://xqtesting.sxl.cn
將test.txt上傳到hdfs的根目錄
/usr/lib/hadoop/hadoop-2.7.4/bin/hdfs dfs -put /root/install/test.txt /
運行官方的一個wordcount程序來統計字符數量,命令如下:
/usr/lib/hadoop/hadoop-2.7.4/bin/hadoop jar /usr/lib/hadoop/hadoop-2.7.4/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.4.jar wordcount hdfs://localhost:9000/test.txt hdfs://localhost:9000/out
解釋下這個命令,大致意思是用hadoop執行一個叫hadoop-mapreduce-examples-2.7.4.jar的wordcount 方法,其中輸入參數為hdfs上根目錄的test.txt 文件,而輸出路徑為hdfs跟目錄下的out目錄
PS:我這里沒有把hadoop配置成環境變量,所以命令很長,你可以配置下,這樣命令就會短很多了,至于怎么配置,自己悟~
執行過程如下:
執行完成之后再次刷新瀏覽器可以看到out目錄和結果了
點擊part-r-00000,在彈出的頁面點擊download
這時候下載會出現404,我們只需要在URL里的localhost改為你服務器的ip地址就可以下載了。下載之后用編輯器打開,內容如下:
PS:你也可以用命令查看,如下圖
到這里,我們既完成了hadoop環境的搭建,也完成一次MapReduce的執行。其實也算是對hadoop功能的
測試。如果你都成功了,那么恭喜你!如果你沒有成功,那么也恭喜你,因為你發現了自己的不足!
相關閱讀:
- 網絡管理員必備的軟件之Nmap (大椿菜, 2020-12-29)
- 了解軟件測試基礎是入門,缺陷管理就是進階了 (liqianqian1116, 2020-12-31)
- 詳細聊聊軟件測試中的接口與抓包問題(上) (大椿菜, 2020-12-31)
- 詳細聊聊軟件測試中的接口與抓包問題(中) (大椿菜, 2021-1-04)
- 詳細聊聊軟件測試中的接口與抓包問題(下) (大椿菜, 2021-1-05)
- 2020測試工具總結之接口測試工具 (大椿菜, 2021-1-04)
- 2020測試工具總結之測試報告和Mock (大椿菜, 2020-12-31)
- python的高性能web應用的開發與測試實驗 (liqianqian1116, 2021-1-04)
- 看完這篇文章,掌握Git“黑魔法”! (liqianqian1116, 2021-1-06)
- 常見的軟件測試用例設計方法有哪些呢? (liqianqian1116, 2021-1-06)
收藏
分享給好友
管理
舉報
TAG:
軟件測試技術
大數據測試