Python初學總整理 第5講:爬蟲應用(上)

前言

自從上集學完函數和迴圈之後,覺得光只有學習,都可以理解好像沒有什麼問題,但如果要應用的話,就會不知道從何開始,因此Teresa開始想要嘗試寫個小作品看看,因此之後 Python初學者學習筆記會朝著實作的方向前進,當成自我練習還有紀錄。

爬蟲介紹

提到 Python,最經典且絕對不能漏掉的應用莫過於爬蟲了,那什麼是爬蟲呢?

—它是一種可以「自動」抓取網頁資訊的程式

現在資訊的變動快速,當在 Google等瀏覽器上搜尋任一關鍵字,搜尋到的結果都成千上萬筆,但人一天所擁有的時間終歸只有24小時,想要處理一件事的時候,很難將前置資料調查得盡善盡美,且當相同的動作必須重複上百遍、上千遍的時候,必定會又累又無趣。這時候如果有「自動化」程式的幫助,處理事情的效率便會提高。對於爬蟲的應用可以到這個網站看看。

爬蟲目標

抓取 Facebook的貼文,展開貼文中所有留言、分享數以及表情符號數量,了解貼文的成效

達成方法

一、步驟拆解

Teresa曾聽會寫程式的人說過:「程式只是工具,想要開始寫程式要先知道如何解決問題,如果不知道問題的解法,是沒辦法將解法化為程式的。」

如果我今天經營Facebook社團或粉絲專頁,我會想要了解每篇發出去的貼文成效如何,除了一些後台可得到的資訊外,貼文的互動率是最可以反應出成效的方式了。而在Facebook上貼文與互動率有關的指標不外乎就是:按讚數、分享次數以及留言數。後續的貼文分析,包含是不是因為主題較吸引人或是文案寫得較好等影響該篇貼文的互動率的評估指標,就不在此深究。

因此,假設我想要手動取得這些資訊的話,會做出的行為有:

  1. 打開 Chrome 瀏覽器
  2. 開啟 Facebook 頁面並登入
  3. 點擊想分析的 Facebook 社團或粉絲專頁
  4. 將該社團或粉絲專頁的貼文載入
  5. 將貼文的留言展開
  6. 蒐集貼文的資訊(按讚數、分享次數以及留言數)
  7. 統整資訊

二、相關模組簡介

將步驟拆解出來後,就可以想辦法把步驟化為程式碼了,那在 EP. 1曾經提過Python強大的地方除了開源以外,也有很多豐富的函式庫和套件模組可以應用。

套件與模組的差異?

  • 模組 = 一個python檔案;套件 = 一個目錄,模組庫、函式庫
  • 匯入:import、取用: 「.」、重新命名:as
  • from 模組 import 函式:可避免建立新的名稱空間,並可以直接取用函式
  • PyPI (Python Package Index) =第三方套件集中地
  • pip:Python的套件管理工具,可以下載、安裝、升級、管理、移除套件
  • 內有常用套件包含:網站框架、圖片處理、科學計算等
  • 相關資源可以到https://pypi.org/https://github.com/

那在這次的爬蟲目標會用到哪些套件或模組呢?主要有:

  1. Selenium:模擬使用者的動作操縱瀏覽器。
  2. Webdriver:Selenium需要特殊的Webdriver才能和瀏覽器溝通。
  3. BeautifulSoup:解析HTML結構,用來搜尋與擷取網路上所需的資料。
  4. time:處理日期和時間。

如果想要多了解更詳細的用法和說明可以到以下網頁:

  1. Selenium
  2. BeautifulSoup1、BeautifulSoup2
  3. time

三、將步驟化為程式碼

首先,有很多功能需要先匯入相關的模組,因此我們得安裝好那些模組才可以使用

Step1 : 安裝相關套件或模組

pip install selenium

pip install beautifulsoup4

Step2 : 匯入相關套件或模組

from selenium import webdriver

from bs4 improt BeautifulSoup

import time

Step3 : 開啟Chrome瀏覽器

driver = webdriver.Chrome(“Webdriver的存放路徑")

這個步驟雖然看起來簡單,但當時我可是花了一段時間解決bug,因為如果瀏覽器的版本和Webdriver的版本不同,就不能使用。

如何確定Chrome的版本?

打開 Chrome 瀏覽器後,點擊右上角的三個點點(自訂及管理Google Chrome),會進到設定的頁面,點擊「關於 Google Chrome」即可以看到版本號(如下圖)

接著,可以到此頁面下載 ChromeDriver(UPDATE 有讀者來訊該網站即將更新,如無法可至此頁面嘗試下載),下載好的執行檔可以和 .py檔放在同一個資料夾下或是放到你所知道的路徑下,並在程式碼中指定路徑,這樣就可以執行了。執行程式碼所開啟的 Chrome會在下方顯示:Chrome目前受到自動測試軟體控制(如下圖)。

Step4 : 開啟 Facebook頁面並登入

driver.get("http://www.facebook.com") #開啟Facebook

time.sleep(3)  #延遲程式執行的時間

driver.find_element_by_id("email").send_keys("example@gmail.com")

# 將USERNAME改為你的臉書帳號

driver.find_element_by_id("pass").send_keys("psssword") 

# 將PASSWORD改為你的臉書密碼

driver.find_element_by_name("login").click()

# 讓網頁找到登入並點擊

time.sleep(3)

語法說明:

driver.get(url):可以讓瀏覽器前往所指定的網址。

time.sleep(time):可以使程式碼延後幾秒執行,讓瀏覽器載入。

driver.find_element_by_id:是Selenium中元素定位的方法之一。

如果想知道Selenium有哪些元素定位的方法,可以查看此官方文件

send_keys( ):可以幫助我們將該元素的內容替換,在這裡就是將內容替換成 Facebook的帳號密碼。

那如何知道 Facebook 登入欄位的 id 是什麼呢?

可以在 Facebook的頁面按 F12或是點擊右鍵後點選「檢查」,會看到像下圖右半邊的黑色畫面,這時點擊最左邊的icon,接著將游標移至你想取得的欄位,點擊後在黑框中會看見該欄位的元素屬性,以下圖為例,我們可以看到輸入電子郵件的欄位,它的id是”email”,以相同的方法可以看到輸入密碼的欄位,其id是”pass”。

Step5 : 點擊想分析的 Facebook社團或粉絲專頁

driver.get("想分析Facebook的社團或粉絲專頁的網址")

time.sleep(2)

此步驟與 Step4同理,不再次贅述。

Step6 : 將該社團或粉絲專頁的貼文載入

for i in range(12):  # 讓頁面滾動x次

    driver.execute_script("window.scrollTo(0, document.body.scrollHeight);")

  #讓頁面滾動到最底下

    time.sleep(2)  # 等待2秒鐘讓頁面讀取

語法說明:

由於 Facebook的貼文一次只會載入一部份,但如果想要蒐集相關資料的話,必須先讓網頁把貼文載入,因此這裡用 for迴圈,讓程式重複執行,迴圈的概念可以看 EP. 4

driver.execute_script(“window.scrollTo(0, document.body.scrollHeight);”) 牽涉到JS的觀念,如果想了解更多可以到此網站

EP.5 先完成到步驟4,下一集會把剩下的步驟完成。

後記

Teresa是第一次做專案,對於要將檔案上傳到雲端分享給隊友看的時候,沒有仔細思考,不小心把環境變數 commit上去,直接將自己的 Facebook的帳密給隊友了,還好隊友馬上就教我可以利用 dotenv 套件讀取 .env檔儲存敏感的資訊。建立的方法可以參考此網頁

Python初學總整理 全系列:

Python初學總整理 第1講:Python簡介

Python初學總整理 第2講:Python開發環境

Python初學總整理 第3講:Python資料型態和運算子

Python初學總整理 第4講:Python條件、迴圈與函數

Python初學總整理 第5講:爬蟲應用(上) (本篇)

Python初學總整理 第6講:爬蟲應用(下)

Python初學總整理 第7講:爬蟲實例解析 – 以爬取臉書社團為案例,使用 Selenium 來進行網頁模擬爬蟲

Python初學總整理 第8講:Matplotlib套件

Python初學總整理 第9講:Numpy函式庫


文章看完還是不知道該從哪裡下手?

就從線上課程開始吧!不讓你獨自摸索好幾個月,用8小時帶你走完基礎與精華,培養你基礎的Python概念,讓自學下一步不是煩惱!

全新Python 課程上架,8小時基礎實戰!,限時優惠只要NT 600 (HDK 120 起)!

不讓妳浪費一整天,只要你8小時,就能讓你學會基礎!

如果你的入門還在單打獨鬥,歡迎來到快樂學程式找到志同道合的夥伴,你的自學之路不孤單。

Teresa

Recent Posts

三個你不能錯過的教學資訊

疫情之下,原本實體活動全都改成線上,活動分享全都在網路上很容易錯過,這邊整理了幾個跟數位教學相關的活動資訊給大家參考,分享順序為活動時間⏰ 1. Google Workspace技術整合術 Google Workspace for Education (原 G Suite 教育版) 能透過 Gmail、Google Drive、Google Calender、Google Meet 和 Classroom 等通訊與協作應用程式創造輕鬆與順暢的學習環境,並促進協同合作以提升數位學習與教學成效,而且還會為學校資料提供雲端安全性防護…

3 years ago

線上教學沒有臨場感?Gather來幫你解決

實體的教室變成一格一格的畫面,原本吵雜的下課時間也變成掛斷通話的系統聲。原本在班級中的歸屬感慢慢消失了,久而久之,孩子的對於學習,不再有群體的感覺,只是孤軍一人學習、複習、考試,甚至是畢業典禮都少了一份臨場感。因此,今天要和大家介紹一款現在在教育界還很少被提到的軟體-Gather。 Gather 如果你還不知道Gather,或是直覺的把Gather與虛擬會議室連結在一起,不妨先看看Gather裡的特色: 介面是像素型RPG 每個人自由創建一個角色 上下左右輕易控制角色 走道其他角色旁邊能互相討論 小遊戲battle 光是這五點特色,就足以推派它成為遠距教學的工具,除了打造不同空間的地圖外,最特別的是Gahter打造前所未有的臨場感,人與人之間只有靠近到一定距離,才能聽到彼此說話聲音,而相對應的,離開後聲音就會漸漸聽不到,就連白噪音的設計也是如此,非常的逼真。 不知道老師們會不會因為搭建地圖覺得麻煩,或是看到2D介面怕學生當遊戲在玩而不考慮這款軟體,換個角度思考,藉由不同地區的老師們集思廣益,打造出最適合學生學習的環境,像是不同學科的教室、戶外自然生態區、操場、籃球場等等....都可以更貼近真實校園,而像素的介面正好提高學生的學習意願,老師們擔心學生過於沉迷時,也能用全體廣播放上課鐘聲,或是讓學生們聚集在同一區,鏡頭站起來動一動 (另外推薦Active Arcade -> 趣味運動的APP ),就像早操一樣很真實。 線上教學缺乏臨場感,Gather可以創造了讓大家「一起在一個遊戲世界」的凝聚力。縱使Google Meet、Teams 雖然也可以進行討論,但若要每堂課要穿梭在不同會議間,節奏不流暢,使用Gather可以讓學生更自由地移動,相對應的老師也可以神出鬼沒地到處「旁聽」。 教孩子用科技解決問題,如果老師們也努力著示範給孩子看,創造出獨一無二的學習空間,相信對於孩子學習的歷程中,有莫大收穫。但到底怎麼開始使用?別擔心,這次快樂學程式邀請到Gahter界的大神 阿岳,要來和大家分享Gather的6大應用技巧,限名額唷~…

3 years ago

HTML入門系列:基本觀念介紹!

HTML入門&基本觀念介紹!         構成一個網頁,最重要的就是他的結構,而HTML就像是他的骨架,而CSS就是像是我們身體上的肌肉一般,而JS則像是人體的神經、血管般調整著我們身體、傳遞訊息,那麼HTML究竟是指哪些語法呢?   什麼是HTML?       HTML全文又稱為HyperText Markup language ,也就是所謂的超文本標記語言,是網頁構成的基本要素,換言之,網頁就是由一堆html所構成,透過瀏覽器,顯示文字、圖片、以及其他相關我們可以在網頁上看見的基本元素。而對於剛學程式的朋友來說,HTML有以下幾個重點: HTML的基本架構: HTML的基本觀念與優點1.容易學習-HTML的文檔製作非常簡單易懂﹐功能強大之餘還支持不同格式的文件鑲入。2.製作門檻低-HTML是文本﹐它需要瀏覽器的解釋。只要你學會了HTML﹐你就可以直接在Windows的記事本或寫字版上進行製作和編輯﹐當然你也可以用WPS來編寫﹐只要注意在存檔的時候用.htm或.html來做檔名就可以了3.有利於搜尋引擎理解你的內容,透過HTML所構成的頁面被稱作所謂的”靜態頁面”﹐而Google爬蟲會優先收錄靜態網頁﹐所以HTML對於Google來說就像是鯊魚聞到血腥味一樣﹐有利於吸引Google爬蟲。4.加快瀏覽速度-因為靜態網頁無需連接數據庫﹐因此比打開動態網頁的速度較快﹐對於消費者體驗來說有所幫助。5.網站更安全-因為HTML頁面不會受Asp相關漏洞所影響。 HTML的缺點與限制 1.太簡單﹐不能適應現在越來越發達的網路世界和應用的需要﹐比如手機﹑PDA﹑信息家電等都不能直接顯示HTML2.太龐大﹐由於HTML代碼不規范﹑臃腫﹐瀏覽器需要足夠智能和龐大才能夠正確顯示HTML。顯然在你的PDA上裝一個IE6是不可能的。空間不夠﹐運算也跟不上3.數據與表現混雜。這樣你的頁面要改變顯示﹐就必須重新制作HTML。對不同的網路設備顯示同樣的數據都需要制作不同的HTML4.只能對文本進行排版﹐而且HTML樣式使用標準文本標識﹐不能創建一些特殊效果 所以我該如何學習HTML? 有什麼比較快的方法嗎?       答案是沒有的﹐學習程式語言就像是學習廚藝一樣﹐只有透過不停的嘗試﹑嘗試和嘗試才能讓自己有所成長﹐並且慢慢強大。過程中你會一直遇上困難和失敗﹐但你在不斷解決困難的過程中能夠不斷發掘新的知識﹐從失敗中發才能不停的成長。無論你是學習那一種程式語言﹐都需要經歷困難和失敗才能讓自己更加強大﹐正所謂:不經一番寒徹骨,怎得梅花撲鼻香呢?對吧﹐我們能做的不是要找捷徑﹐而是透過不同的媒介和平台去不斷學習﹐那麼下面快樂學程式會為大家介紹一些很棒的程式教學網站﹐讓大家可以不斷提升自己。 1.w3schools.com- 語法練習的好地方這個網站是目前全球訪問量最大的網頁開發教程網站﹐網站裡有多種程式語言的教學﹐而且每種程式語言由淺到深的解說﹐從語言的介紹到不同的功能和方法都會分章節說明。所以無論你是從零開始學的白紙﹐還是已經在學習但遇到困難的新手都可以在這個網站上找到相關資訊﹐是個非常不錯的網站。那麼網址我們當然要雙手奉上﹐請慢用https://www.w3schools.com/ 2.CodeAcademy- 免費的教學網站這是全球其中一個最受歡迎的免費coding教學網站﹐已經有超過2400萬人透過這個網站學習到了如何去coding。這個網站是非常適合新手入門的同學去學習的﹐網站會一步一步仔細的教導而且還有實作﹐所以學習起來非常的快速! 3.StackOverflow- 實際案例與疑難雜症的解決處  這個網站比較適合一些已經有在嘗試動手實作的同學﹐當你在coding的時候遇上困難了﹐那麼你可以在這個可以解決超過80種程式語言問題的網站上找到答案﹐讓你的coding之路更加順暢。  如果你覺得爬網站麻煩又費時,不妨直接點擊快樂學程式的網頁前端課程,老師直接手把手帶你入門HTML !完整的基礎入門課程省下你獨自摸索花費的時間!   課程上架Udemy ! 準備一個輕鬆的週末,只要一天的時間,帶你建置靜態網頁。從實作中打開靜態網頁的大門,讓你的研究之路不是只有自己,有我們跟你一起努力!課程中你可以瞭解網站建置的世界觀與網站版型掌握HTML5的使用方式掌握 CSS3的使用方式使用Bootstrap處理前端UI框架現在開始上課!如果你的入門還在單打獨鬥,歡迎來到快樂學程式找到志同道合的夥伴,你的自學之路不孤單。快樂學程式

3 years ago

HTML語法整理! 3分鐘快速弄懂常用語法!

什麼是HTML?         HTML全名是HyperText Markup Language,是一種描述超文件的註記語言SGML(Standard Generalized Markup Language)所制訂出的一種網頁語言,是編寫網頁的基本語言,基本上現行的瀏覽器都可以讀取HTML,使用HTML可以編輯設計出網頁,也可以在網頁中加入所有HTML語言可支援的方式,例如表格、表單、圖片、文字、連結、程式等等。 HTML介紹與基本語法整理   不管你是小時候從撰寫無名小站為了要修改你的樣式,而開始瞭解HTML和CSS為何物,或是長大因為介面設計或前端工程開始踏入網頁的世界。HTML和CSS對於網站的重要性經過多年依然歷久不衰。在本篇會對HTML進行基礎的介紹並幫你整理出基本語法提供你在寫網頁時的快速參考!   編寫基本的HTML: 先讓大家看一下一個基本的HTML文件格式為: <HTML> <HEAD> <TITLE>網頁主題</TITLE> <Meta> </HEAD> <BODY>…

3 years ago

PHP是什麼?3分鐘PHP基本介紹!

PHP是什麼?3分鐘PHP基本介紹!       大家安安﹐快樂學程式這一次要跟大家分享PHP這種程式語言。希望幫助對於PHP有興趣的新手們可以透過我們的文章對這種語言有初步認識。一如以往﹐我們會分享以下幾項有關PHP的知識。 PHP是什麼?       PHP語言的全名是(PHP: Hypertext Preprocessor),和ASP、JSP等都是動態網頁開發語言,不過,PHP擁有跨平台的能力,無論是在Linux(最適合)、Unix、 Windows都可以執行運作,不像微軟 的ASP只能在Windows平台上執行,而且PHP是免費的,並可結合多種資料庫伺服器,如:MySQL、PostgreSQL、dBase、mSQL、Informix、ODBC、Oracle等。      PHP語言是伺服器端(Server)執行的網頁,不像一般HTML網頁,只要單機下開啟檔案就可以檢視網頁,PHP必須先在伺服器端執行完後,再將結果傳至使用者端(Client)的瀏覽器中檢視結果,所以必須使用網站伺 服器,且伺服器要支援PHP。 如何學好PHP?       要學好PHP,要有目的,要有一個想寫的東西,寫個學校網站,寫個校友系統,寫個簡單的新聞區或相簿...等,都可以,盡可能的和工作和生活結合,利用程式來簡化繁瑣的人工步驟,或者提昇工作效率,有目標,才會有動力,才會有想法。      學PHP不需要背,背不完的,只要懂就好了。像函數就不用背,常用的打久了你就背起來了,不常用的,等到要用時,知道去哪裡找就好。換言之,函數懂越多,功力越高強。      程式碼可以複製貼上,但一定要知道為什麼要這麼寫,不要傻傻的照著打,可以的話,自己打一遍最好,最上乘就是可以說出每一行程式碼的作用和前因後果。或者,故意打錯,看看會怎樣。錯誤訊息看久了,功力也就提昇了。 PHP程式碼執行方式 透過 Web Server 方式:例如利用 Apache…

3 years ago

PHP是什麼?基本介紹與語法整理

Sildenafil citrate oral jelly Combiné avec les données de départs 2, on leur a demandé de type 5 de tadalafil…

3 years ago