前言
嗨嘍，大家好！這里是魔王吶~
環(huán)境使用:
- Python 3.8 解釋器
- Pycharm 編輯器
- requests >>> 數據請求 第三方模塊 pip install requests
- re
如果安裝python第三方模塊:
win + R 輸入 cmd 點擊確定, 輸入安裝命令 pip install 模塊名 (pip install requests) 回車在pycharm中點擊Terminal(終端) 輸入安裝命令
如何配置pycharm里面的python解釋器?
選擇file(文件) >>> setting(設置) >>> Project(項目) >>> python interpreter(python解釋器)點擊齒輪, 選擇add添加python安裝路徑
pycharm如何安裝插件?
選擇file(文件) >>> setting(設置) >>> Plugins(插件)點擊 Marketplace 輸入想要安裝的插件名字 比如:翻譯插件 輸入 translation / 漢化插件 輸入 Chinese選擇相應的插件點擊 install(安裝) 即可安裝成功之后 是會彈出 重啟pycharm的選項 點擊確定, 重啟即可生效
基本思路流程:
一. 分析數據來源
找尋網址上面視頻數據來自于哪里
開發(fā)者工具進行抓包..
鼠標右鍵點擊檢查 或者 F12打開開發(fā)者工具刷新網頁找尋視頻數據…找視頻url地址來于那個數據包 >>> 通過視頻url地址中一段參數進行搜索, 建議是搜.mp4前面這段內容…
二, 代碼實現過程: 對于某些網站 可能需要多次請求,
發(fā)送請求, 對于找到視頻數據包發(fā)送請求獲取數據, 獲取服務器返回響應數據解析數據, 提取我們想要數據內容 視頻url地址 視頻標題….保存數據, 保存視頻數據到本地文件夾多個視頻采集
代碼
導入模塊
# import requestsimport requests # 數據請求模塊import pprint # 格式化輸出模塊import refor page in range(2, 6): print(f’正在采集第{page}頁的數據內容’) link = f’https://v.huya.com/g/all?set_id=51&order=hot&page={page}’ headers = { ‘user-agent’: ‘Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/101.0.4951.54 Safari/537.36’ } 源碼解答教程可加Q群:261823976免費領取哦~ html_data = requests.get(url=link, headers=headers).text # print(html_data) # 使用re正則表達式提取數據 從什么地方去獲取什么數據 #
# cookie 用戶信息, 常用于檢測是否登陸賬號 # headers = { # ‘user-agent’: ‘Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/101.0.4951.54 Safari/537.36’ # } # 通過requests模塊里面get請求方法對于url地址發(fā)送請求, 并且攜帶上headers請求頭偽裝, 最后用自定義變量response接受返回數據 response = requests.get(url=url, headers=headers) # print(response.json()) # 200表示請求成功 response.json() 返回數據一定是完整json數據格式 # pprint.pprint(response.json()) # 解析數據 字典取值 根據鍵值對取值 {‘鍵’: ‘值’, ‘鍵1’: ‘值1’} 根據冒號左邊的內容, 提取冒號右邊的內容 title = response.json()[‘data’][‘moment’][‘title’] title = re.sub(r'[/:*?”|r]’, ”, title) video_url = response.json()[‘data’][‘moment’][‘videoInfo’][‘definitions’][0][‘url’] print(title) print(video_url) # 保存數據 需要對于視頻播放地址, 發(fā)送請求獲取數據內容 # 源碼解答教程可加Q群:261823976免費領取哦~ video_content = requests.get(url=video_url, headers=headers).content with open(‘video’ + title +video_id + ‘.mp4′, mode=’wb’) as f: # as 重命名為 f f.write(video_content) # f = open(‘video’ + title + ‘.mp4′, mode=’wb’) # f.write(video_content) # f.close()
尾語
成功沒有快車道，幸福沒有高速路。
所有的成功，都來自不倦地努力和奔跑，所有的幸福都來自平凡的奮斗和堅持
——勵志語錄
本文章就寫完啦~感興趣的小伙伴可以復制代碼去試試
你們的支持是我最大的動力！！記得三連哦~ 歡迎大家閱讀往期的文章呀~
鄭重聲明：本文內容及圖片均整理自互聯網，不代表本站立場，版權歸原作者所有，如有侵權請聯系管理員(admin#wlmqw.com)刪除。
