Python爬虫之m3u8文件怎么提取小视频
随着流媒体技术的发展，现在很多网站的视频已经采用m3u8格式来进行数据传输了，使用python爬取m3u8文件爬下来并不能直接观看。那么python怎么提取m3u8文件呢？接下来的这篇文章带你了解。
前言
在网上爬取的小视频(.ts格式)打不开怎么搞？使用IDM下载有时候还会出现数据受法律保护，IDM无法下载该内容，如何解决？这篇博客就来聊聊如何正确提取m3u8文件里的.ts视频，并合成完整的.mp4格式视频。
1. HLS协议与m3u8文件
HLS，即 H T T P L i v e S t r e a m i n g HTTP Live Streaming HTTP Live Streaming的缩写，是由苹果公司提出基于HTTP的流媒体网络传输协议。是苹果公司QuickTime X和iPhone软件系统的一部分。它的工作原理是把整个流分成一个个小的基于HTTP的文件来下载，每次只下载一些。当媒体流正在播放时，客户端可以选择从许多不同的备用源中以不同的速率下载同样的资源，允许流媒体会话适应不同的数据速率。在开始一个流媒体会话时，客户端会下载一个包含元数据的扩展
M3U (m3u8) 播放列表文件，用于寻找可用的媒体流。
M3U8是 U n i c o d e Unicode Unicode 版本的 M3U，用 UTF-8 编码。"M3U"和"M3U8"文件都是苹果公司使用的 H T T P L i v e S t r e a m i n g HTTP Live Streaming HTTP Live Streaming 格式的基础，这种格式可以在 iPhone 和 Macbook 等设备播放。是一种播放多媒体列表的文件格式，文本内容是一系列媒体片段资源，顺序播放该片段资源，即可完整展示多媒体资源。其格式大致如下：
# 未加密 #EXTM3U #EXT-X-VERSION:3 #EXT-X-TARGETDURATION:8 #EXT-X-MEDIA-SEQUENCE:0 #EXTINF:4.000000, 1af12fece7a000000.ts #EXTINF:4.320000, 1af12fece7a000001.ts ... #EXTINF:3.800000, 1af12fece7a001155.ts #EXT-X-ENDLIST # 加密 #EXTM3U #EXT-X-VERSION:3 #EXT-X-TARGETDURATION:6 #EXT-X-PLAYLIST-TYPE:VOD #EXT-X-MEDIA-SEQUENCE:0 #EXT-X-KEY:METHOD=AES-128,URI="https://ts1.yuyuangewh.com:9999/20200808/1XdSSbTb/2000kb/hls/key.key" #EXTINF:3, https://ts1.yuyuangewh.com:9999/20200808/1XdSSbTb/2000kb/hls/EUtRrqJU.ts #EXTINF:4.72, https://ts1.yuyuangewh.com:9999/20200808/1XdSSbTb/2000kb/hls/HF90vrrN.ts ... #EXTINF:0.24, https://ts1.yuyuangewh.com:9999/20200808/1XdSSbTb/2000kb/hls/b7ZLcRqT.ts #EXT-X-ENDLIST
下面介绍几个m3u8文件中常见的标签：
| 标签 | 格式 | 作用 |
|---|---|---|
EXTM3U
|
#EXTM3U
|
表明该文件是一个m3u8文件，每个m3u8文件必须将该标签放置在第一行 |
EXT-X-VERSION
|
EXT-X-VERSION:<number>
|
表明该文件是一个m3u8文件，每个m3u8文件必须将该标签放置在第一行 |
EXT-X-TARGETDURATION
|
#EXT-X-TARGETDURATION:<s>
|
表示每个视频分段最大的时长（单位秒） |
EXT-X-PLAYLIST-TYPE
|
#EXT-X-PLAYLIST-TYPE:<type-enum>
|
表明流媒体类型，VOD 表示该视屏流为点播源，因此服务器不能更改该m3u8文件；EVENT表示该视频流为直播源，因此服务器不能更改或删除该文件任意部分内容，但是可以在文件末尾添加新内容 |
EXT-X-MEDIA-SEQUENCE
|
#EXT-X-MEDIA-SEQUENCE:<number>
|
表示播放列表第一个URL片段文件的序列号，每个媒体片段URL都拥有一个唯一的整型序列号，每个媒体片段序列号按出现顺序依次加 1，如果该标签未指定，则默认序列号从0开始 |
EXT-X-KEY
|
#EXT-X-KEY:METHOD=AES-128,URI="http:xxxx",IV="xxxx"
|
表明视频流文件的加解密方法，METHOD表示加密方式，URI表示密钥路径，该密钥是一个 16 字节的数据，IV是一个128位的十六进制数值 |
EXTINF
|
#EXTINF:<duration>,[<title>]
|
表示其后 URL 指定的媒体片段时长（单位为秒），duration可以为十进制的整型或者浮点型，其值必须小于或等于EXT-X-TARGETDURATION指定的值 |
EXT-X-ENDLIST
|
#EXT-X-ENDLIST
|
表明m3u8文件的结束 |
简书：m3u8 文件格式详解 作者：Whyn
2. 第三方库----m3u8
m3u8是一个专门用于解析m3u8文件的解析器，有关库的详细操作请参阅官方示例
# 安装m3u8 pip install m3u8
# 加载m3u8文件 import m3u8 # 返回一个M3U8对象 playlist = m3u8.load(uri='http://videoserver.com/playlist.m3u8') # url # playlist = m3u8.load(uri='playlist.m3u8') # file print(playlist.segments) # 打印EXT-X-KEY标签和所有的EXTINF标签: print(playlist.target_duration) # 打印EXT-X-TARGETDURATION标签的值 for key in playlist.keys: if key: # 如果视频文件加密，可以查看加密参数 print(key.uri, key.method, key.iv)
3. 合成mp4文件
本次就以这个视频为例，流程如下：
1. 找到视频对应的.m3u8文件
2. 解析.m3u8文件，从中提取.ts视频的url
3. 下载.ts格式的视频
4. 解密.ts格式的视频（如果视频流没有加密，则该步不是必须的）
5. 合成.mp4或其他格式的视频
# 第1步，我载了m3u8文件，也可以直接使用m3u8文件对应的url
playlist = m3u8.load(uri='./data/index.m3u8')
# 第2步，提取URL
for seg in playlist.segments:
print(seg.uri)
# 第3步，下载ts视频
with open('xxxxx.ts', 'wb') as f:
ts = get_ts(url)
f.write(ts)
# 第4步，解密
cipher_text = pad(data_to_pad=cipher_text, block_size=AES.block_size)
aes = AES.new(key=key, mode=AES.MODE_CBC, iv=iv)
cipher_text = aes.decrypt(cipher_text)
# 第5步，合成
files = glob.glob(os.path.join('./video', '*.ts'))
for file in files:
with open(file, 'rb') as fr, open('./video_de/baitoushan.mp4', 'ab') as fw:
content = fr.read()
fw.write(content )
4. 完整代码
# -*- coding: utf-8 -*-
# @Time : 2021/5/10 20:11
# @Author : XiaYouRan
# @Email : youran.xia@foxmail.com
# @File : video.py
# @Software: PyCharm
from Crypto.Cipher import AES
from Crypto.Util.Padding import pad
from concurrent.futures import ThreadPoolExecutor
import requests
import m3u8
import glob
import os
import time
import logging
logging.getLogger("urllib3").setLevel(logging.WARNING)
def AESDecrypt(cipher_text, key, iv):
cipher_text = pad(data_to_pad=cipher_text, block_size=AES.block_size)
aes = AES.new(key=key, mode=AES.MODE_CBC, iv=iv)
cipher_text = aes.decrypt(cipher_text)
# clear_text = unpad(padded_data=cipher_text, block_size=AES.block_size)
return cipher_text
headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) '
'AppleWebKit/537.36 (KHTML, like Gecko) Chrome/71.0.3578.98 Safari/537.36'}
def get_ts(url):
try:
response = requests.get(url, verify=False)
response.raise_for_status()
response.encoding = 'utf-8'
return response.content
except Exception as err:
print(err)
return b''
def save_ts(url, index):
filename = os.path.join('./video', str(index).zfill(5) + '.ts')
with open(filename, 'wb') as f:
ts = get_ts(url)
f.write(ts)
print(filename + ' is ok!')
if __name__ == '__main__':
playlist = m3u8.load(uri='./data/index.m3u8')
# 线程池，引入index可以防止合成时视频发生乱序
with ThreadPoolExecutor(max_workers=10) as pool:
for index, seg in enumerate(playlist.segments):
pool.submit(save_ts, seg.uri, index)
key = get_ts(playlist.keys[-1].uri)
files = glob.glob(os.path.join('./video', '*.ts'))
for file in files:
with open(file, 'rb') as fr, open('./video_de/baitoushan.mp4', 'ab') as fw:
content = fr.read()
encontent = AESDecrypt(content, key=key, iv=key)
fw.write(encontent)
print(file + ' is ok!')
下载.ts文件效果如下：
合成.mp4文件效果如下：
5. 结束语
Musicer开源代码仓库
Musicer音乐爬虫已经开源了哦，持续更新中，欢迎来踩来Star哦！ヾ(≧∇≦*)ヾ
以上就是python爬取m3u8文件的详细内容，更多Python爬虫的学习资料请关注W3Cschool其它相关文章！