直播服务器简单实现 http_flv和hls 内网直播桌面

ゞ浴缸里的玫瑰 2023-07-15 09:27 42阅读 0赞

[https://www.cnblogs.com/luconsole/p/6079534.html][https_www.cnblogs.com_luconsole_p_6079534.html]

注意：不支持xp系统，启动失败请先安装dx11。win10的视频流可能会是黑屏，需要选择low api。

**exe程序下载地址(2M)：[http://files.cnblogs.com/files/luconsole/DesktopLiveStreaming.zip][http_files.cnblogs.com_files_luconsole_DesktopLiveStreaming.zip] 【win10的视频流可能会是黑屏\[代码BUG\]，需要选择lowapi。】**

**源代码(vs2013 c++****) ：[https://github.com/lucpp/DesktopLiveStreaming][https_github.com_lucpp_DesktopLiveStreaming] 代码稍微有些乱，见谅。**

直播都不陌生了，如今主流的协议分析的对比图，个人见解。

<table> 
 <tbody> 
  <tr> 
   <td style="vertical-align:top;"> <p>协议</p> </td> 
   <td style="vertical-align:top;"> <p>httpflv</p> </td> 
   <td style="vertical-align:top;"> <p>rtmp</p> </td> 
   <td style="vertical-align:top;"> <p>hls</p> </td> 
   <td style="vertical-align:top;"> <p>dash</p> </td> 
  </tr> 
  <tr> 
   <td style="vertical-align:top;"> <p>传输方式</p> </td> 
   <td style="vertical-align:top;"> <p>http流</p> </td> 
   <td style="vertical-align:top;"> <p>tcp流</p> </td> 
   <td style="vertical-align:top;"> <p>http</p> </td> 
   <td style="vertical-align:top;"> <p>http</p> </td> 
  </tr> 
  <tr> 
   <td style="vertical-align:top;"> <p>视频封装格式</p> </td> 
   <td style="vertical-align:top;"> <p>flv</p> </td> 
   <td style="vertical-align:top;"> <p>flv tag</p> </td> 
   <td style="vertical-align:top;"> <p>Ts文件</p> </td> 
   <td style="vertical-align:top;"> <p>Mp4 3gp webm 切片</p> </td> 
  </tr> 
  <tr> 
   <td style="vertical-align:top;"> <p>延时</p> </td> 
   <td style="vertical-align:top;"> <p>低</p> </td> 
   <td style="vertical-align:top;"> <p>低</p> </td> 
   <td style="vertical-align:top;"> <p>高</p> </td> 
   <td style="vertical-align:top;"> <p>高</p> </td> 
  </tr> 
  <tr> 
   <td style="vertical-align:top;"> <p>数据分段</p> </td> 
   <td style="vertical-align:top;"> <p>连续流</p> </td> 
   <td style="vertical-align:top;"> <p>连续流</p> </td> 
   <td style="vertical-align:top;"> <p>切片文件</p> </td> 
   <td style="vertical-align:top;"> <p>切片文件</p> </td> 
  </tr> 
  <tr> 
   <td style="vertical-align:top;"> <p>Html5播放</p> </td> 
   <td style="vertical-align:top;"> <p>可通过html5解封包播放(flv.js)</p> </td> 
   <td style="vertical-align:top;"> <p>不支持</p> </td> 
   <td style="vertical-align:top;"> <p>可通过(hls.js)</p> </td> 
   <td style="vertical-align:top;"> <p>&nbsp;直接播放或者html5解封包播放</p> </td> 
  </tr> 
 </tbody> 
</table>

http\_flv&rtmp

这两个协议实际上传输数据是一样的，**数据都是flv文件的tag**。http\_flv是一个无限大的http流的文件，相比rtmp就只能直播，而rtmp还可以推流和更多的操作。但是http有个好处，就是是以80http通信的，穿透性强，而且rtmp是非开放协议。

这两个协议是如今直播平台主选的直播方式，主要原因就是延时极低。

hls

hls是Apple推出的直播协议，是通过视频流切片成文件片段来直播的。客户端首先会请求一个m3u8文件，里面会有不同码率的流，或者直接是ts文件列表，通过给出的ts文件地址去依次播放。在直播的时候，客户端会不断请求m3u8文件，检查ts列表是否有新的ts切片。

这种方式直播的主要弊端就是延迟过大，最小延时为ts单个文件的时长。

dash

dash实际工作原理和hls一样的，只不过不是mpegts文件，dash可以支持多种切片文件，比如mp4切片。当为mp4切片，客户端直接可用js控制利用html5直接播放。同样的，dash有延时。

--------------------

http-flv到底是怎么直播？

这里我们主要研究httpflv和hls。看了主流几个web直播平台，发现几乎都是以httpflv为主来直播的，那么这么火httpflv到底是怎么达到直播的？**http\_flv其实就是一个无限长的http的flv文件流，客户端边接受边播放 。**

首先我们都知道在媒体格式里，几乎都以h264视频编码。如今httpflv直播的flv数据也都是h264&aac为主的。flv封装单元是以tag来表示的，一个tag可以是音频tag或者视频tag，或者脚本tag及其其他类型。

值得注意的是flv里面字节序是网络字节序，

**flv的格式：**

<table> 
 <tbody> 
  <tr> 
   <td> <p>1</p> </td> 
   <td> <p><code>flvheader+[脚本tag(metadata)]+[第一个视频tag(h264_spspps)]+[第一个音频tag(aac_header)]+[第二个视频tag(h264第一个关键帧)]+ 后面就是音频和视频tag交互存在</code></p> </td> 
  </tr> 
 </tbody> 
</table>

**tag的格式：**

<table> 
 <tbody> 
  <tr> 
   <td> <p>1</p> </td> 
   <td> <p><code>TYPE[1byte] + body size[3byte] + timestamp [4byte] +streamID [3byte] +[body data]+[previousTagSize 4byte]</code></p> </td> 
  </tr> 
 </tbody> 
</table>

这里的timestamp是这样存在的\[ time tamp 3b,time tamp ex 1b\]

**h264视频tagbody:**

这里存储的h264是没有nal分割符的，在t的body里面是这样存储的,

<table> 
 <tbody> 
  <tr> 
   <td> <p>1</p> </td> 
   <td> <p><code>[isKeyFrame(1byte)]+0x01+[compositionTime 3byte]+[h264 size 4byte]</code></p> </td> 
  </tr> 
 </tbody> 
</table>

compositionTime是h264编码结果dts和pts之间的偏移。

**aac视频tag的body：**

以上就是flv格式的详细说明，可以看出格式简单，封装的前后数据关联很小，当我们得到音频头和视频头，就可以从后面任意的一个关键帧开始播放。

当然想要httpflv正常播放，不能缺少matedata，就是第一个脚本tag里面，这里面指定了分辨率，音视频编码格式等。

httpflv直播实际上单纯就是往客户端发送flvtag，当然是先发送flv前面那几个关键的tag，然后第一帧是关键帧。

**假如客户端是obs推流软件，以rtmp方式向服务器推流，在开始握手及其创建stream完成以及发送Metadata完成，及其一系列数据发送完毕，服务器就向obs发送publish result指令，此后，obs就开始向服务器推送flv tag数据，开始直播，而服务器也得到了flv数据。**

当某个客户端想要来获取直播数据，比如httpflv的方式来观看直播，服务器会怎么做呢？

**服务器会先发送前面几个flvtag，header+metadata+spspps+aacheader，当这几个tag发送完毕，服务器会从直播流tag中，找到最新的视频关键帧tag，从这个关键帧tag开发数据，为什么呢？因为视频流是IBP帧相互存在的，I是完整数据，BP解码都需要I帧和前面的帧，所以，正常视频数据，必须是从I帧开始发送的。这里就涉及到gop间距了，rtmp低延时秒开就是这个原理。当然发送的时候，每个连接的tag开始时间戳戳要从0开始递增的。**

至此，httpflv客户端就可以接受到flv流数据，解码观看直播了。

hls到底是怎么直播？

hls就相对简单粗暴了，服务器将直播流数据的h264和aac，封装切片成一个个的ts文件。客户端获取直播的数据的时候，先请求m3u8文件，下面就是一个m3u8的文件，

<table> 
 <tbody> 
  <tr> 
   <td> <p><code>#EXTM3U</code></p> <p><code>#EXT-X-VERSION:3</code></p> <p><code>#EXT-X-TARGETDURATION:5 ts最大时常5s</code></p> <p><code>#EXT-X-MEDIA-SEQUENCE:2 第一个ts文件的标识</code></p> <p><code>#EXTINF:4.993,//第一个ts文件，时长4.993，url地址/hls/2.ts</code></p> <p><code>/hls/2.ts</code></p> <p><code>#EXTINF:4.034,</code></p> <p><code>/hls/3.ts</code></p> <p><code>#EXTINF:4.980,</code></p> <p><code>/hls/4.ts</code></p> </td> 
  </tr> 
 </tbody> 
</table>

如果是直播，客户端会不停的去请求这个m3u8文件，当这个列表有新的ts文件，客户端会请求新的ts文件追加到本地播放序列。

关于ts的封包，ts的封装格式要比flv更复杂，主要的数据单元是ts包，每个包有pid，一个包固定大小普通没有crc的为188，主要分为三类ts包，pat，pmt，pes，pat就是第一个包，当解析的时候会在ts包列表里找pid为0x0的包，就是pat包，pat大概作用就是入口的意思，pat里面有pmt包的pid，pmt里面存储的是流的包的pid，比如指定音频包pid是0x102，视频包pid是0x101，后面的0x102和0x101的包就是pes包了，将pes包解析并合并出原始流，就能解码播放了。

--------------------

小程序

知道了如何玩直播，**于是写了一个小的程序**，该程序会录制本机桌面和输出音频以及麦克风，编码为h264和aac，同时在本机利用windows IOCP（I/O Completion Port） 简易的创建一个服务器，提供web服务和直播服务，支持httpflv和hls直播。

以下是小程序的架构图：

![format_png][]

运行截图：

![format_png 1][]

**启动后可选择，填写端口号和码率，然后选择直播方式，黑屏换low api。**

![format_png 2][]

![format_png 3][]![format_png 4][]

![format_png 5][]

程序使用的三个库：

> libx264 视频编码
> 
> libfaac 音频编码
> 
> swscale brga转yuv420

注意：不支持xp系统，启动失败请先安装dx11。

**exe程序下载地址(2M)：[http://files.cnblogs.com/files/luconsole/DesktopLiveStreaming.zip][http_files.cnblogs.com_files_luconsole_DesktopLiveStreaming.zip]**

**源代码(vs2013 c++****) ：[https://github.com/lucpp/DesktopLiveStreaming][https_github.com_lucpp_DesktopLiveStreaming]**

[https_www.cnblogs.com_luconsole_p_6079534.html]: https://www.cnblogs.com/luconsole/p/6079534.html
[http_files.cnblogs.com_files_luconsole_DesktopLiveStreaming.zip]: http://files.cnblogs.com/files/luconsole/DesktopLiveStreaming.zip
[https_github.com_lucpp_DesktopLiveStreaming]: https://github.com/lucpp/DesktopLiveStreaming
[format_png]: /images/20230528/2d7af3d990dc46a281486b173d4c0ab6.png
[format_png 1]: /images/20230528/922607e636a041c0b79f959b218553bd.png
[format_png 2]: /images/20230528/dcedf7b59b0045308b2310b8dbd97925.png
[format_png 3]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9pbWFnZXMyMDE1LmNuYmxvZ3MuY29tL2Jsb2cvNTI0OTAwLzIwMTYxMS81MjQ5MDAtMjAxNjExMTkwMTE1MDgyNDgtMzY2OTMzNzIzLmpwZw?x-oss-process=image/format,png
[format_png 4]: /images/20230528/e90a452f64cb47489e7af85b84f1d030.png
[format_png 5]: /images/20230528/7bddf7cc2efe4a4baba0619df9d732e4.png