短视频源码开发技术,主要涉及到短视频拍摄端,播放端以及合成、上传、转码、分发、加速、播放这些。首先以短视频拍摄端的五大功能为例,解析一下短视频拍摄端 SDK 的技术点吧。
断点续拍:指在拍摄过程中可以进行分段式拍摄,并将最终拍摄的所有内容合成一个视频的功能。通过断点续拍功能可以轻松实现不同的视频内容拼接,快速打造出视频拼接功能,进一步强化平台高质量的内容输出。
技术实现:实现需要在进行断点拍摄时直接调用系统 API 或 第三方的相机库,将每一段 mov 等格式的视频片段,作为临时文件保存,存放到沙盒目录中。然后维护视频片段地址列表,等到拍摄结束后,将地址列表中指向的每个视频片段进行合成处理(如果不需实现回删功能,可不必维护视频地址列表,读取所有单次录制时存储的临时视频片段,进行合成即可),最后生成一部完整的短视频。
重拍(回删):指对拍摄的短视频部分内容不满意时,可以直接剪切掉这部分内容,进行重拍。通过重拍功能配合断点续拍,可以对短视频进行多次剪辑、拍摄,增强视频制作时的灵活性,方便性。
技术实现:短视频重拍需在断点续拍功能的基础上实现,依据断点续拍实现方式,我们讲一下回删功能实现的方式。重拍功能需要维护一个视频片段地址列表,进行回删操作时只需要删除视频列表中相对应的视频片段地址。最终只合成地址列表中指向的视频片段,合成完成后,删除该次录制的所有临时视频片段即可。
自定义背景音乐:指短视频编辑功能中,用户可以自由添加他喜欢的背景音乐,通常自定义背景音乐支持自己录音或者选用 App 中已有的音乐。
技术实现自定义背景音乐功能实现,首先需要将视频源分离成两个轨道:音频轨道和视频轨道。背景音乐素材剥离出音频轨道,将背景音乐音频轨道插入原声的音频轨道中。可以通过 AVMutableAudioMixInputParameters 来调整原声和背景音乐的音量。背景音乐插入成功之后,再将得到的音频轨道与之前的视频轨道通过调用 AVMutableComposition 相关类进行合成,最后导出为短视频。
贴纸:贴纸是指短视频拍摄完成后,可以自由选择添加不同的贴纸,贴纸有场景贴纸和人脸贴纸两种。
技术实现:贴纸功能需要使用人脸检测功能,人脸检测实现方式有两种:1、.通过第三方数据库 OpenCV 中开源的跨平台计算机视觉和机器学习库进行人脸识别;2、通过系统自带的 CoreImage 库,由于 CoreImage 库已经提供了 CIDetector ,所以它很适合用来进行人脸检测。这2种方法,更推荐 OpenCV,因为 CoreImage 库只能定位人脸,鼻子、嘴巴、眼睛等五官位置,而 OpenCV 不仅可以实现人脸,五官的定位,而且还可以对眉毛、侧脸、头发等位置进行识别定位,从而能支持不同部位的贴纸。最后在成功定位贴纸之后,进行视频图像处理即可。有些实现中还会结合以上两种方式,先用借用 CIDetector 出色的性能框出人脸位置,然后将这小片区域交给 OpenCV 识别模型以标出具体的人脸结构和轮廓位置。滤镜、水印这两项功能作为短视频美化最核心的功能,由于它们的实现方式大同小异,所以将它们整合到了一起。
滤镜:是指拍摄的短视频可以选择不同的场景滤镜,并且进行美化程度调整;水印是指短视频拍摄完成后,可以在短视频上添加不同的水印,保护短视频的版权。
技术实现:这两个功能本质都是对视频图像进行处理。大部分短视频 SDK 的滤镜和水印使用的都是第三方图像处理库 —— GPUImage 库。使用 GPU 来处理图像,还自带了大量高质量的图像处理滤镜。当这些基本功能无法满足实际开发中的需求时,GPUImage 还支持自定义滤镜。
美颜滤镜:它是一种滤镜组合,可以通过组合亮度(GPUImageBrightnessFilter)和双边滤波(GPUImageBilateralFilter)这两个滤镜达到美颜效果。如果想达到更好的效果,可以额外添加需要的滤镜或者调整滤镜参数。
水印:水印实现主要通过 GPUImageUIElement 将水印转成图像数据,再通过 BlenderFilter () 将两个图像数据合并,其中可以通过 setFrameProcessingCompletionBlock 回调动态的调整 View,从而实现水印动态改变的效果。
自定义界面布局和 UI 样式:将 UI 和 SDK 高度分离的同时又保持两者的实时性,细分 SDK 的功能逻辑和 UI 逻辑。这需要将 UI 部分代码放入 Demo 中,而功能逻辑放入 SDK 中。保证 SDK 提供完善的API 和 UI 层交互,使得 UI 层能及时根据 SDK 的回调调整 UI 样式。在这之外,开发一套短视频源码还需要有短视频内容合成、上传、转码、分发、加速、播放这些功能。国内大部分厂商都依托于现有的CDN以及云处理技术,全链路集成了这些功能。在这里就不赘述了。以上就是短视频源码方案中的涉及到的技术。