《android多媒体api》系列是整合梳理android开发中经常用到的媒体相关api;多媒体开发主要内容有音频、视频录制播放、摄像头操作、录制操作、流媒体、直播、推流、拉流等方面;最近几年移动直播和视频应用发展犹如雨后春笋一般直插云霄,呃。。好吧这段比喻可以不用看了!!,反正行业兴起肯定催生了很多多媒体相关应用开发程序员。那么怎样才能成为多媒体开发程序员,首先必须要熟练使用和了解android自带的多媒体api,并且还要掌握pcm、yuv、rgb、h264、aac、flv、mpegts、mp4、udp、rtp、rtmp等等众多文件格式和流媒体协议等等。所以这里整理android相关多媒体api,提供给想从事流媒体同学作为参照,同样还是要鸣谢网络上那些具有分享精神大神们!!
####基本概念:
- 视频播放:demuxer(解复用)->分离出音频流和视频流->decoder(解码)->播放原始数据(例如:pcm yuv)
- 视频录制:采集原始数据(例如:pcm yuv)->encoder(编码)->muxer(封装格式 例如:mp4 3gp)
- 流媒体协议:udp、rtp、rtmp、rtcp、rtsp等
- 音视频封装格式:mp4 、3gp、flv等
- 音视频编码格式:aac、amr、h264、h265等
- 原始音视频数据格式:pcm 、yuv、rgb等
流程图:
####文章目录:
- VideoView 视频播放控件
- camera配合surface预览相机画面和拍照
- MediaPlayer自定义视频播放器
- MediaRecorder音视频录制api
- AudioTrack原始音频pcm播放api
- AudioRecord原始音频pcm采集api
AudioTrack是什么?
AudioRecord是可以播放原始音频数据pcm的api,pcm一般的播放器都是无法播放的,AudioRecord可以播放pcm,不过需要制定播放时候的采样率、声道数位宽,现在在android下面做了一个demo,主要是播放pcm录音文件。pcm录音时候需要制定几个重要参数,播放的时候还需要设置录制缓冲区大小,缓存区越大,内存溢出风险越小。
####pcm参数:
1、采样率
2、声道数
3、位宽
####基于AudioTrack播放功能:
xml布局文件:
<?xml version="1.0" encoding="utf-8"?>
<FrameLayout xmlns:android="http://schemas.android.com/apk/res/android"
android:layout_width="fill_parent"
android:layout_height="fill_parent">
<SurfaceView
android:id="@+id/surfaceView1"
android:layout_width="fill_parent"
android:layout_height="fill_parent"/>
<LinearLayout
android:layout_width="wrap_content"
android:layout_gravity="bottom|center_horizontal"
android:layout_height="wrap_content"
android:orientation="horizontal">
<Button
android:onClick="onClick"
android:id="@+id/start_btn"
android:layout_width="wrap_content"
android:layout_height="wrap_content"
android:text="开始"/>
<Button
android:onClick="onClick"
android:layout_marginLeft="80dp"
android:id="@+id/btnStop"
android:layout_width="80dip"
android:layout_height="wrap_content"
android:text="停止"/>
</LinearLayout>
</FrameLayout>
java代码:
package com.jared.helloffmpeg;
import android.app.Activity;
import android.content.pm.ActivityInfo;
import android.media.AudioAttributes;
import android.media.AudioFormat;
import android.media.AudioManager;
import android.media.AudioRecord;
import android.media.AudioTrack;
import android.os.Bundle;
import android.os.Environment;
import android.support.annotation.Nullable;
import android.view.SurfaceHolder;
import android.view.SurfaceView;
import android.view.View;
import java.io.File;
import java.io.FileInputStream;
public class RecordMP4Push extends Activity implements View.OnClickListener, SurfaceHolder.Callback {
private SurfaceView surfaceView;
private boolean isStart=false;
private AudioTrack audioTrack;
private int minBufferSize;
@Override
protected void onCreate(@Nullable Bundle savedInstanceState) {
super.onCreate(savedInstanceState);
setRequestedOrientation(ActivityInfo.SCREEN_ORIENTATION_LANDSCAPE);
setContentView(R.layout.record_aac_and_pcm);
surfaceView=findViewById(R.id.surfaceView1);
surfaceView.getHolder().addCallback(this);
}
public void createAudioPlayer(){
int sampleRateInHz=48000;//44100 48000
int encodingPcm16bit = AudioFormat.ENCODING_PCM_16BIT;
int channelConfig=AudioFormat.CHANNEL_IN_STEREO;
minBufferSize = AudioTrack.getMinBufferSize(sampleRateInHz, channelConfig, encodingPcm16bit);
audioTrack=new AudioTrack(AudioManager.STREAM_MUSIC,
sampleRateInHz,
channelConfig,
encodingPcm16bit,
minBufferSize,
AudioTrack.MODE_STREAM);
}
@Override
public void onClick(View view) {
if (view.getId()==R.id.start_btn)
{
isStart=true;
createAudioPlayer();
new Thread(new Runnable() {
@Override
public void run() {
startAudioPlay();
}
}).start();
}
if (view.getId()==R.id.btnStop)
{
isStart=false;
}
}
private void startAudioPlay() {
try {
FileInputStream fileInputStream=new FileInputStream(new File(Environment.getExternalStorageDirectory().getAbsolutePath()+"/outputs.pcm"));
audioTrack.play();//开始播放
int len=-1;
byte[] arr=new byte[minBufferSize];
while ( (len=fileInputStream.read(arr))!=-1 )
{
audioTrack.write(arr, 0, len);
}
audioTrack.stop();//停止播放
audioTrack.release();//释放资源
audioTrack=null;
fileInputStream.close();
isStart=false;
}catch (Exception e)
{
e.printStackTrace();
}
}
@Override
public void surfaceCreated(SurfaceHolder surfaceHolder) {
}
@Override
public void surfaceChanged(SurfaceHolder surfaceHolder, int i, int i1, int i2) {
}
@Override
public void surfaceDestroyed(SurfaceHolder surfaceHolder) {
}
}