OpenGL 学习系列---基础的绘制流程

2017-12-22
12 min read
OpenGL

避免图片丢失，建议阅读微信原文：

https://mp.weixin.qq.com/s/H6p3cLGpKys5ihF7ymBhJw

终于要开始探索奇妙的 3D 世界了，OpenGL 搞起。

OpenGL 简介

OpenGL 是一种应用程序编程接口，它是一种可以对图形硬件设备特性进行访问的软件库。

重点：OpenGL 是一种接口，既然是接口，那么就必然要有实现。

事实上，它的实现是由显示设备厂商提供的，而且依赖于厂商提供的硬件设备。

OpenGL 常用于 CAD、虚拟实境、科学可视化程序和电子游戏开发。

在 Android 上使用的是 OpenGL ES，它是 OpenGL 的子集，在 OpenGL 的基础之上裁剪掉了一些非必要的部分，主要是针对手机、PAD 和游戏主机等嵌入式设备设计的。

在 Android 上开发 OpenGL 既可以使用 Java 也可以使用 C ，话不多说，撸起袖子就是干！

OpenGL 的绘制流程

学习 OpenGL 的绘制，最好还是先从 2D 绘制开始，逐渐过渡到 3D 绘制。

Android 为 OpenGL 的绘制提供了一个特定的视图GLSurfaceView，就像 SurfaceView 一样，它渲染绘制也可以在一个单独的线程中，而非主线程，毕竟 GLSurfaceView 就是继承自 SurfaceView 的。

在使用 GLSurfaceView 时，需要通过setRenderer方法给它设置一个渲染器，而主要的渲染工作就是由渲染器Renderer完成了。

通过继承GLSurfaceView.Renderer类来实现我们自己的渲染器程序，主要有如下三个方法：

  • onSurfaceCreated
    • 当 GLSurfaceView 创建时调用，主要做一些准备工作。
  • onSurfaceChanged
    • 当 GLSurfaceView 视图改变时调用，第一次创建时也会被调用。
  • onDrawFrame
    • 每一帧绘制时被调用。

实现渲染器程序时，首先要考虑三个问题：

  • 在什么地方进行绘制？
  • 绘制成什么形状？
  • 用什么颜色来绘制？

而我们的程序也主要以解决上述三个问题为主，下面以 OpenGL 绘制一个点来讲解。

OpenGL 坐标

手机屏幕的坐标是以左上角为原点（0，0），向右为 X 轴正方形，向下为 Y 轴正方向，而 OpenGL 也有着它自己的一套坐标定义。

假设我们定义了一个点的坐标（4.3，2.1），也就是它的 X 轴坐标和 Y 轴坐标，而 OpenGL 最后会把我们定义的坐标映射手机屏幕的实际物理坐标上。

无论是 X 坐标还是 Y 坐标，OpenGL 都会把手机屏幕映射到 $[-1，1$] 的范围内。也就是说：屏幕的左边对应 X 轴的 -1 ，屏幕的右边对应 +1，屏幕的底边会对应 Y 轴的 -1，而屏幕的顶边就对应 +1。

不管屏幕是什么形状和大小，这个坐标范围都是一样的，例如下图所示：

所以，上面定义的坐标（4.3，2.1），最后是会被映射到手机屏幕之外的，处于不可见的状态。

这里，假定绘制一个位于原点的点（0，0），那么映射之后的位置就手机屏幕的中心了。

基本图元

解决了位置的问题，接下来就是形状和颜色的问题。

如同 Android 的 Canvas 对象提供了一些方法来完成基本的绘制：drawPoint、drawRect、drawLine 等，OpenGL 程序也提供且仅提供了三种基本的图元来完成绘制。

  • 点
  • 线
  • 三角形

其他的所有形状都是基于这三种图元来完成的，比如矩形就可以看成是两个三角形拼成的。

由于我们要绘制的是一个点，在坐标系中，一个坐标就可以代替一个点了。假设要绘制一个三角形，那么在坐标系中就需要三个点才行了。

接下来就涉及到 OpenGL 如何把定义的点的数据绘制出来了。

渲染管线

首先要明白一个概念渲染管线。

根据百度百科的定义，渲染管线也称为渲染流水线或像素流水线或像素管线，是显示芯片内部（GPU）处理图形信号相互独立的并行处理单元。

显卡的渲染管线就是显示核心的重要组成部分，是负责给图形配上颜色的一组专门通道。渲染管线的数量是决定显示芯片性能和档次的最重要的参数之一。

现阶段的显卡都是分为顶点渲染和像素渲染的。在显卡，内部分为两大区域，一个区域是顶点渲染单元（也叫顶点着色），主要负责描绘图形，也就是建立模型。一个区域是像素渲染管线，主要负责把顶点绘出的图形填上颜色。

上图就是 OpenGL 中渲染管线的一个处理流程。

可以看到，流程图从读取顶点数据开始，然后后执行两个着色器：

  • 顶点着色器
    • 主要负责描绘图形，也就是根据顶点坐标，建立图形模型。
  • 片段着色器
    • 主要负责把顶点绘出的图形填上颜色。

由于这两个着色器对于最后图形显示效果至关重要，并且它们还是可以通过编程来控制的，这也是为什么可编程渲染管线要优于固定编程管线了。

事实上，随着显示技术的发展，渲染管线将不复存在了，顶点着色器和渲染管线统一被流处理器（Stream Processors）所取代。

但是目前手机上 OpenGL 还是使用渲染管线中，有了渲染管线，我们就可以完成点的形状绘制和着色两大问题了，接下来的工作也是围绕这条渲染管线开始的。

内存拷贝

当定义完了顶点坐标，并且明确了下一步：顶点坐标将要通过渲染管线进行一系列处理，那么接下来就是如何把顶点坐标传递给渲染管线了。

OpenGL 的实现是由显示设备厂商提供的，它作为本地系统库直接运行在硬件上。而我们定义的顶点 Java 代码是运行在虚拟机上的，这就涉及到了如何把 Java 层的内存复制到 Native 层了。

一种方法是直接使用JNI开发，直接调用本地系统库，也就是用 C++ 来开发 OpenGL，这种实现肯定要学会的。

另一种方法就是在 Java 层把内存块复制到 Native 层。

使用ByteBuffer.allocateDirect()方法就可以分配一块 Native 内存，这块内存不会被 Java 的垃圾回收器管理。

它的使用方法大致都一样，抽出公共的模板：

   // 声明一个字节缓冲区 FloatBuffer
   private FloatBuffer floatBuffer;
   // 定义顶点数据
   float[] vertexData = new float[16];
   // FloatBuffer 初始化工作并放入顶点数据
   floatBuffer = ByteBuffer
       .allocateDirect(vertexData.length * Constant.BYTES_PRE_FLOAT)
       .order(ByteOrder.nativeOrder())
       .asFloatBuffer()
       .put(vertexData);

在allocateDirect方法分配了内存并指定了大小之后，下一步就是告诉 ByteBuffer 按照本地字节序组织它的内容。本地字节序是指，当一个值占用多个字节时，比如 32 位整型数，字节按照从最重要位到最不重要位或者相反顺序排列。

接下来asFloatBuffer方法可以得到一个反映底层字节的 FloatBuffer 类实例，避免直接操作单独的字节，而是使用浮点数。

最后，通过put方法就可以把数据从 Java 层内存复制到 Native 层了，当进程结束时，这块内存就会被释放掉。

顶点着色器

接下来可编程的部分了，定义着色器（Shader）程序。

使用不同的着色器对输入的图元数据执行计算操作，判断它们的位置、颜色，以及其他渲染属性。

首先是顶点着色器。

在渲染管线中传输的每个顶点坐标位置，OpenGL 都会调用一个顶点着色器来处理顶点相关的数据，这个处理过程可以很复杂，也可以很简单。

想要定义一个着色器程序，还要通过一种特殊的语言去编写：OpenGL Shading Language，简称GLSL.

GLSL语言类似于 C 语言或者 Java 语言，它的程序入口也是一个名为main的函数。关于 GLSL 的部分，完全可以单独写一篇博客了，暂时先不详细阐述。

下面就是一个简单的顶点着色器程序：

attribute vec4 a_Position;
void main()
{
    gl_Position = a_Position;
    gl_PointSize = 30.0;
}

着色器类似于一个函数调用的方式——数据传输进来，经过处理，然后再传输出去。

其中，gl_Position和gl_PointSize就是着色器中的特殊全局变量，它接收输入。

a_Position就是我们定义的一个变量，它是vec4类型的。而attribute只能存在于顶点着色器中，一般用于保存顶点数据，它可以在数据缓冲区中读取数据。

数据缓存区中的顶点坐标会赋值给 a_Position ，a_Position 会传递给 gl_Position。

而 gl_PointSize 则固定了点的大小为 30。

有了顶点着色器，就能够为每个顶点生成最终的位置，接下来就是定义片段着色器。

根据上图的渲染管线，顶点着色器到片段着色器之间，还要经过组装图元和光栅化图元。

光栅化技术

移动设备的显示屏由成百上千个小的、独立的部件组成，他们称为像素。每个像素通常由三个单独的子组件构成，它们发出红色、绿色和蓝色的光，因为每个像素都非常小，人的眼睛会把红色、绿色和蓝色的光混合在一起，从而创造出巨量的颜色范围。

OpenGL 就是通过 光栅化 技术的过程把每个点、直线及三角形分解成大量的小片段，它们可以映射到移动设备显示屏的像素上，从而生成一幅图像。这些片段类似于显示屏上的像素，每一个都包含单一的纯色。

如下图所示：

OpenGL 通过光栅化技术把一条直线映射为一个片段集合，显示系统通常会把这些片段直接映射到屏幕上的像素，结果一个片段就对应一个像素。

明白了这样的显示原理，就可以在其中做一些操作了，这就是片段着色器的功能了。

片段着色器

片段着色器的主要目的就是告诉 GPU 每个片段的最终颜色应该是什么。

对于基本图元的每个片段，片段着色器都会被调用一次，因此，如果一个三角形被映射到 10000 个片段，那么片段着色器就会被调用 10000 次。

下面就是一个简单的片段着色器程序：

precision mediump float;
uniform vec4 u_Color;
void main()
{
    gl_FragColor = u_Color;
}

其中，gl_FragColor变量就是 OpenGL 最终渲染出来的颜色的全局变量，而u_Color就是我们定义的变量，通过在 Java 层绑定到 u_Color变量并给它赋值，就会传递到 Native 层的gl_FragColor中。

而第一行的mediump指的就是片段着色器的精度了，有三种可选，这里用中等精度就行了。uniform则表示该变量是不可变的了，也就是固定颜色了，目前显示固定颜色就好了。

编译 OpenGL 程序

明白了着色器的功能和光栅化技术之后，对渲染管线的流程也就更加清楚了，接下来就是编译 OpenGL 的程序了。

编译 OpenGL 程序基本流程如下：

  • 编译着色器
  • 创建 OpenGL 程序和着色器链接
  • 验证 OpenGL 程序
  • 确定使用 OpenGL 程序

编译着色器

创建新的文件编写着色器程序，然后再从文件以字符串的形式中读取文件内容。这样会比把着色器程序写成字符串的形式更加清晰。

当读取了着色器程序内容之后，就可以编译了。

   // 编译顶点着色器
    public static int compileVertexShader(String shaderCode) {
        return compileShader(GL_VERTEX_SHADER, shaderCode);
    }
    
    // 编译片段着色器
    public static int compleFragmentShader(String shaderCode) {
        return compileShader(GL_FRAGMENT_SHADER, shaderCode);
    }

    // 根据类型编译着色器
    private static int compileShader(int type, String shaderCode) {
	    // 根据不同的类型创建着色器 ID
        final int shaderObjectId = glCreateShader(type);
        if (shaderObjectId == 0) {
            return 0;
        }
        // 将着色器 ID 和着色器程序内容连接
        glShaderSource(shaderObjectId, shaderCode);
        // 编译着色器
        glCompileShader(shaderObjectId);
		// 以下为验证编译结果是否失败
        final int[] compileStatsu = new int[1];
        glGetShaderiv(shaderObjectId, GL_COMPILE_STATUS, compileStatsu, 0);
        if ((compileStatsu[0] == 0)) {
	        // 失败则删除
            glDeleteShader(shaderObjectId);
            return 0;
        }
        return shaderObjectId;
    }

以上程序主要就是通过glCreateShader方法创建了着色器 ID，然后通过glShaderSource连接上着色器程序内容，接下来通过glCompileShader编译着色器，最后通过glGetShaderiv验证是否失败。

glGetShaderiv函数比较通用，在着色器阶段和 OpenGL 程序阶段都会通过它来验证结果。

创建 OpenGL 程序和着色器链接

接下来就是创建 OpenGL 程序并加着色器加进来。

  public static int linkProgram(int vertexShaderId, int fragmentShaderId) {
		// 创建 OpenGL 程序 ID
        final int programObjectId = glCreateProgram();
        if (programObjectId == 0) {
            return 0;
        }
        // 链接上 顶点着色器
        glAttachShader(programObjectId, vertexShaderId);
        // 链接上 片段着色器
        glAttachShader(programObjectId, fragmentShaderId);
        // 链接着色器之后，链接 OpenGL 程序
        glLinkProgram(programObjectId);
        final int[] linkStatus = new int[1];
        // 验证链接结果是否失败
        glGetProgramiv(programObjectId, GL_LINK_STATUS, linkStatus, 0);
        if (linkStatus[0] == 0) {
	        // 失败则删除 OpenGL 程序
            glDeleteProgram(programObjectId);
            return 0;
        }
        return programObjectId;
    }

首先通过glCreateProgram程序创建 OpenGL 程序，然后通过glAttachShader将着色器程序 ID 添加上 OpenGL 程序，接下来通过glLinkProgram链接 OpenGL 程序，最后通过glGetProgramiv来验证链接是否失败。

验证 OpenGL 程序

链接了 OpenGL 程序后，就是验证 OpenGL 是否可用。

 public static boolean validateProgram(int programObjectId) {
        glValidateProgram(programObjectId);
        final int[] validateStatus = new int[1];
        glGetProgramiv(programObjectId, GL_VALIDATE_STATUS, validateStatus, 0);
        return validateStatus[0] != 0;

    }

通过glValidateProgram函数验证，并再次通过glGetProgramiv函数验证是否失败。

确定使用 OpenGL 程序

当一切完成后，就是确定使用该 OpenGL 程序了。

// 创建 OpenGL 程序过程
 public static int buildProgram(Context context, int vertexShaderSource, int fragmentShaderSource) {
        int program;

        int vertexShader = compileVertexShader(
                TextResourceReader.readTextFileFromResource(context, vertexShaderSource));

        int fragmentShader = compleFragmentShader(
                TextResourceReader.readTextFileFromResource(context, fragmentShaderSource));

        program = linkProgram(vertexShader, fragmentShader);

        validateProgram(program);

        return program;
    }

// 创建完毕后，确定使用
    mProgram = ShaderHelper.buildProgram(context, R.raw.point_vertex_shader
                , R.raw.point_fragment_shader);

        glUseProgram(mProgram);

将上述的过程合并起来，buildProgram函数返回的 OpenGL 程序 ID 即可，通过glUseProgram函数表示使用该 OpenGL 程序。

绘制

完成了 OpenGL 程序的编译，就是最后的绘制了，再回到渲染器 Renderer里面。

public class PointRenderer extends BaseRenderer {

    private Point mPoint;
    public PointRenderer(Context mContext) {
        super(mContext);
    }

    @Override
    public void onSurfaceCreated(GL10 gl, EGLConfig config) {
        super.onSurfaceCreated(gl, config);
        glClearColor(0.0f, 0.0f, 0.0f, 0.0f);
        // 在 onSurfaceCreated 里面初始化，否则会报线程错误
        mPoint = new Point(mContext);
        // 绑定相应的顶点数据
        mPoint.bindData();
    }
    
    @Override
    public void onSurfaceChanged(GL10 gl, int width, int height) {
        // 确定视口大小
        glViewport(0, 0, width, height);
    }

    @Override
    public void onDrawFrame(GL10 gl) {
        // 清屏
        glClear(GL_COLOR_BUFFER_BIT);
        // 绘制
        mPoint.draw();
    }
}

在onSurfaceCreated函数里面做初始化工作，绑定数据等；在onSurfaceChanged方法里面确定视图大小，在onDrawFrame里面执行绘制。

为了简化渲染流程，把所有的操作都放在放在要渲染的对象里面去了，声明一个 Point 对象，代表要绘制的点。

public class Point extends BaseShape {

    // 着色器中定义的变量，在 Java 层绑定并赋值
    private static final String U_COLOR = "u_Color";
    private static final String A_POSITION = "a_Position";
    private int aColorLocation;
    private int aPositionLocation;
    
    float[] pointVertex = {
            0f, 0f
    };

    public Point(Context context) {
        super(context);
        mProgram = ShaderHelper.buildProgram(context, R.raw.point_vertex_shader
                , R.raw.point_fragment_shader);
        glUseProgram(mProgram);
        vertexArray = new VertexArray(pointVertex);
        POSITION_COMPONENT_COUNT = 2;
    }

    @Override
    public void bindData() {
        //绑定值
        aColorLocation = glGetUniformLocation(mProgram, U_COLOR);
        aPositionLocation = glGetAttribLocation(mProgram, A_POSITION);
        // 给绑定的值赋值，也就是从顶点数据那里开始读取，每次读取间隔是多少
        vertexArray.setVertexAttribPointer(0, aPositionLocation, POSITION_COMPONENT_COUNT,
                0);
    }

    @Override
    public void draw() {
        // 给绑定的值赋值
        glUniform4f(aColorLocation, 0.0f, 0.0f, 1.0f, 1.0f);
        glDrawArrays(GL_POINTS, 0, 1);
    }
}

在 Point 的构造函数中，编译并使用 OpenGL 程序，而在 bindData函数中，通过glGetUniformLocation和glGetAttribLocation函数绑定了我们在 OpenGL 中声明的变量u_Color和a_Position，要注意的是，attribute类型和uniform类型所对应的方法是不同的，最后通过给POSITION_COMPONENT_COUNT变量赋值，指定每个顶点数据的个数为 2 。

绑定了变量之后，接下来就是给他们赋值了，对于uniform类型变量，由于是固定值，所以直接调用glUniform4f方法给其赋值就好了，而attribute类型变量，则需要对应顶点数据中的值了，vertexArray.setVertexAttribPointer方法就是完成这个任务的。

	// 给某个顶点数据绑定值，并 Enable 使能
    public void setVertexAttribPointer(int dataOffset, int attributeLocation, int componentCount, int stride) {
        floatBuffer.position(dataOffset);
        glVertexAttribPointer(attributeLocation, componentCount, GL_FLOAT, false, stride, floatBuffer);
        glEnableVertexAttribArray(attributeLocation);
        floatBuffer.position(0);
    }

在setVertexAttribPointer方法中，使用了glVertexAttribPointer方法来绑定值，它的参数释义如下所示：

https://image.glumes.com/images/2019/05/12/opengl_canshu.png

通过glEnableVertexAttribArray方法来开启使用即可。

最后通过 glDrawArrays方法来执行最后的绘制，GL_POINTS代表绘制的类型，而参数0，1则代表绘制的点的范围，它是一个左闭右开的区间。

以上步骤就完成了一个点的绘制，如图所示：

具体代码详情，可以参考我的 Github 项目：

https://github.com/glumes/AndroidOpenGLTutorial

小结

使用 OpenGL 进行绘制的原理，也就是按照 GPU 的渲染管线流程，提供了顶点数据之后，执行顶点着色器，然后执行片段着色器，最后映射到手机屏幕上。

而作为可编程的阶段，我们就是在顶点着色器和片段着色器中做我们想要的处理，编写了着色器代码之后，通过编译链接成 OpenGL 程序。然后给 OpenGL 中设定的变量绑定对应的值，从顶点数据何处开始读取值。到这里，一切准备工作就做完了。

最后就在在渲染器 Renderer 中开始绘制了。

参考

  1. 《OpenGL ES 应用开发实践指南》
  2. 《OpenGL 编程指南》（原书第八版）
  3. https://github.com/glumes/AndroidOpenGLTutorial
#OpenGL

原创文章，转载请注明来源:    OpenGL 学习系列---基础的绘制流程


欢迎关注微信公众号：音视频开发进阶


Next Python 函数式编程