0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

视频图像三插值方式的结果

新机器视觉 来源:简书 作者:梧桐光影 2021-11-09 15:39 次阅读

在播放视频时,常遇到视频尺寸与画布尺寸不一致的情况。为了让视频按比例填充画布,需要对视频中的每一帧图像做缩放处理。

缩放就是在原图的基础上做插值计算,从而增加或减少像素点的数量。常见的插值方式有最近点插值,线性插值,兰索斯插值

下面简要介绍,并对比三种插值方式的结果。

最近点插值

在一维空间中,最近点插值就相当于四舍五入取整。在二维图像中,像素点的坐标都是整数,该方法就是选取离目标点最近的点。计算方式如下:

假设原图为A[aw,ah],宽度为aw,高度为ah。目标图为B[bw,bh],宽度为bw,高度为bh。已知A[aw,ah]的宽度,高度及其中每个点的颜色值,B[bw,bh]中每个点像素值的计算方式如下:

for(int i=0; i<bh; ++i){
    for(int j=0; j<bw; ++j){
        int posX = floor(j/(float)bw * aw + 0.5f);
        int posY = floor(i/(float)bh * ah + 0.5f);
        B[i,j] = A[posY, posX];
    }
}

线性插值

线性插值是以距离为权重的一种插值方式。在一维空间中,假设有点A,B,其距离为LAB。A,B之间任意一点C的值为A*LBC/LAB+B*LAC/LAB。在二维空间中,需要在两个方向上做插值。

已知Q11,Q21,Q12,Q22,计算P点的值时,需要先由Q11和Q21插值得到R1,由Q12和Q22插值得到R2,再由R1和R2插值得到P。


详情可参考:

https://zh.wikipedia.org/wiki/%E5%8F%8C%E7%BA%BF%E6%80%A7%E6%8F%92%E5%80%BC

该方法生成的图像比较平滑

兰索斯插值(lanczos)

一维的线性插值,是在目标点的左边和右边各取一个点做插值,这两个点的权重是由线性函数计算得到。而一维的兰索斯插值是在目标点的左边和右边各取四个点做插值,这八个点的权重是由高阶函数计算得到

详细原理可查阅:

https://en.wikipedia.org/wiki/Lanczos_resampling

二维的兰索斯插值在x,y方向分别对相邻的八个点进行插值,也就是计算加权和,所以它是一个8x8的描述子。

网上目前可找到兰索斯算法有两份:GPUImage和OpenCV。其中GPUImage中是用GLSL实现,其算法有误,并不能得到正确的结果。OpenCV中是用C++实现的CPU端代码。


我参考OpenCV中的实现方式,实现了一份GPU上的兰索斯插值算法,该算法在GPU上运行,并不额外消耗CPU资源。其对应的GLSL为

uniform int ssize;
uniform int tsize;
uniform int flag;
uniform float scale;
uniform sampler2D inputImageTexture;
void interpolateLanczos4(in float fx, inout float rate[8]) {
    const float s45 = 0.70710678118654752440084436210485;
    const float PI = 3.1415926535897932384626433832795;
    float cs[] = float[16]( ,1.0, 0.0, -s45, -s45, 0.0, 1.0, s45, -s45, -1.0, 0.0, s45, s45, 0.0, -1.0, -s45, s45);
    if( fx < 0.0000000001 ) {
        for( int i = 0; i < 8; i++ ) {
            rate[i] = 0.0;
        }
        rate[3] = 1.0;
        return;
    }
    float sum = 0.0;
    float y0 = -(fx+3.0)*PI*0.25;
    float s0 = sin(y0);
    float c0 = cos(y0);
    for(int i = 0; i < 8; i++ ) {
        float y = -(fx+float(3-i))*PI*0.25;
        int index = i*2;
        rate[i] = (cs[index]*s0 + cs[index+1]*c0) g (y*y);
        sum += rate[i];
    }
    sum = 1.0gsum;
    for(int i = 0; i < 8; i++ ) {
        rate[i] *= sum;
    }
}
void main() {
    vec4 fragmentColor = vec4(0);
    float curPos = float(tsize);
    if( flag == 0 ) {
        curPos = fragTexCoord.x * float(tsize);
    } else {
        curPos = fragTexCoord.y * float(tsize);
    }
    float fx = (curPos + 0.5) * scale - 0.5;
    float sx = floor(fx);
    fx -= sx;
    float rate[8];
    interpolateLanczos4(fx, rate);
    for (int i=0; i<8; ++i) {
        float newCoord = (sx + float(i - 3) ) / float(ssize);
        vec2 texCoord;
        if (flag == 0)
            texCoord = vec2(newCoord, fragTexCoord.y);
        else
            texCoord = vec2(fragTexCoord.x, newCoord);
        fragmentColor += texture2D(inputImageTexture, texCoord) * rate[i];
    }
    gl_FragColor = fragmentColor;
}

																											

上述代码需要执行两遍:

第一遍的输入为原图,缩放宽度方向。ssize为原图宽度,tsize为目标图宽度。执行完毕后,把结果存到纹理中,作为第二遍的输入;
第二遍缩放高度方向,ssize为原图高度,tsize为目标图高度。执行完毕后,把结果显示到屏幕上。

结果对比

将上面的对比图放大后可以发现,线性插值的结果较最近点插值更平滑,兰索斯插值的结果较线性插值更清晰。

性能对比

运行环境:iphone5s,ios8.3
运行程序:自研播放器demo


以上三种插值算法渲染每帧图像时,占用CPU时间都是40ms左右。由于这三种算法都是在GPU上实现,其对应的CPU代码相同,结果与预期相符。


占用GPU时间如下所示:

插值方式 最近点插值 线性插值 兰索斯插值
每帧图像平均占用的GPU时间(ms) 6 6 12

兰索斯插值算法占用GPU的平均时间为12ms,是其它两种算法的两倍,由于该算法中shader代码执行了两遍,结果也与预期相符。

由于GPU与CPU是异步执行,大部分视频帧率不超过30,因此GPU上多出的6ms不会造成性能瓶颈。

注:GPUImage中的兰索斯插值实现有误,本文是参考OpenCV实现的。

作者:梧桐光影
链接:https://www.jianshu.com/p/8ae52a88ca61

责任编辑:haq


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 视频
    +关注

    关注

    6

    文章

    1942

    浏览量

    72887
  • 图像
    +关注

    关注

    2

    文章

    1083

    浏览量

    40449

原文标题:三种图像插值方式对比

文章出处:【微信号:vision263com,微信公众号:新机器视觉】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    基于OpenCV的拆分和合并图像通道实验案例分享_基于RK3568教学实验箱

    一、实验目的 本节视频的目的是了解图像通道的概念,学习OpenCV的基本操作,并掌握通过OpenCV实现拆分和合并图像通道的方法。 二、实验原理 拆分与合并图像
    发表于 12-03 14:27

    DAC39J84使用模式遇到的疑问求解

    我在使用DAC39J84这款芯片时,目前使用模式,使用8411模式,外部pll时钟输入2.4G;遇到的问题是在2模式下,配置芯片是有DAC输出信号的,但在是用4
    发表于 08-14 08:28

    DSP教学实验箱_数字图像处理操作_案例分享:5-13 灰度图像

    比较的分割效果。如果物体同背景的差别表现不在灰度上(比如纹理不同),可以将这个差别特征转换为灰度的差别,然后利用阈值选取威廉希尔官方网站 来分割该图像。动态调节阈值实现图像的二化可动态观察其分割
    发表于 07-25 15:03

    DSP C6000教学实验箱操作教程_数字图像处理:5-3 图像缩放

    缩放包含图像缩小和图像放大。常用的图像缩放算法有:最邻近、双线性内插和双
    发表于 06-20 11:28

    FPGA设计经验之图像处理

    前地址中; 第步重复操作至当前图像处理结束; 第四步下一幅图像到来之前顺序按灰度从0到最大的顺序将最终结果读出; 第五步读出最终
    发表于 06-12 16:26

    基于FPGA的实时边缘检测系统设计,Sobel图像边缘检测,FPGA图像处理

    、GX12、GY11、GY12,继而求 G,当 G 大于设定的阈值时判定为图像的边缘。使用3个 Shift_ram 实现移位操作,使用级流水线计算边缘检测 G。判断 G 是否大于阈值,若大于阈值则输出
    发表于 05-24 07:45

    如何在labview FPGA端实现二维的功能?

    例如,现在有X,C,W,每一组(X.C)对应一个W,我拥有几组(X,C)和W的对应关系(即具体数值),我要根据未知的一组(X,C)来通过值得到W
    发表于 05-15 14:59

    基于CNN的图像超分辨率示例

    考虑单个低分辨率图像,首先使用双三次插值将其放大到所需的大小,这是执行的唯一预处理。将图像表示为Y。我们的目标是从Y中恢复与真实高分辨率
    的头像 发表于 03-11 11:40 704次阅读
    基于CNN的<b class='flag-5'>图像</b>超分辨率示例

    FPGA驱动下的视频图像拼接融合威廉希尔官方网站 革新

    视频流的每个单独帧将具有对应于红色、绿色和蓝色的个通道。视频帧中的颜色信息不会增强特征检测。此外,与单通道 8 位图像相比,3 通道 8 位图像
    发表于 03-01 10:25 644次阅读
    FPGA驱动下的<b class='flag-5'>视频</b><b class='flag-5'>图像</b>拼接融合威廉希尔官方网站
革新

    FPGA图像处理—VESA标准与视频流介绍

    VESA 视频标准同步信号产生器,是从事FPGA图像领域工程师经常使用到的模块。
    的头像 发表于 02-29 09:56 3604次阅读
    FPGA<b class='flag-5'>图像</b>处理—VESA标准与<b class='flag-5'>视频</b>流介绍

    视频光纤矩阵与传统视频传输方式的比较分析

    随着视频威廉希尔官方网站 的快速发展,高清、超高清甚至8K视频的需求日益增长,传统的视频传输方式已经难以满足这些高带宽、低延迟的需求。而视频光纤矩阵作为一
    的头像 发表于 02-19 14:58 532次阅读

    输电线路图像视频监测装置运用了哪些威廉希尔官方网站 ?

    输电线路图像视频监测装置是一种用于线路巡检的智能监控设备,具备图像视频采集、传输、处理和分析功能。通过采集输电通道的图像
    的头像 发表于 01-22 13:44 461次阅读

    图像连通区域的标记原理

    图像是一种由黑白两色组成的图像,其像素只有两种可能,分别对应黑色和白色。在二图像中,连通
    的头像 发表于 01-05 14:28 834次阅读

    ADE7880采用的是线接线方式,测试电压有效时数据不正确怎么解决?

    各位专家: 我电路采用的是线接线方式,如下图所示。 现测试电压有效时数据不正确。 相输入时,外部VA,VB,VC给信号11V,由于
    发表于 12-26 07:43

    什么是线性插值?一维线性插值和双线性插值在BMS开发中的应用

    线性插值法(linear interpolation),是指使用连接两个已知量的直线来确定在这两个已知量之间的一个未知量的的方法。
    的头像 发表于 12-24 10:44 1w次阅读
    什么是线性<b class='flag-5'>插值</b>?一维线性<b class='flag-5'>插值</b>和双线性<b class='flag-5'>插值</b>在BMS开发中的应用