iOS CVPixelBufferCreate 创建 CVPixelBufferRef 时屏幕拉伸或像素偏移(花屏)

news/2024/7/20 21:59:10 标签: ios, objective-c, 音视频, iOS

先说结论:

     CVPixelBufferCreate 创建的 CVPixelBufferRef 可能由以下的原因导致的:

1.pixelFormatType 格式错误,换一下格式尝试

2.width和height 非 32 的整数倍

3.视频帧的宽高比非标准比例(4:3,16:9,1:1)

另外说明,我没找到比较有权威的对应文档和教程,上面是我通过测试得出的结论,如果有错误,还请批评指正

一、pixelFormatType 格式错误 

kCVPixelFormatType_420YpCbCr8BiPlanarVideoRange 是nv12 的格式 yyyyuvuv

kCVPixelFormatType_420YpCbCr8Planar 是i420的格式 yyyyuuvv

需要注意的是,并不是每一个枚举值在iOS上都是支持的,可能存在不支持的情况

二、width和height 非 32 的整数倍

CVReturn result = CVPixelBufferCreate(kCFAllocatorDefault,
                                               1920,
                                               1080,
                                               kCVPixelFormatType_420YpCbCr8BiPlanarVideoRange,   //  NV12
                                               (__bridge CFDictionaryRef)(pixelAttributes),
                                               &pixelBuffer);

像素的存储格式通常是一行一行存储的,当宽度为了实现32的整数倍做出调整时,从帧数据复制的时候,就要在多出的那部分做对应的填充。缩小也是一样的,要去放弃多余的数据

比如原视频是 宽4 高4的视频,你调成宽8高8的时候

yyyy                        yyyyyyyy (后面四个y是自己填充的)

yyyy                        yyyyyyyy (后面四个y是自己填充的)

uuuu     ->>             uuuuuuuu (后面四个u是自己填充的)

vvvv                        vvvvvvvv (后面四个v是自己填充的)

例子可能不太恰当,但是意思比较清楚的。后面会有代码举例

三、视频帧的宽高比非标准比例(4:3,16:9,1:1)

这个解决办法和上一条是一样的,去调整宽高,来实现比例的要求。

例子:

//例子是 I420 数据转成 NV12 的 CVPixelBufferRef
//width 原视频的宽
//height 原视频的高
//buffer NSData 类型的原视频的帧数据。格式为I420

        NSDictionary *pixelAttributes = @{(NSString *)kCVPixelBufferIOSurfacePropertiesKey:@{}};
        //调整后的width
        int inner_width = 0;
        //调整后的height
        int inner_height = 0;
        //视频比例不是 16:9 , 4:3 , 1:1 ,宽高不是32的整数倍时,将宽高统一调整为1920和1080.
        //因为项目要求,所有视频都不会比1920x1080大,故这里只是放大,无需缩小
        if (width*1.0 / height*1.0 != 16.0/9 || width*1.0 / height*1.0 != 1.0 || width*1.0 / height*1.0 != 4.0/3 || width%32 != 0 || height%32 != 0 ) {
            inner_width = 1920;
            inner_height = 1080;
        }else{
            inner_width = width;
            inner_height = height;
        }
         CVPixelBufferRef pixelBuffer = NULL;
         CVReturn result = CVPixelBufferCreate(kCFAllocatorDefault,
                                               inner_width,
                                               inner_height,
                                               kCVPixelFormatType_420YpCbCr8BiPlanarVideoRange,   //  NV12
                                               (__bridge CFDictionaryRef)(pixelAttributes),
                                               &pixelBuffer);
         if (result != kCVReturnSuccess) {
             //CVPixelBufferRef 初始化失败
             NSLog(@"Unable to create cvpixelbuffer %d", result);
         }

        // 复制 buffer.bytes 数据
        uint8_t* pdata = (uint8_t*)buffer.bytes;

         CVPixelBufferLockBaseAddress(pixelBuffer, 0);
        // Y 数据填充
        unsigned char *yDestPlane = (unsigned char *)CVPixelBufferGetBaseAddressOfPlane(pixelBuffer, 0);
        for (int i = 0, k = 0; i < inner_height; i++) {
            for (int j = 0; j< inner_width; j++) {
                if (inner_width > width && j >= width) {
                // 扩大的那部分 width 用该行最后一个像素填充
                    if (i >= height) {
                        // 高度大于视频的实际高度,说明该行没有帧数据,则用实际视频帧的最后一行最后一个像素填充
                        yDestPlane[k++] = pdata[height*width];
                        continue;
                    }
                    yDestPlane[k++] = pdata[i*width + width];
                    continue;
                }
                if (inner_height > height && i >= height) {
                    // 高度大于视频的实际高度,说明改行没有帧数据,则用实际视频帧的最后一行最后一个像素填充
                    yDestPlane[k++] = pdata[height * width];
                    continue;
                }
                yDestPlane[k++] = pdata[i*width + j];
            }
        }
        // UV 数据填充
        unsigned char *uvDestPlane = (unsigned char *)CVPixelBufferGetBaseAddressOfPlane(pixelBuffer, 1);
        for (int i = 0, k = 0; i < inner_height / 2; i++) {
            for (int j = 0; j< inner_width / 2; j ++) {
                if (inner_width > width && j >= width/2) {
                    if (i > height/2) {
                        // 高度大于视频的实际高度,说明改行没有帧数据,则用实际视频帧的最后一行最后一个像素填充
                        uvDestPlane[k++] = pdata[height *width/4  + width * height];
                        uvDestPlane[k++] = pdata[height *width/4  + width * height * 5 / 4];
                    }else{
                        // 高度不高于视频的实际高度,说明改行有帧数据,则用实际视频帧的该行最后一个像素填充
                        uvDestPlane[k++] = pdata[i *width/2 + width/2 + width * height];
                        uvDestPlane[k++] = pdata[i *width/2 + width/2 + width * height * 5 / 4];
                        
                    }
                    continue;
                }
                if (inner_height > height && i >= height/2) {
                    // 高度大于视频的实际高度,说明改行没有帧数据,则用实际视频帧的最后一行最后一个像素填充
                    uvDestPlane[k++] = pdata[height *width/4 + width * height];
                    uvDestPlane[k++] = pdata[height *width/4 + width * height * 5 / 4];
                    continue;
                }
                // 高度不高于视频的实际高度,说明改行有帧数据,则用实际视频帧像素填充
                uvDestPlane[k++] = pdata[i *width/2 + j + width * height];
                uvDestPlane[k++] = pdata[i *width/2 + j + width * height * 5 / 4];
            }
        }
        CVPixelBufferUnlockBaseAddress(pixelBuffer, 0);
//pixelBuffer 构造完成,用于后续使用


http://www.niftyadmin.cn/n/5401286.html

相关文章

qiankun微前端使用

微前端是什么&#xff1f; 微前端就是页面的某个功能可以独立为一个项目进行开发、部署。比如&#xff1a;自己的项目使用iframs引入百度 qiankun qiankun是一个基于single-spa的微前端实现库&#xff0c;qiankun 对于用户而言只是一个类似 jQuery 的库&#xff0c;你需要调…

Apache Echarts介绍与入门

介绍 Apache ECharts 是一款基于 Javascript 的数据可视化图表库&#xff0c;提供直观&#xff0c;生动&#xff0c;可交互&#xff0c;可个性化定制的数据可视化图表。 官网地址&#xff1a;https://echarts.apache.org/zh/index.html 入门案例 Apache Echarts官方提供的快…

2023中国PostgreSQL数据库生态大会:洞察前沿趋势,探索无限可能(附核心PPT资料下载)

随着数字化浪潮的推进&#xff0c;数据库技术已成为支撑各行各业数字化转型的核心力量。2023中国PostgreSQL数据库生态大会的召开&#xff0c;无疑为业界提供了一个深入交流、共同探索PostgreSQL数据库技术未来发展趋势的平台。本文将带您走进这场盛会&#xff0c;解析大会的亮…

微服务间通信重构与服务治理笔记

父工程 依赖版本管理,但实际不引入依赖 pom.xml <?xml version"1.0" encoding"UTF-8"?> <project xmlns"http://maven.apache.org/POM/4.0.0"xmlns:xsi"http://www.w3.org/2001/XMLSchema-instance"xsi:schemaLocation&…

一些常用到的git命令

git stash -a //缓存所有文件 git checkout -b dev origin/dev //切换到dev分支上,接着跟远程的origin地址上的dev分支关联起来 //推送本地分支到远程仓库 git push origin localbranchname:remotebrancname git revert onefile //https://www.freecodecamp.org/news/git-re…

.Net利用Microsoft.Extensions.DependencyInjection配置依赖注入

一、概述 为了让接口程序更加模块化和可测试&#xff0c;采用依赖注入的方式调用接口方法。 二、安装Microsoft.Extensions.DependencyInjection 在NuGet里面搜索Microsoft.Extensions.DependencyInjection&#xff0c;并进行安装。 三、代码编写 3.1 创建Service 实现类…

springcloud项目,无法在Sentinel Dashboard查看到服务的访问监控信息【解决方法】

1.问题场景 因为warehouse子项目的前端未开发&#xff0c;所以只能通过postman测试接口访问&#xff1b; 2.解决方法 package org.sharetek.common.security.config;import cn.dev33.satoken.SaManager; import cn.dev33.satoken.filter.SaServletFilter; import cn.dev33.sat…

Hadoop之HDFS——【模块一】元数据架构

一、元数据是什么 在HDFS中,元数据主要指的是文件相关的元数据,通过两种形式来进行管理维护,第一种是内存,维护集群数据的最新信息,第二种是磁盘,对内存中的信息进行维护与持久化,由namenode管理维护。从广义的角度来说,因为namenode还需要管理众多的DataNode结点,因…