三角龙骨厂家
免费服务热线

Free service

hotline

010-00000000
三角龙骨厂家
热门搜索:
行业资讯
当前位置:首页 > 行业资讯

基于Blackfin的智能IPCamera系统设计和优化

发布时间:2020-06-30 20:49:53 阅读: 来源:三角龙骨厂家

本文基于一套智能IP Camera监控系统的具体实现,讨论了在新型高性能处理器对软件系统实现的挑战和思路,软件系统如何利用现有模块做整合设计,保证灵活性和通用性,并讨论了一系列系统优化手段,以达到系统性能的最优化。

本文引用地址:项目背景及概述

近年来,随着嵌入式应用越来越复杂,应用场合越来越多,特别是多媒体功能在各个领域的飞速发展,高性能计算变得无处不在,从消费电子,网络通讯到工业控制和监控,大多数应用都需要更高的数字信号处理能力。出于成本和设计难度的考虑,人们倾向于使用单颗芯片完成所有的工作,传统的DSP处理器和MCU处理器开始以多种形式进行融合。

1. 传统的MCU+DSP合作方案被集成到一颗芯片封装内;或者进一步实现为真正的异构多核,可以共享部分甚至全部外部设备。

2. 以SoC的形式为MCU加上基于固定硬件IP模块的数据处理能力,如一些编解码器,针对一些固定标准的应用。

3. 随着高端嵌入式处理器频率突破500MHz并正在挺进1GHz,MCU和DSP平台开始真正的融合, DSP处理器的外设接口数量和控制能力逐步提高,而MCU的带宽和计算能力特别是软件多媒体处理能力也越来越强,两者之间不再有本质的区别。

以上三种融合的形式,实际上互相之间都有借鉴和交叉,从这里开始的未来发展,DSP和MCU之间,多核处理器的核与核之间,都不再有真正的界限。对于任何应用,对应的处理器都是灵活的软件计算能力、高效的硬件IP模块和相应外设的结合体,即所谓的“Convergent Platform”(汇聚平台)。

这样的处理器平台,对于嵌入式软件开发者提出了更新更高的要求,高级语言编译器要能够最大程度地利用硬件细节来优化编译性能,减少手工优化的工作量,保持软件的通用性;DSP算法开发人员不仅仅要了解硬件平台,也要考虑到软件平台的架构对算法实现和优化的影响,例如分离硬件相关部分和无关部分以适应操作系统的结构;而软件平台开发人员也要考虑处理器的细节以便进行系统优化,例如为多核或DMA通道的并行处理抽象出系统接口。硬件设计者、算法设计者、系统软件设计者之间的界限也在消失,复合型的嵌入式系统开发者和团队才能最适应底层硬件平台的变化。

在这个DSP/MCU/硬件IP模块三者融合的大趋势中,ADI公司的Blackfin系列处理器就是一个代表产品。从最早的BF53x系列,到目前的增加了图像处理单元的BF54x系列和低功耗BF52x系列,以及双核的BF561,都是以同样的内核配置多样化的带宽和外设,针对不同的应用和市场。在这样的处理器上选择和设计软件,需要考虑的因素有很多。

1. 如何保持对处理器DSP特性硬件细节的最大效率使用,以达到最优算法性能和并行性。

2. 如何最大程度地保持软件通用性,避免过多的硬件相关代码和汇编代码。

3. 如何降低软件平台开发成本,是否适合采用开源操作系统或模块。

4. 系统是否需要实时性能,采用的软件平台是否提供这样的实时性保证。

这些因素有时候是互相矛盾的,需要考虑具体应用的特点和自身的资源做一个折衷的最优化设计。

ADI公司为Blackfin的软件平台做了很多的努力,提供多样化的软件生态环境。Blackfin支持mClinux,VDK,mC/OSII,Nucleus等多种OS/RTOS,基于VDSP开发工具提供多种免费的音视频codec,硬件抽象函数库及驱动。在这个基于BF53x的智能监控系统中,我们希望最大程度地发挥芯片处理能力,达到最好的编码和智能算法能力,所以选择了一种RTOS mC/OSII及其网络协议栈作为操作系统平台。在小型的RTOS中,一般不区分用户态和内核态,访问系统硬件资源的开销小,中断和任务切换时间有实时保证,对内存的使用和分配也比较自由,这些特点决定了在RTOS下更容易发挥Blackfin作为DSP处理器的性能,并能直接使用ADI提供的高性能H.264编码库;但缺点是对比Linux这样开源资源比较丰富的操作系统,RTOS缺少某些现成的应用程序比如HTTP Server,需要更多的开发投入或第三方资源。

Blackfin IP Camera 系统架构

整个IP Camera系统主要包括音视频采集,智能视频分析或智能音频分析,音/视频编码,流媒体打包传输,系统控制等模块(如图1所示)。

基本系统为Blackfin的视频接口PPI同数字视频流输入相连,用来接收视频信号,而串行的SPORT接口可以连接音频输入,音视频数据以专用DMA通道传送到SDRAM;如果需要智能监控,可以根据需要插入不同的分析模块;然后软件编码器负责对实时采集进来的音视频进行压缩,并打成TS(Transport Stream)流进行传输。整个系统是数据流驱动的,图1中不同的输入,分析和编码模块可以根据需要来选择,每个模块的输入和输出的是符合标准的数据流,可以灵活地插入系统数据流的不同位置进行处理。一般的Blackfin单核芯片只能同时使用其中的一部分模块,但双核芯片如BF561或双片方案中,可以同时使用所有的模块。

视频采集和编码

Blackfin 系列DSP专门针对高速并行数据特别是视频数据集成了并行外围接口(PPI),在传统的数据总线的基础上增加了一条专用数据吞吐通道。

PPI接口不仅可以按照BT.601视频流的“硬件同步”模式工作,还能自动解码BT.656前同步码,从而允许无缝连接到多种视频源和图像传感器,与直接存储器存取(DMA)控制器配合使用,PPI可以在完整的视频帧信息中只读入有效的视频信息,或只有消隐区域。这样当不需要完整的视频帧时显著节省了带宽。另外,PPI可以忽略隔行的BT.656视频流的所有第二场图像信息,从而提供了一种很有效的方法用于快速抽取输入信号。最后,因为PPI本身就可以解BT.656视频流,所以它可以直接连接到流行的类似ADV7183A视频解码器。

IP Camera适应主流的编码标准如H.264,MPEG-4等,ADI公司都提供免费的编码器软件。本项目采用H.264视频压缩标准,ADI的H.264编码器性能得到了最大的优化,充分利用了片内L1 内存,数据通过DMA搬移,与处理器的运算并行执行。主要的特点有:支持YUV420和UYVY422 (CCIR-656) 视频输入格式,输出是以NAL为单位的基本视频流;对于H.264编码,支持Baseline Profile和一些Main profile的特性(Interlaced encoding, CABAC),BF53x能达到最大实时1/2 D1,BF561支持D1实时,支持I和P帧,自适应CBR码率控制等。对于不同的应用,ADI H.264编码器的比特率是可调整的,低比特率下甚至可以在CDMA1x这样的低带宽应用中实现实时传输。

智能监控

目前监控市场的发展越来越趋向于智能化,各种视频或音频的智能分析算法得到产业化应用,如运动目标检测和跟踪,入侵检测,特殊声音检测和定位等等。Blackfin处理器从架构到指令集都对多媒体处理有很好的支持,有专用的视频处理指令,因此特别适合于实现灵活的多媒体智能分析算法。ADI公司推出了“Image Tool Box”智能监控软件包,针对智能监控算法中的一些常用和基本函数做了专门的优化,有很好的性能,可以加速上层算法的实现和优化。

一般智能分析的实现是针对未编码的媒体流进行分析,但也有利用编码器输出结果的算法。本项目因为直接使用ADI公司给定的编码库,因此使用前置的智能模块直接分析输入的媒体流,并输出结果。音视频的智能处理种类比较多,并在不断地改进,所以一般都用高性能的DSP来实现。在Blackfin上目前有多种智能处理模块,如鱼眼矫正、运动物体检测及基于运动检测的上层算法如遗留物检测、入侵检测、枪声检测和定位等等。根据智能模块的输出结果,系统控制和编码部分都可以做相应的智能处理,如勾勒运动物体边框,调高编码器分辨率,根据音源位置调整摄像头方向,等等。这些模块一般都有比较标准的输入输出接口,便于二次开发中的系统集成。

linux操作系统文章专题:linux操作系统详解(linux不再难懂)

河北西装

天津工服制作

定夹克