基于Novatek NT98568 + OmniVision OS04E10實(shí)現(xiàn)Preroll方案

聯(lián)詠 NT98568 是一款高度整合的系統(tǒng)單芯片 (SoC)，專為邊緣 IP 攝影機(jī)應(yīng)用設(shè)計(jì)，適用于 2Mp 至 8Mp 的解決方案。其特點(diǎn)包括卓越的影像品質(zhì)、低碼率、低功耗，以及支援 preroll 和 always-on video 模式，特別適合電池供電的應(yīng)用場(chǎng)景。

NT98568 整合了雙核心 ARM Cortex-A7 CPU、新一代 ISP、H.265/H.264 視訊壓縮編解碼器、硬體 DLA 模組、圖形引擎、視訊處理引擎 (VPE) 和顯示控制器。此外，還具備乙太網(wǎng)路、USB 2.0 主機(jī)/設(shè)備、音訊編解碼器、RTC 和 SD/SDIO 3.0 等周邊功能，提供高性價(jià)比的全方位邊緣攝影機(jī)解決方案，滿足各類智慧應(yīng)用需求。

在 Pre-Roll 功能方面，NT98568 能夠持續(xù)將影像緩存到記憶體中，當(dāng)觸發(fā)事件發(fā)生時(shí)，可以保留事件發(fā)生前的影像資料。這項(xiàng)功能對(duì)于捕捉完整事件場(chǎng)景特別重要，確保不會(huì)錯(cuò)過任何關(guān)鍵時(shí)刻。搭配 OmniVision OS04E10 感光元件，更可實(shí)現(xiàn)優(yōu)異的低光源表現(xiàn)，為電池供電的智慧門鈴和居家安全攝影機(jī)提供理想的解決方案。

Sensor 介紹

OmniVision OS04E10 是一款具有 2K2K（2048x2048）分辨率的正方形 CMOS 圖像感測(cè)器，專為 1:1 長(zhǎng)寬比的超廣角安防攝影機(jī)，如吸頂或魚眼鏡頭應(yīng)用而設(shè)計(jì)。其獨(dú)特的數(shù)字浮水印功能可防止視訊源被篡改，確保影像的真實(shí)性和可靠性。此感測(cè)器支援 512p 常開低功耗模式，不僅可即時(shí)捕捉快速移動(dòng)的視訊，還能實(shí)現(xiàn)優(yōu)異的 Pre-roll 視訊錄制功能，特別適合需要長(zhǎng)時(shí)間待機(jī)的電池供電設(shè)備。

在8051系統(tǒng)下，可以進(jìn)行512x512分辨率的影片錄制，總共20幀（7幀/秒，錄制3秒）。當(dāng)Preroll感測(cè)器偵測(cè)到物體移動(dòng)時(shí)，會(huì)觸發(fā)'md hits'功能，直接進(jìn)入fastboot 2.0。在RTOS階段，所有Preroll幀會(huì)被編碼成H26x位元流，可于后續(xù)在HDAL階段取得。

系統(tǒng)流程

Preroll流程圖

Pre-roll的流程說明如下，系統(tǒng)上電后，會(huì)先執(zhí)行RTOS部分

1. 進(jìn)入RTOS，啟動(dòng)8051 Preroll功能

2. 8051開始產(chǎn)生壓縮后的preroll影像，RTOS進(jìn)入power-off狀態(tài)

3. 當(dāng)sensor偵測(cè)到動(dòng)作后，開始喚醒系統(tǒng)

• 載入Linux

• 進(jìn)行快速編碼

1. 準(zhǔn)備RTOS環(huán)境，并行以下任務(wù)

2. 釋放RTOS資源并與Linux SMP同步

4. 同時(shí)間Linux部分流程為

1. 開啟sensor

2. 進(jìn)行分辨率調(diào)整

3. 等待并跳轉(zhuǎn)至Linux

4. Linux開機(jī)

5. 等待RTOS并入Linux SMP

6. 執(zhí)行application

5. 當(dāng)偵測(cè)的事件處理完成后，可再回到preroll模式等待下個(gè)事件發(fā)生

執(zhí)行過程

在開機(jī)過程中，系統(tǒng)最初從RTOS啟動(dòng)，當(dāng)控制臺(tái)日志停在'notify 8051 shut'時(shí)，表示系統(tǒng)已進(jìn)入preroll模式并正在錄制影片。

當(dāng)感測(cè)器偵測(cè)到物體移動(dòng)（在感測(cè)器前揮手）并觸發(fā)'md hits'功能時(shí)，系統(tǒng)會(huì)轉(zhuǎn)換到RTOS系統(tǒng)。此時(shí)，控制臺(tái)日志會(huì)顯示'Hello RTOS World! CPU[1]'。隨后，當(dāng)看到日志顯示'is_fastboot = 1'時(shí)，表示系統(tǒng)已進(jìn)入Fastboot 2.0模式。

當(dāng)日志顯示'fastboot_version = 2'時(shí)，表示這是Fastboot 2.0版本，同時(shí)也代表RTOS階段即將結(jié)束。當(dāng)系統(tǒng)切換到Linux系統(tǒng)時(shí)，日志會(huì)顯示'%%Booting Linux on physical CPU 0x0'。

當(dāng)Linux開機(jī)程序完成后，系統(tǒng)會(huì)進(jìn)入shell界面，顯示'root@NVTEVM:~$'提示符號(hào)。
接著可以執(zhí)行preroll AP 'preroll_fastboot 1 0'指令，取得preroll位元流檔案'dump_bs_preroll_0.dat'和主要位元流檔案'dump_bs_main_0.dat'。

當(dāng)AP執(zhí)行時(shí)，按下'p'鍵會(huì)讓8051進(jìn)入preroll模式，在此期間main part會(huì)關(guān)閉電源。當(dāng)感測(cè)器偵測(cè)到動(dòng)作時(shí)，系統(tǒng)將重復(fù)上述流程。

Q＆A

Q1. 是否支援外部PSRAM？
A：是。

Q2. 系統(tǒng)主頻為多少？
A：800 Mhz。

Q3. NT98568可支援多大容量的記憶體？
A：根據(jù)型號(hào)的不同，有以下規(guī)格
      568QC/QD - 1024(Mb)/2048(Mb)
      568QB - 512(Mb)。

Q4. 目前preroll功能僅支援OS04E10嗎？ 
A：還有支援 GalaxyCore GC4103。

Q5. preroll模式喚醒后開機(jī)需時(shí)多久？
A：在lower power模式下需200ms。

?場(chǎng)景應(yīng)用圖

?產(chǎn)品實(shí)體圖

?展示板照片

?方案方塊圖

?核心技術(shù)優(yōu)勢(shì)

1. 提供完整SDK予客戶使用 2. Preroll模式可降低功耗，延長(zhǎng)待機(jī)時(shí)間 3. 整合CNN，實(shí)現(xiàn)邊緣運(yùn)算

?方案規(guī)格

1. 芯片核心 Dual Cortex-A7 2. 內(nèi)嵌8051 MCU 3. AI運(yùn)算力是0.5T 4. 電源輸入是12V/2A 5. Kernel version：Linux 5.10.168 6. 結(jié)合影像和語音編解碼器