久久精品五月,日韩不卡视频在线观看,国产精品videossex久久发布 ,久久av综合

站長資訊網(wǎng)
最全最豐富的資訊網(wǎng)站

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

  前言:來自百度的深度學(xué)習(xí)工程師,圍繞計(jì)算機(jī)視覺領(lǐng)域的八大任務(wù),包括:圖像分類、目標(biāo)檢測、圖像語義分割、場景文字識(shí)別、圖像生成、人體關(guān)鍵點(diǎn)檢測、視頻分類、度量學(xué)習(xí)等,進(jìn)行了較為詳細(xì)的綜述并形成此文。

  這篇綜述中,介紹了這些任務(wù)的基本情況,以及目前的技術(shù)進(jìn)展、主要的模型和性能對(duì)比等。而且還逐一附上了GitHub傳送門,用于更進(jìn)一步的學(xué)習(xí)與安裝實(shí)踐指南。其中不少教程還是用中文寫成,非常友好。這篇綜述全程干貨,推薦收藏閱讀。

  上篇

  計(jì)算機(jī)視覺(Computer Vision)是研究如何使機(jī)器“看”的科學(xué),更進(jìn)一步的說,是使用攝像機(jī)機(jī)和電腦代替人眼對(duì)目標(biāo)進(jìn)行識(shí)別、跟蹤和測量等的機(jī)器視覺,并通過電腦處理成為更適合人眼觀察或傳送給儀器檢測的圖像。

  形象地說,就是給計(jì)算機(jī)安裝上眼睛(攝像機(jī))和大腦(算法),讓計(jì)算機(jī)像人一樣去看、去感知環(huán)境。計(jì)算機(jī)視覺技術(shù)作為人工智能的重要核心技術(shù)之一,已廣泛應(yīng)用于安防、金融、硬件、營銷、駕駛、醫(yī)療等領(lǐng)域。本文上篇中,我們將介紹基于PaddlePaddle的四種計(jì)算機(jī)視覺技術(shù)及其相關(guān)的深度學(xué)習(xí)模型。

  一、圖像分類

  圖像分類是根據(jù)圖像的語義信息對(duì)不同類別圖像進(jìn)行區(qū)分,是計(jì)算機(jī)視覺中重要的基礎(chǔ)問題,是物體檢測、圖像分割、物體跟蹤、行為分析、人臉識(shí)別等其他高層視覺任務(wù)的基礎(chǔ)。

  圖像分類在許多領(lǐng)域都有著廣泛的應(yīng)用。如:安防領(lǐng)域的人臉識(shí)別和智能視頻分析等,交通領(lǐng)域的交通場景識(shí)別,互聯(lián)網(wǎng)領(lǐng)域基于內(nèi)容的圖像檢索和相冊(cè)自動(dòng)歸類,醫(yī)學(xué)領(lǐng)域的圖像識(shí)別等。

  得益于深度學(xué)習(xí)的推動(dòng),圖像分類的準(zhǔn)確率大幅度提升。在經(jīng)典的數(shù)據(jù)集ImageNet上,訓(xùn)練圖像分類任務(wù)常用的模型,包括AlexNet、VGG、GoogLeNet、ResNet、Inception-v4、MobileNet、MobileNetV2、DPN(Dual Path Network)、SE-ResNeXt、ShuffleNet等。

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ AlexNet

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ VGG

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ GoogLeNet

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ ResNet

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ Inception-v4

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ MobileNet

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ SE-ResNeXt

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ ShuffleNet

  模型的結(jié)構(gòu)和復(fù)雜程度都不一樣,最終得到的準(zhǔn)確率也有所區(qū)別。下面這個(gè)表格中,列出了在ImageNet 2012數(shù)據(jù)集上,不同模型的top-1/top-5驗(yàn)證準(zhǔn)確率。

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ 圖像分類系列模型評(píng)估結(jié)果

  在我們的GitHub頁面上,提供上述與訓(xùn)練模型的下載。以及詳細(xì)介紹了如何使用PaddlePaddle Fluid進(jìn)行圖像分類任務(wù)。包括安裝、數(shù)據(jù)準(zhǔn)備、模型訓(xùn)練、評(píng)估等等全部過程。還有將Caffe模型轉(zhuǎn)換為PaddlePaddle Fluid模型配置和參數(shù)文件的工具。

  上述頁面的傳送門在此:

  https://github.com/PaddlePaddle/models/blob/develop/fluid/PaddleCV/image_classification

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

 
    二、目標(biāo)檢測

  目標(biāo)檢測任務(wù)的目標(biāo)是給定一張圖像或是一個(gè)視頻幀,讓計(jì)算機(jī)找出其中所有目標(biāo)的位置,并給出每個(gè)目標(biāo)的具體類別。

  對(duì)于人類來說,目標(biāo)檢測是一個(gè)非常簡單的任務(wù)。然而,計(jì)算機(jī)能夠“看到”的是圖像被編碼之后的數(shù)字,很難解圖像或是視頻幀中出現(xiàn)了人或是物體這樣的高層語義概念,也就更加難以定位目標(biāo)出現(xiàn)在圖像中哪個(gè)區(qū)域。

  與此同時(shí),由于目標(biāo)會(huì)出現(xiàn)在圖像或是視頻幀中的任何位置,目標(biāo)的形態(tài)千變?nèi)f化,圖像或是視頻幀的背景千差萬別,諸多因素都使得目標(biāo)檢測對(duì)計(jì)算機(jī)來說是一個(gè)具有挑戰(zhàn)性的問題。

  在目標(biāo)檢測任務(wù)中,我們主要介紹如何基于PASCAL VOC、MS COCO數(shù)據(jù)訓(xùn)練通用物體檢測模型,包括SSD模型、PyramidBox模型、R-CNN模型。

  • SSD模型,Single Shot MultiBox Detector,是一種單階段的目標(biāo)檢測器。與兩階段的檢測方法不同,單階段目標(biāo)檢測并不進(jìn)行區(qū)域推薦,而是直接從特征圖回歸出目標(biāo)的邊界框和分類概率。SSD 運(yùn)用了這種單階段檢測的思想,并且對(duì)其進(jìn)行改進(jìn):在不同尺度的特征圖上檢測對(duì)應(yīng)尺度的目標(biāo),是目標(biāo)檢測領(lǐng)域較新且效果較好的檢測算法之一,具有檢測速度快且檢測精度高的特點(diǎn)。

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ SSD目標(biāo)檢測模型結(jié)構(gòu)

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ SSD目標(biāo)檢測可視化

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ 目標(biāo)檢測SSD模型評(píng)估結(jié)果

  在GitHub上,我們更詳細(xì)的介紹了如何下載、訓(xùn)練、使用這一模型。

  傳送門在此:

  https://github.com/PaddlePaddle/models/blob/develop/fluid/PaddleCV/object_detection

  • PyramidBox模型,百度自主研發(fā)的人臉檢測模型,是一種語境輔助的單次人臉檢測新方法,能夠解決在不受控制的環(huán)境中檢測小的、模糊的及部分遮擋的人臉時(shí)的問題,模型于18年3月份在WIDER Face數(shù)據(jù)集上取得第一名。

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ Pyramidbox 人臉檢測模型

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ Pyramidbox 預(yù)測可視化

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ PyramidBox模型評(píng)估結(jié)果

  如果想進(jìn)一步了解這個(gè)模型,傳送門在此(而且是全中文指導(dǎo)):

  https://github.com/PaddlePaddle/models/tree/develop/fluid/PaddleCV/face_detection

  • R-CNN系列模型,區(qū)域卷積神經(jīng)網(wǎng)絡(luò)(R-CNN)系列模型是典型的兩階段目標(biāo)檢測器,相較于傳統(tǒng)提取區(qū)域的方法,R-CNN中RPN網(wǎng)絡(luò)通過共享卷積層參數(shù)大幅提高提取區(qū)域的效率,并提出高質(zhì)量的候選區(qū)域。Faster R-CNN和Mask R-CNN是R-CNN系列的典型模型。

  Faster R-CNN 區(qū)域生成網(wǎng)絡(luò)(RPN)+Fast R-CNN的實(shí)現(xiàn),將候選區(qū)域生成、特征提取、分類、位置精修統(tǒng)一到一個(gè)深度網(wǎng)絡(luò)框架,大大提高運(yùn)行速度。

  Mask R-CNN在原有Faster R-CNN模型基礎(chǔ)上添加分割分支,得到掩碼結(jié)果,實(shí)現(xiàn)了掩碼和類別預(yù)測關(guān)系的解藕,是經(jīng)典的實(shí)例分割模型。

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ Faster R-CNN 結(jié)構(gòu)

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ Faster R-CNN 預(yù)測可視化

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ Mask R-CNN結(jié)構(gòu)

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ Mask R-CNN 預(yù)測可視化

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ Faster R-CNN評(píng)估結(jié)果

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

同樣,如果你想進(jìn)一步學(xué)習(xí)R-CNN安裝、準(zhǔn)備、訓(xùn)練等,可以前往下面這個(gè)傳送門:

  https://github.com/PaddlePaddle/models/tree/develop/fluid/PaddleCV/rcnn

  三、圖像語義分割

  圖像語意分割,顧名思義是將圖像像素按照表達(dá)的語義含義的不同進(jìn)行分組/分割。

  圖像語義是指對(duì)圖像內(nèi)容的理解,例如,能夠描繪出什么物體在哪里做了什么事情等,分割是指對(duì)圖片中的每個(gè)像素點(diǎn)進(jìn)行標(biāo)注,標(biāo)注屬于哪一類別。近年來用在無人車駕駛技術(shù)中分割街景來避讓行人和車輛、醫(yī)療影像分析中輔助診斷等。

  分割任務(wù)主要分為實(shí)例分割和語義分割,實(shí)例分割是物體檢測加上語義分割的綜合體,上文介紹的Mask R-CNN是實(shí)例分割的經(jīng)典網(wǎng)絡(luò)結(jié)構(gòu)之一。在圖像語義分割任務(wù)中,我們主要介紹兼顧準(zhǔn)確率和速度的ICNet,DeepLab中最新、執(zhí)行效果最好的DeepLab v3+。

  • DeepLab v3+,DeepLab語義分割系列網(wǎng)絡(luò)的最新作,通過encoder-decoder進(jìn)行多尺度信息的融合,同時(shí)保留了原來的空洞卷積和ASSP層, 其骨干網(wǎng)絡(luò)使用了Xception模型,提高了語義分割的健壯性和運(yùn)行速率,在 PASCAL VOC 2012 dataset取得新的state-of-art performance,89.0mIOU。

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ DeepLab v3+ 基本結(jié)構(gòu)

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ DeepLab v3+ 評(píng)估結(jié)果

  照例,GitHub傳送門在此(中文):

  https://github.com/PaddlePaddle/models/tree/develop/fluid/PaddleCV/deeplabv3%2B

  • ICNet,Image Cascade Network,主要用于圖像實(shí)時(shí)語義分割,主要思想是將輸入圖像變換為不同的分辨率,然后用不同計(jì)算復(fù)雜度的子網(wǎng)絡(luò)計(jì)算不同分辨率的輸入,然后將結(jié)果合并。ICNet由三個(gè)子網(wǎng)絡(luò)組成,計(jì)算復(fù)雜度高的網(wǎng)絡(luò)處理低分辨率輸入,計(jì)算復(fù)雜度低的網(wǎng)絡(luò)處理分辨率高的網(wǎng)絡(luò),通過這種方式在高分辨率圖像的準(zhǔn)確性和低復(fù)雜度網(wǎng)絡(luò)的效率之間獲得平衡。

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ ICNet網(wǎng)絡(luò)結(jié)構(gòu)

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ ICNet可視化

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ ICNet評(píng)估結(jié)果

  進(jìn)一步上手實(shí)踐的傳送門在此(也是中文):

  https://github.com/PaddlePaddle/models/tree/develop/fluid/PaddleCV/icnet

  四、場景文字識(shí)別

  許多場景圖像中包含著豐富的文本信息,對(duì)理解圖像信息有著重要作用,能夠極大地幫助人們認(rèn)知和理解場景圖像的內(nèi)容。場景文字識(shí)別是在圖像背景復(fù)雜、分辨率低下、字體多樣、分布隨意等情況下,將圖像信息轉(zhuǎn)化為文字序列的過程,可認(rèn)為是一種特別的翻譯過程:將圖像輸入翻譯為自然語言輸出。場景圖像文字識(shí)別技術(shù)的發(fā)展也促進(jìn)了一些新型應(yīng)用的產(chǎn)生,如通過自動(dòng)識(shí)別路牌中的文字幫助街景應(yīng)用獲取更加準(zhǔn)確的地址信息等。

  在場景文字識(shí)別任務(wù)中,我們介紹如何將基于CNN的圖像特征提取和基于RNN的序列翻譯技術(shù)結(jié)合,免除人工定義特征,避免字符分割,使用自動(dòng)學(xué)習(xí)到的圖像特征,完成字符識(shí)別。這里主要介紹CRNN-CTC模型和基于注意力機(jī)制的序列到序列模型。

  • CRNN-CTC模型,采取CNN+RNN+CTC架構(gòu),卷積層使用CNN,從輸入圖像中提取特征序列、循環(huán)層使用RNN,預(yù)測從卷積層獲取的特征序列的標(biāo)簽(真實(shí)值)分布、轉(zhuǎn)錄層使用CTC,把從循環(huán)層獲取的標(biāo)簽分布通過去重整合等操作轉(zhuǎn)換成最終的識(shí)別結(jié)果。

  • 基于注意力機(jī)制的序列到序列模型,提出了基于attention機(jī)制的文本識(shí)別方法,不需要檢測,直接輸入圖片進(jìn)行識(shí)別,對(duì)于識(shí)別字符類別數(shù)很少的場景很實(shí)用,例如車牌識(shí)別、自然場景圖片的主要關(guān)鍵詞提取等。同時(shí)也不要求識(shí)別文本必須單行排列,雙行排列,多行排列都可以。在訓(xùn)練過程中則不需要文本框的標(biāo)注,訓(xùn)練數(shù)據(jù)的收集變得很方便。

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ CRNN-CTC模型結(jié)構(gòu)

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ 基于注意力機(jī)制的序列到序列模型結(jié)構(gòu)

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ OCR模型評(píng)估結(jié)果

  GitHub傳送門在此(中文友好):

  https://github.com/PaddlePaddle/models/tree/develop/fluid/PaddleCV/ocr_recognition

  下篇

  上篇中我們介紹了計(jì)算機(jī)視覺技術(shù)在圖像分類、目標(biāo)檢測、圖像語義分割、場景文字識(shí)別四大基本任務(wù)場景下,如何幫助計(jì)算機(jī)從單個(gè)或者一系列的圖片中提取分析和理解的關(guān)鍵信息。當(dāng)下,視頻在人們生活中越來越重要,伴隨著技術(shù)成熟度的提高,計(jì)算機(jī)視覺技術(shù)的突破也從靜態(tài)圖像識(shí)別的“看到”轉(zhuǎn)向了視頻理解的“看懂”。

  接下來,我們一起探索基于PaddlePaddle的圖像生成、人體關(guān)鍵點(diǎn)檢測、視頻分類相關(guān)的深度學(xué)習(xí)模型。

  一、圖像生成

  圖像生成是指根據(jù)輸入向量,生成目標(biāo)圖像。這里的輸入向量可以是隨機(jī)的噪聲或用戶指定的條件向量。具體的應(yīng)用場景有:手寫體生成、人臉合成、風(fēng)格遷移、圖像修復(fù)、超分重建等。當(dāng)前的圖像生成任務(wù)主要是借助生成對(duì)抗網(wǎng)絡(luò)(GAN)來實(shí)現(xiàn)。

  生成對(duì)抗網(wǎng)絡(luò)(GAN)由兩種子網(wǎng)絡(luò)組成:生成器和識(shí)別器。生成器的輸入是隨機(jī)噪聲或條件向量,輸出是目標(biāo)圖像。識(shí)別器是一個(gè)分類器,輸入是一張圖像,輸出是該圖像是否是真實(shí)的圖像。在訓(xùn)練過程中,生成器和識(shí)別器通過不斷的相互博弈提升自己的能力。

  在圖像生成任務(wù)中,我們主要介紹如何使用DCGAN和ConditioanlGAN來進(jìn)行手寫數(shù)字的生成,另外還介紹了用于風(fēng)格遷移的CycleGAN。

  • ConditioanlGAN,顧名思義是帶條件約束的生成對(duì)抗模型,它在生成模型和判別模型的建模中均引入了額外的條件變量,對(duì)于生成器對(duì)數(shù)據(jù)的生成具有指導(dǎo)作用。ConditioanlGAN是把無監(jiān)督的GAN變成有監(jiān)督模型的改進(jìn),為后續(xù)的工作提供了指導(dǎo)作用。

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ ConditioanlGAN結(jié)構(gòu)

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ ConditioanlGAN預(yù)測效果圖

  傳送門(中文):

  https://github.com/PaddlePaddle/models/tree/develop/fluid/PaddleCV/gan/c_gan

  • DCGAN,為了填補(bǔ)CNN在監(jiān)督學(xué)習(xí)和無監(jiān)督學(xué)習(xí)之間的gap,此篇論文提出了將CNN和GAN結(jié)合的DCGAN(深度卷積生成對(duì)抗網(wǎng)絡(luò)),并且DCGAN在無監(jiān)督學(xué)習(xí)中取得不錯(cuò)的結(jié)果。

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ DCGAN結(jié)構(gòu)

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ DCGAN預(yù)測效果圖

  傳送門(中文):

  https://github.com/PaddlePaddle/models/tree/develop/fluid/PaddleCV/gan/c_gan

  • CycleGAN,將一類圖片轉(zhuǎn)換成另一類圖片。傳統(tǒng)的 GAN 是單向生成,CycleGAN 是互相生成,本質(zhì)上是兩個(gè)鏡像對(duì)稱的GAN,構(gòu)成了一個(gè)環(huán)形網(wǎng)絡(luò),所以命名為 Cycle。風(fēng)格遷移類任務(wù)一般都需要兩個(gè)域中具有相同內(nèi)容的成對(duì)圖片作為訓(xùn)練數(shù)據(jù),CycleGAN的創(chuàng)新點(diǎn)就在于其能夠在沒有成對(duì)訓(xùn)練數(shù)據(jù)的情況下,將圖片內(nèi)容從源域遷移到目標(biāo)域。

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ CycleGAN 結(jié)構(gòu)

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ CycleGAN預(yù)測可視化

  傳送門(中文):

  https://github.com/PaddlePaddle/models/tree/develop/fluid/PaddleCV/gan/cycle_gan

  二、人體關(guān)鍵點(diǎn)檢測

  人體關(guān)鍵點(diǎn)檢測,通過人體關(guān)鍵節(jié)點(diǎn)的組合和追蹤來識(shí)別人的運(yùn)動(dòng)和行為,對(duì)于描述人體姿態(tài),預(yù)測人體行為至關(guān)重要,是諸多計(jì)算機(jī)視覺任務(wù)的基礎(chǔ),例如動(dòng)作分類,異常行為檢測,以及自動(dòng)駕駛等等,也為游戲、視頻等提供新的交互方式。

  在人體關(guān)鍵點(diǎn)檢測任務(wù)中,我們主要介紹網(wǎng)絡(luò)結(jié)構(gòu)簡單的coco2018關(guān)鍵點(diǎn)檢測項(xiàng)目的亞軍方案。

  • Simple Baselines for Human Pose Estimation in Fluid,coco2018關(guān)鍵點(diǎn)檢測項(xiàng)目的亞軍方案,沒有華麗的技巧,僅僅是在ResNet中插入了幾層反卷積,將低分辨率的特征圖擴(kuò)張為原圖大小,以此生成預(yù)測關(guān)鍵點(diǎn)需要的Heatmap。沒有任何的特征融合,網(wǎng)絡(luò)結(jié)構(gòu)非常簡單,但是達(dá)到了state of the art效果。

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ 視頻Demo: Bruno Mars – That’s What I Like [官方視頻]

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ Simple Baselines for Human Pose Estimation in Fluid 評(píng)估結(jié)果

  GitHub傳送門:

  https://github.com/PaddlePaddle/models/tree/develop/fluid/PaddleCV/human_pose_estimation

  三、視頻分類

  視頻分類是視頻理解任務(wù)的基礎(chǔ),與圖像分類不同的是,分類的對(duì)象不再是靜止的圖像,而是一個(gè)由多幀圖像構(gòu)成的、包含語音數(shù)據(jù)、包含運(yùn)動(dòng)信息等的視頻對(duì)象,因此理解視頻需要獲得更多的上下文信息,不僅要理解每幀圖像是什么、包含什么,還需要結(jié)合不同幀,知道上下文的關(guān)聯(lián)信息。

  視頻分類方法主要包含基于卷積神經(jīng)網(wǎng)絡(luò)、基于循環(huán)神經(jīng)網(wǎng)絡(luò)、或?qū)⑦@兩者結(jié)合的方法。

  在視頻分類任務(wù)中,我們主要介紹視頻分類方向的多個(gè)主流領(lǐng)先模型,其中Attention LSTM,Attention Cluster和NeXtVLAD是比較流行的特征序列模型,TSN和StNet是兩個(gè)End-to-End的視頻分類模型。

  Attention LSTM模型速度快精度高,NeXtVLAD是2nd-Youtube-8M比賽中最好的單模型, TSN是基于2D-CNN的經(jīng)典解決方案。Attention Cluster和StNet是百度自研模型,分別發(fā)表于CVPR2018和AAAI2019,是Kinetics600比賽第一名中使用到的模型。

  • Attention Cluster模型為ActivityNet Kinetics Challenge 2017中最佳序列模型,通過帶Shifting Opeation的Attention Clusters處理已抽取好的RGB、Flow、Audio數(shù)據(jù)。

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ Attention Cluster模型結(jié)構(gòu)

  Attention LSTM 模型,采用了雙向長短記憶網(wǎng)絡(luò)(LSTM),將視頻的所有幀特征依次編碼。與傳統(tǒng)方法直接采用LSTM最后一個(gè)時(shí)刻的輸出不同,該模型增加了一個(gè)Attention層,每個(gè)時(shí)刻的隱狀態(tài)輸出都有一個(gè)自適應(yīng)權(quán)重,然后線性加權(quán)得到最終特征向量。

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ Attention LSTM 模型結(jié)構(gòu)

  • NeXtVLAD模型,第二屆Youtube-8M視頻理解競賽中效果最好的單模型,提供了一種將楨級(jí)別的視頻特征轉(zhuǎn)化并壓縮成特征向量,以適用于大尺寸視頻文件的分類的方法。其基本出發(fā)點(diǎn)是在NetVLAD模型的基礎(chǔ)上,將高維度的特征先進(jìn)行分組,通過引入attention機(jī)制聚合提取時(shí)間維度的信息,這樣既可以獲得較高的準(zhǔn)確率,又可以使用更少的參數(shù)量。

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ NeXtVLAD模型結(jié)構(gòu)

  • StNet模型,框架為ActivityNet Kinetics Challenge 2018中奪冠的基礎(chǔ)網(wǎng)絡(luò)框架,提出“super-image”的概念,在super-image上進(jìn)行2D卷積,建模視頻中局部時(shí)空相關(guān)性。另外通過temporal modeling block建模視頻的全局時(shí)空依賴,最后用一個(gè)temporal Xception block對(duì)抽取的特征序列進(jìn)行長時(shí)序建模。

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ StNet模型結(jié)構(gòu)

  • Temporal Segment Network (TSN) ,視頻分類領(lǐng)域經(jīng)典的基于2D-CNN的解決方案,主要解決視頻的長時(shí)間行為判斷問題,通過稀疏采樣視頻幀的方式代替稠密采樣,既能捕獲視頻全局信息,也能去除冗余,降低計(jì)算量。最終將每幀特征平均融合后得到視頻的整體特征,并用于分類。

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ TSN模型結(jié)構(gòu)

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ 基于Youtube-8M數(shù)據(jù)集的視頻分類模型 評(píng)估結(jié)果

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ 基于Kinetics數(shù)據(jù)集的視頻分類模型 評(píng)估結(jié)果

  這部分的詳情,可以移步GitHub,全程中文。傳送門:

  https://github.com/PaddlePaddle/models/tree/develop/fluid/PaddleCV/video

  四、度量學(xué)習(xí)

  度量學(xué)習(xí)也稱作距離度量學(xué)習(xí)、相似度學(xué)習(xí),通過學(xué)習(xí)對(duì)象之間的距離,度量學(xué)習(xí)能夠用于分析對(duì)象時(shí)間的關(guān)聯(lián)、比較關(guān)系,在實(shí)際問題中應(yīng)用較為廣泛,可應(yīng)用于輔助分類、聚類問題,也廣泛用于圖像檢索、人臉識(shí)別等領(lǐng)域。

  以往,針對(duì)不同的任務(wù),需要選擇合適的特征并手動(dòng)構(gòu)建距離函數(shù),而度量學(xué)習(xí)可根據(jù)不同的任務(wù)來自主學(xué)習(xí)出針對(duì)特定任務(wù)的度量距離函數(shù)。度量學(xué)習(xí)和深度學(xué)習(xí)的結(jié)合,在人臉識(shí)別/驗(yàn)證、行人再識(shí)別(human Re-ID)、圖像檢索等領(lǐng)域均取得較好的性能,在這個(gè)任務(wù)中我們主要介紹基于Fluid的深度度量學(xué)習(xí)模型,包含了三元組、四元組等損失函數(shù)。

計(jì)算機(jī)視覺八大任務(wù)全概述:PaddlePaddle工程師詳解熱門視覺模型

△ 度量學(xué)習(xí)模型 評(píng)估結(jié)果

  GitHub的頁面上有安裝、準(zhǔn)備、訓(xùn)練等方面的指導(dǎo),傳送門:

  https://github.com/PaddlePaddle/models/tree/develop/fluid/PaddleCV/metric_learning

特別提醒:本網(wǎng)信息來自于互聯(lián)網(wǎng),目的在于傳遞更多信息,并不代表本網(wǎng)贊同其觀點(diǎn)。其原創(chuàng)性以及文中陳述文字和內(nèi)容未經(jīng)本站證實(shí),對(duì)本文以及其中全部或者部分內(nèi)容、文字的真實(shí)性、完整性、及時(shí)性本站不作任何保證或承諾,并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。本站不承擔(dān)此類作品侵權(quán)行為的直接責(zé)任及連帶責(zé)任。如若本網(wǎng)有任何內(nèi)容侵犯您的權(quán)益,請(qǐng)及時(shí)聯(lián)系我們,本站將會(huì)在24小時(shí)內(nèi)處理完畢。

贊(0)
分享到: 更多 (0)
?
網(wǎng)站地圖   滬ICP備18035694號(hào)-2    滬公網(wǎng)安備31011702889846號(hào)
久久精品五月,日韩不卡视频在线观看,国产精品videossex久久发布 ,久久av综合
亚洲精品国产偷自在线观看| 日本不卡免费高清视频在线| 91精品婷婷色在线观看| 精品一区91| 激情久久婷婷| 成人在线网站| 午夜精品久久久久久久久久蜜桃| 国产精品蜜芽在线观看| 手机在线电影一区| 日韩欧美一区二区三区免费观看| 亚洲成人二区| 伊人精品在线| 视频一区二区三区入口| 亚洲乱码一区| 欧美日韩 国产精品| 日本欧美韩国一区三区| 国产精品免费99久久久| 国产成人免费| 神马日本精品| 亚洲伦乱视频| 99精品视频精品精品视频| 国产精品三p一区二区| 美女久久精品| 久久国产日本精品| 在线综合亚洲| 欧美亚洲综合视频| 精品高清久久| 99久久99久久精品国产片果冰 | 亚洲精品小说| 视频在线观看91| 亚洲欧美专区| 欧美黄色精品| 视频二区不卡| 蜜臀久久99精品久久久画质超高清 | 日韩精品亚洲专区| 国产精品亚洲一区二区在线观看| 久久久久久婷| 亚洲精品一二三区区别| 99在线精品视频在线观看| 亚洲人成亚洲精品| 免费看久久久| 91久久久精品国产| 日韩激情视频网站| sm捆绑调教国产免费网站在线观看| 性欧美69xoxoxoxo| 日韩精品亚洲专区| 日韩免费高清| 亚洲欧洲美洲国产香蕉| 国产一区二区三区久久| 亚洲女同一区| 国产精品一线天粉嫩av| 视频小说一区二区| 日韩欧美中文在线观看| 精品久久97| 亚洲在线一区| 久久三级毛片| 免费成人av在线播放| 都市激情国产精品| 亚洲精品第一| 日本少妇一区| 国产亚洲电影| 欧美特黄一级| 精品一区二区三区视频在线播放| 欧美成人综合| 国产福利一区二区精品秒拍 | 亚洲国产日韩欧美在线| 一区二区精彩视频| 精品国产欧美日韩| 人人爽香蕉精品| 精品72久久久久中文字幕| 美女网站久久| 欧美日韩视频网站| 欧美在线日韩| 免费中文字幕日韩欧美| 亚洲天堂资源| 国产精品一区二区中文字幕| 一区在线观看| 中文字幕在线视频久| 91亚洲精品在看在线观看高清| 久久久久蜜桃| 欧美激情日韩| 日韩手机在线| 精品亚洲美女网站| 久久gogo国模啪啪裸体| 亚洲人成亚洲精品| 欧美午夜不卡影院在线观看完整版免费| 嫩草伊人久久精品少妇av杨幂| 男女男精品网站| 欧美日韩国产免费观看视频| 色综合狠狠操| 国产精品极品在线观看| 日本亚洲最大的色成网站www| 欧美日韩精品一本二本三本 | 欧美91视频| 日韩精品一卡| 国产精品2区| 91精品国产自产在线丝袜啪| 亚洲一区区二区| 亚洲美女久久精品| 精品高清久久| 国产精品最新| 亚洲乱码久久| 石原莉奈在线亚洲三区| 欧美69视频| 欧美精品高清| 久久精品国产在热久久| 日韩精品亚洲专区在线观看| 欧美综合国产| 黄色成人精品网站| 99久久99视频只有精品| 精品视频自拍| 国产丝袜一区| 欧美伊人影院| 日韩精品a在线观看91| 三级久久三级久久久| 蜜臀va亚洲va欧美va天堂| 日韩午夜电影| 国产视频一区在线观看一区免费| 国模 一区 二区 三区| 色吊丝一区二区| 久久婷婷丁香| 国产一区清纯| 欧美理论视频| 亚洲综合不卡| 蜜臀av性久久久久蜜臀aⅴ流畅 | 免费观看在线综合色| 热久久免费视频| 中文字幕一区二区三区四区久久| 老色鬼久久亚洲一区二区| 乱人伦精品视频在线观看| aⅴ色国产欧美| 美女精品一区| 日韩国产高清在线| 欧美日韩午夜| 久久影视三级福利片| 久久精品三级| 黄在线观看免费网站ktv| 精品一区av| 日韩国产专区| 女同性一区二区三区人了人一| 亚洲一区区二区| 日本成人手机在线| 精品国产网站| 国户精品久久久久久久久久久不卡| 亚洲中字黄色| 欧美在线不卡| 久久精品亚洲一区二区| 色网在线免费观看| 伊人成人在线视频| 亚洲精品麻豆| 欧美1区二区| 视频福利一区| 免费日韩精品中文字幕视频在线| 亚洲麻豆一区| 狂野欧美性猛交xxxx| 成人日韩在线| 亚洲国产一区二区三区在线播放| 久久午夜精品| 国产乱码精品一区二区亚洲| 激情综合五月| 午夜国产欧美理论在线播放 | 国产美女久久| 日韩伦理一区| 亚洲图片久久| 国产一区二区三区亚洲| 国精品一区二区三区| 免费观看在线色综合| 久久中文字幕导航| 午夜久久影院| 国产精品主播在线观看| 91精品国产乱码久久久久久久| 综合在线一区| 国产成人在线中文字幕| 亚洲在线网站| 国产一区二区三区四区五区| 午夜欧美精品| 欧美国产不卡| 国产视频一区欧美| 麻豆中文一区二区| 国产精品色网| 国产精品白丝一区二区三区| 日韩国产欧美| 日韩精品乱码av一区二区| 国产乱码午夜在线视频| 综合在线一区| 麻豆精品蜜桃| 欧美久久香蕉| 亚洲福利久久| 国产欧美日韩视频在线| 欧美亚洲在线日韩| 国产乱码精品一区二区亚洲| 午夜日韩av| 国产成人精品亚洲线观看| 在线观看视频免费一区二区三区| 福利一区在线| 91亚洲无吗| 激情自拍一区| 久久精品免费看| 蜜臀av在线播放一区二区三区| 热三久草你在线|