一份基于Pytorch的视频分类教程


这是一个在UCF101上使用3D RNN/CNN+RNN 进行视频分类的教程,基于Pytorch实现。


数据集

UCF101 含有包括13320个视频与101个动作,视频有不同的视觉长度,视频画面大小也不一样,最小的视频只有29帧。为了减少视频预处理工作,我们之间使用feichtenhofer预处理结束的数据。

https://github.com/feichtenhofer/twostreamfusion


模型

3D CNN

使用一些3D核和通道数N,来解决视频输入,视频可以看成是3D 的图片,并使用了批归一化与dropout。


CNN+RNN (CRNN)

CRNN 使用了CNN作为编码器,RNN作为解码器:

  • 编码器:CNN函数将一个2D的图片 x(t) 编码成1D的向量z(t)。

  • 解码器:RNN的输入为z(t),是超级为1D的序列h(t),然后输入到一个全连接网络来预测类别。在这里RNN使用了LSTM网络

640?wx_fmt=png

训练与测试

对于3DCNN:

  • 视频首先被变形到(t-dim, channels, x-dim, y-dim) = (29, 3, 256, 342) ,因为CNN需要固定输入输出的尺寸。

  • 使用BatchNormalization dropout。

对于CRNN:

  • 视频变形到 (t-dim, channels, x-dim, y-dim) = (29, 3, 224, 224) ,因为ResNet152的输入为224x224.

  • 训练与测试视频的数量为9990:3330


代码与教程链接:

https://github.com/HHTseng/video-classification


推荐阅读

几张图告诉你什么是word2vec

施一公教授的三位女弟子:一师门三女英,科研成果共长天一色

Transformer聊天机器人教程

当当这波羊毛不能不薅,今年最佳!

640?wx_fmt=png

喜欢就点击“在看”吧!
已标记关键词 清除标记
相关推荐
©️2020 CSDN 皮肤主题: 酷酷鲨 设计师:CSDN官方博客 返回首页