最新在看知识蒸馏的文章,主要是现在的深度学习模型越来越大,例如BERT。在线下处理数据,对时间要求不高的话,还能接受,能跑完就好。但是线上运行,对延迟要求高的话,像BERT这样的大模型,就很难满足要求。因此,就找了找模型压缩的方法。 知识蒸馏被广泛的用于模型压缩和迁移学习当中。开山之作应该是”Distilling the Knowledge in a Neural Network“。这篇文章中,作者的motivation是找到一种方法,把多个模型的知识提炼给单个模型。 文章的标题是Distilling the Kn…

2021-01-18 406点热度 3人点赞 阅读全文

一、简介       上采样的技术是图像进行超分辨率的必要步骤,最近看到了CVPR2019有一些关于上采样的文章,所以想着把上采样的方法做一个简单的总结。看了一些文章后,发现上采样大致被总结成了三个类别:1、基于线性插值的上采样2、基于深度学习的上采样(转置卷积)3、Unpooling的方法其实第三种只是做各种简单的补零或者扩充操作,下文将不对其进行涉及。 为了方便大家阅读,做了个小的目录,接下来的文章介绍主要分为以下内容:线性插值1、最近邻算法2、双线性…

2021-01-14 401点热度 1人点赞 阅读全文

系统聚类是将每个样品分成若干类的方法,其基本思想是:先将各个样品各看成一类,然后规定类与类之间的距离,选择距离最小的一对合并成新的一类,计算新类与其他类之间的距离,再将距离最近的两类合并,这样每次减少一类,直至所有的样品合为一类为止。 算法: 第一步:设初始模式样本共有N个,每个样本自成一类,即建立N类,G1(0),G2(0)…GN(0)。计算各类之间的距离(初始时即为各样本间的距离),得到一个N*N维的距离矩阵D(0)。这里,标号(0)表示聚类开始运算前的状态。 第二步:假设前一步聚类运算中已求得距离矩阵D(n)…

2020-10-09 482点热度 1人点赞 阅读全文

入门深度学习比较好的书籍:<<动手学深度学习>>,该书将实战与知识点相结合,学习效率十分高,同时通过浅显易懂的方式讲解其中的算法原理,入门深度学习十分简单,同时其对应的电子书中,其源码包括分别包括Pytorch、TensorFlow、MxNet框架的代码,十分方便学习深度学习在不同框架下的实现。该书是面向中文读者的能运行、可讨论的深度学习教科书,它将文字、公式、图像、代码和运行结果结合在一起。本书将全面介绍深度学习从模型构造到模型训练,以及它们在计算机视觉和自然语言处理中的应用。 ​ 每一小…

2020-09-04 451点热度 3人点赞 阅读全文

本文整理了ECCV2020目前开源的分割方向的全部论文,涵盖实例分割、语义分割、点云分割、目标跟踪与分割以及视频目标分割等多个方向,并对每一篇论文进行了简要介绍,文末附论文打包下载。 实例分割 【1】Conditional Convolutions for Instance Segmentation(Oral)作者|Zhi Tian, Chunhua Shen, Hao Chen机构|阿德莱德大学代码|https://git.io/AdelaiDet 介绍:本文提出了一个简单而有效的实例分割框架CondInst。效…

2020-09-04 209点热度 2人点赞 阅读全文

前言 这份资料,笔者可以保证是目前网上关于车道线检测最全的资料合集(如果你知道有更棒的,欢迎后台推荐)。 ​ 一幅图理解一下车道检测是干嘛的: 据笔者了解,车道线检测解决方案主要分为传统图像处理和深度学习两种。看起来每个领域都可以这么说,但车道线检测与其它研究方向不太一样。因为检测的目标可能是直线也可能是曲线,而且只是"线"而已,目前很多公司还在用传统图像处理方法来解决。这个开源库主要包括以下内容: 论文(以2017之后为主)开源代码博客数据集 论文 如图所示,尽可能涵盖了两年内车道线检测(lane detecti…

2020-09-03 235点热度 2人点赞 阅读全文

前言 大家向我反映希望看到更多方向的awesome项目,本文就给大家推荐一个图像分类(Image Classification)的最全资料项目。 这里多说一点,去年的时候,我在github上找图像分类的资料,其实并没有awesome-image-classification。所以这个项目比较新,而且更新频率很高,所以很值得推荐给大家。 awesome-image-classification 这是在学习图像分类时,整理的论文和代码等资源合集。其中论文年份是从2014年开始,所列出的论文都是在ImageNet上有一定…

2020-09-03 372点热度 2人点赞 阅读全文

前言 Anchor-free 目标检测 无疑是近一两年内目标检测非常重要的研究方向之一,Amusi 觉得特别是得益于DenseBox、CornerNet、FCOS和CenterNet等网络的创新性提出。 近两年里,CVPR 2019、ICCV 2019、CVPR 2020和ECCV 2020上出现了不少anchor-free目标检测的优质工作。"先富带后富",近来也有若干anchor-free目标跟踪网络的提出。 在本文要分享的是目前最全,最新的anchor-free目标检测论文合集。 Anch…

2020-09-03 197点热度 2人点赞 阅读全文

Fast.ai,最受人们欢迎的MOOC课程和深度学习框架之一。 重代码而非数学,这让不少使用Fast.ai的初学者称霸各种Kaggle比赛。 昨天,最新的Fast.ai 2.0版本上线。 新版本完全对Fast.ai V1进行了重置,构建了全新的深度学习框架。更轻快、更灵活、更容易使用。 而且,对中国用户最友好的是,全部课程视频都有简体中文字幕。 2.0更新了哪些课程 新上线的Fast.ai 2.0是测试版,目前公开的课程分为两大部分:深度学习任务速成,和更加细致全面的深度学习基础。 其中,速成部分有7节课,分别是:…

2020-09-01 188点热度 2人点赞 阅读全文

昨天新出的论文 Pixel-Face: A Large-Scale, High-Resolution Benchmark for 3D Face Reconstruction 介绍了阿里巴巴、香港中文大学、中科院推出的大型人脸三维重建数据集Pixel-Face。 作者 | Zhang Yunxuan, Rong Yu, Liu Ziwei, Cheng Cheng 单位 | 阿里巴巴;港中文;中科院 Pixel-Face 数据集中的3D样例: 三维人脸重建是一项计算机视觉基本任务,可以促进众多应用,如鲁棒的面部分析…

2020-09-01 390点热度 2人点赞 阅读全文