超越Swin，Transformer屠榜三大视觉任务！微软推出新作：Focal Self-Attention

相关推荐

• 没有点积注意力就不香了吗？Transformer中自注意力机制的反思

  0. 背景 机构:Google Research 作者:Yi Tay, Dara Bahri, Donald Metzler, Da-Cheng Juan, Zhe Zhao, Che Zheng 论 ...

• 图解GPT-2（完整版）！

  Datawhale干货 译者:张贤, 哈尔滨工程大学,Datawhale原创作者 干货长文,建议收藏阅读,收藏等于看完. 审稿人:Jepson, Datawhale成员, 毕业于中国科学院,目前在腾讯 ...

• ICCV2021-PiT-池化操作不是CNN的专属，ViT说：“我也可以”；南大提出池化视觉Transformer（PiT）

  详细信息如下: 论文链接:https://arxiv.org/abs/2103.16302 项目链接:https://github.com/naver-ai/pit 导言: Vision Transf ...

• 对视觉任务更友好的Transformer，北航团队开源Visformer！

  ▊ 写在前面 目前,将基于视觉任务的Transformer结构正在快速发展.虽然一些研究人员已经证明了基于Transformer的模型具有良好的数据拟合能力,但仍有越来越多的证据表明这些模型存在过拟合 ...

• Swin Transformer的继任者（下）

  设为星标,干货直达! GG-Transformer 上海交大提出的GG Transformer其主要思路是改变window的划分方式,window不再局限于一个local region,而是来自全局. ...

• NLP预训练家族 | Transformer-XL及其进化XLNet

  NewBeeNLP 永远有料,永远有趣 194篇原创内容 公众号 最近又重新读了Transformer-XL和XLNet的论文和代码,又有很多新的感悟.其中,要想搞懂XLNet的同学一定要首先明白Tr ...

• ICCV2021 Oral-TAU&Facebook提出了通用的Attention模型可解释性

  0 写在前面 通过Self-Attention和Co-Attention机制,Transformer在多个多模态下游任务中达到了SOTA的性能.这些注意模块也在其他计算机视觉任务中发挥了作用,包括目标 ...

• ICCV 2021 | 最快视觉Transformer！Facebook提出LeViT：快速推理的视...

  AI/CV重磅干货,第一时间送达 CVer 一个专注侃侃计算机视觉方向的公众号.计算机视觉.图像处理.机器学习.深度学习.C/C++.Python.诗和远方等. 204篇原创内容 公众号 本文转载自: ...

• AAAI 2021最佳论文Runners Up！Transformer的归因探索！

  本文转载自:炼丹笔记 作者:一元,四品炼丹师 Self-Attention Attribution: Interpreting Information Interactions Inside Tran ...

• Self-Attention真的是必要的吗？微软&中科大提出Sparse MLP，降低计算量的同时提升性能！

  ▊ 写在前面 Transformer由于其强大的建模能力,目前在计算机视觉领域占据了重要的地位.在这项工作中,作者探究了Transformer的自注意(Self-Attention)模块是否是其实现图 ...

• Panoptic SegFormer：全景分割第一名！南大&港大&英伟达提出新算法，霸榜全景分割

  话不多说,先放Leadboard: 更多信息如下: 论文链接:https://arxiv.org/abs/2109.03814 项目链接:未开源 导言:    在本文中,作者提出了一个用Transfo ...

• 邱锡鹏，这是Transformer最全综述

  机器之心报道 自 2017 年 6 月谷歌发布论文<Attention is All You Need>后,Transformer 架构为整个 NLP 领域带来了极大的惊喜.在诞生至今仅仅 ...

• 还在用全部token训练ViT？清华&UCLA提出token的动态稀疏化采样，降低inference时的计算量

  详细信息如下: 论文链接:https://arxiv.org/abs/2106.02034 项目链接:https://github.com/raoyongming/DynamicViT 导言: 在Vi ...

• DeiT：使用Attention蒸馏Transformer

  题目:Training data-efficient image transformers & distillation through attention [GiantPandaCV导语]D ...

• 【深度学习】Transformer长大了，它的兄弟姐妹们呢？（含Transformers超细节知识点...

  最近复旦放出了一篇各种Transformer的变体的综述(重心放在对Transformer结构(模块级别和架构级别)改良模型的介绍),打算在空闲时间把这篇文章梳理一下: 知乎:https://zhua ...

• ICCV2021 MIT-IBM沃森开源CrossViT：Transformer走向多分支、多尺度

  详细信息如下: 论文链接:https://arxiv.org/abs/2103.14899 项目链接:https://github.com/IBM/CrossViT 导言: 与卷积神经网络相比,最近出 ...