Transformer
Author:louwill
Machine Learning Lab
从去年年底到今年上半年以来,Transformer作为一项原先在NLP领域的核心结构逐渐应用到计算机视觉领域,并且在视觉领域大有燎原之势,在视觉的各个层次的任务上都有着新的应用兴起。
笔者所在领域,语义分割和医学图像应用这块,也有不少Transformer相关的工作。为了对Visual Transformer领域前后有个大概的了解,笔者本周在组内做了一次关于Visual Transformer的技术分享,为方便大家学习,经过整理和删减后,今天特地将ppt分享给大家,供大家参考。
ppt主要从五个方面概述了Visual Transformer的相关理论和应用。包括注意力机制与Transformer结构、视觉Transformer概览、ViT模型详解、近期经典的ViT模型以及Transformer在医学图像分割中应用。
对视觉Transformer感兴趣的朋友可在后台直接回复
Trans
获取完整版的PPT。
另外,笔者计划从下周开始,
新写一个视觉Transformer的系列文章
,对ViT的理论、应用和sota论文进行解读,欢迎各位读者保持关注。
往期精彩:
【原创首发】机器学习公式推导与代码实现30讲.pdf
【原创首发】深度学习语义分割理论与实战指南.pdf
谈中小企业算法岗面试
算法工程师研发技能表
真正想做算法的,不要害怕内卷
算法工程师的日常,一定不能脱离产业实践
技术学习不能眼高手低
技术人要学会自我营销
做人不能过拟合
求个在看