深度学习✦ Featured
7 min
手撕 Transformer:用 PyTorch 从零实现
用 PyTorch 从零实现 Transformer:Mask、位置编码、多头注意力、编码器与解码器。
MSc student at Sun Yat-sen University, working on embodied AI. I write down everything about AI and everything I learn, whenever I have time.
用 PyTorch 从零实现 Transformer:Mask、位置编码、多头注意力、编码器与解码器。
链表专题:节点定义、LeetCode 203 移除链表元素与 707 设计链表。
哈希表入门:Python 中 defaultdict 与 Counter 的使用。
LeetCode 209 长度最小的子数组:滑动窗口的思路与实现。
双指针专题:LeetCode 27、26、283、844、977,用快慢指针原地处理数组。
二分查找专题:LeetCode 704、35、34、69、367 的区间写法与 C++ / Python 题解。
常用 STL 函数速查:accumulate、sort、lower_bound、next_permutation、unique 与 __builtin 位运算等。
array 与 tuple:固定长度数组与元组的声明、成员函数和用法示例。
string 与 bitset:字符串的初始化、读入与常用方法,以及位集合的使用。
map、set 等关联容器:常用方法、遍历与二分查找,以及与 unordered_map 的比较。