深入理解 TVM
深入理解 TVM
2023年7月5日创建
1503
1645
背景知识
1.
陈天奇的 MLC 课程。
a.
了解 TVM 有 2 种写算子的 DSL：TIR 和 TE。
b.
图层。有 Relay 和 Relax。核心的抽象 Dataflow，IRModule。可以混合注册算子。
c.
tvm 的精髓：autotvm & ansor。
2.
官方 docs，会用 TVM 自动优化实际的模型。
a.
跑通模型编译的 API。
b.
Ansor 和 AutoTVM，分别跑通，对比使用上的区别。
学过编译原理和没学过的人，看到的 TVM 是完全不一样的。
深入的目标
改的动代码，能二次开发自研的 AI compiler。
TVM 自底向上 - korder
整体结构
完整的编译链路：Relay -> TOPI -> TE -> TIR -> bin
实际上，可以跳来跳去，摸不着头脑。
附件不支持打印