COURSE / JACKNOTE
并行计算
- Sep 23为什么要并行?为什么要效率?并行化代码的挑战、并行芯片的动机、处理器基础知识课次资料
- Sep 25现代多核处理器(第一部分) 并行形式:多核、SIMD 和多线程课次资料
- Sep 30现代多核架构(第二部分)+ ISPC 编程抽象 完成多线程和延迟与带宽的关系。 ISPC 编程,抽象与实现课次资料
- Oct 02并行化代码:一个示例思维过程 在数据并行和共享地址空间模型中并行化程序的过程课次资料
- Oct 07程序优化 1:工作分配和调度实现良好的工作分配,同时最大限度地减少开销,通过工作窃取来调度 Cilk 程序课次资料
- Oct 09程序优化 2:位置和通信消息传递、异步与阻塞发送/接收、管道、增加算术强度、避免争用课次资料
- Oct 14GPU 架构和 CUDA 编程 CUDA 编程抽象,以及它们如何在现代 GPU 上实现课次资料
- Oct 16数据并行思维 数据并行操作,如map、reduce、scan、prefix sum、groupByKey课次资料
- Oct 21在 GPU 上高效评估 DNN:变压器和卷积网络 高效调度 DNN 层,将卷积映射到矩阵乘法、变压器、层融合课次资料
- Oct 23硬件专业化 节能计算、硬件加速器的动机和设计。 DNN 加速器设计案例研究。课次资料
- Oct 28用于专用硬件的编程系统 用于创建专用硬件的现代趋势和编程系统课次资料
- Oct 30将 AI 应用程序映射到数据中心计算机 如何在数据中心规模提供现代 AI 应用程序服务课次资料
- Nov 04民主日(不上课) 参加斯坦福大学的许多活动!课次资料
- Nov 06特定领域编程系统和人工智能驱动的性能优化 用于编写高性能代码的特定领域编程抽象、自动程序优化,重点关注人工智能代理驱动的优化课次资料
- Nov 11缓存一致性 使用 MSI 和 MESI 的基于无效的一致性、错误共享课次资料
- Nov 13实现同步+内存一致性通过锁进行细粒度同步,宽松一致性的动机,对程序员的影响。课次资料
- Nov 18期中考试(不上课)这将是晚间考试,所以没有课课次资料
- Nov 20细粒度锁定和无锁编程 通过锁进行细粒度同步、无锁编程基础知识:单读取器/写入器队列、无锁堆栈、ABA 问题课次资料
- Dec 02事务内存(第一部分)事务的动机、事务内存实现的设计空间、STM 和 HTM 基础知识课次资料
- Dec 04事务性内存(第二部分)+ 通过 Kunle 和 Kayvon 针对 cs149 后主题提出任何问题。与课程工作人员进行 AMA。课次资料
- Dec 11期末考试于下午 3:30-6:30 举行课次资料
- Oct 6作业 1:分析四核 CPU 上的并行程序性能课次资料
- Oct 16作业 2:在多核 CPU 上调度任务图课次资料
- Oct 30作业 3:CUDA 中的圆形渲染器课次资料
- Nov 13作业 4:Trainium2 加速器上的融合 Conv+MaxPool课次资料
- Dec 4作业 5:制作世界上最快的 CUDA 内核课次资料
- Oct 9书面作业1课次资料
- Oct 21书面作业2课次资料
- Nov 6书面作业3课次资料
- Dec 3书面作业 4课次资料