COURSE / JACKNOTE

并行计算

Stanford University 30 条公开课次与资料

  1. Sep 23为什么要并行?为什么要效率?并行化代码的挑战、并行芯片的动机、处理器基础知识课次资料
  2. Sep 25现代多核处理器(第一部分) 并行形式:多核、SIMD 和多线程课次资料
  3. Sep 30现代多核架构(第二部分)+ ISPC 编程抽象 完成多线程和延迟与带宽的关系。 ISPC 编程,抽象与实现课次资料
  4. Oct 02并行化代码:一个示例思维过程 在数据并行和共享地址空间模型中并行化程序的过程课次资料
  5. Oct 07程序优化 1:工作分配和调度实现良好的工作分配,同时最大限度地减少开销,通过工作窃取来调度 Cilk 程序课次资料
  6. Oct 09程序优化 2:位置和通信消息传递、异步与阻塞发送/接收、管道、增加算术强度、避免争用课次资料
  7. Oct 14GPU 架构和 CUDA 编程 CUDA 编程抽象,以及它们如何在现代 GPU 上实现课次资料
  8. Oct 16数据并行思维 数据并行操作,如map、reduce、scan、prefix sum、groupByKey课次资料
  9. Oct 21在 GPU 上高效评估 DNN:变压器和卷积网络 高效调度 DNN 层,将卷积映射到矩阵乘法、变压器、层融合课次资料
  10. Oct 23硬件专业化 节能计算、硬件加速器的动机和设计。 DNN 加速器设计案例研究。课次资料
  11. Oct 28用于专用硬件的编程系统 用于创建专用硬件的现代趋势和编程系统课次资料
  12. Oct 30将 AI 应用程序映射到数据中心计算机 如何在数据中心规模提供现代 AI 应用程序服务课次资料
  13. Nov 04民主日(不上课) 参加斯坦福大学的许多活动!课次资料
  14. Nov 06特定领域编程系统和人工智能驱动的性能优化 用于编写高性能代码的特定领域编程抽象、自动程序优化,重点关注人工智能代理驱动的优化课次资料
  15. Nov 11缓存一致性 使用 MSI 和 MESI 的基于无效的一致性、错误共享课次资料
  16. Nov 13实现同步+内存一致性通过锁进行细粒度同步,宽松一致性的动机,对程序员的影响。课次资料
  17. Nov 18期中考试(不上课)这将是晚间考试,所以没有课课次资料
  18. Nov 20细粒度锁定和无锁编程 通过锁进行细粒度同步、无锁编程基础知识:单读取器/写入器队列、无锁堆栈、ABA 问题课次资料
  19. Dec 02事务内存(第一部分)事务的动机、事务内存实现的设计空间、STM 和 HTM 基础知识课次资料
  20. Dec 04事务性内存(第二部分)+ 通过 Kunle 和 Kayvon 针对 cs149 后主题提出任何问题。与课程工作人员进行 AMA。课次资料
  21. Dec 11期末考试于下午 3:30-6:30 举行课次资料
  22. Oct 6作业 1:分析四核 CPU 上的并行程序性能课次资料
  23. Oct 16作业 2:在多核 CPU 上调度任务图课次资料
  24. Oct 30作业 3:CUDA 中的圆形渲染器课次资料
  25. Nov 13作业 4:Trainium2 加速器上的融合 Conv+MaxPool课次资料
  26. Dec 4作业 5:制作世界上最快的 CUDA 内核课次资料
  27. Oct 9书面作业1课次资料
  28. Oct 21书面作业2课次资料
  29. Nov 6书面作业3课次资料
  30. Dec 3书面作业 4课次资料