De Bruyne 程序笔记 CPU、GPU 和 TPU 之间有什么区别?

CPU、GPU 和 TPU 之间有什么区别?

什么是 CPU、GPU 和 TPU?

它们都是用于计算任务的处理器芯片。可以把你的大脑想象成一台计算机,能够完成诸如阅读书籍或解决数学问题的任务。每一项活动都类似于一个计算任务。例如,当你用手机拍照、发送短信或打开应用程序时,你手机的大脑、处理器,就在完成这些计算任务。

这些缩写分别代表什么?

尽管 CPU、GPU 和 TPU 都是处理器,但它们的专业化程度逐步提高。CPU 是 Central Processing Unit(中央处理单元)的缩写。这些是通用芯片,可以处理各种不同的任务。类似于你的大脑,如果 CPU 并不擅长某项任务,可能需要更长的时间来完成。

接着是 GPU,即 Graphics Processing Unit(图形处理单元)。GPU 已经成为加速计算任务的主力,从图形渲染到 AI 工作负载。它们属于一种 ASIC(Application-Specific Integrated Circuit,应用专用集成电路)。集成电路通常由硅制成,因此你可能听到人们将芯片称为“硅片”——它们其实是同一种东西(是的,“硅谷”这个名字就来源于此!)。简单来说,ASIC 是为特定用途设计的。

而 TPU,即 Tensor Processing Unit(张量处理单元),是 Google 自己设计的 ASIC。我们从零开始设计 TPU,使其专注于运行基于 AI 的计算任务,比 CPU 和 GPU 更加专业化。TPU 已成为 Google 一些最受欢迎的 AI 服务的核心,包括搜索、YouTube 和 DeepMind 的大型语言模型。

明白了,所以这些芯片让我们的设备能够正常工作。CPU、GPU 和 TPU 分别在哪里可以找到?

CPU 和 GPU 存在于你每天可能使用的非常熟悉的设备中:几乎每部智能手机都有 CPU,它们也出现在笔记本电脑等个人计算设备中。GPU 则常见于高端游戏系统或某些台式设备中。TPU 只存在于 Google 的数据中心中:这些数据中心是类似仓库的建筑,里面有一排排的 TPU,它们全天候运行,以支持 Google 和我们的云客户的 AI 服务在全球范围内运转。

为什么创建 TPU

CPU 诞生于 1950 年代末,GPU 则在 1990 年代末出现。而在 Google,我们大约在 10 年前开始考虑 TPU。当时,我们的语音识别服务质量显著提升,我们意识到,如果每位用户每天“对 Google 说话”3 分钟,我们需要将数据中心的计算机数量翻倍。我们知道需要一种比当时市面上现成硬件更高效的解决方案——并且每块芯片需要提供更多的处理能力。所以,我们决定自己设计!

这里的 “T” 代表 Tensor,对吧?为什么?

没错——“Tensor”(张量)是用于机器学习的数据结构的通用名称。简单来说,在底层,有大量数学运算在支持 AI 任务的实现。在我们最新的 TPU——Trillium 中,我们提高了计算能力:与上一代 TPU v5e 相比,Trillium 每块芯片的峰值计算性能提升了 4.7 倍。

这具体意味着什么?这基本上意味着 Trillium 能以比上一代快 4.7 倍的速度完成复杂数学计算。不仅速度更快,它还能处理更大、更复杂的工作负载。

Trillium 的另一个优点是,它是我们迄今为止最可持续的 TPU,它比上一代 TPU 的能效提高了 67%。随着对 AI 的需求持续飙升,行业需要以可持续的方式扩大基础设施规模。Trillium 能以更少的能耗完成相同的工作。

1

European Cup 本站内容部分来源于网络,仅供参考学习交流并不代表本站观念,如无意中侵犯您的权益( 包括/图片/视频/个人隐私等信息 )请来信告知,本站收到信息会尽快处理并回访,联系邮箱:laodilailiao@foxmail.com

站心网

什么是 CPU、GPU 和 TPU? 它们都是用于计算任务的处理器芯片。可以把你的大脑想象成一台计算机,能够完成..

为您推荐

在 Javascript 中 声明时用 var 与不用 var 的区别

avascript 声明变量的时候,虽然用 var 关键字声明和不用关键字声明,很多时候运行并没有问题,但是这两种方式还是有区别的。可以正常运行的代码并不代表是合适的代码。var num = 1;是在当前域中声明变量。如果在方..

float 与 double 类型区别

float 单精度浮点数在机内占 4 个字节,用 32 位二进制描述。double 双精度浮点数在机内占 8 个字节,用 64 位二进制描述。浮点数在机内用指数型式表示,分解为:数符,尾数,指数符,指数四部分。数符占 1 位二进制..

2025年做网站还能赚钱吗?

在2025年,互联网的格局虽然不断演变,但建立网站仍然蕴藏着赚钱的潜力。关键在于如何巧妙地定位,以及如何充分利用最新的技术和趋势。首先,我们需要明确网站的类型和盈利模式。内容型网站,如果运营者擅长某一领域..

DISC测试,让你轻松读懂领导

我们常说“性格决定命运”,企业家的性格决定着企业的命运,而身处企业中的我们,如何和不同性格的老板相处,则直接关系到我们的职场命运。企业家作为掌舵者,他的行为自然决定了整条大船如何行进。行为来自于习惯,..

.NET 主程序的.dll.config文件有什么用?

.dll.config 文件通常是在开发过程中自动生成的,它的主要作用是为某个类库(.dll 文件)提供一个独立的配置文件,以便开发者可以为该类库单独定义或测试配置项。以下是生成 .dll.config 文件的原因和机制:1. 配置..

一个简单的大转盘抽奖程序(附.NetCore Demo源码)

最近闲下来在做一些demo,现在讲一下做的一个简单的大转盘抽奖demo,前端lottery,layui,后端.net core,sqlsugar,数据库用的mysql1.前端实现:前端用的是基于开源的lottery,其中有些改动的,使得前端可以自适应pc端..

网站统计中的访问信息收集的前端实现

网站数据统计分析工具是网站站长和运营人员经常使用的一种工具,比较常用的有谷歌分析、百度统计和腾讯分析等等。所有这些统计分析工具的第一步都是网站访问数据的收集。目前主流的数据收集方式基本都是基于javascri..

EntityFramework(EF) 控制并发和事务防止超卖

在使用 Entity Framework (EF) 时,实现加减库存并避免超卖的关键是正确地控制并发和事务。以下是实现方法:解决超卖的关键点事务管理:使用事务确保加减库存和库存校验是一个原子操作。悲观锁:通过数据库层面的锁..

使用SuperWebSocket实现Web消息推送

在大部分Web系统中,我们可能遇到需要向客户端推送消息的需求。SuperWebSocket第三方库能让我们轻松的完成任务。SuperWebSocket第三方库可以从网上下载,不过通过Visual Studio Nuget安装更快。引用SuperWebSocket相..

MySQL查看、修改字符集及Collation

前言在使用MySQL的过程中,可能会出现初始设计使用的字符集或Collation不符合当前需求的情况。如使用utf8的表(MySQL中的utf8即utf8mb3)要支持emoji,而utf8mb3不支持emoji(emoji需要4个字节,而utf8mb3最长只支持..

2025年编程语言需求排行榜

随着技术的不断进步和市场需求的变化,2025年,哪些编程语言将成为企业的首选?在全球,由于技术短缺、人口变化以及对新技能的需求,编程语言的选择和需求也在迅速变化。本文将为您揭示未来最受企业青睐的编程语言,..

.NET C# 使用Hook钩子实现全局监听键盘和鼠标

C# 是一种面向对象的编程语言,具有丰富的类库和工具支持,适用于各种类型的应用程序开发。Windows 提供了一种称为"钩子"(Hook)的机制,允许拦截并处理系统级别的事件,如键盘按键和鼠标移动。通过结合 C# 和 Hook..

帝国CMS8.0即将发布2025年1月18号闪亮登场

一、新增支持PostgreSQL数据库和国产数据库:(支持国产数据库如:国产华为高斯(openGauss)、国产金仓数据库(kingbase)等)1、为了适配其它数据库,所有数据表查询限制数量单独函数返回,并保存在各数据库操作类文件里..

ABP.Net Core使用教程(一)启动模版项目

只需要简单的3步:1,到官网下载模版项目 https://aspnetboilerplate.com/Templates2,用VS2017打开,将Web.Host设置为启动项3,在程序包管理器控制台(Nuget控制台)里设定默认项目为EntityFrameworkCore,执行命令..

.net 通过 HttpClient 下载文件同时报告进度的方法

通过 HttpClient 的 ContentLength 很多时候都可以拿到下载的内容的长度,通过 ReadAsync 可以返回当前读到的长度,将读取到的长度加起来就是已经下载的长度看起来很简单,于是直接给代码private static async Task ..

C#中的线程安全的集合ConcurrentQueue使用示例

在多线程编程中,如何安全地在不同线程之间共享数据是一个非常重要的问题。C# 为我们提供了一些专门设计的线程安全集合,其中之一就是 ConcurrentQueue<T>。它是一种先进先出(FIFO)的数据结构,专门为多线程环境设..

GreenSock: 高性能的 HTML5 动画库

在现代网页开发中,动画已经成为提升用户体验的关键元素。无论是滚动效果、页面切换、按钮点击还是复杂的交互动画,良好的动画效果不仅能吸引用户,还能使界面更加生动、易用。GreenSock(GSAP,GreenSock Animation..

mysql随机获取一条或者多条数据

语句一:select * from users order by rand() LIMIT 1MYSQL手册里面针对RAND()的提示大概意思就是,在 ORDER BY从句里面不能使用RAND()函数,因为这样会导致数据列被多次扫描,导致效率相当相当的低,效率不行,切..

从程序媛角度去看项目管理

需求管理下图描述的是程序员从接到需求到开发环节的过程:一般我们首先会收到产品的PRD或交互稿,被询问今天什么时间点是否有空,进行需求评审。时光匆匆,回想起刚毕业那时,我望着冗长的PRD,直接跳过背景、目的等..

冒泡排序和选择排序对比

1、冒泡排序:冒泡排序这种方法的基本思想是,将待排序(未排序序列)的记录看作是竖着排列的“气泡”,键值较小(数值较大)的记录比较轻,从而要往上浮。在冒泡排序算法中要对这个“气泡”序列处理若干遍。所谓一..

发表回复

返回顶部