服务器是向最终用户设备提供应用、服务和数据的功能强大的计算机。 数据中心服务器有多种外形规格：

机架式服务器 是宽大的扁平式独立服务器（尺寸相当于一个小比萨饼盒子），可在机架中相互堆叠，从而节省空间（与塔式或台式服务器相比）。 每台机架式服务器都有自己的电源、散热风扇、网络交换机和端口，以及常规的处理器、内存和存储设备。

刀片服务器 旨在节省更多空间。 每个刀片都包含处理器、网络控制器、内存，有时还包含存储器。它们安装在可容纳多个刀片式服务器的机箱中，机箱具有电源、网络管理和其他资源，供所有刀片服务器使用。

大型机 是具有多个处理器的高性能计算机，一台大型机可完成整个机房的机架式或刀片式服务器的工作。 作为第一种可虚拟化的计算机，大型机可以实时处理数十亿次计算和事务。

外形规格的选择取决于许多因素，包括数据中心的可用空间、服务器上运行的工作负载、可用电力和成本等。

大多数服务器都包含本地存储功能，称为直连存储 (DAS)，以使最常用的数据（热数据）能够保留在靠近 CPU 的位置。

还有另外两种数据中心存储配置，即网络连接存储 (NAS) 和存储区域网络 (SAN)。

NAS 通过标准以太网连接为多台服务器提供数据存储和数据访问。 NAS 设备通常是具有多个存储介质（硬盘驱动器 (HDD) 和/或固态驱动器 (SSD)） 的专用服务器。

与 NAS 一样，SAN 支持共享存储，但 SAN 对数据使用单独的网络，由多个存储服务器、应用服务器和存储管理软件的复杂组合构成。

一个数据中心可使用所有三种存储配置：DAS、NAS 和 SAN，以及文件存储、块存储和对象存储类型。   

数据中心网络由各种类型的交换机、路由器和光纤组成，在服务器之间传输网络流量（称为东/西流量），以及在服务器和客户端之间传输网络流量（称为北/南流量）。

如上所述，数据中心的网络服务通常是虚拟化的。 因此能够基于网络的物理基础架构创建软件定义的覆盖网络，以满足特定的安全控制或服务级别协议 (SLA) 的要求。

数据中心必须能够在各个层面都永续运行。 大多数服务器都具有双电源。 电池供电的不间断电源 (UPS) 可防止电涌和短暂停电。 如果发生更严重的停电事故，则会启动大功率发电机。

由于成千上万的服务器通过各种电缆连接，因此电缆管理是数据中心设计的一个重要问题。 如果电缆彼此靠得太近，可能会产生串扰，从而对数据传输速率和信号传输产生负面影响。 此外，如果太多的电缆挤在一起，则会产生过多的热量。 数据中心的建设和扩建必须考虑建筑规范和行业标准，以确保高效而安全的布线。

数据中心宕机会给数据中心提供商及其客户造成严重损失，因此数据中心运营商和架构师会竭尽全力提高系统的弹性。 这些措施包括独立磁盘冗余阵列 (RAID)（用于在存储介质发生故障时防止数据丢失或损坏），以及备用数据中心冷却基础设施（即使主冷却系统发生故障，也能使服务器在最佳温度下运行）。

许多大型数据中心提供商将多个数据中心分布在不同的地区，因此，当一个地区发生自然灾害或因政治原因导致运营中断时，可将运营“故障转移”到另一个地区，以确保不间断的服务。

 Uptime Institute （链接位于 IBM.com 之外）使用四层系统，对数据中心的冗余和弹性进行评级：

第一层 — 提供基本冗余容量组件，如不间断电源 (UPS) 和 24/7 式持续冷却，以支持办公室环境或更高级别的 IT 运营。

第二层 — 增加了额外的冗余电源和冷却子系统，如发电机和储能设备，以提高安全性，防止中断。

第三层 — 添加了冗余组件，这是区别于其他数据中心的关键。 当设备需要维护或更换时，第三层设施不需要关闭。

第四层 — 通过实施多个物理隔离的独立冗余容量组件，提高容错能力，因此当一台设备发生故障时，不会对 IT 运营造成任何影响。

数据中心的设计和装备必须能够控制环境因素，大多数因素是相互关联的，它们可能会损坏或破坏硬件，并导致损失惨重或灾难性的宕机。

温度： 大多数数据中心采用空气冷却和液体冷却的某种组合，以确保服务器和其他硬件在适当的温度范围内运行。 空气冷却基本上是指空调，具体来说，是指针对整个服务器机房或特定的服务器排列或服务器机架的计算机机房空调 (CRAC)。 液体冷却技术将液体直接泵入处理器，或者在某些情况下将服务器浸入冷却液中。 数据中心提供商越来越多地使用液体冷却，以获得更高的能效和可持续能力。与空气冷却相比，液体冷却所需的电力和水资源更少。

湿度： 高湿度会导致设备生锈；低湿度会增加静电电涌的风险（见下文）。 湿度控制设备包括上述的 CRAC 系统、适当的通风和湿度传感器。

静电： 只需 25 伏的静电放电就会损坏设备或破坏数据。 数据中心设施配备了用于监测以及安全释放静电的装置。

火灾： 由于显而易见的原因，数据中心必须配备防火装置，并且必须定期进行测试。