데이터 센터는 땅값이 저렴한 지역인 산 중턱을 깎거나, 바다를 매립한 지역에 주로 세워진다. 두 지형 모두 기반 문제로 일반적인 건물 용지로는 써먹기 부적절한 면들이 있는데 데이터 센터는 기반을 깊게 파야 할 필요가 없기 때문이다.

인터넷 서비스를 제공하는 비용을 최소화하려면 서버들을 한 곳에 모아놓는 편이 유리하다. 데이터 센터는 서버가 요구하는 모든 자원을 건물 자체에서 조달할 수 있도록 만들어진다. 항온항습이 유지되는 공조기, 먼지를 제거하는 에어필터, 이중화 전원 및 전원안정화 설비, UPS 시설을 통한 정전 대비, 저지연 고대역 네트워크, 보안 및 기술지원 인력 등을 제공한다.

데이터 센터 건물은 이런 요구사항을 달성해야 하므로 일반 사무실이나 공장과는 다른 방식으로 지어진다. 예를 들어 발열량이 엄청난 서버의 열을 신속하게 식히기 위해 공조 설비가 건물 설계시부터 대규모로 반영된다. 반면 부지 규모에 비해 화장실이나 조리시설, 엘리베이터 수는 적게 설계된다. 사람이 이용하는 부가 시설이 많이 설계될 필요가 없기 때문이다.

국내의 경우 건축법상 데이터 센터용 분류가 없어 공장, 사무실 등으로만 용도 허가가 난다는 문제가 있다. 이 때문에 불필요하게 주차장, 엘리베이터, 공개공지 등 100명 단위 인원이 활용하는 건물로 건축하고 그 안에 10~20명이 근무하여 비효율적으로 운영되고 있는 실정이다.[7] 때문에 한국의 데이터센터는 땅값이 싼 비도심 지역이 아니라 아예 도심 한복판에 만들어서 해당 기업의 사무건물 겸용으로 쓰는 경우가 많다.

2018년 데이터 센터 건축물 용도가 방송통신시설 밑에 신설되었지만, 용도만 생겼을 뿐 주차장, 승강기 등 비효율적 운영에 대표적 규제는 여전하다.