AI 데이터센터는 뭐가 다를까? — 2026-02-26 243 인사이트 7240a8

본문

기본적인 내용입니다. 1950년부터 1980년대는 IBM 메인 프레임의 시대였음. 2. 대기업급이 되면 IBM의 메인 프레임으로 업무(급여,회계,재고관리등)를 처리하는 전산실을 운용함. 3. IBM은 메인 프레임을 판매할때 소프트웨어를 제공하지 않았음. 4. 고객이 직접 프로그램을 쨔야했기때문에, 프로그래머가 곧 시스템 관리자였음. 5. 1990년대, 인터넷이 대중화되면서 중앙 집중식 메인 프레임은 확장성에서 한계를 보이게 됨. 6. 모든 계산과 데이터를 한곳에서 하다보니, 성능을 높이려면 더 강력하고 비싼 메인 프레임으로 업그레이드를 해야 함. 7. 메인 프레임에 문제가 생기면, 회사의 전체 업무가 멈추는 일이 일어나기도 했음. 8. 1990년이 오면서 IDC(인터넷 데이터센터)가 등장함. 9. IDC가 등장하며 분산서버 시스템이 도입됨. 10. IDC는 고성능 메인프레임 한대가 아니라, 수십,수백대의 서버를 네트워크로 연결하게 됨. 11. 성능을 높이고 싶으면 서버를 추가하면 되고, 서버 1대가 고장나도 다른 서버가 돌아가면서 서비스가 끊기지를 않게 됨. 12. IBM 메인프레임은 비싸서 대기업급에서나 운영을 했지만, IDC는 상대적으로 저렴하게 운용이 가능해짐. 13. 여러 기업의 서버를 한곳에 모아서, 전력,냉각,네트워크,보안등을 공동으로 제공하니 운영비가 크게 낮아지게 된 것임. 14. 중소기업도 IDC를 빌려서 인터넷 서비스를 할 수 있게 되면서, 인터넷 산업이 폭발적으로 성장하기 시작함. 15. 2010년이 되면서, 클라우드 데이터센터의 시대가 열리게 됨. 16. 스타트업도 서버를 빌리면 대기업 수준의 IT인프라를 활용할 수 있게 되었고, 유니콘 기업들이 폭발적으로 등장하기 시작함. 17. 2022년, 전기먹는 하마인 ChatGPT가 등장함. © MeshCube, 출처 18. OpenAI는 GPT-3 학습에 3,640개의 [[엔비디아]] V100 GPU를 사용했는데, 미국 4천가구가 쓸수 있는 전력을 소비하였음. 19. ChatGPT같은 대규모 언어모델(LLM)은 기존의 데이터센터로 커버를 하기 힘들게 된 것임. 20. 전력, 냉각, 네트워크는 물론 건물의 구조까지도 기존 IDC를 기준으로 설계된 데이터센터로 커버가 힘들어짐. 21. 데이터센터를 가면 서버들을 관리하기 위한 큰 철제 선반 같은 서버랙이 있음. © MeshCube, 출처 OGQ 22. 서버 한대가 아파트 115동 506호라면, 서버 랙은 115동 전체를 말함. 23. 전력밀도는 서버랙 하나가 소비하는 전력량을 말함. 24. 위 사례로 보면 115동 전체가 쓰는 전력량이 전력밀도임. 25. 일반 데이터센터는 1대의 서버랙이 8~12kW 정도를 소비함. 26. 이것을 8–12 kW/rack라고 표현함. 27. AI데이터센터는 60~120kW/rack를 보통 소비하니, 동일한 면적에서 일반 데이터센터의 10배 가까운 전기를 사용하는 것임. 28. 엔비디아의 차세대 서버랙은 300 kW/rack까지 갈 수 있다고 함. © MeshCube, 출처 OGQ 29. AI데이터센터의 전력밀도가 현재도 일반 데이터센터의 10배이상이고, 앞으로는 30배이상으로 높아진다는 말임. 30. 전력밀도가 높으면 그만큼 열 발생량도 많아짐. 31. 송풍기나 에어컨등을 활용한 공냉식으로는 냉각이 힘들어, 액체냉각등 별도의 강력한 냉각방식이 필요해지게 됨. 32. 서버랙의 무게도 4배정도 무거워짐. 33. 기존 IDC를 감안해서 건설된 데이터센터라면, 4배이상 무거운 서버랙의 하중을 버티지 못할 위험이 있음. 34. 층간 높이도 액체냉각의 배관등을 고려해서 기존 데이터센터(3.6~4m)보다 1미터이상 더 높아야 함(4.2~5m). 35. 한마디로 AI데이터센터는 전용시설이 필요한 것임. 36. AI 데이터센터의 건설비용과 운용비용이 기존 데이터센터와 비교할수 없게 비싼 이유임. 37. 한국만 봐도, 주변에 사무용 빌딩과 비슷하게 생긴 데이터센터들이 많이 있음. 38. 일반 데이터센터들임. 39. AI 데이터센터는 높게 올리지 않고 단층 건물로 짓는 경우가 많아지고 있음. 40. 여러층으로 높게 지으면, 하중으로 인한 구조보강 비용으로 경제성이 떨어지기 때문임. 41. AI데이터센터는 땅값이 싸고, 전기를 쉽게 끌어올수 있는 지역에 단층으로 올라가는 시설이 많아지고 있음. 42. 미국 캔자스시티에 Kansas City Star라는 2006년에 건설된 신문 인쇄공장이 있었음. 43. 종이신문의 수요가 줄면서 신문 인쇄공장은 매각되었고, 사용처를 찾지못해서 2022년부터 수년간 방치상태로 있었음. 44. 신문 인쇄공장 내부에는 인쇄기를 돌리기 위한 전력설비, 대형 냉각수 순환시스템, 케이블 설비등이 이미 설치되어 있었음. 45. 신문을 찍어내기 위한 전력과 냉각시스템이 GPU서버 운영에 딱 맞아떨어짐. 45. 건물 철거없이 부분수리후 설비만 넣으면 되니, 보통 3년은 걸리는 AI데이터센터가 90일만에 건설됨. 46. AI데이터센터의 최적지는 산업용 부지를 재활용하는 것임. 47. 폐쇄된 공장이나 석탄발전소등은 넓은 땅, 견고한 지반, 전력인프라를 가지고 있는 경우가 많아서 개발기간과 비용이 크게 단축됨. 48. 위의 AI데이터센터는 2025년말에 완공이 되었는데, 아직 가동되지 못하고 있음. 49. 캔자스시티 시의회가 데이터센터 사용승인을 내줘야하는데, 내주지 않고 있기때문임. 50. 캔자스시티는 민주당 소속의 퀀튼 루크스가 시장이고, 시 의회의 의원들도 민주당이 다수인 지역임. 51. 시 의회는 사용승인을 내주는게 아니라, 데이터센터 건립을 제한하는 새로운 규제를 2026년 1월에 통과시킴. 52. 전기는 엄청나게 사용하는데, 직원 고용은 많지 않아서 사회적 필요성이 적다는 것임. 53. 미국도 지역별 정치구도에 따라서 이런 일들이 꽤 발생할 것 같음. 한줄 코멘트. AI는 전용 데이터센터가 필요함. 전기를 많이 쓰는데, 고용은 별로 없다보니, 국내 AI데이터센터는 기피시설화되면서 건설이 쉽지않을 것 같음.

(https://blog.naver.com/ranto28/224189798576?fromRss=true&trackingCode=rss)

분할된 노트

• [[260226_blog_insights_IBM-메인프레임-시대와-중앙집중식-전산실]]
• [[프로그래머가_곧_시스템_관리자였던_이유]]
• [[인터넷IDC의_등장과_분산_서버_모델]]
• [[260226_blog_insights_공동-인프라로-인한-비용-절감과-중소기업의-진입]]
• [[클라우드_데이터센터의_보급과_스타트업_생태계_변화]]

관련 노트

• [[엔비디아]]