목록2022/07 (16)

Computing

[해운대] 해운대 씨엘로

해운대 씨엘로 부산 해운대구 마린시티3로 51 2층 (우동 1436-1) place.map.kakao.com 해운대 마린시티에 위치한 이탈리아 레스토랑 씨엘로이다. 식당 창 밖으로 광안리 바다와 광안대교가 보이는 매우 멋진 곳이다. 다만 단체 예약은 가능한데, 2인 예약은 안되어서 창가 자리를 선정하기 위해서는 조금 빨리 가야할 것이다 (2022년 7월 기준. 바뀌었을 수도 있으니 문의는 한번 해보자). 가격도 비싸지도 않고 뷰도 좋은 괜찮은 레스토랑이었다.
이것저것/일상 & 맛집 & 데이트 기록 2022. 7. 26. 23:59
[서판교] 라스토리아 1001

라스토리아1001 경기 성남시 분당구 판교공원로3길 24 (판교동 617-1) place.map.kakao.com 서판교 판교도서관 앞에 있는 이탈리아 레스토랑이다. 여자친구와 운중천 데이트를 위해 낮에 방문한 레스토랑인데 매우 맛있었다. 특히 식전빵과 화덕에서 구운 쉐프추천 안심버섯 깔조네 피자가 맛있었다. 가게 내부도 이쁘고 괜찮은 레스토랑이었다.
이것저것/일상 & 맛집 & 데이트 기록 2022. 7. 26. 23:55
Distributed Deep Learning Training (분산 딥러닝 개념, Distributed SGD, Data Parallelism)

딥러닝 학습 과정과 Stochastic Gradient Descent (SGD) Stochasic Gradient Descent(SGD)는 한국어로 확률적 경사 하강법이라고 하는데, 딥러닝 네트워크를 학습하는 가장 기본적이고 많이 사용되는 방법 중 하나이다. (너무 유명한 개념이라) 간략히 정리하자면, 데이터셋 내 모든 데이터의 gradients를 계산하여 한번에 trainable parameters를 업데이트하는 것이 아닌, 임의로 뽑힌 데이터셋의 subset(= mini-batch)을 이용하여 parameters를 업데이트하겠다는 것이다. Fig 1.은 하나의 시스템에서 딥러닝 학습 과정을 계산하는 것을 시각적으로 나타낸 그림이다. Database에 input 데이터가 있으며, input 데이터셋에서..
Deep Learning/Optimization (Algorithm) 2022. 7. 26. 22:42
Flash Memory (플래시 메모리)

Flash memory는 전기적으로 데이터를 지우고 다시 기록할 수 있는 비휘발성(Non-volatile) 컴퓨터 기억 장치[1]이다. 즉 전원 공급이 중단되더라도 메모리 칩 안에 정보를 유지할 수 있다. 물리적으로 헤더와 암을 움직여 저장된 데이터에 접근하는 하드디스크에 비해 전기 신호에 따라 제어되기에 데이터 접근(검색)이 빠르다. 다만 RAM(DRAM, SRAM)에 비해서는 읽기, 쓰기 속도가 매우 느리다. 오늘 포스터에서는 비휘발성 특징을 가져 데이터 저장장치에 사용되는 Flash memory에 대하여 간략히 정리해보고자 한다. Flash Memory 원리 및 구조 Flash memory 또한 RAM과 비슷하게 cell들의 배열로 이루어지며, 각 cell에 1 또는 0 bit 정보가 저장된다. F..
Semiconductor/SSD 2022. 7. 25. 22:27
[광교] 와인파인 광교 아비뉴프랑

와인파인 경기 수원시 영통구 센트럴타운로 85 아브뉴프랑 2층 203~205호 (이의동 1332) place.map.kakao.com 수원 광교 광교중앙역 옆 아비뉴프랑 2층에 위치한 와인바이다. 몰에 있어 약간 기대를 하지 않고 갔지만, 내부는 너무 이쁘고 분위기가 좋았다. 음식도 맛있었고, 와인가격도 적당했다.
이것저것/일상 & 맛집 & 데이트 기록 2022. 7. 22. 23:59
[정자] 대진도원참치 정자점

대진도원참치 정자점 경기 성남시 분당구 성남대로331번길 13 210호 (정자동 159-1) place.map.kakao.com 여자친구님과 함께 방문한 대진도원참치 정자점이다. 일품 참치회(인당 55000원)와 사케를 시켜 먹었는데, 상당히 만족스러웠다.
이것저것/일상 & 맛집 & 데이트 기록 2022. 7. 22. 23:57
NCCL 개념 및 Ring 기반 집합 통신 최적화

이전글 2022.04.04 - [Parallel Computing/개념] - Collective communication 이전에 collective communication 집합 통신에 대하여 정리한 적이 있었다. 집합 통신은 여러 개의 프로세스(or thread) 간의 데이터를 전송하는 통신 패턴을 의미하는 것으로, 2개의 프로세스간 통신(Point-to-point communication)과 대비되는 개념이다. 오늘은 이 여러 개의 GPU들간의 집합 통신을 구현한 NVIDIA NCCL에 대하여 정리하면서, NCCL의 집합 통신 최적화의 기본 아이디어인 Ring 기반 집합 통신 최적화 방법에 대해서도 정리하고자 한다. Collective Communication 집합 통신 2개의 프로세스간의 통신 패턴..
Parallel | Distributed Computing/개념 2022. 7. 22. 23:51
SRAM 구조 및 읽기와 쓰기 방법

이전글 2022.03.25 - [Semiconductor/메모리반도체] - RAM 메모리 : DRAM vs SRAM 이전글에서 DRAM(Dynamic Random Access Memory) 반도체와 비교하여 SRAM(Static Random Access Memory) 반도체의 특성에 대하여 정리하였다. DRAM과 SRAM 모두 RAM(Random Access Memory)으로 임의 위치 데이터 접근 시간이 동일하게 소모된다. 또한 둘다 휘발성 반도체로 DRAM과 SRAM 모두 전원이 연결된 상태에서만 자동한다. 오늘은 DRAM에 비해, 빠르지만 저용량인 캐쉬메모리나 레지스터에 적합한 SRAM에 대하여 정리해보고자 한다. 포스텍 강석형 교수님의 강의 시스템 반도체 설계를 바탕으로 정리하였다. SRAM 구조..
Semiconductor/RAM 2022. 7. 22. 22:00
이전 Prev 1 2 Next 다음