Computing

Kirchhoff's laws 키르히호프는 lumped circuit 분석을 위한 두 가지 법칙을 제안하였다. 두 법칙은 각각 Kirchoff's current law와 Kirchoff's voltage law이다. 두 법칙을 이용하여 회로의 각 element의 전압과 전류를 알 수 있다. (1) Kirchoff's Current Law 한 노드로 들어가는 전류의 합은 0이다. 즉 한 노드로 들어온 시간 당 전자의 양과 나간 전자의 양은 같다. 전하량 보존을 의미한다 (노드에서 전하량은 생성되거나 사라지지 않는다.). Fig 1.은 키르히호프의 전류 법칙을 나타내는 그림이다. 각 전류 i에 대하여 그 절대값의 합은 0이다. (2) Kirchhoff's Voltage Law 전압은 두 지점의 전위차(상대적..

이전 글 : 2022.05.04 - [Deep Learning/jhDNN] - cuDNN Convolution FWD Algorithm 분석 (1) Overview 이전 글에서 cuDNN의 convolution forward algorithm에 대하여 간략히 분석해 보았다. 오늘은 각 알고리즘의 성능을 많이 사용되는 convolution layer configuration 별로 정리하고자 한다. 실험 환경 이 실험은 게임 실행을 위해 설계된 데스크탑 시스템에서 진행되었다. 일반적인 게이밍 환경에서의 결과 리포트는 이것이 (거의) 처음일 것이니, 이 실험 환경 또한 큰 기여를 할 것이라고 생각한다. Table 1.은 실험 환경을 정리한 표이다. 모든 실험은 50회 반복 실행한 결과이며, 시간은 50회 실행..

전하 및 전류 Charge & Current 전하는 전기현상을 일으키는 원인으로, 어떤 물질이 갖고 있는 전기의 양[1]을 의미한다. 단위는 Coulomb (쿨롱)으로 C로 표시한다. 전류는 전하의 흐름으로, 단위 시간 동안에 흐른 전하의 양[2]으로 정의된다. 단위는 Ampere (암페어)로 A로 표시한다. 1C는 전류 1A가 1초동안 흐르는 전하의 양이다. (C = As) 전압 Voltage 전압(電壓, electric pressure) 또는 전위차(電位差, electric potential difference)는 전기장 안에서 전하가 갖는 전위의 차이[3]이다. 두 지점 사이의 전기적 위치 에너지의 차이를 의미하는데 전류를 흐르게 하는 힘이다. 단위는 Volt (볼트)로, 단위 전하가 한 일의 양 ..

2022.05.02 - [가속기 Accelerator/Quantum Computing] - 양자컴퓨팅 - 4 : Quantum Entanglement (양자 얽힘, 슈뢰딩거의 고양이) 이 자료는 김태현 교수님의 양자 컴퓨팅 및 정보의 기초 강의를 바탕으로 정리하였습니다. 양자 병렬성 Quantum Parallelism 양자 회로는 양자 병렬성을 이용하여 빠른 계산이 가능하다. 양자 병렬성은 양자 회로가 디지털 회로에 비해 빠를 수 있는 이유 중 하나로 양자의 상태 중첩 (Superposition) 을 이용한 특징이다. 다음 Fig 1.과 같이 입력 X에 따라 값을 출력하는 함수 F (unitary operation)이 있다고 하자. X는 F의 입력으로 들어가고, 그 결과 X의 상태가 진화한다. 이후 진화..

이전 글 : 2022.04.26 - [Deep Learning/jhDNN] - jhDNN - 3 : Convolution 연산 및 GEMM-Convolution에 대한 고찰 (Feat. im2col) 이전 글에서 cuDNN의 convolution forward algorithm에 대해서 간단히 소개하였다. 앞으로 각 알고리즘에 대하여 분석해보고자 한다. cuDNN Convolution FWD Algorithm Overview cuDNN에서 공식 제공하는 convolution FWD algorithm은 다음 8개이다[1]. cuDNN은 구체적인 구현 방법은 공개하지 않기에(not open-source), 괄호 안에 개인적인 구현 방법 추론을 적어두었다. CUDNN_CONVOLUTION_FWD_ALGO_DI..

Operation (Operator, Kernel, Layer) Fusion Operation (or operator, kernel, layer) fusion은 딥러닝 학습 및 추론 속도 향상을 위한 최적화 기법 중 하나로, 여러 operations(예를 들어, convolution, bias addition, ReLU activation)을 하나의 operation으로 만들어 실행시키는 기법이다. 대표적인 딥러닝 최적화 컴파일러인 TVM[4] 또한 operator fusion 기법을 적용한다. Operator fusion 기법은 여러 operator들을 하나의 operator로 만듦으로서, 데이터 재활용 비율을 높여 성능 향상을 꾀한다. 즉 한 operator 결과(=중간 결과)를 다른 operator..

High Level Languages for FPGA Programming : SYCL 2022.03.23 - [가속기 Accelerator/FPGA] - FPGA Design Concepts - 1 : Overview 이전 글에서 FPGA 프로그래밍을 위한 high level languages 개념 및 SYCL에 대해서 배웠다. 일반적으로 FPGA 프로그래밍을 한다는 것은 hardware description language(HDL)을 통해 회로가 어떻게 구성되는 지를 그리고 다른 IP core를 통합하여 실행가능한 회로를 만든다. 이를 컴파일하면 실제 FPGA 칩내에 회로를 구성할 수 있다. SYCL은 C언어의 확장으로, 일반 소프트웨어 개발자에게 익숙하지 않은 HDL을 쓰지 않고도 SYCL C를 통..

2022.04.25 - [가속기 Accelerator/Quantum Computing] - 양자컴퓨팅 - 3 : Quantum Circuit & No Cloning Theorem 이 자료는 김태현 교수님의 양자 컴퓨팅 및 정보의 기초 강의를 바탕으로 정리하였습니다. Bell Basis 두 개의 qubits A, B가 있을 때, A, B의 상태를 동시에 나타내는 벡터 |v⟩는 A, B의 hilbert 공간의 텐서곱에 포함된다[1]. 이때 A, B의 hilbert 공간의 텐서곱 또한 hilbert 공간이다. 이를 식으로 나타내면 다음과 같다. 이때 새로운 hilbert 공간 H의 basis는 다음과 같은 벡터 4개로 표현될 수 있다. 간단하게 |00⟩, |01⟩, |10⟩, |11⟩로도 표현할 수 있다. 뿐..