Computing

이 포스터는 coursera의 Introduction to OpenCL on FPGA 강좌를 바탕으로 작성되었습니다. Parallel Computing이 필요한 이유 : Single CPU 성능 향상의 벽 Single CPU의 성능이 더욱 좋아질수록 프로그램의 실행 속도는 빨라질 것이다. 하지만 single CPU의 성능을 제한하는 3가지 벽(wall)들이 존재하는데, 바로 다음과 같다. Power wall Intruction-level parallelism wall Memory wall Single CPU의 성능이 증가할수록 CPU가 소모하는 파워가 증가하는데, 그에 따라 CPU의 발열량도 증가한다. 따라서 CPU의 성능이 증가하다 보면 더 이상 일반적인 쿨링 시스템으로는 감당 못하는 발열이 발생하는 ..

이 자료는 KMOOC 신창환 교수님의 강의 [반도 채 몰라도 들을 수 있는 반도체 소자 이야기]를 바탕으로 정리되었습니다. 이전글 2022.05.15 - [Semiconductor/개념] - 반도체 기초 (1) 실리콘 원소와 Charge Carrier 2022.05.19 - [Semiconductor/개념] - 반도체 기초 (2) 실리콘 재료와 에너지 밴드 2022.05.19 - [Semiconductor/개념] - 반도체 기초 (3) Extrinsic Semiconductor (도핑, P형 반도체, N형 반도체) 자유전자의 개수 이전강의 에서 intrinsic semiconductor에서의 자유전자와 정공의 개수에 대하여 구하였다. Semiconductor에서 자유전자의 개수는 Eq 1.과 같이 con..

Semantic Segmentation 문제 정의 Semantic의 사전적 의미는 "의미론의"이다. 프로그래밍 언어 및 컴파일러를 배우다보면 syntactic(구문론의)과 더불어 자주 나오는 개념인데, 말 그대로 어떤 것의 "의미"를 의미한다. "나는 쇠를 먹었다"라는 문장은 문법적으로는 틀리지 않았지만 (syntactically correct), 의미는 전혀 말이 되지 않는 문장이다. (사람이 어떻게 쇠를 먹겠는가?) 이처럼 보여지는 형식에서 벗어난 어떤 것의 "의미"를 가리키는 단어가 semantics, semantic이다. 이때 "의미"라는 것은 사람이 정하는 기준에 따라 정해지는 것이다. 따라서 semantic segmentation은 의미에 따라서 영상을 분할하는 문제이다. Fig 1.은 sem..

Transformer 정리 두 번째 순서로 Transformer 개념을 처음 제안한 논문 [1]을 바탕으로 Transformer 개념에 대하여 정리하고자 한다. Machine translation task에서 RNN 개념을 완전히 제거하고 오로지 attention mechanism(=fully connected layer 개념)만을 사용해서 더 향상된 결과를 보여줄 수 있다는 것을 보이는 논문이다. Fully connected layer의 가능성(all-to-all 분석 가능 & 매우 쉬운 병렬화)을 위주로 분석하고자 한다. 이전글 2022.05.18 - [Deep Learning/개념] - Transformer 정리 (1) : Attention (Neural machine translation by j..

이 자료는 KMOOC 신창환 교수님의 강의 [반도 채 몰라도 들을 수 있는 반도체 소자 이야기]를 바탕으로 정리되었습니다. 이전글 2022.05.15 - [Semiconductor/개념] - 반도체 기초 (1) 실리콘 원소와 Charge Carrier 2022.05.19 - [Semiconductor/개념] - 반도체 기초 (2) 실리콘 재료와 에너지 밴드 Instrinsic Semiconductor vs Extrinsic Semiconductor Instrinsic semiconductor는 순수 반도체, 진성 반도체, 고유 반도체라고도 하는데, 4족 원소로 이루어진 반도체를 의미한다. Extrinsic semiconductor는 불순물 반도체, 비고유 반도체라고도 하며, 순수 반도체에 불순물 원소(주..

이 자료는 KMOOC 신창환 교수님의 강의 [반도 채 몰라도 들을 수 있는 반도체 소자 이야기]를 바탕으로 정리되었습니다. 이전글 2022.05.15 - [Semiconductor/개념] - 반도체 기초 (1) 실리콘 원소와 Charge Carrier 실리콘 원자에서 실리콘 재료로 : Energy Band의 생성 반도체칩의 대부분을 차지하는 주요 재료는 실리콘이다. 실리콘 원자 여러 개가 공유 결합하여 만들어지는 실리콘 재료는 그것을 구성하는 실리콘 원자들이 crystal 결정 구조를 형성하고 있다. 원자에 귀속된 전자는 특정 에너지 준위를 가진 궤도함수, 즉 오비탈을 따라 확률적으로 분포하고 있다. 실리콘 원자 또한 마찬가지이며, 실리콘 원자의 최외각 4개의 전자는 3p, 3s 오비탈에 위치해 있다. ..

Transformer 정리 첫 번째 순서로 attention mechanism에 대하여 정리하고자 한다. 논문 [1]은 neural machine translation (NMT) 분야에 처음 attention 개념을 제안한 논문으로, 기존 NMT 분야에 사용되던 encoder - decoder 구조의 문제점 지적 및 그것을 해결하기 위한 추가적인 attention layer를 소개한다. 기존 Encoder - Decoder 구조의 문제 Fig 1. 은 NMT 문제를 해결하기 위해 가장 기본으로 사용되는 encoder - decoder (or seq2seq) 네트워크 구조를 나타낸 것이다. 위 예제는 독일어를 영어로 번역하는 예제이다. Encoder는 번역하고자 하는 문장 하나를 하나의 fixed leng..

이 자료는 김태현 교수님의 양자 컴퓨팅 및 정보의 기초 강의를 바탕으로 정리하였습니다. 양자 알고리즘의 필요성 : 관측의 저주 양자 컴퓨팅의 장점은 양자의 superposition (중첩) 성질을 활용한 양자 병렬성을 이용할 수 있다는 것이다. 기존의 디지털 회로의 한 bit는 0과 1 중에 하나의 상태만을 가질 수 있다. 예를 들어 1bit를 나타내는 하나의 cell 내 전압이 5V 이상이면 신호 1로 해석하고, 0V에 가까우면 신호 0으로 해석한다. 그에 비해 양자 회로의 한 qubit는 양자의 superposition 성질을 이용하여 0 또는 1 뿐만 아니라 0과 1 상태를 동시에 가질 수 있다. 이전 포스터에서 볼 수 있듯, 이러한 중첩 상태의 qubit를 이용하면 qubit가 0일 때의 값과 1..