[Deeplearning Part.1]퍼셉트론과 단순 논리 회로

1. 퍼셉트론

퍼셉트론은 다수의 신호를 입력으로 받아 하나의 신호를 출력합니다.

위 그림은 입력으로 2개의 신호를 받은 퍼셉트론의 예입니다. 각 x값들은 입력신호, y값은 출력신호, w값들은 가중치를 뜻합니다. 그림의 원을 뉴런 혹은 노드라고 부릅니다.

위 그림은 첫 번째 그림으 퍼셉트론을 수식으로 나타낸 것입니다. 퍼셉트론은 복수의 입력 신호 각각에 고유한 가중치를 부여하고, 이 가중치는 결과에 주는 영향력을 조절하는 요소로 작용합니다.

 

2. 단순한 논리회로

AND 게이트의 진리표

AND 게이트는 두 입력이 모두 1일 떄만 1을 출력하고, 그 외에는 0을 출력합니다.

이것을 만족하는 퍼셉트론 수식의 매개변수 조합은 무한히 많습니다.

NAND 게이트의 진리표

OR 게이트의 진리표

NAND와 OR 게이트의 진리표도 마찬가지입니다. 적절한 가중치와 임계값을 설정한다면 진리표의 조건을 충족하는 퍼셉트론의 수식을 만들 수 있습니다.

 

 

여기서 우리는 직접 진리표를 보고 매개변수의 값을 생각했습니다. 하지만 기계학습에서 이 매개변수의 값을 정하는 작업은 컴퓨터가 하게됩니다. 여기서 기계의 학습이란 적절한 매개변수 값을 정하는 작업입니다.

 

 

3. 배타적 논리합(XOR 게이트)

XOR 게이트의 진리표

위 XOR 게이트의 진리표를 퍼셉트론으로 나타낼 수 있을까요?

다음 그래프를 통해 직관적으로 답을 알 수 있습니다.

XOR게이트의 출력

XOR 게이트 이전의 진리표들의 출력을 그래프로 나타낸다면, 처음 짚어봤던  퍼셉트론의 수식으로 출력에 따라 층을 나눌 수 있었습니다. 하지만 위 그림의 XOR그래프는 하나의 직선으로 표시되는 그 수식으로 층을 나눌 수 없습니다. 직선, 즉 "선형"의 식으로는 XOR의 매개변수 값을 설정할 수 없습니다.

 

위 그림과 같이 비선형인 곡선으로 XOR 게이트의 출력을 나눌 수 있습니다. 지금까지 우리는 "단층 퍼셉트론으로는 비선형 영역을 분리할 수 없다"라는 것을 알 수 있습니다.

 

4. 비선형 영역을 분리할 수 있는 퍼셉트론

위 그림의  s1은 NAND의 출력을, s2는 OR의 출력을 받습니다. 다음의 진리표를 통해 잠시 생각해보면 XOR의 출력과 같다는 것을 알 수 있습니다.

단순한 논리회로들을 층을 더해 퍼셉트론을 만들었더니 비선형 영역까지 분리할 수 있게되었습니다. 층이 1개였던 단층 퍼셉트론으로는 표현하지 못한 것을 층을 하나 늘려 2층 퍼셉트론으로 만들어 구현할 수 있었습니다.

 

 

 

 

핵심

• XOR게이트(배타적 논리합)은 선형적인 수식을 갖는 단층 퍼셉트론으로 표현할 수 없다.
• 비선형적인 곡선을 표현할 수 있는 2층 퍼셉트론으로 XOR게이트를 구현할 수 있다.