Network
-
[Spiking Neural Network]Computer Engineering 2024. 5. 27. 18:47
Spiking Neural NetworkLLM과 같은 거대 모델 시대에 들어서며,거대 모델이 아닌 작고 적은 데이터로 모델을 훈련시키는 연구가 중요한 이슈가 되고 있다. 이는 초거대 모델을 현실 세계에 적용할 수 있는 핵심 기술이 되기도 한다.이러한 핵심 기술 중 한 가지가 Spiking Neural Network이다. 기존 딥러닝은 뇌 구조와 동일한 Structure로 Node를 설계한 것이지만,SNN은 구조를 넘어서서 뇌가 학습하는 방법까지 모델링하여 기존의 딥러닝 방식과 방향성이 다르다. SNN은 생물의 신경망을 모방한 모델로 생물의 뉴런은 일정 수준 이상의 자극이 들어와야 활성화가 되는데, SNN도 정해진 Threshold 이상의 값에만 반응을 하여 Spike라는 출력을 생성한다. 임계치 '..